小鹏汽车
26-09-15 16:52 微博认证:小鹏汽车官方微博

日前,小鹏第二代 VLA 大模型迎来首次重大升级,模型开始真正“理解时间”。今天,小鹏通用智能中心负责人刘先明撰写长文系统回顾了这次第二代 VLA 升级背后的技术路径,也进一步阐明了小鹏为什么要从“真实物理世界的客观约束”出发,重新思考模型架构。

对于第二代 VLA 蒸馏版,刘先明表示:我们不希望蒸馏只是把模型缩小、砍半甚至剪枝,以适配更低算力的芯片;同时,也希望尽可能保留第二代 VLA 原始的能力和风格。让更强的基座模型惠及更多车型,需要靠底层架构升级和技术突破,而不是简单粗暴地“一刀切”。

因此,小鹏选择从学生模型架构、教师模型、基础能力和训练数据等多个环节重新设计能力迁移,在算力受限的情况下,尽可能保留第二代 VLA 的能力和风格,让更强的基座模型真正惠及更多车型。针对双 Orin 平台的蒸馏,由于涉及跨平台、跨模型架构的能力迁移,技术挑战更大,需要进一步深入到底层架构乃至算子层面进行优化。目前,这一方向已经取得突破性进展。
#小鹏汽车[超话]# http://t.cn/AXOcPimv

发布于 广东