XHEAT这场发布会,有个地方很多人会搞错:
X7 Ultra 不是 Momenta 的芯片,是新芯航途 XHEART 的,Momenta 只是同场发布了配套它的 R7 Ultra 世界模型。新芯航途 2023 年底才从 Momenta 芯片项目独立出来,董事长李俊是原来 Momenta 的芯片负责人,两家股权上没有隶属,业务上共生。
搞清楚这层关系,才知道今天真正的看头不在 700 TOPS。
智驾芯片卷算力卷了好几年,数字越堆越高,车上体验没跟着涨。原因是 Transformer 里的 LayerNorm、Softmax、Transpose 都是访存密集的归约运算,通用芯片把它们切给一堆小核去算,算力大半耗在跨核同步和数据搬运上。标称很高,实际跑出来的利用率常常只有两三成。
这里可能有点难懂,可以举个两个例子说一说就容易理解了,可以先记住大模型在芯片上干的活分两种。
第一种是扫雪。十个人扫十段路,各扫各的,不用通气,人越多越快。大模型里最吃算力的矩阵乘法就是这类,所以堆核心确实有用,那些几百上千 TOPS 的数字,也是按这种活的理论峰值算出来的。
第二种是算全公司平均工资。这个活人再多也没用,你必须把所有人的工资收齐、加总,才知道平均数是多少。技术上叫归约运算。
LayerNorm、Softmax、Transpose 属于第二种。拿 Softmax 说:它要把一排分数变成概率,得先知道这排里最大的数是多少、所有数的指数加起来是多少——这两步都得看全整排。通用芯片把这排数切成八段分给八个小核,每个核只看见自己那段,于是八个核得先互报最大值比一轮、再汇总总和一轮,最后把结果广播回去。算一趟 Softmax,数据来回跑好几趟,传的时间比算的时间还长。
标称算力就是这么来的:假设所有核心一直满负荷在算。可跑真实模型时,一部分核在算,另一部分在等数据、等同步。最后落到模型上的有效算力,常常只有标称的两三成。
X7 Ultra 的思路,就是把核做大,让这一排数尽量待在同一个核里算完,不用出门找别人对账。所以,它几乎反着做了芯片:从模型的真实运算需求倒推架构,核做大,数据尽量在核内流动,互联做到 TB/s 级,关键算子直接固化进硬件;多级缓存加工具链重构,整网融合、内存零拷贝。芯片的计算利用率 98.7%,同等大模型性能下内存带宽消耗降 80%、推理能效提升一倍。CPU 是国产首发量产的车规 Armv9,激光雷达加速器 2000 万点每秒,SoC 本体 ASIL-B、内置 MCU 最高 ASIL-D。
落到车上,四个地方能感知:
泊车。配合 R7 Ultra,进步的方向已经不在能不能停进去,而在停得有没有章法——先直插还是先倒,什么时候果断上第二把。
机非混行和电动车加塞。R7 Ultra 主打端侧理解物体的物理属性和因果,判断行人、电动车、社会车辆之间谁会让谁。体感上的差别是:以前遇到电动车横过来,系统先一脚急刹再犹豫半天;现在能提前半秒收油,把空隙留出来让它先过。
死胡同脱困和多把掉头,也是现场演示的重点。四面都是障碍物时,规划的进退空间更接近老司机——往前探一把再倒,不原地反复揉库。这里最值得看的,是它把倒车从后向 AEB 的安全兜底,推进成了智驾域的后向操控能力。
连开一小时的晚高峰。带宽吃得少、利用率高,模型就有余量做更长的时序推演,决策不赶、不频繁重规划。
Momenta 从 2022 年底提出大模型定义芯片,到 2023 年底新芯航途成立,再到两年量产、八个月出货二十万颗,这条路走了快四年。射雕里郭靖的天赋在肯练,很多公司之间的差别,从来不在聪不聪明,而在肯不肯把一招练一千遍。
今天的这套组合的价值,是让 Momenta 从卖算法的公司,变成能定义智驾系统成本曲线的公司:同样的体验、更低的功耗和 BOM,还能进一步下探成本。芯片牵引模型,模型反过来定义芯片,这条闭环国内智驾供应商里除了华为,只有 Momenta 跑得相对完整。
或许这就是如此之多的国际大厂都选择MMT的原因吧。
