发布会现场,X7 Ultra正式发布,700 TOPS大模型算力。概括一下他们的技术路线:从模型适配芯片,到大模型定义芯片。
新芯航途和Momenta有很深的渊源,所以他们做芯片的思路也比较明确,就是从实际量产的智驾大模型需求出发,反过来设计NPU架构、计算单元和数据流。
这次公布的几组数据可以看看:
700 TOPS大模型算力,量产Transformer模型计算利用率达到98.7%,相比行业旗舰产品,内存带宽消耗降低80%,推理能效提升100%,可部署模型参数量提升10倍。
我个人比较感兴趣的是内存带宽消耗降低80%这个数据。因为现在智驾大模型越来越大,很多时候限制推理效率的已经不只是计算能力,还有数据搬运和内存访问的开销。
如果能够通过架构优化减少数据在DDR和计算单元之间的反复搬运,对降低延迟、功耗和部署成本都有实际意义。
但这里也有个问题:大模型的发展速度远快于车规芯片的研发周期。今天针对Transformer做的深度优化,未来面对新的模型架构,还能保持多少优势?
所以我觉得新芯航途这条路线可以持续观察。毕竟未来智驾芯片的竞争,除了TOPS,还要看真实模型能跑多快、消耗多少资源,以及能支撑多少次模型升级。
最终还是要回到量产车型上的实际体验。
#XHEART正式发布大模型芯片X7Ultra##影总聊智驾##大v聊车#
发布于 江苏
