蔚来股东会里说的,一个有意思的。
用 AD 芯片做分布式推理,当时讲的是,分布式推理网络,这是整段话最核心的概念
传统AI计算依赖云端服务器,用户发指令→传到云端→云端推理→返回结果,全程需要联网。
分布式推理网络 的意思是:推理计算直接在本地(车端、机器人端)完成,不需要实时连云端。
好处是延迟低、不受网络质量影响、更保护隐私。
但挑战是本地算力要足够强。
把车作为分布式节点给用户带来收益。
这个想法是:你的车停着的时候,GPU/AI芯片是闲置的。
如果车可以作为分布式算力节点参与某些推理计算任务,比如边缘AI推理计算,那车就变成了一个小型 算力服务器,用户可以从中获得收益(类似共享算力)。
这本质上是把车当成一台分布式计算机来用,而不是单纯的交通工具。
而端侧AI要真正落地,需要三件事协同设计,芯片、网络架构、数据传输是一体式的东西。
- 芯片是本地推理的算力基础
- 网络架构节点之间怎么通信、怎么协作
- 数据传输模型参数怎么分发、推理结果怎么传回
蔚来/神玑的逻辑是,如果我只卖一颗智驾芯片,商业模式就是 卖硬件 - 绑定单一客户(蔚来汽车)"。
但如果我把芯片+网络+传输打包成一个分布式推理解决方案,我可以同时服务车、机器人、IoT设备,客户来源就打开了。
随着端侧AI芯片算力提升、成本下降,"设备之间不通过云端直接协作推理"的场景会大量出现。
比如车和机器人之间可以本地通信、做协同计算,不需要都绕道云端。
神玑提前布局是想在这个节点间通信协议还没标准化的时候抢占位置。
总结,蔚来/神玑这套说法的底层逻辑是,我的芯片能力不只能用在车上,车只是第一个客户;
我把它做成独立公司,是想以"分布式端侧AI芯片供应商"的定位,切入比汽车大100倍的具身智能市场。
#微博新知博主#
发布于 上海
