地平线苏箐：英伟达做得独一份好的工作，是数据互联，甚至比CUDA本身更重要。

车圈开始对外强调带宽、吞吐、数据，是2021年特斯拉AI Day，马斯克掏出来当时人类历史上Die内带宽最高的AI芯片。到如今得带宽者得天下，已经是个基本常识了。

为什么带宽重要？因为大模型参数量x刷新率=吞吐量，专家模型路线崛起、存储疯狂涨价都是AI产业对吞吐量的无止境需求，要多少吃多少。

而另一方面，很少有人提及的一个知识点是：都知道芯片面积寸土寸金，要尽量塞入更多的算力，但其实一块芯片支持多高的带宽，也是要占用芯片面积的。

比如上一张英伟达Thor-U的Die Shot（图源B站万扯淡），两边长条状的面积就给了内存连接器，这是256bit的内存连接器，273GB/s带宽——蔚来神玑的Die Shot没找到，但神玑是512bit，同工艺面积直接翻一倍；华为MDC610据传是384bit（这个太牛了，2019年就舍得给如此高位宽的芯片面积），这些都是带宽怪兽，也都是成本猛兽。