很多人都在质疑,仅凭AI4的算力,跑FSD V15模型的同时,还可以运行一个Reality View吗?马斯克这条回复,解释了它是如何工作的(希望他没放烟雾弹)。
特斯拉优化了数据读写,给画面生成运算,拆成了很多步来做。
先把小解码器放进 SRAM。让小解码器所需的数据留在片上,能减少来回访问外存的开销。Reality View的生成只用第二块芯片, 3个TRIP加速单元中的半个,而且只跑INT8运算。
在 AI4 上,算一次 Softmax 要拆成 28 步。它是干什么的?打个比方,模型给拍到的人的走路方向打 2 分,给他的身体朝向打 1 分。Softmax 会把这两个分数换算成 73% 和 27% 的权重。模型就按这个比例参考,再用这些信息去生成画面。
AI5比AI4强大,但暂时只会给机器人用。我觉得还是成本的关系,内存涨价导致AI4的成本,也提升了2倍(老马自己说的)
发布于 北京
