犀小莉 25-01-30 22:12
微博认证:科技科幻博主

人脑的功率相当于一只灯泡。平平无奇的人脑,却几乎是AGI的终极目标。以此反推当前大模型的方案,必然不会直接到达彼岸,中途肯定要换船换乘的。

人脑的运算方式和英伟达芯片结构的最大不同,在于人脑是一种存算一体的架构,对应当下主流的显卡芯片则是需要在计算单元和存储单元之间频繁搬运数据来维持运转。比尔盖茨甚至要建核电站来给下一代大模型的训练的原因,也在于芯片内部的数据搬运消耗了80%以上的能量。

即便没有深度求索公司的算法优化,未来更好的芯片也会以存算一体的思路来优化AI实现的路径。深度求索软件层面将优秀大模型的训练成本降低了几个数量级,未来存算一体的芯片必然也能从硬件的角度将训练成本降低几个数量级。用更小的能耗,更少的空间和物料,实现通用人工智能,这条路应该是通用人工智能本身具有的伟大意义。

以蛮力可以实现智力?听起来终究是那么不可理喻的事情。[并不简单]

发布于 浙江