电脑报
26-08-26 09:53 微博认证:电脑报新媒体官方微博

【美光HBM研究员:AI算力增速已跑在内存带宽前面】美光HBM设计架构研究员Raghu Sreeramaneni在Hot Chips 2026的公开演讲中表示,“内存墙”不仅没有消失,还可能正在恶化。他给出的对比是,AI加速器的计算性能约每两年增长3倍,但HBM带宽同期增长不到2倍,数据传输速度因而成为系统实际吞吐量的上限。

他认为,继续堆叠计算单元无法单独解决问题,未来需要通过打破计算与存储边界的架构设计,缩短数据与计算单元之间的距离。按照这一判断,评估AI芯片时需要把浮点计算能力、内存带宽和数据搬运效率放在同一套指标中考察。他给出的方向是让存储更靠近计算,并在芯片、封装和系统层同时优化数据路径。单一代HBM增加容量或带宽只能局部缓解瓶颈,长期方案还包括重新设计计算与存储的分工。