硅谷陈源博士
26-01-08 00:14 微博认证:美国佐治亚理工学院计算机科学博士,NVIDIA(英伟达)主任工程师

近期内存价格剧烈波动,无论是市场博弈还是供需失衡,长远来看,随着生成式AI的大规模落地和应用,生成的数据量呈几何倍数增长,对存储的巨大需求也许才刚刚拉开序幕。

这种增长不仅源于模型训练和推理时需要大量高性能内存,还有保留最终生成的高价值数据需要海量存储。这源于一个核心逻辑:生成的数据越来越多,当前AI算力成本极高,“存下来”比“重新算”更划算。

在计算和存储成本触及临界点之前,“以存储换计算”的需求和”存算比”的博弈将会持续推动对高速内存与大容量存储的需求增长。

我的两分。

#生成式AI推高对存储的需求#

发布于 美国