英伟达服务器涨价,说是部分搭载Grace Blackwell和Vera Rubin的系统明年初出货时价格可能上调超过15%,报道说的是搭载英伟达芯片的整机服务器,而且不同芯片代际、不同内存配置,涨幅也不一样,真正变贵的,说到底还是内存,GPU负责计算,内存负责把模型参数和中间数据及时送到GPU手边,现在的大模型,尤其是长上下文推理和智能体任务,不只是算一下结果就结束,是要反复读取、写入、交换大量数据,内存跟不上,再强的GPU也会有等待数据的时候.
到了Vera Rubin这一代,英伟达官方也把它定义成机架级系统:多组设备连成一个整体来工作,而不是单卖一颗芯片就结束,这意味着,内存成本一旦上升,影响的不只是某个零部件,而是整套系统的报价,服务器厂商需要重新算配置,数据中心也要重新决定哪些任务必须上最新平台,哪些可以调整部署节奏,所以这次涨价的重点,不是“GPU更贵了”,而是AI基础设施的计价单位变了,要看计算、内存、网络和整机能不能一起把模型稳定跑起来,AI服务器越来越像一座小型工厂,最贵的已经不只是发动机了.
发布于 福建
