信号与噪声
26-06-04 23:49 微博认证:财经观察官 科技博主

英伟达 将其 Rubin NVL72 系统的 SOCAMM DRAM 单机柜容量削减了约 50%(从约 55TB 降至 28TB),主要采用 96GB 模块替代 192GB 模块

这个新闻非常重要,为什么?单机柜 DRAM 容量减半,意味着 SK Hynix、三星、美光等头部存储厂商原本预期能从高端 AI 服务器中获得的超大容量内存(如 192GB 模块)订单量将大幅缩水。这可能会引发市场对存储板块高估值的短期重估

大容量高带宽内存的生产难度大、良率爬坡慢。英伟达主动降配,实际上是在顺应供应链的现实,缓解了存储厂商“交不出货”的极端压力,防止了因单一组件短缺而导致整个算力系统出货停滞的风险

对于数据中心来说:DRAM 容量减半意味着单机柜能承载的超大模型参数规模受限,或者在处理极端长文本上下文时可能会遇到性能天花板。运营商需要更精细地调配算力资源,针对不同的客户模型需求提供分级服务

发布于 安徽