缓缓说520
26-08-02 22:59

存储涨价涨到反噬需求了,Rubin Ultra 相比于 Rubin 实现了反向升级,单颗GPU搭配的HBM内存容量从288GB下降到了192GB。

之前英伟达表达过,AI系统性能由计算、内存和互联共同决定,三者需要协同优化。当某一环节成为瓶颈时,可以通过系统架构调整改善整体效率。

以前是单颗GPU尽量吃满自己的HBM,现在缩减HBM之后需要用更多的光互联把多个GPU的HBM形成一个更大的分布式资源池。

这意味着未来NPO的需求量是极大的。

最后,从Rubin Ultra NVL576 的实物照片可以我们直观地感受一下,8个机架互联,每个机架配备72块GPU,机架和机架之间需要多少的光互联。

越看越觉得大光的基本面好得不得了。

发布于 浙江