六一中路 26-04-23 08:59

【兴证电子】谷歌全新TPU 拉动存储需求(特别是 HBM),持续看好海外存储原厂!

4月22日,谷歌推出全新自研AI芯片——第八代定制TPU,分别是面向训练的TPU 8t和面向推理的TPU 8i。

TPU 8t:单个 TPU8t 超级芯片组现已可扩展至9600张芯片和2PB共享高带宽内存,芯片间带宽是上一代的2倍。

TPU 8i: 为了防止处理器闲置,TPU 8i将288GB高带宽内存与384MB片上SRAM相结合, 多达上一代的3倍。

HBM 需求大幅提升。 8i 每颗芯片 288GB HBM,带宽 8.601TB/s,单Pod HBM总容量331.8TB,是 ironwood 的 6.8X。 Google 认为未来 AI 工作负载仍然强烈依赖 HBM,尤其是长上下文、MoE、agentic reasoning 这类场景。我们认为随着未来 TPU 8i 放量,HBM 需求提升明显。

持续推荐:三星 海力士 美光 闪迪 铠侠

发布于 广东