英伟达 Vera Rubin 和 AMD Instinct MI450 将使用最新的HBM4，但下两代的HBM5和HBM6也已经开始设计了。

下一代内存标准的宽TC键合机（Wide TC Bonde）已经发布了，这是HBM5和HBM6的关键技术。
本文了解下HBM5和HBM6可能的规格。

HBM5继续采用 8 Gbps的数据速率，但IO通道数相比HBM4提升了一倍来到了4096位。带宽也增加到每堆栈4 TB/s，16层标准堆栈。配合40 Gb的DRAM芯片，HBM5每堆栈将达到80 GB的容量，每堆栈功耗预计将达到100W，预计2029年上市。

HBM5相关规格如下：
- 数据速率： 8 Gbps- IO数量： 4096- 总带宽： 4.0 TB/s- 芯片堆栈层数： 16层- 每芯片容量： 40 Gb- 每HBM容量： 80 GB- 每HBM封装功耗： 100W- 封装方法： 微凸块（MR-MUF）- 冷却方法： 浸没式冷却、热通孔（TTV）、热键合- 基础芯片中的LPDDR+CXL

HBM5主要用于英伟达下一代的 Feynman 架构和AMD  Instinct MI500 GPU系，相比HBM4，数据通道整整提升了二倍，这是其最大特点，带来的技术复杂度也大大增加。

再下一代的HBM6，主打就是高功率、大容量、高带宽。

数据传输速率翻倍，带宽翻倍到8 TB/s，每DRAM芯片的容量48 Gb。另外HBM堆栈将首次突破16层，达到20层，内存容量每堆栈将达到96-120 GB，每堆栈功耗为120W。
此外HBM5和HBM6都将采用浸没式冷却解决方案。
HBM6相关规格：
- 数据速率： 16 Gbps- IO数量： 4096- 总带宽： 8.0 TB/s- 芯片堆栈层数： 16/20层- 每芯片容量： 48 Gb- 每HBM容量： 96/120 GB- 每HBM封装功耗： 120W- 封装方法： 无凸点铜-铜直接键合- 冷却方法： 浸没式冷却
AI时代，内存产商将吃饱，不管是服务器，GPU，手机，PC 都需要大量是内存。