山月知白
26-08-28 07:59 微博认证:投资内容创作者

图中展示的是一种高密度GPU计算机柜的模块化架构:系统以PCB Midplane(中背板)作为高速互联核心,一侧连接18块Compute Blade计算刀片,单块计算刀片集成CPU与多颗GPU,承担主要AI训练与推理计算;
另一侧配置6块NVLink Switch Blade交换刀片,通过NVLink高速互联实现GPU之间的大带宽、低延迟通信,同时由Management Blade统一负责整机管理。这样的设计本质上是把大量GPU通过NVLink Switch组织成一个接近“单台超大GPU”的计算域,因此随着GPU数量和互联速率不断提升,对高速PCB/中背板、连接器、铜互联以及液冷散热的要求都会同步提高,也是AI服务器硬件升级的重要增量方向。

#微博股票[超话]# #股票[超话]#

发布于 上海