GPU之间传数据,NVLink的带宽约为同代PCIe 5.0的7倍,把差距拉到约14倍——最新NVLink 5.0单GPU双向带宽已达1.8TB/s,这是英伟达架构被称作“逆天”最直接的硬件底牌。

  一、同代对比:差距从链路规格开始

  PCIe 5.0 x16:双向合计128GB/s、单向64GB/s,是GPU与CPU、外设通信的通用通道。

  NVLink 4.0:每颗GPU双向总带宽900GB/s,由18条50GB/s链路捆绑而成,单条链路就接近PCIe 5.0 x16单向带宽的水平。

  NVLink 5.0:单GPU双向带宽升至1.8TB/s,链路速率在上一代基础上再翻一倍。

  口径提醒:两者都按双向总带宽计,NVLink把多条高速链路并行捆绑,是它能拉开数量级差距的直接原因。

  二、拓扑差异:直连与绕行

  NVLink直连:GPU之间点对点通信,可绕开CPU直接访问对端显存,路径短、协议开销小。

  PCIe转发:GPU间数据通常要经PCIe Switch或CPU根复合体中转,多跳之后有效带宽和延迟都会打折扣。

  地址空间:NVLink支持GPU间内存互访,多卡能组成更大的统一地址空间,这是PCIe点对点传输难以实现的能力。

  三、系统级收益:从单卡到机架

  NVSwitch:把单机8颗GPU做成全互联,任意两颗之间都能跑满NVLink带宽,消除跨卡“堵点”。

  机架域:GB200 NVL72把NVLink域扩展到72颗GPU,整机架像一颗大GPU一样协同通信。

  训练效率:张量并行、专家并行的每一步都要交换梯度或激活值,互联带宽直接决定多卡扩展的效率曲线。