科技主理人
26-11-15 07:46 微博认证:科技博主

#英伟达架构有多逆天# 英伟达架构逆天在哪?不只是单卡更强,而是把GPU、CPU、DPU、交换芯片、存储、互联做成一套“AI工厂”。Rubin GPU用3nm、HBM4和第三代Transformer Engine,FP4推理算力到50 PFLOPS,比Blackwell提升约5倍;NVL72机柜FP4达1.8 EFLOPS,NVLink 6带宽260 TB/s。它真正狠的是:训练MoE所需GPU减到1/4,推理token成本降到1/10,还加上了KV Cache存储层和无线缆机柜。别人卷算力,英伟达卷系统效率。

发布于 广东