傅大闲谈
26-07-22 08:30 微博认证:投资内容创作者 财经观察官 微博原创视频博主 头条文章作者

英伟达Vera CPU碾压传统x86芯片:专为代理式 AI 设计,性能提升 6 倍,延迟降低 40%。

英伟达Vera Rubin NVL72 震撼登场,token吞吐量较Blackwell暴增10倍,在相同150MW功耗下实现800,000 Tokens/s,对比GB200的 80,000

NVIDIA Vera Rubin 平台共包含六个托盘,搭载了迄今为止全球最先进的芯片:
NVIDIA Vera Rubin NVL72 计算托盘(Rubin + Vera + Grace Bluefield + ConnectX-9)
NVIDIA Vera Rubin NVL72 NVLink 交换托盘(NVLink6 交换机)
NVIDIA Vera CPU 托盘(Vera)
NVIDIA Spectrum-6 SPX 交换托盘(Spectrum-6 交换机)
NVIDIA Groq 3 LPX 计算托盘 (Groq 3)
NVIDIA Vera Bluefield-4 STX 存储托盘 (Vera Bluefield)

发布于 天津