8月24日,Hot-Chips 2026芯片峰会如期举办,英伟达一口气发布量产推理硬件、新一代整机算力平台两大核心产品,整套Vera Rubin全栈算力方案正式落地,专门针对当下大火的AI智能体场景优化,直接把智能体单位算力成本大幅拉低,宣告AI算力竞争正式从大模型训练,转向智能体长效运行的能效比拼 。
本次发布核心由两大硬件构成,分工实现异构协同。主力核心Vera Rubin NVL72整机机架,集成72颗Rubin GPU搭配定制Vera CPU,依靠六代NVLink高速互联、分布式缓存架构,专门解决智能体多轮思考、工具调用、超长上下文运算的算力浪费问题。配套的Groq 3 LPX推理加速器同步宣告全面量产,专攻Token高速生成,单设备每秒最高可输出3400个Token,解决智能体交互卡顿、解码延迟的老难题,两大硬件搭配组成完整算力集群。
实测数据极具冲击力,以DeepSeek V4 Pro万亿参数大模型做智能体标准测试,对比市面主流GB300机架,Vera Rubin每兆瓦电力的任务吞吐量暴涨30倍,单次生成Token的综合成本最高下降35倍。简单来说,云厂商同样的电费、机房预算,如今能承载数十倍数量的智能体7×24小时持续运行。同时机架级智能功耗调度技术,让相同供电上限下,机房可多部署四成算力设备,从电力根源压缩运营开销 。
对于行业开发者与普通用户而言,这次迭代带来最实际的改变。过去智能体多轮问答、代码执行、联网规划成本高昂,企业很难大规模商用落地;如今算力成本断崖式下滑,中小企业也能低成本搭建专属办公智能体、客服智能体、编程智能体。云端AI订阅资费有望进一步下调,手机、车载端侧联动云端智能体,也不用再担心长时间使用产生高额算力费用,智能体大众化普及迎来关键节点。
站在全球芯片竞争层面来看,英伟达不再单打GPU硬件,而是输出芯片、网络、供电、软件栈一体化AI工厂方案,进一步巩固其云端算力话语权。同时也倒逼国内大模型与算力厂商,不再只比拼芯片峰值算力,必须针对智能体工作流做系统级软硬件适配。需要客观看待,这套高端机架采购成本依旧高昂,中小团队短期内难以自建;但它定下了未来算力能效的评判新标准,接下来全球算力赛道,正式进入“省电、低成本、长效运行”的全新比拼周期。
