根据这个新闻,英伟达的护城河应该已经被击穿了
--------
OpenAI一夜杀疯:既碾压英伟达芯片,又摸到AGI门槛!
就在今天,OpenAI首颗自研芯片Jalapeño“墨西哥辣椒”交出了首批实测成绩单,AI推理性能全面反超英伟达GB200和GB300。据Wccftech等媒体报道,这款芯片的实测速度直接起飞,Jalapeño一秒能狂吐1459个Token,而英伟达GB200只有535个,连一半都不到。实际上,这颗“辣椒”跑完一个任务只要1.65秒,英伟达GB300却要花将近6秒,整整3.6倍的差距。著名半导体分析师Dylan Patel更是直接放出狠话,“被掀翻的不只是Blackwell,就连英伟达Rubin芯片也被超越了”。
一时间,整个AI圈都炸了,网友们纷纷惊叹OpenAI简直杀疯,英伟达也被击败了。奥尔特曼的表态则是霸气又克制,“我们造了一颗芯片,快得离谱”。
这颗“辣椒”干翻了英伟达旗舰可不是OpenAI自说自话,SemiAnalysis钻进实验室实测了一趟,写下的结论是Jalapeño把他们此前测过的每一颗英伟达、AMD、谷歌的芯片全干趴下了。差距有多大?英伟达最新那颗Vera Rubin吃掉的电,够喂将近三颗Jalapeño。测试中,OpenAI挑了三个公开模型来跑:GPT-OSS 120B,还有一款670B和1T的模型,覆盖了从中型到万亿参数的MoE架构。整体结果如下:每瓦特AI工作负载提升1.5到1.9倍,端到端延迟降低1.7到3.6倍,在高度交互式工作负载上性能提升2.1到4.1倍。三个模型上分别快2.7倍、4.1倍和3.8倍。如果按各自最好的工作点算峰值,三个模型上分别是1.9倍、1.7倍和1.5倍,真正拉开距离的是高交互场景,绿色的Jalapeño在整条曲线上都压着蓝色的GB200。
SemiAnalysis这边则是把供电、散热、网络全算进去,然后再摊到每颗芯片头上,结果Jalapeño每颗1.125千瓦,GB200是1.87千瓦,而Vera Rubin是3.3千瓦。在这个口径下跑GPT-OSS,Jalapeño每兆瓦每秒吐出约5300万个Token,GB200 NVL72只有约1000万。
成本方面,每芯片每小时的总拥有成本Jalapeño是1.56美元,跟H100的1.55美元几乎一样,而Vera Rubin是3.61美元。过了每秒200个Token,Jalapeño一路走到绿色够不到的地方。最要命的是,这些成绩还不是Jalapeño的全部实力,它连投机解码和Token预测都没开,也没做prefill和decode的分离部署,而图上其他每颗芯片跑的都是各自最优配置,该开的优化一个不落,SemiAnalysis估算光投机解码这一项就能把每Token成本再压掉2/3以上。
就在揭开Jalapeño神秘面纱仅数小时后,业界又获悉OpenAI 已顺利完成一项预训练过程,这项成果极有可能成为全球首个达到“AGI门槛”的基础模型,其内部代号为三个字母的“Bel”。据报道,OpenAI已完成对参数量超过10万亿的Bel模型的预训练,该模型将作为即将推出的Astra系列和GPT-6级人工智能模型的基础。Bel是“Doug”的继任者,规模与GPT-4.5相当。凭借超过10万亿个参数,这一模型很可能成为即将推出的Astra系列以及后续GPT-6家族相关模型的基础。
实际上,OpenAI的Astra系列模型很可能会成为GPT-6的前身,代表了一类全新的人工智能模型,它们不再局限于简单的聊天机器人式的单一回复,而是依托于一个先进的协调层,能够通过启动并管理多个内部子智能体,用数小时甚至数天的时间来解决极其复杂的问题,基本做法是将一个极其复杂的问题分解为若干更小的子问题,为这些子问题分配相应的子代理,然后对各子代理的结论进行整合与归纳。
本月初OpenAI已披露,Astra独立解决了数学与理论计算机科学领域十项长期悬而未决的问题,其解决方案随后经由形式化证明辅助语言Lean 4予以验证。据这一特定传闻,Bel不仅可作为Astra之后的GPT-6模型的基础,还有望成为一款具备“AGI门槛”潜力的模型,这大大提升了Bel的重要性及其底层能力的市场期待。据报道OpenAI如今认为Anthropic已无足以与Astra相抗衡的对手,主要源于其当前训练基础设施长期面临算力瓶颈,若此言属实,这将对Anthropic的上市计划构成重大拖累,而该计划或最快于今年启动。
#热门微博##科学新闻##openai##人工智能#
发布于 海外
