#OpenAI自研芯片首次实测#
AI公司的竞争,已经从“谁的模型更强”,打到了“谁来制造运行模型的芯片”。
8月25日,OpenAI首次公布自研推理芯片Jalapeño的详细测试结果。
按照OpenAI提供的数据,Jalapeño在三款公开模型上的每瓦峰值吞吐量,比参与对比的英伟达GB200或GB300系统高出约1.5至1.9倍,端到端延迟则降低约1.7至3.6倍:
运行GPT-OSS 120B时,每瓦吞吐量约为GB200的1.9倍,端到端延迟从1.80秒降至1.03秒;
运行DeepSeek R1 670B时,每瓦吞吐量约为GB300的1.7倍,延迟从5.99秒降至1.65秒;
运行Kimi K2.5 1T时,每瓦吞吐量约为GB300的1.5倍,延迟从5.31秒降至1.56秒。
简单来说,它试图同时解决两个经常相互冲突的问题:既要让更多用户同时调用模型,又要让每个用户更快得到答案。
这对智能体尤其重要。
普通聊天慢一秒,感受可能并不明显;但一个需要连续执行几十步的智能体,每一步的等待都会累积。推理延迟下降,意味着代码智能体、浏览器智能体和自动化工作流能够更快完成长链任务。
Jalapeño由OpenAI设计,并与博通、Celestica共同推进芯片实现、网络和整机系统。OpenAI称,AI也参与了芯片研发,使项目从初始设计到流片只用了9个月。
团队还使用Codex与GPT-Astra编写部分芯片程序。在特定的注意力和混合专家模块上,AI生成的实现比人类专家原有版本快1.5至1.8倍。
但这里必须划清三个边界:
第一,这些是OpenAI发布的测试结果,虽然采用公开的InferenceX测试框架,但尚不能等同于独立第三方完成的全面验证。
第二,对比中的功耗主要依据芯片公开额定功率进行标准化,并不完全代表真实数据中心里的整机能耗、网络成本和冷却开销。
第三,Jalapeño是推理芯片,用于运行已经训练好的模型,不负责训练新模型。OpenAI也明确表示,不会用它全面替代英伟达,未来仍将大量部署英伟达及其他合作伙伴的加速器。
这款芯片计划在2026年底开始小规模部署,2027年再扩大规模。目前量产良率、实际运营成本以及会不会降低API价格,都还没有得到验证。
我的判断是,Jalapeño真正重要的地方,不是一次跑分“击败英伟达”,而是OpenAI正在变成一家全栈AI公司。
它不只掌握模型和产品,也开始控制芯片、内存、网络、服务器软件与数据中心。自研芯片带来的不仅是性能,还包括成本议价权、供应链选择权,以及针对自家模型进行软硬件协同优化的能力。
未来AI行业的护城河,可能不再是单独一个最强模型,而是谁能让模型、芯片、软件和产品形成持续降低成本的闭环。
如果自研芯片最终让AI回答更快、成本更低,你认为这会削弱英伟达的优势,还是只会成为OpenAI庞大算力需求的一种补充?
#AI芯片##OpenAI##英伟达##人工智能##科技观察##热搜AI创作激励大赛#
