财经大V频道
26-08-26 07:27 微博认证:《新浪财经》打造的“财经大V频道”官方微博

【#OpenAI公布自研芯片测试结果##OpenAI自研芯片跑赢英伟达#】#曝OpenAI完成预训练下一代模型#一觉醒来,关于 OpenAI 的消息真是满天飞。

先是 X 用户独家声称:OpenAI 已完成一次新的预训练,代号「Bel」,参数规模据称超过 10 万亿,或是 Doug 的继任者,可能成为 Astra /GPT-6 的基础模型……

一圈搜索下来发现,并没有准确的消息。但确凿无疑的是,OpenAI 的首款自研推理芯片出成绩了。

就在刚刚,OpenAI 公布了首款自研推理芯片 Jalapeño 的最新测试结果:取得了重大突破,这款芯片专为大语言模型推理设计,通过全新的架构设计,它能够同时提升吞吐量,并降低延迟,在保持高能效的同时,实现两者兼得。并在多个模型测试中超过 NVIDIA GB200、GB300 系统的效率表现。

随即,OpenAI CEO Sam Altman 也在 X 上表示:「我们制造了一款芯片,它的速度很快。」

需要注意的是,作为 OpenAI 首款自研推理芯片,Jalapeño 并不是用于训练下一代 GPT 模型的芯片,而是针对模型上线后的运行阶段进行优化。

简单来说:训练阶段是让模型学会能力,而推理阶段是让模型快速回答用户请求。Jalapeño 则主要解决的是第二个问题。

OpenAI 表示,传统硬件系统往往需要在两个指标之间做取舍:

更高吞吐量(throughput):单位时间处理更多请求;

更低延迟(latency):让用户更快得到响应。

例如,大规模批处理可以提升整体效率,但可能增加单次请求等待时间;而追求极低延迟,又可能牺牲资源利用率。Jalapeño 的目标,是在一个架构中同时优化两者。

而在具体性能方面,OpenAI 表示,在多个大模型推理测试中,Jalapeño 要优于 NVIDIA GB200 和 GB300 系统。其中测试模型包括:OpenAI GPT-OSS 120B; DeepSeek R1 670B; Moonshot AI Kimi K2.5 1T。

尤其引人注意的是 DeepSeek R1 和 Kimi K2.5 的出现,这似乎是在说明:Jalapeño 并不是只针对 OpenAI 自家模型优化,而是能够适配不同的大模型工作负载。

有意思的,Jalapeño 可被翻译为「墨西哥辣椒」,而在此消息一经发布后,也是立即引起了各路网友的调侃与热议。

「你打算用辣椒的名字来命名你的芯片吗?迫不及待想体验了。」

而对于 OpenAI 来说,Jalapeño 的推出,表明 OpenAI 正在尝试打通「模型 — 软件 — 芯片 — 数据中心」的一整条链路。

另外值得一提的是,此次 OpenAI 的 Jalapeño 芯片,在硬件上是与 Cerebras 进行的合作。

Tibo 发文称:「这一能力得益于我们与 Cerebras 建立的深度合作,以及他们独特的硬件架构。未来,这种合作还将进一步推动「超快速」体验的边界。

我非常期待双方继续合作,在 Cerebras 平台上不断突破极限,探索如何以最快速度运行我们能力最强的模型,并将这种体验带给对性能要求最高的客户。」

其实,OpenAI 并不是第一家走向自研芯片的 AI 公司。此前很多 AI 大厂也早已纷纷下场造芯。比如 Google 推出了 TPU; Amazon 开发 Trainium、Inferentia; Microsoft 推进 Maia; Meta 也布局自研 AI 加速器……

背后的逻辑非常类似:通用 GPU 足够灵活,但并非针对所有 AI 工作负载优化。对于每天运行海量 AI 请求的公司来说,如果能够针对自身模型、软件系统和服务方式设计芯片,就有机会进一步降低成本……(机器之心)