OpenAI联手博通发布首款自研AI芯片，称推理成本有望降低约50%
6月25日，OpenAIOpenAI与博通博通（Broadcom）发布了双方合作的首款定制AI芯片Jalapeño推理处理器。该芯片由二者共同设计开发，台积电负责制造，纬颖科技负责建设服务器系统，这也是OpenAI首次公开推出自有AI处理器。OpenAI总裁格雷格·布罗克曼介绍，这款芯片从设计到流片仅用时9个月，部分设计和优化还用到了OpenAI自身的AI模型。
不同于训练大模型的芯片，Jalapeño专门面向大语言模型的推理场景，对应ChatGPT处理各类用户请求时的后台计算，而推理正是OpenAI成本压力最大的环节，因为训练模型是阶段性工作，但推理是持续产生消耗的日常环节，业务量越大成本越高，这款芯片为OpenAI英伟达在该核心高成本环节新增了自有选项。
博通首席执行官陈福阳表示，早期测试显示，Jalapeño的推理成本比目前主流AI图形处理器低约一半，性能和英伟达Blackwell芯片处于同一水平。
根据规划，Jalapeño将于今年年底开始部署，先满足OpenAI内部需求，之后再逐步拓展到微软等合作伙伴的数据中心。