OpenAI 推出首款自研推理芯片 Jalapeño，联手 Broadcom 降低推理成本
OpenAI 于周三正式发布其首款自研推理芯片 Jalapeño，这款处理器由 OpenAI 与 Broadcom 联合设计和制造。Jalapeño 专门针对 OpenAI 推理系统的独特需求定制，在开发过程中 OpenAI 自身的 AI 模型也参与了芯片设计辅助。
早期测试数据显示，Jalapeño 在性能功耗比上显著优于现有最先进方案。OpenAI 总裁 Greg Brockman 在公司播客中解释了这一方向的逻辑：「我们对自己的工作负载有着深刻理解——我们一直在寻找那些尚未被充分服务的特定负载，思考如何构建能够加速可能性的硬件。」
Jalapeño 目前专注于推理环节——即运行预训练模型响应用户命令的过程。OpenAI 在公告中强调，该芯片在运行实时编码模型（如 Codex）时的低成本优势尤为突出。更昂贵的预训练任务预计仍将由 Nvidia GPU 承担，但推理成本的任何降低都将直接改善公司盈利能力和产品定价空间。
这一举措将 OpenAI 从模型开发者和产品构建者进一步延伸至基础设施底层。公司声明写道：「OpenAI 不仅开发前沿模型或在其上构建产品，它还在设计支撑它们的完整基础设施：芯片架构、内核、内存系统、网络、调度、部署系统和产品体验。」Google 和 Amazon 此前都已推出自研 AI 加速芯片用以减少对 Nvidia 的依赖，OpenAI 的加入使这一趋势从云巨头扩展至顶级 AI 实验室。
对于智能体经济的参与者而言，推理成本是智能体规模化的核心瓶颈之一。芯片层面的优化意味着每一美元算力能支撑更多推理调用，直接影响智能体产品的经济模型和部署规模。