OpenAI 公布首款定制推理芯片 Jalapeño 测试结果，能效与延迟表现领先

8 月 25 日，OpenAI 公布其首款定制推理芯片 Jalapeño 的初步测试结果。数据显示，该芯片在 GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 等模型上，相较对比系统实现 1.5 至 1.9 倍 的峰值每瓦性能提升，并将端到端延迟降低 1.7 至 3.6 倍；在高交互负载下，性能提升达 2.1 至 4.1 倍。

OpenAI 称，Jalapeño 通过芯片、内存、网络、软件和机架级系统协同设计，减少数据移动和通信延迟，兼顾高吞吐与低延迟。该公司计划于今年年底前将 Jalapeño 部署至其计算基础设施，并表示第二代芯片已进入深入开发阶段，第三代芯片也在规划中。

[TechFlow]