OpenAI 公佈首款定製推理芯片 Jalapeño 測試結果，能效與延遲表現領先

8 月 25 日，OpenAI 公佈其首款定製推理芯片 Jalapeño 的初步測試結果。數據顯示，該芯片在 GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 等模型上，相較對比系統實現 1.5 至 1.9 倍 的峰值每瓦性能提升，並將端到端延遲降低 1.7 至 3.6 倍；在高交互負載下，性能提升達 2.1 至 4.1 倍。

OpenAI 稱，Jalapeño 通過芯片、內存、網絡、軟件和機架級系統協同設計，減少數據移動和通信延遲，兼顧高吞吐與低延遲。該公司計劃於今年年底前將 Jalapeño 部署至其計算基礎設施，並表示第二代芯片已進入深入開發階段，第三代芯片也在規劃中。

[TechFlow]