OpenAI 秀肌肉，與博通共研的 Jalapeño 芯片將向英偉達 GB300 發起挑戰

作者：清源 責編：清源 評論： 感謝網友 烏蠅哥的左手 的線索投遞！8 月 25 日消息，OpenAI 今天（25 日）晚間在 Hot Chips 大會上公佈了全新推理系統 Jalapeño 的更多細節，並首次披露基準測試成績。在 SemiAnalysis 的 InferenceX 測試中，Jalapeño 無論是單用戶 token 處理量，還是每千瓦吞吐量，都超過了目前市面上的頂尖推理處理器。OpenAI 硬件負責人理查德 · 何在媒體電話會上表示：“測試結果最重要的一點，是 Jalapeño 相比目前最先進的產品實現了非常顯著的性能提升。

它可以用相同的電力處理更多 AI 工作負載，同時更快給出響應。Jalapeño 既適合高效服務大量用戶，也能保持很低的延遲。”Jalapeño 由 OpenAI 與博通共同開發，OpenAI 自有模型也參與了研發。OpenAI 希望把 Jalapeño 發展成一個能夠延續多代的技術平臺，使 AI 產品、模型、芯片和內存從一開始就協同設計。這款芯片主要負責 AI 推理，也就是讓已經訓練好的 AI 模型真正運行起來，完成任務或驅動 AI 智能體。OpenAI 使用 InferenceX 平臺測試 Jalapeño 的推理性能，並與英偉達 GB200 和 GB300 超級芯片系統進行比較。

OpenAI 稱，在 GPT-OSS 120B、DeepSeek R1 和 Kimi K2.5 1T 三個模型上，Jalapeño 每瓦能夠完成的 AI 工作量是對比系統的 1.5 至 1.9 倍，端到端延遲則約為對比系統的 28% 至 59%。全棧協同開發也讓 OpenAI 能夠直接優化推理過程中最容易拖慢速度的環節。Jalapeño 重點降低預填充和通信階段的延遲，而這兩個環節在 OpenAI 看來往往是推理性能的主要瓶頸。OpenAI 在公佈測試結果的博客文章中提到，Jalapeño 從設計之初就儘量減少數據搬運和通信延遲。

生成響應時使用的 KV 緩存等模型狀態可以明確存放並保留在本地，系統再根據不同推理階段，調配合適的計算、內存和網絡資源。據瞭解，OpenAI 計劃在今年年底前先“小規模”部署 Jalapeño，2027 年再逐步擴大部署量，但沒有公佈明年具體會投入多少芯片。參考OpenAI 官方稿件：Jalapeño’s first results show industry-leading speed and efficiency in AI inference廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，包含外鏈的文章均包含本聲明。

投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：OpenAI，Jalapeño美國阿拉巴馬州向 OpenAI 發出傳票，就其模型入侵 Hugging Face 事件展開調查Anthropic 最強大模型 Fable 5 遇冷，企業用戶轉向更便宜 AI 產品OpenAI CEO 奧爾特曼：擔心人工智能會被少數強勢主體掌控OpenAI 首席全球事務官勒漢恩：公眾、企業要為 AI 網絡攻擊做好防禦準備OpenAI 推出青少年版 ChatGPT，多名兒童安全專家質疑安全機制透明度OpenAI Codex 明天重置額度，並修復近期出現的用量消耗快問題