OpenAI給GPT-6裝上“快腦”!100毫秒做決策,API全面開放

2026年10月23日 08:21
站內 AI 整理稿

作者 | 黃菲 編輯 | 江宇 10月23日消息,據TechCrunch昨日報道,OpenAI已面向所有客戶開放決策接口Decisions API,該接口基於推理模型GPT-6 Luna優化了推理速度與成本,部分場景下響應時間可由1至3秒縮短到100至180毫秒。Decisions API主要面向答案範圍明確的任務。開發者可以預先設定問題和可選答案,由該模型輸出概率、選項或評分,用於內容分類、請求分流,以及決定AI智能體下一步採取什麼行動。這一產品瞄準的是快速、低成本的AI決策市場。

9月15日,AI初創公司TypeSafe推出的Jev決策模型,該模型可專門根據預設選項快速作出判斷並給出置信度,幫助開發者以更低成本、更快速度完成分類和任務分流。OpenAI此次開放Decisions API,也意味著AI決策模型領域的競爭進一步升溫。一、OpenAI借現有模型提速,切入快速決策市場 OpenAI的API產品負責人尼昆吉·漢達(Nikunj Handa)稱,該團隊看到Jev模型後,意識到這類決策模型有大量潛在應用場景。

▲OpenAI API產品負責人尼昆吉·漢達(Nikunj Handa),圖源:AI Council 隨後,該團隊決定基於現有的基礎推理模型GPT-6 Luna調整推理方式,以縮短響應時間並降低成本,而不是從頭訓練一個專門的決策模型。負責人漢達稱,Decisions API最顯著的改進是速度,部分任務的響應時間從1至3秒縮短至100毫秒、120毫秒或180毫秒。9月29日,OpenAI在開發者日活動上公佈Decisions API。▲OpenAI於9月29日的開發者日活動上公佈Decisions API,圖源:OpenAI。10月6日,該接口開啟公開測試。

在介紹Decisions API的視頻中,負責人漢達還提到,未來OpenAI可能針對這類任務開展專門訓練,進一步提升該模型表現,目前則主要通過調整現有Luna模型實現相關能力。▲OpenAI於10月6日開放Decisions API公開測試,圖源:OpenAI。10月22日,OpenAI宣佈向所有客戶正式開放該接口。Decisions API支持接收文本、圖像和結構化數據,每次請求最多可處理400個問題,是公開測試階段上限的2倍。▲OpenAI於10月22日宣佈Decisions API正式面向所有客戶開放,圖源:OpenAI。

企業文檔管理平臺Box、雲監控平臺Datadog、金融科技公司Ramp和語言學習平臺Speak等企業已使用Decisions API替代部分大模型的調用,以提高任務處理速度。雲監控與安全平臺Datadog使用Decisions API評估AI智能體生成的命令風險,P95延遲比可用的前沿模型快約40倍,即95%的請求能夠在該時間內完成響應,只有5%的請求耗時更長。企業財務管理平臺Ramp將AI調用成本歸因到具體工作任務,處理速度提升4倍、成本降低30%。語言學習平臺Speak將GPT-Live中用戶操作之間的等待時間從1.4秒縮短至0.13秒,降幅超過90%。

▲OpenAI展示Decisions API在Datadog、Ramp和Speak等企業中的應用案例,圖源:OpenAI。其中,企業文檔管理平臺Box在其官網展示了其使用該接口對商業文件進行分類並將文件分配至相應處理環節的流程。▲Box展示Decisions API在保險憑證審核流程中的應用,圖源:Box官方博客 二、兩款決策模型同臺競技,第三方測評排名有別 OpenAI推出Decisions API,與TypeSafe AI的Jev模型展開競爭。兩款產品均面向軟件自動化任務,能夠根據預設選項快速輸出決策結果。TypeSafe AI成立於2024年,主要開發面向軟件自動化的決策模型。

其聯合創始人兼首席執行官迪奧戈·阿爾梅達(Diogo Almeida)曾在OpenAI擔任研究人員,參與過提升語言模型指令遵循能力的相關開發。▲TypeSafe AI聯合創始人團隊照片,圖源:TypeSafe 9月15日,TypeSafe發佈首款System One模型Jev。該模型可以直接輸出預設選項及其對應概率,供軟件調用。TypeSafe公佈的內部測試結果顯示,Jev在8項工作流測試中的準確率達到68%,與OpenAI的Tera模型並列第3。▲Jev模型決策能力排名,圖源:TypeSafe 10月14日,TypeSafe發佈Jev 1.14.

0版本,增加圖像輸入等功能,並對模型能力進行更新。但阿爾梅達提到,對基準測試的結果應持謹慎態度,並建議開發者結合自身工作流程評估模型表現。第三方榜單的排名則呈現出不同結果。AIMultiple發佈的System One Index榜單中,最新Jev模型排名第7,OpenAI的Decisions API排名第14,該榜單通過綜合評估模型在不同任務中的表現,並根據各項測試得分計算綜合指數。

▲System One Index決策模型排名,圖源:AIMultipl Artificial Analysis發佈的Decision Index榜單中,Jev模型排名第2,OpenAI的Decisions API排名第11,該榜單主要從知識與幻覺控制、推理、工具調用和分類四個方面評估模型表現。▲Artificial Analysis Decision Index決策模型排名,圖源:Artificial Analysis 除測試成績外,OpenRouter的模型調用量排行榜也提供了另一項參考:TypeSafe的產品在該榜單中仍處於領先位置。

▲OpenRouter模型調用量排行榜,圖源:OpenRouter 除了比較公開榜單上的綜合排名,還有測試通過實際遊戲考察決策模型的連續判斷能力。AI基礎設施公司Opper AI開發了JevMan基準測試,讓Jev等決策模型實時玩經典遊戲吃豆人,觀察模型能否根據遊戲局勢持續作出判斷。該基準測試讓每個模型與遊戲中的幽靈進行100局對戰,並按平均得分排名,同時記錄存活時間、響應延遲、備用動作比例和單局成本。Opper AI首席增長官菲利克斯·溫德利希(Felix Wunderlich)稱,吃豆人適合測試決策模型,因為模型必須在每個路口的幾百毫秒內決定下一步方向。

▲JevMan基準測試通過吃豆人遊戲評估決策模型的連續決策能力,圖源:Opper AI 據Opper AI的JevMan榜單,Jev 1.14平均得分為3597分,排名第1;OpenAI的GPT-6 Luna平均得分為2568分,排名第8。▲JevMan基準測試模型平均得分排行榜,圖源:Opper AI 談及後續發展,漢達認為,OpenAI模型可能在多模態能力方面具有優勢,尤其是在圖像分類任務中,Luna展現出較強的能力和置信度校準水平。他還稱,OpenAI客戶希望Decisions API未來能夠更靈活地將圖像作為輸出。漢達還提到,更快的響應速度可能拓展更多決策接口的應用場景。

如果接口響應時間能夠進一步縮短至約60毫秒,開發者就可能在視頻的每一幀上調用接口,實時作出判斷。結語:決策成本持續下降,AI應用有望拓展 隨著決策模型的響應速度提升、使用成本降低,開發者有望將其應用於更多此前因延遲或成本過高而難以實現的場景。不過,決策模型能否在更多業務中發揮作用,仍取決於其準確率、置信度校準和成本表現。隨著OpenAI進入這一市場,開發者將擁有更多選擇,實際應用效果也將成為檢驗不同模型競爭力的重要標準。來源:TechCrunch

Related

相關文章

雷峰網生成式AI

Kimi K3.1 洩露:3D 成本僅有 GPT-6 Astra 的 1/14!橫掃海外視覺三巨頭

15 分鐘交付工業級可交互3D 資產,重寫視覺大模型的“理科生法則” 作者丨高允毅 編輯丨岑 峰 剛剛,Kimi 官方發佈了一段“極具暗示性”的先導片,各種高能科學畫面與粒子特效快速切換,有眼尖的網友已經捕捉到畫面中的彩蛋“Kimi K3.1”。Kimi K3.1 要來了?這次它帶著極強的視覺效果來了,有網友指出官方視頻就是 Kimi K3.1 做的。圖注:眼尖的網友在畫面中找到了亮點“Kimi K3.1”AI 博主 Chris 不僅肯定了即將發佈的消息,而且表示他已經實測了一週。他透露,Kimi K3.

2 小時前
智東西生成式AI

金蝶靈基連推三項核心升級,發佈企業級智能體評測基準

作者 | ZeR0 編輯 | 漠影 10月23日報道,今日,在2026金蝶創見者大會上,國產企業管理SaaS龍頭金蝶發佈企業智能體操作系統靈基(Lingee)的靈基Manage、企業上下文和ERP連接器三項核心能力更新,並聯合大模型廠商、高校發佈國內首個面向企業管理場景的智能體評測基準Lingee Bench。 會上,金蝶集團董事會主席兼CEO徐少春提出決定企業AI轉型成敗的不只是技術,而是認知。

2 小時前

砸下 150 億美元!DeepSeek 攜手寧德時代轉戰內蒙古,1GW 國產智算中心掀起基建狂潮

DeepSeek 攜手寧德時代轉戰內蒙古,1GW 國產智算中心掀起基建狂潮發布於AI新閒資訊時間 :Oct 23, 2026閱讀 :1分鐘據 多家權威媒體報道,人工智能領域迎來了一筆備受矚目的鉅額投資。DeepSeek 近期正接近完成規模高達150億美元的新一輪融資,這筆資金的核心用途已明確鎖定——用於在內蒙古烏蘭察布市投資建設一塊規模達到1GW 的全新數據中心。

4 小時前3400
雷峰網生成式AI

當超算走出實驗室:一場從”算得快”到”算得值”的產業遷徙

記者:郭思編輯:包永剛導語:超算產業需要更多算力中立供應商深夜十一點,某新能源汽車企業的仿真計算中心裡,屏幕上的流體模擬進度條正在緩緩推進。窗外的城市已經安靜下來,但這裡的服務器仍在轟鳴——工程師白天做分析、調參數,到了晚上就把計算任務交給算力,第二天一早推開門,結果已經擺在了桌上。這種“夕發朝看”的工作節奏,正在中國各地的研發實驗室裡成為新常態。而與此同時,在內蒙古、寧夏、新疆的廣袤土地上,一排排服務器機房亮著指示燈,像沉默的巨人吞吐著數據。這些地方的電費便宜、氣候適宜,是部署大規模算力中心的理想之選。

4 小時前
雷峰網生成式AI

從“算力”到“Token 生產力”,硅基流動助力央國企大模型規模化落地

在企業網 D1net 主辦的 2026 秋季央國企 CIO 及數科公司高管峰會(第 19 屆)上,硅基流動解決方案總監唐安波出席峰會並作主題分享:《從“算力”到“Token 生產力”:央國企大模型規模化落地的推理基礎設施與 ROI 實踐》。以下為分享內容精華。當下,AI 應用正處於爆發式增長的早期階段,Token 消耗量呈指數級增長。這背後,模型架構持續演進,版本更新節奏快速;同時,算力架構也在不斷演進。模型與算力之間,是相互推動的迭代過程。

4 小時前