輸出不要錢？100個問題僅用0.41秒！谷歌Gemini Decisions API上線

編譯 | 黃菲 編輯 | 江宇 11月12日消息，今日，谷歌宣佈推出Gemini Decisions API，該API可通過同日新發布的模型Gemini Decision 1調用。與傳統生成式模型不同，Gemini Decision 1可以直接評估輸入內容，並針對最多1000個預設問題一次性作出判斷。該模型支持文本、圖像、音頻、視頻和PDF等多模態輸入，且不收取輸出Token費用。性能方面，谷歌稱，在最多16K Token的多模態輸入場景下，Gemini Decision 1的中位模型計算延遲為50至100毫秒，端到端延遲為150至250毫秒。

價格方面，Gemini Decision 1每百萬輸入Token收費0.1美元（約合人民幣0.67元），輸出Token免費，其成本約為Gemini 3.5 Flash-Lite通過Interactions API調用成本的五分之一。API上線後，網友對此的評價不一。一名用戶認為：“炒了這麼久，結果就這？不過，我確實會用它來做路由。只為了回答是或否就讓一個聊天模型專門生成一整段話，一直讓我覺得有些大材小用。但這也算不上多麼創新，類似的東西我們已經見過不少了。” 另一名用戶則提出了一個實際問題：“如果給出的選項都不正確，它會怎麼回答？

總體來說，我很高興看到這項功能，尤其是它支持多模態輸入，這對我的資產分類工作很有用。” 還有用戶則提到，這項API的價值取決於實際速度表現：“如果它真的比讓普通模型直接作出判斷更快，那就很有意思。我寧願兩秒鐘就得到答案，也不想等一段自己根本不需要的長篇解釋。” 同日，個人開發者萊西亞·卡普利尤克（Lesia Kapliuk）使用免費API密鑰進行了實測。其中，模型在54次調用、30條客服工單和8項多語言任務全部分類正確，單次處理100個判斷問題僅耗時0.41秒，但萊西亞發現模型會將超出預設範圍的輸入強行歸入已有類別。

目前，Gemini Decisions API已用於Gemini Notebook等谷歌內部產品，谷歌搜索也將其用於模型上下文協議（MCP）工具的安全防護。開發者可以通過谷歌AI Studio獲取API密鑰，並使用免費API額度進行原型開發。谷歌AI Studio地址：https://aistudio.google.

com/ 一、支持三類判斷方式混用，單次請求最多處理1000個問題 Gemini Decisions API通過三類判斷方式處理開發者預先定義的問題，分別是是非判斷（Yes/No）、多項選擇（Multiple Choice）和分級評分（Ordered Rubric），而這三種方式可以在同一次請求中混合使用。是非判斷用於估算某個條件成立的概率，開發者還可以分別設置條件成立和不成立時的描述標準。多項選擇支持2至255個候選項，模型會選出最符合要求的選項，並返回每個候選項對應的歸一化概率。分級評分則按照從0開始的有序標準對輸入內容進行評估，返回加權後的連續分數，以及各個評分等級對應的概率。

三種判斷方式均會附帶0至1之間的置信度分數。開發者可以根據置信度設置處理規則，例如將模型無法確定的結果交給備用模型處理，或者轉交人工審核。在多模態處理方面，Gemini Decision 1基於Gemini原生多模態架構，可以在一次模型計算中直接處理文本、圖像、音頻、視頻和PDF文件。不同類型的內容可以組合在同一份輸入中，例如將通話錄音與賬戶信息放在一起分析，或者將PDF保險理賠文件與現場受損照片結合起來判斷。開發者還可以調整圖像和視頻的分辨率，以控制模型需要識別的畫面細節和Token消耗。單次請求最多支持256K Token的輸入內容，並可針對同一份輸入設置最多1000個獨立問題。

谷歌還給出了一個實際應用示例。開發者可以上傳一張休息室檯面的照片，並附上一段文字說明，讓模型同時判斷檯面上是否存在未清理的液體、應該採取哪種清潔措施，以及現場髒亂程度。其中，模型需要判斷是否存在液體汙漬，在擦拭檯面、安排清潔人員和無需處理三種行動中作出選擇，並按照清潔完畢、輕微局部汙漬和嚴重汙漬或安全隱患三個等級進行評分。三項任務可以通過一次請求完成。目前，谷歌內部已有Gemini Notebook、Stitch等多個產品接入Gemini Decisions API，將其作為低延遲的決策控制層。

開發者只需預先定義判斷選項，就可以讓模型完成任務分配，不必額外訓練專用分類器，也無需等待生成式模型輸出完整答案。此外，谷歌搜索也將Decisions API用於模型上下文協議（Model Context Protocol，MCP）工具的安全防護層，幫助識別對抗性行為和相關內容，在控制響應延遲的同時提高檢測效果。二、響應延遲最低50毫秒，成本不到生成式模型的五分之一 在運行機制上，Gemini Decision 1與傳統生成式模型有所不同。傳統生成式模型通常需要逐個生成Token，再組合成完整答案。

Gemini Decision 1則直接對開發者預先設定的候選選項進行評分，通過一次模型向前計算返回概率和置信度，不需要逐個生成答案Token。谷歌稱，在包含智能體路由、推理、排序和多模態理解的基準測試中，Gemini Decision 1整體表現領先，校準誤差也是參與測試的API中最低的。在最多16K Token的多模態輸入場景下，該模型的中位模型計算延遲為50至100毫秒，端到端延遲為150至250毫秒。當單次請求的問題數量從1個增加到100個時，響應延遲基本保持穩定。

成本方面，由於同一請求中的共享輸入只計費一次，因此增加判斷問題時，用戶只需額外支付各問題對應的指令和評估標準所消耗的Token費用。在雙方共同參與的基準測試中，與通過Interactions API調用的Gemini 3.5 Flash-Lite相比，Gemini Decision 1搭配Decisions API的成本接近降低80%，約為Gemini 3.5 Flash-Lite的五分之一。Gemini 3.5 Flash-Lite每百萬輸入Token收費0.3美元（約合人民幣2.01元），每百萬輸出Token收費2.5美元（約合人民幣16.

75元） Gemini Decision 1每百萬輸入Token收費0.1美元（約合人民幣0.67元），不收取輸出Token費用、額外的思考Token費用，以及單獨的音頻轉寫和OCR文字識別費用。在調用額度方面，Gemini Decisions API分為免費和付費兩檔。免費版每分鐘最多發起200次請求，每分鐘最多處理5萬個Token，每天最多發起1萬次請求。付費版每百萬輸入Token收費0.1美元（約合人民幣0.67元），輸出Token免費。在Tier 1等級下，每分鐘最多發起1500次請求，每分鐘最多處理100萬個Token，每天最多發起5萬次請求。

三、開發者實測54次調用，100個問題耗時增加70% 個人開發者萊西亞·卡普利尤克（Lesia Kapliuk）於11月11日發佈了Gemini Decision 1的API實測結果。該開發者使用免費API密鑰進行了54次調用，測試了模型的分類準確率、多語言處理能力、批量判斷效率和結果穩定性。在實際測試中，該開發者提交了30條客服工單，要求模型將工單分配至對應團隊，30條工單全部正確分類。在多語言測試中，模型處理了烏克蘭語、德語、西班牙語、波蘭語和日語等語言的8項任務，也全部給出了正確結果。批量處理方面，該開發者分別測試了單次請求包含1個、10個和100個判斷問題的情況。

結果顯示，處理1個問題和10個問題時，中位響應時間均為0.24秒；問題數量增加至100個後，響應時間上升至0.41秒，增加約70%。對應的Token消耗也隨問題數量增加而上升。單次處理1個問題消耗135個Token，10個問題消耗613個Token，100個問題消耗5473個Token。此外，相同請求重複提交5次，模型返回的結果和概率完全一致。這項測試還暴露出模型在處理異常輸入時的一個問題。當輸入內容不符合預設分類條件時，模型可能仍會強行選擇已有選項。例如，開發者向模型輸入澳大利亞的首都、無意義的隨機字符，以及一段要求創作秋天主題詩歌的文字，要求模型判斷這些內容是否屬於客服請求。

當開發者在候選選項中加入“其他”後，模型對三項輸入均選擇了“其他”，對應置信度分別為0.99、0.69和0.98。但在沒有設置“其他”選項時，模型將三項內容均錯誤歸入技術支持類別，置信度分別達到0.71、0.64和0.84。對於是否屬於客服請求這一是非判斷，模型給出的概率也只有0.01、0.07和0.01。可以看到，Gemini Decision 1雖然能夠快速處理預設範圍內的判斷任務，但其結果仍然受到候選選項設計的影響。若開發者沒有為異常輸入設置兜底選項，模型可能將不符合分類條件的內容強行歸入已有類別。

結語：谷歌將模型能力延伸至快速決策場景 從Gemini Decisions API的定位來看，谷歌正嘗試在有一定競爭力的同時兼顧處理速度與調用成本。對於需要頻繁進行分類和工具選擇的Agent應用來說，這類API提供了一種新的調用方式。隨著Gemini Notebook、Stitch等谷歌內部產品陸續接入，其應用場景也在逐步拓寬。未來，Gemini Decision 1能否在實際工作流中持續保持穩定的判斷質量和處理效率，將影響這類API能否形成長期競爭優勢。來源：谷歌