0.6B起!Jev對手模型來了,開源多模態,登上全球測評榜一

2026年10月12日 11:15
站內 AI 整理稿

編譯 | 楊京麗 編輯 | 李水青 10月12日消息,昨天,vLLM社區孵化的開源AI基礎設施項目vLLM Semantic Router推出並開源多模態決策模型Decision 3.0系列。該系列模型能夠根據輸入內容完成分類、選擇、是非判斷和評分等任務,直接返回判斷結果和概率,不生成長篇文本。▲vLLM Semantic Router推出並開源Decision 3.0(圖源:X) 這類不生成長文本,專門“做判斷”的模型,近期因Jev走紅而受到關注。Jev模型上線僅3天,其Token用量便達到1萬億;上線僅24天,其開發商TypeSafe AI便宣佈獲得a16z領投的8.

7億美元(約合人民幣58億元)融資,估值達到75億美元(約合人民幣502億元)。除Jev外,10月10日,微軟也推出其決策模型Microsoft-Decision-1,通過Microsoft Foundry和OpenRouter提供服務。該模型基於Qwen3.5-9B微調,對預設選項評分、返回結構化判斷及置信度,可用於工具選擇、模型路由和Agent流程控制。vLLM-SR的決策模型Decision 3.0共包含d3、d3-flash、d3-mini、d3-nano、d3-lite和d3-edge六款模型,參數規模覆蓋0.6B至27B,相關模型權重已在Hugging Face開源。

開源地址: https://huggingface.co/collections/vllm-sr/decision-30 其中,旗艦模型d3基於Qwen3.8-27B打造,是一款27B的多模態模型,支持輸入多張圖片和視頻。其餘5款模型則基於不同參數規模的Qwen3.5打造。與Jev不同的是,Jev主要通過雲端API提供文本決策服務,Decision 3.0則開放權重,支持本地部署,可以直接處理圖片和視頻。目前,在決策能力榜單Jev Decision Index 0.3.1榜單中,d3文本決策指數為64.7分,公開集得分為65.5分,位列文本榜第一,超過Jev的60.1分。

d3(27B)、d3-flash(9B)及d3-mini(4B)的成績均領先於微軟Decision-1(9B)的53.2分。在視覺榜中,d3得分為71.6分,同樣排名第一。此外,9B參數的d3-flash在文本榜中獲得59.8分,在視覺榜中獲得66.9分,位列對應規模模型前列。第三方評測方面,一位開發者在自己的網站上設置了75道工具選擇題,讓模型判斷應調用哪個WebMCP工具。其本地Mac測試中,Microsoft-Decision-1答對71題,位列第一;d3-flash和d3-mini答對70題,並列第二;Jev答對69題;d3-nano則答對68題。Desicion 3.

0可以用於客服分流、內容審核、風險識別和模型路由等場景。例如,客戶稱其收到的攪拌機破損,希望換貨,並附上收據圖片和配送視頻。模型可以在一次請求中回答三個問題:該由哪個團隊處理、收據是否包含這臺攪拌機,以及包裹如何送達,分別給出“退換貨團隊”、“是”、“當面送達”三個回答。團隊公佈的數據顯示,在單張AMD Instinct MI325X GPU上運行時,d3處理文本請求的延遲中位數為55毫秒,處理包含圖片的請求為273毫秒,處理10秒視頻的請求為553毫秒。

還有一位開發者將d3-lite通過Core ML部署在搭載M5 Pro的Mac上,對1000個Pull Request(代碼合併請求,PR)進行工作組分類與路由,總耗時約2分鐘。實測視頻顯示,單個PR平均處理耗時約0.12秒,吞吐量約為每秒8.3個PR,整個推理過程在本地完成,無需調用雲端API。結語:類Jev模型瞄準AI決策需求 隨著AI應用對意圖識別、任務分類和模型路由等能力的需求提升,類Jev決策模型有望承擔更多輕量、結構化的判斷任務。它們可以先識別用戶意圖、判斷請求類型,再將任務交給更合適的生成模型處理。

對於多模型系統來說,這類模型能夠減少通用大模型處理簡單任務的負擔,同時幫助系統控制推理成本、提升響應速度和路由準確性。

Related

相關文章

MarkTechPost AI生成式AI

認識 Voxel51 3.0:為實體 AI 打造的統一多模態資料平臺

Voxel51 已發布 Voxel51 3.0,這是其資料平臺的一次重大更新。Voxel51 3.0 是一個端對端的多模態資料平臺,將搜尋、篩選、標註和評估整合於單一系統中。該平臺鎖定針對機器人、車輛和工廠感測器資料進行模型訓練的團隊。此次發布新增了 Voxel51 Agent、資料溯源層及免費的自助式存取。重點摘要:規模:Voxel51 Agent 內建超過 45 個 MCP 工具、80 多個運算子及 18 個開源技能。執行環境:可於 app.voxel51.com 使用託管網頁應用程式,或於雲端、混合、地端及隔離環境中自行部署。未揭露本機 GPU 需求。效能:未發布產品基準測試。Voxel51 引用其自身調查數據作為依據。最佳亮點:免費方案包含 Voxel51 Agent、每月 30,000 次推論請求及 30 個運算小時。

19 小時前
何夕2077生成式AI

下一概念建模把文本生成提速最高31倍

斯坦福等聯合提出全新文本生成範式 NCM,生成速度狂飆 31 倍AIbase基地發佈於AI新聞資訊 · 1 分鐘閱讀 · Oct 16, 202633人工智能領域的文本生成技術迎來顛覆性創新。斯坦福大學與 Together AI 的研究人員近日聯手推出了一種截然不同於傳統自迴歸和擴散模型的全新文本生成範式——Next-Concept Modeling(簡稱 NCM,即“下一概念建模”)。該方法巧妙借鑑了圖像生成領域中“下一尺度預測”的思路,有望為未來的文本生成技術開闢全新的發展路線。在技術實現路徑上,NCM 模擬了人類“先構思宏觀大綱、再動筆填充細節”的寫作邏輯。整個系統通過兩階段訓練來完成:首先訓練多尺度殘差 VQ-VAE,從而得到能夠逐層補充信息的多層離散文本編碼;隨後凍結該系統,訓練 Transformer 模塊去預測下一層的編碼。在生成文本時,模型會先並行生成概念層面的宏觀大綱,接著逐層並行填充具體細節,最終組合成完整的文本內容。在實際測試表現中,NCM 交出了令人矚目的成績單。實驗數據顯示,在保持相近甚至更優生成質量的前提下,NCM 相對傳統的擴散語言模型實現了10到31倍的生成速度飛躍,並且在訓練過程中所需消耗的 token 數量也大幅減少。此外,在數獨等複雜推理任務上,它的表現也明顯優於傳統的自迴歸和擴散基線模型,同時還支持通過多生成候選挑選機制來進一步優化最終輸出效果。儘管目前該研究所使用的模型參數規模依然相對有限,其在擴大模型規模後的表現、精確文本以及長篇內容的生成能力仍有待後續驗證,但這一創新思路無疑打破了長期以來的技術慣性,為人工智能高效生成文本提供了充滿想象力的全新解法。本文來自AIbase日報掃碼查看歡迎來到【AI日報】欄目!這裡是你每天探索人工智能世界的指南,每天我們為你呈現AI領域的熱點內容,聚焦開發者,助你洞悉技術趨勢、瞭解創新AI產品應用。

23 小時前
雷峰網生成式AI

12.88萬起、華為電驅+L4同源智駕,Ray7能成為埃安年輕化的答卷嗎?

12.88萬起、華為電驅+L4同源智駕,Ray7能成為埃安年輕化的答卷嗎? 本文作者: 倪萍 2026-10-17 22:42 導語:10月17日,埃安轎跑Ray7正式開啟預售,預售價12.88 萬起。新車車長4.9米,軸距2.9米,車頭部分搭配3.25米的超長雙環燈帶,是埃安10年煥新的家族 10月17日,埃安轎跑Ray7正式開啟預售,預售價12.88 萬起。新車車長4.9米,軸距2.9米,車頭部分搭配3.25米的超長雙環燈帶,是埃安10年煥新的家族式標識。 新車採用寧德時代電池以及廣汽自研的彈匣電池2.0技術,能夠在充分釋放續航能力的同時,監控電池健康狀態。提供45.58kWh和62.98kWh兩種規格,續航可達702公里,整車風阻係數 Cd 低至 0.22。Ray7搭載華為DriveONE多合一電驅,以及華為DriveONE芯片級驅制融合架構,百公里制動僅為32.8米。底盤方面,Ray7搭載高性能前後穩定杆和後五連桿懸架,過彎極限更高,濾振更乾淨。智能化上, Ray7搭載27顆車規級全視角傳感器,採用文遠知行L4級Robotaxi同源大模型。這幫助新車能夠複用 L4 積累的海量場景經驗,在城區掉頭、繞行等複雜場景中可順利通行。自2025年廣汽推進“番禺行動”以來,昊鉑埃安BU的研發、生產、銷售等環節效率不斷提升,產品迭代和新車投放節奏明顯加快。作為埃安全新Ray車系的首款新車,Ray7是埃安開啟年輕化序列的關鍵落子,也是廣汽切入20萬級市場的重要佈局。這一細分市場競爭並不輕鬆:小鵬P7、極氪007等車型已經提前卡位。Ray7想在年輕人心中佔位,不能只堆參數,更要把智能座艙與輔助駕駛、三電安全、補能效率、用車成本和價格權益上的差異,變成用戶可感、可信、可持續的體驗,這才是埃安年輕化的分水嶺。(雷峰網(公眾號:雷峰網)) 雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知。

1 天前
智東西生成式AI

梁聖又掀桌了!DeepSeek新模型斬殺GPT-6,許願式編程時代降臨

作者 | 楊京麗 編輯 | 李水青 10月17日報道,剛剛,DeepSeek V4.1 Flash更新至V4.1-Flash-1017版本,官方網頁端、App與API已同步更新至新模型,模型權重也已在HuggingFace和ModelScope開放下載。DeepSeek還向公眾開放自研搜索引擎的Search(搜索)與Fetch(抓取)API,兩個接口均定價為5元/千次。 此次更新距離該模型發佈僅過去一個多月。9月10日,DeepSeek正式推出V4.1-Flash,在性能上超越了DeepSeek-V4-Pro。

1 天前