不打榜的美國開源新王Inkling：975B原生多模態、僅用 1/3 Token 追平英偉達

由 OpenAI 前技術長 Mira Murati 及華人研究員翁荔（前 OpenAI 應用研究副總裁）共同創立的 Thinking Machines Lab（TML），於台北時間 7 月 16 日凌晨正式發表旗下首款通用基礎模型 Inkling。這款模型不走「性能登頂」的傳統路線，而是明確定位為適合企業二次微調的開源底座，希望在能力、推理成本、原生多模態與可調性之間取得平衡。 TML 成立於 2025 年 2 月，僅五個月後就完成 20 億美元種子輪融資，估值達 120 億美元，創下 AI 業界種子輪紀錄。團隊坦言 Inkling「並非當今最強的模型，開源閉源都不是」；之所以從零訓練這款近萬億參數模型，是因為開源模型的首要價值不在於摸高，而是讓企業能用自身數據持續改造模型底層。 Inkling 採用混合專家 MoE 架構，設計上大致遵循 DeepSeek-V3 的路線，總參數量達 9750 億（975B），單次推理僅激活 410 億（41B）參數，藉此控制延遲與成本。模型支援最高 100 萬 token 的上下文窗口，預訓練資料量為 45 萬億 token，涵蓋文本、圖像、音訊與影片。TML 同時預告輕量版本 Inkling-Small（總參 276B、激活 12B），將在完成測試後開放權重。 Inkling 以 Apache 2.0 協議完整開放推理權重，並提供 BF16 與針對 Blackwell 架構優化的 NVFP4 量化版本。第三方機構 Artificial Analysis 的綜合評測顯示，Inkling 以 41 分超越 NVIDIA Nemotron 3 Ultra、Google Gemma 4 31B 以及 OpenAI GPT-OSS-120B，登上美國開源模型陣列首位。不過，在 HLE、極限程式代理等硬核推理榜單上，Inkling 仍落後於智譜 GLM 5.2 與 Kimi K2.6，但 TML 認為這符合其「廣度優先」的策略。 企業工作流複雜交錯，底座模型必須是通才才能支撐後續專精微調。Inkling 在智能體編排與工具調用層面，訓練時刻意打亂工具集與定義，迫使模型理解底層邏輯而非死記 API。測試案例顯示，Inkling 能透過一次生成直接構建可運行的 Web 應用，並內嵌自然語言操控的 AI 助手。在匿名評審的 Design Arena 中，Inkling 拿下 1257 分，追平閉源旗艦 Claude Opus 4.6，超越 Gemini 3.5 Flash 與 Kimi K2.6，在全球開放權重模型中僅次於 GLM 5.2，展現長程生成的一致性。 真正讓 Inkling 在 B 端建立護城河的是其 Token 經濟性。在 Terminal Bench 2.1 智能體程式基準上，當 Inkling 與 NVIDIA Nemotron 3 Ultra 達到相同任務成功率（約 56.4%）時，平均生成 Token 僅為後者的三分之一。也就是說，Inkling 用更短的推理路徑抵達相同表現，對高頻呼叫的企業而言，這直接轉化為 API 費用與響應延遲的顯著降低。 這項特性並非靠後置截斷實現，而是透過大規模強化學習「長」在模型基因裡。TML 在後訓練階段投入超過 3000 萬次異步強化學習 rollout，並引入精巧機制：透過修改系統訊息與為不同任務設定不同每 Token 成本，讓模型學會看碟下菜。經過反覆訓練，Inkling 逐漸掌握何時該深入推理、何時可停止，甚至出現思維鏈自發壓縮的現象——後期推理省略大量語法性表達，語句接近速記。開發者可透過 output_config.effort 參數（0 至 1）動態調節推理強度，讓簡單任務不必為最高強度付費，複雜任務仍可增加算力預算。 為了讓可塑性真正落地，TML 補齊了全鏈路工具棧：不僅在旗下微調算力平台 Tinker 中原生支援 Inkling，還推出 tml-renderer 渲染器，將聊天訊息、工具呼叫、圖像與音訊統一轉換為模型所需輸入格式，確保採樣與後處理穩定。官方甚至展示 Inkling 透過 Tinker 平台「自己編寫微調任務、運行訓練並評估結果」，說明這款模型底座具備極高的可塑性。Inkling-Small 則以不足三成的激活參數保留多項能力，雖在複雜終端程式與事實準確仍有折損，但非常適合高頻、低成本的程式編寫、模型評測與合成資料生成。 Inkling 的另一亮點是原生多模態，文本、圖像與音訊從預訓練階段即共同學習，而非採用多數開源模型「後期外掛」編碼器的捷徑。TML 將 Inkling 定位為互動模型系統中的後台推理引擎：前台模型持續接收語音、畫面與文字，遇到深度推理或工具調用時再將上下文交給 Inkling 異步處理。Inkling 能轉寫語音、理解口頭指令、分析長音訊，也能處理圖表與數學視覺問題；面對複雜圖片時可呼叫 Python 進行放大裁剪，在 CharXiv 視覺推理測試中，加入 Python 工具後成績從 78.1% 提升至 82.0%。目前 Inkling 仍只支援文字輸出，尚無法直接生成語音或圖像。安全方面，FORTRESS 測試顯示對抗性有害請求拒絕率為 78%，同時對無害請求維持 95.9% 的正常回應率，在同類開放權重模型中表現相對均衡。 在交付方式上，TML 並未將 Inkling 綁定在單一 API。原始權重與 NVFP4 版本均已開源，開發者可透過 Together AI、Fireworks、Modal 等平台呼叫，也能自行使用 SGLang、vLLM、llama.cpp 或 Transformers 部署，兼顧託管與自主兩條路徑。 對 TML 而言，Inkling 不僅證明團隊具備從預訓練到強化學習完整訓練近萬億參數模型的實力，更關鍵的是利用開放權重與 Tinker 微調平台卡位企業級客製化 AI 基礎設施市場。一個真正的 B 端模型服務平台，不能只連接第三方模型，必須把預訓練、強化學習、推理與微調的完整鏈路掌握在自己手中，才能回答 Token 成本、推理強度調節、原生多模態及持續微調等實際問題。Inkling 的登場，正是 TML 對「為什麼要從零訓練模型」給出的答案。