9750億參數！OpenAI前CTO的明星獨角獸，發首個開放權重模型

OpenAI 前技術長 Mira Murati 所創立的美國 AI 獨角獸 Thinking Machines Lab，於今日正式推出旗下首個多模態 MoE（混合專家）開放權重模型「Inkling」。這款從零開始訓練的模型，主打可改造、可部署與可控成本，讓開發者能夠自由進行微調，並根據任務需求調節推理強度，進而控制效果、延遲與花費。Mira Murati 在社群平台 X 上發文表示：「這是我們的第一個模型 Inkling，權重對外開放，即日起可在 Tinker 平台上進行微調。」

根據官方部落格資訊，Inkling 的基礎架構借鏡了中國 DeepSeek-V3 的 MoE 設計，並在後訓練階段使用了月之暗面公司 Kimi K2.5 生成的資料進行優化。模型採用 MoE Transformer 架構，總參數量高達 9750 億，但每次推理僅激活 410 億參數，最高支援 100 萬 token 的上下文視窗。與許多模型先訓練文字再外掛視覺或音訊模組不同，Inkling 在預訓練階段就同時融合了文字、圖像、音訊與影片資料，使單一模型即可勝任視覺理解、語音問答、程式開發與工具調用等多種任務。 目前 Inkling 已上線 Thinking Machines Lab 旗下的 Tinker 平台，提供 64K 與 256K 兩種上下文長度，並限時提供五折優惠。開發者可透過 Tinker 對模型進行調整，也可先在 Inkling Playground 測試頁面體驗聊天與 Agent 式網路搜尋功能。同時，Inkling 的完整權重已在 Hugging Face 開放，開發者可下載原始 checkpoint 與 NVFP4 checkpoint 進行本地部署或進一步調整。 在價格方面，64K 上下文視窗下，輸入費用為每百萬 token 1.87 美元（約新台幣 56 元），快取輸入為 0.374 美元，輸出為 4.68 美元；若使用 256K 視窗，輸入價格則提升至每百萬 token 3.74 美元，快取輸入 0.748 美元，輸出 9.36 美元。此外，Thinking Machines Lab 也同步推出輕量版本 Inkling-Small 預覽版，激活參數量為 120 億，採用相同訓練方案，保留部分核心能力，適合資源受限的場景。 基準測試方面，Inkling 展現出均衡的綜合能力。在第三方評測機構 Artificial Analysis 的 Intelligence Index 測試中，Inkling 獲得 41 分，高於美國開放權重模型 Nemotron 3 Ultra 的 38 分，也優於 Gemma 4 31B 的 29 分，在美國開放權重模型中位居第一。在衡量通用智能與綜合任務的 GDPval-AA v2 測試中，Inkling 拿下 1238 Elo 分，超越 Kimi K2.6 的 1190 分與 DeepSeek v4 Flash（max）的 1189 分。Artificial Analysis 還指出，Inkling 的 token 效率出色，平均僅需約 2.5 萬個 token 即可完成任務，遠低於其他同級模型，有助於降低實際部署成本與延遲。 實際用戶測試也呈現兩極評價。部分開發者肯定 Inkling 的文本創作能力與開發潛力，例如有用戶讓 Inkling 依同一提示詞生成三篇風格統一的科幻短文，認為其英文文本功底相當不錯；也有人基於 Inkling 搭建書法教練應用，測試編碼、工具調用與視覺能力後，認為這款從零訓練的多模態模型具備不錯的應用潛力。不過，也有 AI 研究者指出 Inkling 整體表現難以接近中國頭部開放權重模型，在詩歌測試與 GLSL 程式除錯中出現輸出不穩定的問題，即使開啟最高推理強度，處理簡單程式碼仍有偏差。 Thinking Machines Lab 則透過官方案例展示模型的長流程任務處理能力。例如，Inkling 僅根據一句需求描述，就生成了一個完整的求職網站，並進一步驅動瀏覽器 Agent 自動填寫表單；另一個測試中，Inkling 根據用戶反饋持續優化一款多人在線貪吃蛇遊戲，經過 40 輪迭代後產出包含即時伺服器、AI Bot 與排行榜的完整遊戲。官方強調，Inkling 在訓練過程中隨機化工具集合與調用格式，使其具備強健的任務遷移能力，不依賴特定工具環境。 在技術細節上，Inkling 的每個 MoE 層包含 256 個路由專家與 2 個共享專家，每個 token 僅激活 6 個路由專家，並採用基於 Sigmoid 的權重計算與無輔助損失負載均衡策略。注意力機制方面，模型以 5:1 比例交替使用滑窗注意力與全局注意力，搭配 8 個 KV Head 以提升長上下文效率。不同於常見的旋轉位置編碼（RoPE），Inkling 使用相對位置嵌入，官方表示在長序列外推方面表現更好，適合百萬 token 級視窗。訓練資料規模達 4500 萬億 token，涵蓋文字、圖像、音訊與影片，並將音訊轉為 dMel 頻譜、圖片以 40x40 像素 Patch 編碼後共同輸入 Transformer 進行推理。 後訓練階段，Thinking Machines Lab 採用大規模異步強化學習，累計完成超過 3000 萬次迭代，並導入「可控思考努力程度」（Controllable Thinking Effort）機制，讓開發者可依據任務需求調整模型推理強度，在準確率與速度、成本之間取得平衡。官方展示案例中，Inkling 在強化學習後思考過程變得更加簡潔，冠詞與連接詞明顯減少，同一數學問題的推理步驟大幅壓縮。 Thinking Machines Lab 強調，Inkling 並非追求單一測試的最高分，而是定位為覆蓋推理、Agent、多模態、程式碼與事實準確性的綜合基礎模型。隨著開放權重策略逐漸成為業界趨勢——如 DeepSeek、Qwen、Llama 與 Mistral 等系列均朝此方向發展——未來模型的競爭將不僅止於能力本身，更將圍繞使用成本、開發者生態與客製化靈活度展開。Inkling 的問世，無疑為企業與開發者提供了一個兼具彈性與可控性的新選擇。