剛剛，螞蟻站在Kimi肩膀上開源了一款新模型

螞蟻集團旗下百靈大模型團隊近日正式開源一款輕量級混合推理模型，命名為 Ling-3.0-tiny。這款模型採用混合專家（MoE）架構，總參數量控制在 7.9B（79億），但在實際推理過程中僅需激活 1.3B（13億）參數，專為在終端裝置上進行高效本地部署而設計。此舉不僅展現螞蟻在輕量級模型領域的技術佈局，也讓外界看到其整合多家開源架構創新的成果。根據公開資訊，Ling-3.0-tiny 最大的技術特色在於其架構設計。該模型並未採用單一固定架構，而是同時結合了月之暗面的 KDA 架構與 DeepSeek 的 MLA 架構，形成交替排列的混合推理結構。

KDA（Key-Value Dynamic Attention）與 MLA（Multi-head Latent Attention）分別在注意力機制與記憶體效率上各有所長，這種交替設計能在保持模型性能的同時，大幅降低推理時的記憶體佔用與計算延遲。除了架構上的創新，Ling-3.0-tiny 還內建了原生混合推理與智能體（Agent）功能。這意味著模型不僅能執行傳統的語言生成任務，還能根據任務需求自動切換推理策略，並具備與外部工具或環境互動的能力。這樣的設計讓模型在終端設備上可以更靈活地處理複雜任務，例如多步驟問題解答、程式碼輔助撰寫，或與本地應用程式進行協作。

在實際部署表現上，螞蟻集團指出，Ling-3.0-tiny 可以在 MacBook 等級的筆記型電腦上達到高吞吐量運作。由於參數激活量僅 1.3B，模型對記憶體與算力的需求大幅降低，使得終端裝置無需仰賴雲端伺服器，就能流暢運行自然語言處理任務。這對於注重隱私、低延遲或離線環境的應用場景，例如手機、邊緣運算裝置或企業內部終端，極具吸引力。在公開評測數據方面，Ling-3.0-tiny 在特定 AI 評測基準中獲得 25 分。根據團隊提供的對比資訊，這個成績已接近 Google 所推出的 Gemma-4-26B-A4B 模型。

Gemma-4-26B-A4B 同樣是一款輕量級 MoE 模型，總參數 26B，但每次推理僅激活 4B 參數。Ling-3.0-tiny 能以更小的總參數量與激活參數量達成接近的性能水準，顯示其架構設計與訓練策略的效率。此次開源也標誌著螞蟻百靈在輕量級模型領域的戰略更加明確。過去，大型語言模型多以雲端 API 服務為主，但隨著終端裝置算力提升與用戶對隱私、即時性的需求增加，輕量級可本地部署的模型逐漸成為產業重點。螞蟻透過開源 Ling-3.0-tiny，不僅能吸引開發者社群參與優化，也有助於建立生態系，為未來在金融、零售、客服等場景中嵌入 AI 能力鋪路。值得注意的是，Ling-3.

0-tiny 的技術路徑展現了螞蟻對於開放架構的擁抱態度。模型同時採用了月之暗面與 DeepSeek 兩家公司的核心技術，這在業界並不多見。一般來說，多數模型會選擇單一架構進行深度優化，但螞蟻選擇混合不同架構，試圖在性能與效率之間取得最佳平衡。這種「站在巨人肩膀上」的做法，也反映出當前開源社群協作創新的趨勢。從競爭格局來看，輕量級 MoE 模型已成為各大科技公司爭相布局的領域。除了 Google 的 Gemma 系列，Meta 的 Llama 系列也推出輕量化版本，國內則有阿里、騰訊、字節跳動等業者持續投入。螞蟻選擇在此時推出 Ling-3.

0-tiny，並以開源方式釋出，顯然希望透過技術公開與社群協作，快速累積應用案例與生態影響力。對於開發者而言，Ling-3.0-tiny 的開源意味著可以免費取得一個可在本地高效運行的模型，並可根據自身需求進行微調或部署。由於模型體積小、推理速度快，特別適合在資源受限的環境中使用，例如智慧型手機、IoT 裝置或企業內網伺服器。此外，內建的智能體功能也讓開發者能更輕鬆地構建具備互動能力的應用，例如個人助理、自動化客服或教育工具。整體而言，螞蟻百靈此次開源 Ling-3.0-tiny，不僅是技術實力的展示，更是對終端 AI 落地策略的重要推進。

透過結合月之暗面與 DeepSeek 的先進架構，並以輕量級 MoE 形式呈現，該模型在性能與效率之間取得了具有競爭力的平衡。未來若能持續獲得社群支持與迭代優化，Ling-3.0-tiny 有機會成為終端邊緣運算領域的重要基礎模型之一。隨著開源生態的成熟，AI 模型的發展方向正從「追求最大參數量」轉向「追求最佳效率與應用性」。螞蟻的 Ling-3.0-tiny 正是這一趨勢下的典型代表。它證明了透過巧妙的架構設計與訓練策略，小模型也能在特定任務上達到接近大模型的水準，從而讓更多終端裝置能夠享受 AI 帶來的便利。對於產業界與學術界來說，這是一個值得持續關注的技術樣本。