無需雲端API!手機即可本地運行，Liquid AI推出端側智能體模型LFM2.5

AI 初創公司 Liquid AI 於 8 月 5 日正式發表專為智慧代理工作流設計的端側模型 LFM2.5，該模型參數量為 26 億（2.6B），可在智慧型手機等終端裝置上完全離線運作，無需依賴雲端 API。這項技術路線為開發者提供了一條兼顧成本、延遲與隱私的端側智慧代理解決方案，讓本地端人工智慧應用邁入實用化階段。LFM2.5 的訓練基礎相當扎實，模型基於約 34 萬億個詞元（token）進行預訓練，詞彙表擴展至 128K 規模。Liquid AI 在其後訓練流程中整合了四個階段：監督式微調、教師模型特化、多領域在策略蒸餾，以及智慧代理強化學習。

這套流程賦予模型出色的規劃能力、工具調用能力，以及處理複雜多步驟任務的實力。基準測試結果顯示，LFM2.5 在指令遵循與工具使用兩項關鍵指標上，表現可媲美規模將近四倍的大模型。這意味著即使參數量僅有 26 億，模型仍能在智慧代理場景中展現出接近更大模型的推理與執行水準，對於資源受限的行動裝置而言，是一項突破性的進展。在硬體適配與推理效能方面，LFM2.5 的表現同樣亮眼。根據 Liquid AI 公布的數據，該模型在 Apple M5 Max 晶片上可達到每秒 220 詞元的推理速度；而在手機端，也能穩定維持每秒 30 詞元的響應速度。

這樣的效能足以支撐即時互動、工具調用與多步驟代理任務，讓端側智慧代理的體驗不再卡頓。Liquid AI 表示，LFM2.5 的設計初衷是讓開發者能夠在沒有雲端連線的情況下，依然在終端裝置上運行具備智慧代理能力的模型。此舉不僅大幅降低 API 調用成本，也消除了因資料傳輸所產生的延遲，更重要的是，所有運算都在本地完成，用戶資料無需上傳至第三方伺服器，隱私保護更上層樓。目前 LFM2.5 及其基礎版本已在 Hugging Face 平台上全面開源，並原生支援 llama.cpp 格式，方便開發者直接整合到各種應用中。

開源策略讓更多社群開發者能夠針對特定場景進行微調或部署，進一步推動端側智慧代理的生態發展。從技術架構來看，LFM2.5 的後訓練流程中，強化學習階段是讓模型真正掌握代理能力的關鍵。透過智慧代理強化學習，模型學會在給定目標下自主規劃步驟、調用外部工具，並在執行過程中根據回饋調整策略。這種能力在傳統的靜態語言模型中較為罕見，而在端側模型上實現，更顯示了 Liquid AI 在模型小型化與代理能力之間的平衡功力。此外，多領域在策略蒸餾階段的引入，讓模型能夠從更強大的教師模型中學習多樣化的推理路徑，同時維持模型的輕量化特性。

教師特化階段則確保模型在特定任務領域上具備深度知識，避免因參數縮減而導致效能衰退。對於業界而言，LFM2.5 的出現代表著智慧代理不再僅限於雲端大型模型。過去，想要實現具備規劃與工具調用能力的代理應用，往往需要透過 API 串接數十億甚至上百億參數的模型，成本高、延遲大，且用戶資料必須經過外部伺服器。如今，26 億參數的模型就能在手機上完成類似任務，這將大幅降低開發門檻，並開啟更多離線與隱私敏感場景的應用可能性。Liquid AI 選擇在 2026 年 8 月這個時間點推出 LFM2.5，也反映出端側人工智慧技術正在快速成熟。

隨著智慧型手機晶片運算能力持續提升，以及模型壓縮與蒸餾技術的進步，參數量在十億左右的模型已經能夠執行過去需要數百億參數模型才能完成的任務。LFM2.5 正是這一趨勢下的代表性產品。開發者若想嘗試 LFM2.5，可直接從 Hugging Face 下載模型權重，並使用 llama.cpp 等工具進行本地部署。由於模型原生支援該格式，整合過程相對簡單，無需額外轉換。Liquid AI 也提供了相關文件與範例，協助開發者快速上手智慧代理工作流的建置。總體而言，LFM2.5 是一款專為端側智慧代理需求量身打造的輕量模型，兼具效能、隱私與成本優勢。

隨著更多開發者利用開源資源進行二次開發，本地端的人工智慧代理應用有望在未來幾年內迎來爆發式成長。