美團發1.6萬億參數新模型，通用Agent測試超Opus-5，國產芯特別優化

作者 | 楊京麗 編輯 | 李水青 11月2日報道，今日，美團LongCat團隊發佈面向長程智能體任務的原生多模態模型LongCat-2.5。該模型總參數量為1.6萬億，每個Token激活約480億參數，在LongCat-2.0的基礎上，重點強化原生視覺理解與智能體編程能力。在美團公佈的自動化任務基準AutomationBench、通用Agent任務基準LongCatClawBench等幾項基準測評中，LongCat-2.5均領先Claude-Opus-5、GPT-5.6-Sol等模型；在終端操作基準Terminal Bench v4.0上，LongCat-2.5的得分為38.

5，超過GPT-5.6-Sol，但仍落後於Claude-Opus-5。LongCat-2.5的長序列訓練中引入更多長程軌跡數據，並通過大規模長程強化學習，提升模型在複雜代碼庫開發、完整項目構建等任務中的端到端工程能力。同時，LongCat-2.5將視覺信號轉化為多層級離散Token，讓視覺與文本輸入由同一主幹模型統一處理，進一步支持視覺編程（Visual Coding）、創意設計和3D內容生成。面對國產加速器單卡不足80GB的顯存限制，LongCat-2.5圍繞超節點重排FSDP、EP、CP並行度，疊加混合詞表並行、MoonEP動態專家複製和雙重分片FSDP，把視覺編碼移出訓練計算圖。

LongCat稱，經過上述優化，該FSDP配置在長序列SFT任務中的單卡吞吐量較DDP基線提升86%。模型發佈後，也第一時間圍繞視覺編程和辦公任務展開實測。從實測體驗上看，模型生成速度較快，在編程和視覺理解上有著不錯的表現：前端視覺效果較好，PPT圖表豐富，但畫面細節、空間與圖層關係仍有提升空間，PPT排版也可以進一步優化。首先，我們讓模型製作一段“鵜鶘騎自行車”的HTML動畫，LongCat-2.5生成的動畫完成度較高，主體突出，畫面風格保持一致，細節也比較豐富。不過，鵜鶘的圍巾稍微有些歪，畫面細節有一定的提升空間。後面，我們又讓LongCat-2.

5解讀亞馬遜第三季度財報，並生成一份帶圖表的 PPT。LongCat-2.5搭建的分析框架比較完整，趨勢圖、結構圖和風險提示的搭配也比較自然，模型還根據財報給出投資亮點和風險提示。經初步比對，我們沒有發現數據錯誤。不過，LongCat-2.5生成的PPT部分頁面信息密度偏高、部分文本字號偏小，個別結論下得略絕對，排版上還可以再優化調整。在線體驗： https://longcat.chat API接入： https://longcat.

chat/platform/product 一、動畫自然可交互，任務場景覆蓋軟件開發與專業辦公 LongCat官方團隊也給出了幾個案例，重點展示了模型在軟件開發和專業辦公等方面的能力。在軟件開發方面，模型可以生成實時流體模擬與視覺特效生成工具，構建出包含高幀率流體動畫的交互式網頁。鼠標在界面上點擊或拖拽後，可形成墨水流動的動畫。LongCat-2.5也可以開發3D文物展示頁面。模型結合WebGL渲染與前端交互技術，生成了三星堆青銅神樹的3D模型，用戶可以通過旋轉、縮放、雙擊聚焦等方式從不同視角觀看文物，展開文物信息面板。

在創意設計和3D場景生成方面，模型能夠構建城市沙盤、微縮旋轉木馬場景和中國傳統色彩主題網頁，並完成從視覺風格提取、頁面佈局到交互實現的完整流程。在辦公場景中，LongCat-2.5可以整合多渠道經營數據，梳理數據口徑並計算真實利潤，進一步根據業務目標分析經營表現和投入產出，生成營銷、供貨、庫存與預算配置建議。模型還能夠分析客戶反饋，識別重複問題和後續更新事項，按照問題嚴重程度、緊迫性與業務目標進行排序，並生成支持點擊查看原始反饋的交互式HTML報告。此外，用戶還可以上傳場地照片、輸入自然語言需求，生成包含報名、名單查看和表格導出功能的活動邀請網頁。二、1.

6萬億參數，視覺與文本統一為離散Token LongCat-2.5採用原生多模態架構，將不同分辨率的圖像編碼為離散Token序列，再與文本Token一同輸入主幹模型。在視覺編碼環節，LongCat-2.5沿用了LongCat-Next的方法，由語義對齊編碼器（SAE）生成原生分辨率特徵，再通過殘差向量量化RVQ將視覺信息壓縮為多層級詞表Token，以緩解視覺離散化過程中的信息損失。模型還引入離線視覺Token預處理機制。固定tokenizer可以提前生成並緩存視覺TokenID，主幹模型直接讀取預處理後的序列，簡化長序列打包與切分，並改善分佈式訓練時不同任務之間的負載均衡。

LongCat團隊稱，視覺碼本Embedding與主幹模型採用聯合學習方式。在平均激活參數約30億的較小規模MoE模型上，視覺與文本Embedding在t-SNE可視化結果中呈交織分佈，說明兩類信號已經開始在共享語義空間中融合。三、GitHub PR自動生成可交互環境，長程Agentic RL提升端到端工程 LongCat-2.5圍繞長程Agent任務搭建了完整的Agentic RL訓練鏈路，覆蓋數據、環境、算法和Harness等方面。

在數據層面，LongCat團隊從GitHub公開倉庫和內部真實場景中獲取代碼任務，針對篩選後的PR和關聯issue，自動生成可交互環境與可驗證測試用例，並通過fail-to-pass和pass-to-pass測試校驗任務是否有效。在RL訓練過程中，模型的實時rollout軌跡和任務通過率會被用於二次數據標註與篩選。團隊還基於假陰性、假陽性分析，持續修正和擴充F2P測試用例，提升測試對任務功能描述的覆蓋率和驗證信號的準確性。針對長程任務中部分軌跡耗時過長的問題，LongCat-2.5採用partial rollout異步訓練策略。

每個RL step保持一定過採樣率，批次湊齊後暫停未完成軌跡，並在下一輪採樣時恢復。系統會根據任務通過率動態調整過採樣率，同時過濾全對或全錯的零梯度樣本組，以保證訓練過程中的有效梯度。由於同一條軌跡中的Token可能來自不同歷史checkpoint，訓練還會面臨樣本陳舊性問題。為此，LongCat-2.5會裁剪採樣階段與當前訓練階段之間的Logprob差異，並根據歷史累計差異調整每個Token的梯度貢獻，降低陳舊樣本造成的梯度偏置。在獎勵設計上，模型會通過斷網、清除git歷史和文件緩存等方式限制投機行為，並引入LLM judge監督完整軌跡。

對於重複思考、重複調用工具等行為，系統會施加額外懲罰；對於過度思考和思考長度增長過快的問題，則通過重新分配正樣本Reward進行抑制。LongCat團隊還採用跨任務、跨Scaffold的混合訓練方式，使模型能夠適應近似任務和不同Harness。相比冷啟動階段只覆蓋少量適配用例，這種訓練方式能夠進一步提升模型在不同任務環境中的泛化能力。四、專家組機制覆蓋Agent、推理與交互能力 為了將不同領域能力融入主線模型，LongCat-2.5延續了LongCat-2.0的專家組機制，分別優化Agent能力、推理能力和交互體驗，覆蓋多輪任務執行、單輪推理、細粒度指令遵循以及安全防禦等場景。

在MOPD訓練中，學生模型會在不同領域任務中在線採樣，領域專家則根據學生採樣結果的全詞表KL散度訓練學生模型。為降低教師軌跡與學生採樣之間的分佈偏移，LongCat-2.5進一步將教師每輪迴覆按固定長度切分為per-cut prefix，並將學生模型的自採樣長度限制在相應範圍內。訓練時，同一教師軌跡的多個Prefix會被分組送入同一推理引擎，共享Prefill計算和KV Cache。LongCat團隊還以教師軌跡為樹幹、學生採樣結果為分支構建訓練樹，結合Tree Attention，通過一次前向和反向計算完成同組樣本的OPD訓練，從而減少教師軌跡帶來的重複計算與存儲開銷。

五、圍繞超節點架構重新設計並行策略，單卡吞吐量較基線提升86% LongCat-2.5在預訓練和監督微調階段均採用長序列訓練。針對國產AI加速器單卡顯存不足80GB的限制，訓練系統圍繞超節點架構重新設計並行策略。LongCat-2.5根據超節點拓撲配置並行組，FSDP和EP並行度均與單個超節點的卡數保持一致，CP並行度不超過該卡數，使參數AllGather、專家TokenAlltoAll和KVAllGather儘可能在超節點內部的高帶寬互聯域中完成。系統還通過混合詞表並行，對基礎詞嵌入層、LMHead和N-gram嵌入層進行分片，進一步降低顯存佔用。

針對大規模專家並行中的負載不均衡，LongCat-2.5基於MoonEP引入閾值觸發的動態專家複製機制，僅在負載不均衡達到預設閾值時啟用複製，以平衡通信成本與負載收益。通過提前生成圖像Token，訓練計算圖不再包含視覺編碼器。系統可以根據已知的圖像Token數量，提前估計數據打包和打散時的多模態負載比例，使不同數據並行Rank上的模態佔比更加接近。LongCat-2.5還引入雙重分片FSDP。模型參數在超節點內的FSDP域中分片，FP32主權重和優化器狀態則通過HSDP副本進一步跨FSDP域分片，在保持參數通信效率的同時減少常駐顯存。

系統通過批量執行梯度操作、合併指標歸約、CPU 綁核和 NUMA 感知調度，降低主機側開銷。LongCat稱，經過上述優化，該FSDP配置在長序列SFT任務中的單卡吞吐量較DDP基線提升86%。結語：原生多模態模型開始向長程工程執行推進 從LongCat-2.5的技術路線看，模型升級重點已經從單純擴大參數規模，轉向視覺統一建模、長程Agent訓練、訓推一致性和國產算力適配等系統工程。尤其是在複雜代碼庫開發、3D頁面生成和多輪工具調用等任務中，模型能否持續執行、驗證結果並根據失敗軌跡修正策略，將成為衡量Agent能力的重要指標。LongCat-2.

5把原生視覺理解與長程Agent訓練結合起來，也意味著多模態模型正在從“看懂內容”進一步走向“完成任務”。