華為：基於昇騰超節點訓練的星辰輕量級代碼智能體大模型 Xing4.0-29B 發佈

作者：歸瀧 責編：歸瀧 評論： 感謝網友 xxy171070 的線索投遞！9 月 20 日消息，中電信人工智能科技有限公司於 9 月 17 日正式發佈新一代星辰大模型 Xing4.0-29B-A4B。該模型聚焦複雜任務理解、任務規劃、工具調用和自主執行等能力，支持長上下文處理，可應用於代碼開發、數據分析、辦公自動化及生活服務等場景。華為中國官方昨晚宣佈，Xing4.0-29B-A4B 總參數 29B，激活參數僅 4B，是國內首個基於昇騰 Atlas 900 A3 SuperPoD 液冷超節點與昇思 MindSpore 框架完成訓練的百億參數大模型，面向複雜工程任務進行了深度優化。

該模型採用新一代架構設計，進一步提升長程任務處理和多步驟執行能力，能夠根據用戶提出的目標自主規劃任務路徑、調用工具並完成複雜任務。華為官方表示，模型的中高階代碼生成與智能體執行，是對長程上下文理解、複雜推理規劃、工具調用協同的綜合考驗。華為團隊與中電信團隊緊密協同，從數據體系、模型架構、訓練工程到強化學習，進行了系統性攻堅。數據基座：圍繞預訓練與後訓練全生命週期，建設涵蓋數十萬億詞元的數據體系。預訓練階段完成 PB 級多源異構數據清洗，引入海量智能體行為軌跡與結構化知識圖譜。後訓練階段搭建高併發沙箱容器，構建端到端長程任務合成數據，並建立自動化校驗機制保障數據正確性。

架構設計：專為長程 Agent 任務設計，MLA 多頭潛變量注意力壓縮 KV 緩存；MT 多 Token 預測增強生成連貫性；mHC 流形約束超連接解決訓練數值不穩定的問題；Muon 與 QK-Clip 優化器保障訓練穩定。訓練採用分階段遞進策略，從 4K 逐步擴展至 32K/128K/256K 序列長度，系統性構建長程能力。工程優化：Xing4.

0-29B-A4B 在昇騰超節點集群上通過多層次軟硬件協同優化實現訓練性能提升 96%，近翻倍突破：基於 MindSpore 全棧適配 mHC 多殘差連接與 DSA 長序列機制，針對細粒度 MoE（64 路由 / Top4 激活），通過專家負載均衡、Grouped GEMM、通信計算重疊及 DVM 圖算融合，吞吐提升 32%；層級與算子級選擇性重計算再提升 19%；自研 Ascend C mHC 融合算子解決 Sinkhorn 碎片化，計算效率提升 30%，整網吞吐再提升 25%。

多專家強化學習：基於昇騰生態完成 Slime 強化學習框架適配，面向 Agent、Coding、Reasoning 開展多專家強化學習訓練，通過 MOPD 技術實現多專家能力高效融合，進一步提升複雜推理與智能體任務表現。目前，昇騰已支持 40+ 個業界頭部模型完成原生訓練，也是國內唯一支持商用大規模預訓練，並訓練落地 SOTA 大模型的廠商。付開源地址如下：GitHub：https://github.com/XingChen-AGI/Xing4.0-29B-A4BHuggingFace：https://huggingface.co/XingChen-AGI/Xing4.

0-29B-A4B魔搭：https://modelscope.cn/models/XingChen-AGI/Xing4.0-29B-A4BGitee：https://gitee.com/xingchen-agi/xing4.0-29b-a4b魔樂：https://modelers.cn/models/XingChen-AGI/Xing4.0-29B-A4B廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，包含外鏈的文章均包含本聲明。投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：Xing4.

029BA4B，Xing4.0，星辰大模型，華為昇騰中國電信開源首個全棧國產輕量級智能體大模型 Xing4.0-29B-A4B華為朱照生：昇騰已經跨越了生態拐點，完全有能力、有機會在 Agentic 時代構建 AI 新生態華為發佈全球首個採用 NPO 的超節點“昇騰 960 超節點”，2027 年 Q3 上市華為靈衢昇騰 950 智算集群雲服務計劃 9 月 30 日國內商用、11 月 30 日全球商用華為打造業界首個採用 NPO 技術的超節點，汪濤宣佈 openEuler 成為中國服務器操作系統份額第一華為輪值董事長汪濤：昇騰 960 芯片將提前至 2027 年 Q1 發佈，實現性能翻番