Day0 適配：阿里雲靈駿真武 M890 超節點實例現已支持月之暗面 Kimi K3 大模型

阿里雲今日宣布，旗下靈駿真武 M890 超節點實例已成功完成與月之暗面最新旗艦模型 Kimi K3 的 Day0 適配。這項合作基於晶片、推理平台與模型三方的聯合優化，有效提升了模型在超大規模參數下的推理效率，為大規模語言模型的部署與應用提供更高效的基礎設施支撐。 Kimi K3 是月之暗面推出的最新一代旗艦級大語言模型，參數規模達到 2.8 萬億。這類超大規模模型通常採用混合專家（MoE）架構，在訓練與推理過程中需要極高的通信頻寬與記憶體容量，才能確保專家並行（Expert Parallelism，EP）的運算效率。傳統的計算節點往往難以在單一通信域內容納如此龐大的參數與流量，而靈駿真武超節點實例正是為此而生。 靈駿真武超節點實例的核心是平頭哥半導體自主研發的訓推一體 AI 晶片——真武 M890。這款晶片專為大模型訓練與推理設計，搭載了 ICN Switch 1.0 互聯晶片，可讓 64 張 M890 晶片實現 All-to-All 高速互聯，每張晶片間的通信頻寬高達 800 GB/s。整個超節點實例的顯存總規模達到 9TB，足以將萬億級 MoE 模型的專家並行通信流量全部承載在一個高帶寬通信域內，從而大幅降低跨節點通信延遲，保證 Token（詞元）生成的穩定與高效。 為了讓 Kimi K3 模型能在真武 M890 上實現 Day0 即開即用，阿里雲、平頭哥與月之暗面 Kimi 團隊從晶片底層指令集、軟體棧到推理框架進行了深度協同。真武晶片內建 T-Head SAIL 軟體棧，該軟體棧經過特別優化，可直接相容 Kimi 自研的 Mooncake 推理框架，實現「開箱即跑」的無縫對接。此外，M890 支援 Triton 編程語言，這使得大量基於 Triton 撰寫的自定義算子無需重寫，大幅降低了模型移植與適配的工作量，縮短了從晶片到模型上線的週期。 在具體的適配過程中，三方團隊針對 MoE 模型的專家路由、動態負載平衡以及記憶體管理等關鍵環節進行了聯合調校。利用真武 M890 的高頻寬互聯特性，Mooncake 框架能夠將不同專家模組的計算任務更精準地分配給對應的晶片，減少因通信瓶頸造成的等待時間。同時，9TB 的共享顯存池也讓 Kimi K3 的參數與中間結果能夠更靈活地在各晶片間快取與交換，進一步提升整體推理吞吐量。 這項合作不僅展現了阿里雲在 AI 基礎設施領域的技術實力，也反映出大陸雲端服務商與大模型公司之間日益緊密的生態協作。過去，大模型與底層硬體的適配往往需要數週甚至數月的時間，而 Day0 適配的實現意味著新模型發布後，用戶幾乎可以立即在靈駿真武超節點上獲得高效推理服務，這對於追求快速迭代的 AI 應用場景極具價值。 從產業角度來看，隨著大模型參數規模持續朝向兆級甚至數兆級發展，傳統的分散式訓練與推理架構正面臨嚴峻挑戰。靈駿真武 M890 超節點透過高密度晶片互聯、超大共享顯存以及專用軟體棧，提供了一條兼顧效能與部署便利性的路線。月之暗面選擇將 Kimi K3 率先在該平台上完成 Day0 適配，也意味著其對這套基礎設施的成熟度與穩定性給予了高度肯定。 目前，阿里雲靈駿真武 M890 超節點實例已正式上線，企業用戶可以透過阿里雲平台申請使用，直接運行 Kimi K3 模型的推理任務。月之暗面方面表示，未來將持續與阿里雲、平頭哥深化合作，在模型訓練、推理優化以及彈性擴展等層面探索更多技術可能性，共同推動 AI 大模型在產業中的落地應用。 值得一提的是，此次適配過程中也獲得了來自社群用戶的關注與支持，包括多位網友提供的線索與反饋，協助團隊在測試階段快速定位問題。阿里雲與月之暗面均表示，將持續聆聽用戶聲音，不斷優化產品體驗，讓超大規模 AI 模型更親民、更易用。 整體而言，這項合作標誌著雲端 AI 基礎設施與前沿大模型之間的適配已進入全新階段。從晶片設計到軟體棧，從推理框架到模型部署，完整的技術鏈條正在被打通，為後續更多兆級參數模型的快速落地鋪平了道路。未來，隨著真武晶片系列與靈駿平台的持續迭代，我們有望看到更多類似 Day0 適配的案例出現，讓 AI 的創新成果能夠更快地轉化為實際生產力。