阿里雲真武超節點Day0適配Kimi K3大模型，雙方展開國產算力合作

阿里雲今（28）日宣布，旗下真武 M890 超節點實例已順利完成 Day0 適配，成功跑通 Kimi K3 大模型，成為國內首個支援近 3 萬億參數規模模型運行的超節點。雙方將進一步深化國產算力合作，未來千問 AI 平台與阿里雲百鍊也將提供 Kimi K3 的模型 API，讓更多開發者與企業得以取用這項頂尖的生成式 AI 能力。Kimi K3 是目前業界參數規模最大的模型之一，其龐大的參數量意味著必須將運算任務分散到數十張甚至上百張高速互連的 GPU 卡上，才能讓模型在推理或訓練過程中「跑得又穩又快」。

然而，傳統的 AI 集群往往因為通信帶寬不足，難以滿足高吞吐、低延遲、高併發的運算需求，成為超大規模模型落地的關鍵瓶頸。為了解決這一難題，阿里雲真武超節點實例採用平頭哥自研的 ICN Switch 高速互連芯片，讓 64 張真武 M890 加速卡之間實現 800GB/s 的全互連頻寬，整組實例的顯存規模一舉達到 9TB。這樣的硬體架構不僅突破了萬億級參數模型對算力、顯存與網路頻寬的嚴苛要求，單一實例即可支撐超大規模萬億級 MoE 模型的專家並行需求，大幅降低跨節點通訊的 overhead。

為了讓 Kimi K3 在真武 M890 上發揮最佳效能，阿里雲、平頭哥與 Kimi 團隊從軟體棧、算子等底層進行了深度聯合適配。例如，團隊針對 Kimi K3 模型架構中的核心運算算子進行了專項優化，顯著提升了推理過程中的算力利用率和帶寬效率。經實測，優化後模型的首次 Token 輸出延遲（首 Token 時延）降低了約 35%，單卡解碼吞吐量則提升了 1.8 倍。此外，真武 M890 超節點實例還能穩定支援長達 1M tokens 的上下文長度，意味著在處理長文檔理解、複雜邏輯推理、多輪對話等場景時，模型能夠保持流暢且一致的輸出品質，不會因上下文過長而出現記憶衰退或推理中斷的問題。

這項成果不僅代表 Kimi K3 成功在國產算力平台上高效運行，更驗證了阿里雲真武超節點已具備承載超大規模參數模型大規模應用的能力。目前國內外主流大模型紛紛邁入超過 2 萬億參數的時代，能夠在單一超節點實例內順暢跑通近 3 萬億參數的模型，意味著國產算力在硬體架構、晶片設計以及軟體生態適配等層面，都已達到國際一流水準。根據雙方規劃，後續千問 AI 平台與阿里雲百鍊將提供 Kimi K3 的模型 API 服務，讓開發者可以透過雲端直接調用這款超大參數模型，無需自行建置昂貴的算力基礎設施。

這項合作也預示著國產算力與頂尖大模型之間將形成更緊密的生態連結，共同推動 AI 技術在更多產業場景中的落地與應用。從整體趨勢來看，隨著大模型參數量持續攀升，算力基礎設施的「超節點化」與「國產化」已成為不可逆的發展方向。阿里雲與 Kimi 團隊此次的合作，不僅為業界提供了一個可複製的技術示範，也為後續更多超大規模模型的國產化部署鋪平了道路。未來，類似的深度適配與聯合優化模式，有望成為 AI 算力產業的常態，進一步加速生成式 AI 在各行各業的普及。