智譜 GLM 公開國內大模型首個遞歸自我改進實踐：AI 在十萬卡國產集群上自建推理系統

中國AI新創公司智譜AI近期公開了一項突破性成果，首度在國內大模型領域實現「遞歸自我改進」（Recursive Self-Improvement）的實際案例。這項技術由旗艦模型GLM-5.3驅動的Infra Agent主導，在一個由超過10萬張國產芯片組成的大規模算力集群上，從零開始自主建構完整的推理服務系統。最關鍵的是，在不到兩週的時間內，Infra Agent便將整個系統的吞吐量提升至初始基線的三倍，顯示AI不再只能被動等待工程師手動調整，而是能在真實生產環境中透過自我迭代持續優化效能。

「遞歸自我改進」是人工智慧領域長期以來追求的願景，意指系統能藉由觀察自己的運作表現，自動修改自身的架構或流程，從而讓效能不斷提升。過去這類機制多半停留在實驗室階段的理論探討，智譜AI此次公開的實踐，首次在大規模國產算力環境中驗證了這個概念的可行性。該集群採用國產芯片，意謂智譜在軟硬體皆高度自主化的條件下，突破了推理基礎設施的建置與調校瓶頸。據了解，整個過程由GLM-5.3模型衍生的Infra Agent擔任核心決策角色。這個智能體能夠理解推理服務的拓撲結構、資源分配策略以及瓶頸所在，並自動嘗試不同的參數配置、並行策略與記憶體管理方案。

在兩週的自主優化週期內，系統吞吐量從初始基線逐步爬升，最終達到三倍成長，這個成績已接近人工專家團隊花費數月調校才能達成的水準。智譜AI指出，這項成果代表AI正從單純的「生成工具」轉變為「能夠自我進化的基礎設施管理者」。與此同時，智譜AI旗下的匿名模型「Ox-Alpha」也繳出驚人數據。該模型自正式上線僅6天，Token調用量便突破62萬億，顯示市場對於國產大模型在推理效率與規模化部署上的強烈需求。62萬億Token這個數字不僅代表使用者對模型的信任與採用速度，也側面印證了智譜在推理系統優化方面的努力已經直接反映在實際負載承受能力上。

智譜AI將遞歸自我改進的Infra Agent與高效能推理模型視為一體兩面：前者確保後者能在國產算力環境中獲得最佳執行效率，後者則提供前者的優化目標與回饋數據。這種閉環機制讓AI能夠在運行過程中持續收集瓶頸資訊，並立即調整下一輪的運算策略。智譜內部研究團隊認為，隨著模型規模持續擴大與算力集群日益龐雜，人工調校的成本與時間將成為不可忽視的障礙，唯有讓AI自己動手建置與管理推理基礎設施，才能滿足未來更大規模的部署需求。此次實踐的另一個亮點在於，所有工作都發生在純國產芯片構成的集群上。過去外界常認為國產芯片在生態系統與軟體支援上仍有落差，需要大量人工適配才能運行大型模型。智譜AI透過GLM-5.

3與Infra Agent展現的情況卻是，AI能夠主動探索國產芯片的特性，自主編寫底層運算模板、調整通信模式，甚至重構推理圖的執行順序，從根本上補足軟體生態的不足。這對於提升國產算力供應鏈的自主可控能力具有重要意義。業界分析指出，遞歸自我改進若能在更多場景落地，有望大幅降低大模型運維的人力門檻。傳統上，一家AI公司若要部署千億甚至萬億參數模型，往往需要配置一支由系統工程師、運維工程師與晶片專家組成的團隊，花費數週時間進行壓力測試與調參。智譜AI此次展示的案例，等於是把這項任務交給AI自己完成，而且效率更高、迭代更快。

這也意味著未來AI的演進路徑可能從「人類設計→AI執行」轉變為「AI設計→AI執行→AI修正→再進化」的循環。智譜AI並未透露Ox-Alpha模型未來是否會與遞歸自我改進的Infra Agent進一步整合，但從技術路線來看，兩者之間存在天然的協同關係。Ox-Alpha上線6天即湧入62萬億Token的推理需求，正可為Infra Agent提供大量真實流量數據，幫助其學習如何應對不同峰值的負載波動。反過來，Infra Agent持續優化後的推理系統，又能讓Ox-Alpha以更低的延遲與更高的吞吐服務用戶，形成良性循環。

從產業格局來看，智譜AI的這項實踐不僅是技術上的里程碑，更可能重塑國產大模型的部署標準。過去國產模型在推理效率上常被認為落後於海外方案，但此次透過遞歸自我改進所達成的三倍吞吐提升，證明在同等晶片條件下，軟體層面的智能優化仍有巨大空間。若此技術能夠規模化複製，將使國產大模型在性價比與營運成本上具備更強的競爭力。智譜AI內部表示，這只是遞歸自我改進應用的起點。未來團隊計畫讓Infra Agent能夠跨集群、跨模型進行遷移學習，讓已經在某個環境中學會的優化策略快速複製到新集群上，縮短新部署的調校週期。

同時，也將探索讓AI自動發現新型推理架構的可能性，不再僅限於現有框架的參數優化，而是能從機制層面提出全新的運算模式。整體而言，智譜AI藉由GLM-5.3驅動的Infra Agent，在十萬卡國產集群上完成了從零到一的推理基礎設施自主建置與持續優化，並在兩週內締造吞吐量三倍成長的成績。這項國內首個遞歸自我改進案例，搭配Ox-Alpha模型上線6天突破62萬億Token調用量的市場實績，共同勾勒出國產大模型在推理效率、規模化部署與自主進化能力上的全新面貌。未來隨著相關技術成熟，AI不再只是人類的工具，更可能成為自身基礎設施的建築師與維護者。