模型越來越強之後，Infra將被AI接管？

在模型能力快速躍升的背景下，AI 基礎設施（Infra）正面臨前所未有的技術轉折點。模型的架構以超出工具鏈進化速度的方式持續膨脹，同時國產算力的崛起更讓異構管理從選項變成必答題。AI Infra 下一階段的演進方向究竟在哪？近期在 InfoQ《極客有約》與 AICon 直播欄目中，華為 AI 開源生態總監黃之鵬擔任主持人，與 Inferact vLLM committer 莫梓峰、範式智能（第四範式）系統研發專家楊守仁，在 AICon 全球人工智能開發與應用大會深圳站前夕，深入探討 AI 基礎設施如何從「可用」走向「高效可規模化」的關鍵路徑。

幾位專家一致認為，當前模型架構的創新迭代速度已經明顯領先於底層工具鏈的支援能力。過去，AI 工程師習慣依賴成熟的框架與套件來管理訓練與推理流程，但現在模型規模與複雜度急遽升高，傳統的 Infra 工具往往難以跟上，導致開發與部署環節出現效率瓶頸。這種落差促使業界重新思考基礎設施的設計哲學：不再只是被動地支撐模型運行，而是必須主動適應更異質、更動態的運算需求。國產算力的崛起進一步加劇了這種轉變。

過去業界大多依賴少數幾家國際晶片廠商提供的統一平台，異構管理的需求並不迫切；如今多元化的算力生態成為常態，不同廠商的加速卡、晶片架構、記憶體模型各有差異，系統必須具備高度的適應能力才能充分發揮每種硬體的潛力。楊守仁指出，異構管理不再是可選項，而是每個 AI Infra 團隊必須面對的核心挑戰。如何在多種算力之間動態調度、平衡效能與成本，已成為決定大規模 AI 應用落地成敗的關鍵。在模型本身的發展方向上，專家們觀察到一個有趣的現象：雖然大型語言模型已經能夠生成流暢的文本、推理邏輯、甚至撰寫程式碼，但它們仍然缺乏真正的「時間概念」。

莫梓峰以龍蝦（Lobster）、Hermes 等開源 Agent 專案為例解釋，這些專案本質上是把 CPU 的時鐘週期借過來，讓 Agent 擁有一個模擬的時間維度，以便進行排程、等待、記憶老化等操作；但大模型本身仍然沒有內建的時間意識，無法自主感知時間流逝或管理長期任務。這意味著當前的 Agent 系統需要仰賴外部基礎設施來補足時間相關的邏輯，而這正是 Infra 可以發揮作用的領域。談到軟體工程領域常見的「屎山」現象——隨著專案規模擴大，程式碼逐漸變得難以維護、耦合度高、修改風險大——楊守仁與莫梓峰都認為，模型能力的增強可能帶來根本性的反轉。

過去軟體開發總是越做越複雜，累積的技術債幾乎無法完全清除；但現在大模型能夠協助重構、補齊測試、自動產生文件，甚至直接根據高層意圖生成可執行的程式碼，使得軟體不一定越做越麻煩。換句話說，模型正在從「加劇屎山」的角色轉變為「清理屎山」的工具。這樣的趨勢也直接影響 Infra 團隊的定位。莫梓峰提出一個大膽的觀點：程式碼本身可能不再那麼值錢了，因為模型的生成能力越來越成熟。

未來做基礎設施的工程師，很可能需要站在一個更高階的 SRE（站點可靠性工程師）角度思考——不是去手動編寫每一條排程規則或監控腳本，而是定義好服務等級協議（SLA）、服務等級目標（SLO）、成本預算這些高層次指標，然後把具體的執行細節交給模型去處理。那樣一來，Infra 團隊的工作負擔反而可能會減輕，因為更多的自動化與智能調度將由 AI 自主完成。黃之鵬在總結時強調，AI Infra 的演進並非單純的效能競賽，而是要在異構硬體、動態模型需求、成本控管與營運簡化之間找到平衡。隨著模型越來越強，基礎設施不再只是「被動的底層支援」，而是逐漸成為能夠自主適應、甚至主動優化的智慧層。

這個趨勢在 AICon 大會上將有更多來自業界一線的實踐分享與技術討論。整體而言，這場對談揭示了一個關鍵轉折：當模型本身的能力不斷突破，AI Infra 的設計思維也必須跟著進化。從硬體異構管理、時間感知的 Agent 架構，到軟體工程的自動化與智能 SRE，每一個面向都在指向同一個結論——基礎設施正在被 AI 本身所重塑，而人類工程師的角色也將從「寫程式」逐步轉向「定義目標與邊界條件」。這不僅是技術層面的演變，更代表整個 AI 開發生態系的深層次重構。