Meta芯片繞開PCIe

Meta 近期揭露其新一代自研晶片 MTIA 300 的細節，其中一項關鍵設計是將網路介面控制器（NIC）以芯粒形式直接整合進封裝內，藉此繞過傳統的 PCIe 介面。這項作法改變了加速器之間資料傳輸的路徑，也讓晶片間通訊不再受限於外部匯流排的頻寬與延遲。Meta 同時公開了 HCCL 通訊框架，能將分散式訓練中的通訊模式編譯成圖形結構，進一步最佳化多晶片協同運算的效率。在實際應用上，Meta 表示這套方案已用於 40 個加速器同時進行模型訓練，通訊時間相較先前設計縮短了 3.9 倍。透過將 NIC 放入封裝，MTIA 300 得以更直接地在晶片層級交換資料，降低傳統 PCIe 路徑帶來的瓶頸。

這項進展顯示 Meta 在自研 AI 硬體上，正從單純加速運算走向更全面的系統層級最佳化，以應對大規模模型訓練時日益吃重的通訊負擔。Meta 的 MTIA 系列晶片一直是其在 AI 基礎設施布局中的核心環節，而 MTIA 300 的出現，則進一步凸顯了該公司在硬體設計上的野心。傳統上，加速器之間的資料交換往往依賴 PCIe 介面，但這條路徑在面對數百甚至數千顆晶片協同運作時，容易成為效能瓶頸。Meta 選擇將 NIC 直接整合進封裝內，等於是把資料傳輸的工作從主機板層級拉到晶片層級，從根本改變了資料流動的方式。這樣的設計並非只是硬體上的調整，背後還牽涉到軟體與通訊框架的全面配合。

Meta 公開的 HCCL 通訊框架，正是為了讓分散式訓練的溝通模式更加智慧化。透過將通訊模式編譯成圖形結構，HCCL 能夠更有效率地安排資料交換的順序與路徑，減少不必要的等待時間，也讓多晶片之間的協同運算更為流暢。這意味著，MTIA 300 的優勢不僅來自硬體本身的突破，更來自軟硬體之間的緊密整合。從實際測試數據來看，這套方案已經展現出相當顯著的效果。Meta 表示，在 40 個加速器同時進行模型訓練的場景下，通訊時間相較於先前設計縮短了 3.9 倍。這個數字背後代表的是，在同樣的訓練任務中，晶片之間等待資料傳輸的時間大幅減少，整體訓練效率因而獲得提升。

對於動輒需要數週甚至數月才能完成訓練的大型模型來說，這樣的改善具有實際的商業意義。值得注意的是，Meta 選擇繞過 PCIe 並非一時的技術偏好，而是基於對大規模 AI 訓練需求的深刻理解。隨著模型參數量持續膨脹，通訊負擔已經成為影響訓練速度的關鍵因素之一。傳統 PCIe 雖然在過去多年來一直是伺服器內部元件連接的主流標準，但在面對 AI 加速器之間高頻率、大量的資料交換時，其頻寬與延遲的限制逐漸浮現。Meta 的作法，某種程度上也是對現有標準的一種挑戰與突破。將 NIC 放入封裝內，等於是讓每一顆 MTIA 300 都具備了直接與其他晶片溝通的管道，而不需要透過外部控制器或匯流排來轉介。

這樣一來，資料傳輸的距離縮短，延遲自然也隨之下降。更重要的是，這種設計讓擴展性變得更加靈活，當系統需要加入更多加速器時，不需要重新設計整個主機板的佈局，而是可以在晶片層級直接擴充通訊能力。Meta 在自研 AI 硬體上的投入，一直以來都受到外界高度關注。從最早的 MTIA 系列推出，到如今 MTIA 300 的亮相，可以看出該公司並非只是想要取代現有的 GPU 解決方案，而是希望打造一個從運算到通訊都完全自主掌控的硬體生態系。這次繞過 PCIe 的設計，正是這種思維的具體展現。當然，這樣的設計也並非沒有挑戰。

將 NIC 整合進封裝內，意味著晶片的設計複雜度大幅提升，散熱、功耗、良率等問題都需要重新考量。此外，由於採用了與主流標準不同的路徑，Meta 在軟體工具鏈與生態系統的建立上，也需要投入更多資源來確保開發者能夠順利使用這套新架構。但從 Meta 的布局來看，這些挑戰顯然是他們願意承擔的成本。HCCL 通訊框架的出現，則為這個新硬體架構提供了關鍵的軟體支撐。傳統上，分散式訓練的通訊模式往往是靜態的，開發者需要手動調整通訊策略來達到最佳效能。而 HCCL 則是將這項工作自動化，透過編譯器將通訊模式轉換成圖形結構，系統可以根據實際的硬體配置與訓練需求，動態調整資料交換的方式。

這不僅降低了開發者的負擔，也讓硬體的潛力得以更充分地發揮。從整體趨勢來看，Meta 這次的突破，反映了 AI 硬體設計正在從單一運算單元的效能競賽，轉向整個系統層級的最佳化。過去，廠商們關注的是晶片的運算速度、記憶體頻寬等單一指標；但如今，在大規模模型訓練的場景下，晶片之間如何有效率地溝通，往往比單顆晶片的運算能力更為關鍵。MTIA 300 的設計，正是為了回應這樣的需求轉變。對於整個產業而言，Meta 的作法也可能帶來一定的示範效應。

雖然並非所有公司都有能力像 Meta 一樣投入大量資源進行自研晶片的開發，但繞過傳統介面、直接在封裝層級解決通訊問題的思路，或許會成為未來 AI 加速器設計的一個重要方向。尤其當模型規模持續擴大，通訊成本所占的比重只會愈來愈高，如何從根本架構上解決這個問題，將是所有 AI 硬體廠商必須面對的課題。Meta 在揭露 MTIA 300 的同時，也等於對外界宣示，他們在 AI 基礎設施的競賽中，不再只是依賴既有供應鏈的解決方案，而是願意從零開始打造更適合自身需求的系統。這種深度整合的策略，短期內或許需要付出較高的開發成本，但長期來看，卻有可能為 Meta 在 AI 領域帶來更強的競爭優勢。

隨著 MTIA 300 逐步投入實際應用，外界也將密切觀察這套新架構在真實訓練任務中的表現。