從百美元到數千美元，AI互聯為什麼越賣越貴？

2026年的CIOE中國光博會，人潮如織。社交媒體上甚至有人開出2500元一場的講解費，希望找到業內人士陪同參觀。走進場館後更直觀的感受是，今年光博會幾乎所有與AI相關的環節都在升溫：從光模塊、光器件，到高速互聯和數據中心基礎設施，AI需求正在把原本相對垂直的光通信產業鏈整體推向更高熱度。Astera Labs也出現在今年光博會。這家2017年成立的美國半導體公司，最早從PCIe Retimer切入高速互聯，如今產品已經延伸至銅互聯、光互聯和機架級連接；截至九月，這間公司市值已接近500億美元。“算力需求越高，處理器之間的數據交換就越需要快速傳輸，互聯這套‘神經系統’也必須跟上。

”Astera Labs總裁兼COO Sanjay Gajendra對表示。這股熱度背後，是AI基礎設施規模持續擴張帶來的互聯壓力。當GPU從幾顆擴展到幾十顆甚至成百上千顆，處理器之間的數據傳輸效率，開始直接影響整套基礎設施的性能。銅光之爭，最後要算Token成本為什麼早在2017年，大語言模型尚未得到廣泛應用時，Astera就開始押注互聯方向？“我們當時判斷，那些為上一代處理器設計的連接架構，在單臺服務器擁有10個乃至今天數十個處理單元時，將無法繼續支撐系統需求。”Gajendra說。

當時常規服務器通常圍繞1至2顆CPU設計，存儲、網絡等設備更多作為外圍I/O存在；但隨著CPU、GPU、SmartNIC等越來越多處理器開始同時進入服務器，系統內部需要交換的數據量迅速上升。“就像一臺機器裡有了很多個‘大腦’，原本圍繞少量處理器設計的互聯架構，已經難以繼續支撐它們之間的數據交換。”Gajendra解釋。來到2026年，這一問題隨著AI的發展進一步放大。Gajendra將今天互聯架構面臨的挑戰概括為三個變量：速率、規模和功耗。

Astera Labs成立前後，PCIe單通道速率還處在8 GT/s級別，如今已經提升到64 GT/s；AI系統也從早期4至8顆GPU，向數十、上百及更大規模擴展。“為了跟上當前AI部署的步伐，數據傳輸速度每年都在翻倍。”Gajendra說。規模擴張帶來的同時，通信延遲必須儘可能低，同時還要維持內存一致性和處理器之間的同步；系統規模擴大後，互聯本身的功耗也產生了約束。這種擴展帶來的壓力，已經對銅光邊界帶來了改變，打破了短距離更多使用銅、長距離轉向光互聯的慣性思維，距離已經不再是決定使用光還是銅的主要變量。

Gajendra認為，決定機架內部何時進一步從銅轉向光，最核心的兩個變量是傳輸速率和GPU規模。對於200G/lane級別的連接，銅互聯依然可以勝任；進一步走向400G/lane之後，光將更多進入機架內部，GPU數量增加帶來的連接密度和散熱壓力，將進一步影響客戶選擇銅互連還是光互聯。除了以上兩點，讓銅光邊界變得更復雜的，還有成本。所有廠商最終都要算一筆賬：不同連接方式，對應的整套系統Token成本究竟是多少。光博會現場，Astera Labs的工程師告訴，下一代AI系統中，銅和光不會簡單形成替代關係。

大量短距離連接仍然適合使用成本更低、技術更成熟的銅；而當系統擴大到數千張GPU、跨越多個機架時，衡量連接方案的指標會進一步變成整套系統的單位Token成本。工程師進一步提到，以英偉達NVL72的72-GPU scale-up域為參照，當計算需求繼續擴大後，更大的scale-up域可能減少數據頻繁經過scale-out網絡。後者通常還需要經過網卡、以太網或InfiniBand交換機等多個子系統，引入額外延遲和系統複雜度。藉助光互聯擴大scale-up規模，因此可能進一步優化單位Token成本。

在具體技術路徑上，Gajendra判斷，NPO（近封裝光學）將在2027年前後開始進入scale-up部署；CPO（共封裝光學）目前雖然已有小規模應用，但在scale-up域的更大規模的部署可能要到2029至2030年以後。從這個角度看，AI互聯面對的問題已經不只是“數據怎麼傳得更快”，而是如何用不同的連接方式組織越來越多GPU，並讓整套系統以更低成本輸出更多Token。（關於scale-up域互聯的更多信息，歡迎添加作者微信treelog10交流，互相學習）資本開支趨穩，價值量繼續上移過去兩年，AI基礎設施最直接的增長邏輯，是超大規模雲廠商持續提高資本開支。

但很顯然，這種投入不可能永遠維持相同增速。當被問及未來一兩年頭部雲廠商放緩AI數據中心建設，是否會影響Astera Labs這樣的連接廠商時，Gajendra沒有否認這種可能。他認為，AI目前仍處於基礎設施集中建設階段，僅美國超大規模雲廠商已經公開承諾了超過1萬億美元的數據中心投資；但隨著大規模建設逐漸完成，資本開支在未來幾年終究會趨於穩定。市場對這一增速能維持多久也越來越敏感。據公開信息，微軟、Alphabet、亞馬遜、Meta和Oracle五家AI超大規模廠商2026年的資本開支合計約7950億美元，2027年將接近1.08萬億美元，市場在密切關注這輪支出是否會出現放緩跡象。

對Astera而言，答案並不只是等待雲廠商繼續擴建更多數據中心，而是提高自己在每顆加速器周圍能夠獲得的價值量。Gajendra給出了一組直觀的數字：早期只有Aries PCIe Retimer時，Astera每顆加速器對應的產品價值量不到100美元；後來加入交換芯片和內存產品，這一數字上升到數百美元；到了scale-up交換階段，每顆加速器對應的價值量已經達到數千美元。顯然，scale-up是Astera正在加碼的方向。Gajendra透露，公司原本預計Scorpio系列要到今年第四季度才會成為收入規模最大的產品線，但這一節點已經提前至第三季度。

除了提高單顆加速器對應的產品價值量，Gajendra還把推理市場視為另一個增長來源。他認為，訓練和推理雖然對互聯都有高帶寬、低延遲和低功耗的共同要求，但兩類工作負載的側重點並不完全相同。訓練更依賴計算能力，推理則相對更看重內存和低延遲。與訓練主要集中在大型數據中心不同，Gajendra認為推理市場的參與者和系統形態會更加分散。“尤其是在推理市場，會有更多客戶進入。這是一個非常分散的市場，會有很多參與者、很多系統。”Gajendra說。未來的連接需求，未必只取決於少數頭部雲廠商繼續建設多少超大規模訓練集群。隨著AI從訓練進入大規模推理，連接需求可能進一步擴展到更多不同規模、不同部署形態的系統。

當客戶的規模和部署形態進一步增加，連接廠商面對的也不再是一套相對統一的需求。不同市場、不同類型客戶對標準化程度、產品迭代速度和系統定製的要求正在逐漸拉開。這種差異，在中美兩類AI基礎設施市場中表現得尤其明顯。系統越定製，連接方案越分化隨著推理市場進一步分散，連接廠商面對的客戶也會越來越多樣。相比北美，中國AI基礎設施市場已經呈現出明顯不同的客戶結構。

Gajendra表示，北美市場目前主要由亞馬遜、微軟、Google和Meta四家超大規模雲廠商主導，同時還有OpenAI、Anthropic等AI實驗室；而在中國，除了字節跳動、阿里等大型互聯網公司之外，還有大量不同規模的創業公司參與AI基礎設施建設。“如果一定要總結一個區別，中國市場機會推進的速度非常快。”Gajendra說。相比北美，中國市場參與者更多，客戶覆蓋的應用場景也更加廣泛，對供應商的響應和產品落地速度要求更高。Astera工程師也向提到，美國大型客戶通常更強調標準化、供應鏈複用以及不同代際產品之間的兼容性；相比之下，中國客戶更願意嘗試不同的技術方案，也更加看重產品能否快速落地。

雖然客戶內部的系統會越來越定製，但外部連接接口仍會保持標準化。“定製化會越來越多，這一趨勢還會繼續，但大家仍然會盡量採用開放標準。外部連接和接口會保持標準化，而處理器內部架構則會根據不同工作負載和性能指標進行定製。”Gajendra說。他以字節跳動和阿里為例：字節的基礎設施更多服務自身業務，而阿里既需要支撐內部應用，也需要向外部客戶提供雲服務，因此兩類公司的處理器和服務器設計不會完全相同。AI系統內部越來越定製，系統之間的連接接口反而更需要標準化。對於連接廠商而言，需要適配的已經不是一套統一的服務器架構，而是越來越多樣的處理器、工作負載和部署形態。

從銅光選擇，到scale-up擴展，再到不同客戶對定製化和標準化的不同要求，連接正在從一個相對獨立的配套環節，變成AI基礎設施設計的一部分。當連接方式開始同時影響GPU規模、系統延遲和Token成本時，它的價值也不再只是“把數據傳過去”，而是決定更多算力能否真正轉化成可用的系統性能。