國產算力最大的短板，被一座Token工廠補上了？

近年來，人工智慧基礎設施的討論焦點始終圍繞著一個單位——「P」，也就是算力規模。無論是企業對外宣稱的算力總量、地方政府規畫的智算中心，還是大模型公司採購GPU的數量，幾乎都以P為衡量標竿。然而，隨著AI應用從模型訓練走向Agent落地，這套以硬體數量為核心的評價體系正在發生根本性轉變。業界開始意識到，單純堆疊晶片數量並不能直接反映實際的服務能力，真正的關鍵在於單位時間內能產出多少Token——也就是AI模型運算過程中的基本單位。 在這樣的背景下，一座名為「Token工廠」的新型基礎設施開始浮上檯面。這並非傳統意義上的晶圓廠或封裝廠，而是由商湯科技打造的「大裝置」——一個試圖將不同品牌、不同代際的晶片整合成統一運算資源池，並以Token為計量單位輸出服務的算力平台。這項嘗試的直接目標，是補上國產算力長期以來最明顯的短板：缺乏一套能夠靈活調度異構晶片、並持續穩定盈利的運算體系。 過去，中國AI產業在算力層面高度依賴國外高端GPU，但隨著出口管制與供應鏈不確定性增加，國產晶片的替代需求越發迫切。然而，不同廠商的晶片在架構、驅動程式、軟體堆疊上存在巨大差異，若只是簡單拼湊，不僅效率低落，還可能導致資源浪費。商湯大裝置的構想，正是要透過軟體層的抽象與排程，把這些零散的晶片組織成一個協同工作的運算集群，讓每一塊晶片都能發揮最大效益，並根據實際任務動態分配算力，最終以Token的形式向客戶計費。 IDC發布的數據正好說明了這個轉向的迫切性。2025年1月，中國企業級MaaS（Model as a Service）市場的日均Token消耗量大約為1.6萬億；到了2026年，全年Token消耗量預計將達到40000萬億，約為2025年的20倍，換算成日均接近110萬億。這樣的爆發式增長背後，主要推動力來自兩個方向：一是多模態模型逐漸走向成熟，能夠同時處理文字、圖像、語音等多種輸入，所需的運算量遠超過純文字模型；二是Agent應用開始規模化落地，從自動客服、程式碼生成到複雜決策支援，這些場景都需要即時、大量的Token生成能力。 Token消耗量的急劇攀升，意味著傳統以P為單位衡量算力的方式已經無法真實反映市場需求。一座擁有1000P算力的智算中心，如果實際Token產出率低下，或者無法支援異構混訓，那麼它的有效服務能力可能遠不如一座規模較小但調度優化良好的Token工廠。換句話說，算力的「質量」與「效率」正在取代「總量」成為新的競爭焦點。 商湯大裝置的技術路線，正是圍繞這個邏輯展開。它不僅要解決硬體異構的問題，還需要打造一套完善的Token化計費與調度系統。這套系統必須能夠即時監控每張GPU、每塊NPU的運算狀態，並根據模型推理的複雜度、請求的優先級、用戶的服務等級協議（SLA）等條件，動態分配算力資源。最終，客戶不需要關心自己使用的是哪一家晶片、哪一個型號，只需要按Token消耗量付費即可。 這種模式的好處顯而易見：一方面，它大幅降低了企業使用AI算力的門檻，讓中小型公司也能按需取用頂尖運算能力；另一方面，它為國產晶片創造了一個更公平的競爭環境——只要晶片能在Token工廠中穩定貢獻算力，就能獲得商業收入，而不需要孤軍奮戰去爭取單獨的採購訂單。對於晶片設計廠商來說，這也意味著它們可以更專注於硬體架構的優化，而不必耗費大量資源去自建完整的軟體生態。 當然，Token工廠的商業可行性仍面臨不少挑戰。如何確保異構晶片之間的協同效率不低於同構集群？如何處理晶片故障與熱遷移？如何在保證低延遲的同時最大化吞吐量？這些都是需要持續迭代的工程難題。此外，Token的定價機制也需要市場逐步驗證——如果計費方式不夠透明或波動過大，反而可能讓客戶卻步。 值得注意的是，Token工廠的概念並非商湯獨有，多家雲端服務商與獨立算力運營商也在探索類似方向。但商湯憑藉其在大模型訓練與推理領域的長期積累，以及對多種晶片架構的適配經驗，在這一賽道上佔據了先發優勢。業內人士分析，如果Token工廠能夠成功規模化，不僅能補上國產算力在軟體調度層面的短板，還可能重塑整個AI基礎設施的商業模式，讓算力真正成為一種像水電一樣按需使用的公共服務。 從更宏觀的視角來看，Token消耗量的持續增長，也反映出中國AI產業正從「模型競賽」進入「應用落地」的關鍵階段。過去兩年，各大廠商忙於發布參數規模更大的模型，但真正的商業價值必須來自於實際使用。Agent應用的普及，讓Token從實驗室裡的測試指標變成了真實的營收來源。而一座能夠穩定輸出高品質Token的工廠，正是連接模型能力與終端應用之間最關鍵的橋樑。 回到開頭的問題：國產算力最大的短板，是否真的被一座Token工廠補上了？答案或許還需要時間來驗證，但至少從技術路線與市場需求來看，這個方向已經獲得了越來越多的共識。當硬體的限制無法在短期內突破，軟體層的創新就成為突圍的關鍵。商湯大裝置的實踐，或許正為中國AI算力產業提供一條可行的解方——不是去追求更多的P，而是讓每一塊晶片都能產出更多的Token。