商湯大裝置首提TPW，重新定義AI基礎設施效能標尺

商湯科技近日首次提出一項名為「TPW」（Token Per Watt）的全新指標，試圖為AI基礎設施的效能評估建立一套更符合時代需求的新標尺。在Token經濟時代，如何用有限的能源與成本產出更多Token，已成為AI基礎設施必須面對的核心課題。隨著Token消耗量呈現指數級增長，算力需求持續攀升，也帶動AI資料中心（AIDC）用電量在整體社會用電結構中的佔比快速上升，能源效率因此成為決定競爭力的關鍵因素。過去，行業對AI資料中心的關注焦點往往集中在「誰擁有更多算力」，但如今焦點已開始轉向「誰能以更低成本、更高效率生產更多高質量Token」。

商湯此次提出的TPW概念，正是回應這一趨勢，將能源消耗與Token產出直接掛鉤，強調在單位電力下所能生成的Token數量，作為衡量AI基礎設施真實效能的指標。這不僅是技術層面的重新定義，也反映出AI產業從單純追求算力規模，轉向更重視資源利用效率與永續發展的思維轉變。Token是AI模型處理資訊的基本單位，從文本生成、程式碼輔助，到圖像辨識與多模態理解，每一次AI運算都涉及大量Token的生成與消耗。近年來，隨著大型語言模型與生成式AI的快速普及，Token消耗量呈現爆炸性成長，這對底層算力與能源供應提出前所未有的挑戰。

傳統上，評估AI基礎設施效能多以算力（如FLOPS）或模型參數量為核心指標，但這些指標並未直接反映能源消耗與實際產出之間的關係。在當前全球關注碳中和與永續發展的背景下，單純追求算力規模已難以滿足效率與成本的要求。TPW的提出，正是將焦點從「算力大小」轉移到「能源效率」，讓業界能夠更直觀地比較不同基礎設施在相同電力成本下能產出多少Token，進而引導資源往更高效的方向配置。對於AI資料中心運營商而言，電力成本往往是營運開支的最大宗，如果能以更少的電力產出更多的Token，就能顯著降低單位成本，提升競爭力。而對於終端用戶，這也意味著在相同預算下能獲得更多、更優質的AI服務。

商湯科技作為領先的AI平台公司，長期深耕AI基礎設施建設，其大裝置平台已為眾多企業提供算力服務。此次提出TPW，不僅是技術創新，更展現了對行業標準的引領企圖。透過這個指標，商湯希望推動整個AI產業更加重視能源效率，促進綠色AI的發展。同時，TPW也能幫助客戶更精準地評估投資回報，因為在實際運營中，單位電力下的Token產出直接關聯到服務成本與定價能力。從產業趨勢來看，全球AI資料中心的用電量正在快速攀升，各國政府與企業都開始關注資料中心的能源消耗與環境影響。在這樣的背景下，一個能夠同時衡量產出與效率的指標，無疑具有重要的參考價值。

TPW的出現，讓業界不再僅比拼算力規模，而是更關注如何以更少的能源與成本創造更多的價值。這不僅是技術進步的體現，更是AI產業邁向成熟與永續的關鍵一步。值得注意的是，TPW作為一個新提出的指標，未來還需要業界共同驗證與完善。例如，Token的品質與類型如何納入評估，不同模型與應用場景下Token生成效率的差異，都是需要持續探討的課題。但可以確定的是，商湯此舉為行業樹立了一個新的思考方向，促使更多參與者從能源效率的角度重新審視AI基礎設施的設計與運營。在實際應用層面，TPW的導入將有助於AI資料中心進行更精細化的能效管理。

透過監控單位電力下的Token產出，運營團隊可以即時調整硬體配置、冷卻系統與工作負載排程，以達到最佳效率。這也將間接推動硬體廠商開發更節能的AI晶片與伺服器，形成良性循環。長期來看，TPW有望成為類似於資料中心PUE（電力使用效率）的關鍵指標，但更聚焦於AI運算的實際產出。商湯科技此次提出的TPW，不僅是技術層面的創新，更是對AI基礎設施評估標準的重新定義。隨著Token經濟時代的來臨，如何以有限的能源與成本產出更多Token，已經成為所有AI從業者必須面對的核心課題。商湯透過這個新指標，向市場傳遞了一個明確的信號：未來的競爭將不再是單純的算力軍備競賽，而是效率與永續性的綜合較量。

這也為整個AI產業的發展方向提供了新的啟示。