Token賬單迷霧：當每百萬Token多少錢變成「比價陷阱」

# Token帳單迷霧：當每百萬Token多少錢變成「比價陷阱」

一家傳統企業的財務總監第一次拿到Token帳單時，通常只有兩個感受：一是怎麼這麼貴，二是怎麼算出來的。第一個問題可以透過預算來回答；第二個問題，則要複雜得多。帳單上的算法，不同廠商各有版本，但剝開來看，核心邏輯都長得很像——不過是「單價乘以用量」的某種變體。變化就發生在這個乘法裡。 2024年初，中國日均Token調用量是1000億。到2026年3月，這個數字突破了140萬億——兩年內成長超過1000倍。Token不再只是工程師終端裡一行灰色的日誌，它正在映入預算表、損益表和季度財報。AI支出也從「研發預算」變成了「運營成本」，而且後者還在以季度為單位陡增。 Token的出現，第一次讓模型生成能力被壓縮成一個可計量、可交易、可結算的單位。AI產業的商業模式也正在隨之改變。過去，企業採購的是GPU、算力卡，後來購買的是GPU小時、API調用；如今，越來越多廠商開始直接按Token計費、按Token結算。你不再需要知道底層跑的是哪款GPU、花了多少機時，只需要關心最終產出了多少Token。這像極了電力時代的「度」——把複雜的發電、輸電和配電過程，壓縮成一個所有人都能理解的計量單位。 但計量單位統一之後，一個隱秘的裂縫也隨之裂開：單位統一了，算法卻沒有統一。表面上看，帳單只有兩個變量：價格和用量。但這兩個數字都不是常量，模型怎麼定價、緩存命中有沒有折扣、長思考模式會不會額外消耗Token，甚至數據中心建在哪個省份，都在左右最終的數字。看似清晰的一道乘法，實則是一張誰都讀不透的網。 為什麼同樣是Token，價格差距卻越來越大？大模型API的價格戰，讓Token的單價看起來前所未有的透明，但恰恰是這種「一分錢一分貨」的明碼標價，將真正的成本結構藏進了黑箱。同一個數字背後，可能是技術效率的極致兌現，也可能是資本補貼的飲鴆止渴。 從事芯片行業的吳昊把這種成本的不可比，歸結為三個互相糾纏的變量：設備成本、運營成本、合同週期。設備端的差異，從採購那一刻就已經寫進了初始成本——GPU的型號、採購量大小、是否搭售軟件、配沒配外部存儲方案，每一項都會以不同方式影響最初的成本分攤。吳昊描述，前一段時間行業的主流趨勢是大家都在拼算力峰值，比誰的卡算力值最高。廠商在宣傳時強調單卡有多強，實際銷售時頂尖卡卻幾乎不單獨租賃，都是以集群為單位出貨。一台B300整機36P算力，一個集群至少32台，加起來就是千P級別。「全國能租得起這種集群的客戶，可能也就幾十個，大量中小客戶根本用不起來。」吳昊指出。而這些無法被充分利用的頂級算力，最終會以某種方式，攤進每一個Token的定價裡。 運營端的變量同樣複雜，而且拉開了一個更隱蔽的差距。電價是其中最直觀的一條線。吳昊提到，西北部分地區電價能做到兩三毛，靠的是新能源補貼和體外循環資金補貼維持運營；東部地區則普遍在6毛以上，甚至到7、8毛。兩三毛和六七毛——兩個價格區間，整整差出三倍，而大量算力中心正是依賴著這種補貼維持整體運營。吳昊坦言，這種現象在當前行業裡佔了多數。也就是說，今天市場上看到的不少「低價Token」，未必是效率提升的結果，而是一場仍在持續的補貼戰爭的產物。一旦補貼退場，帳單會反彈多少，仍是一個未知數。 如果說吳昊的帳本算的是「過去的投入」，太初元碁首席產品官洪源則把視線投向了「未來的帳單」。「當行業真正進入Token經濟時代，最重要的衡量指標可能會從單純的算力速度，轉向能源轉化效率——每瓦電能能夠產生多少Token。單純關注每秒生成Token數而不考量能耗，在長期運營中存在顯著侷限。」洪源認為，單卡的算力值或每秒生成Token數，從來不能反映真實的產出能力。生成Token是一整套系統工程：從單張卡到服務器，再到服務器之間的互聯，涉及顯存帶寬、互聯帶寬、液冷系統、軟硬件協同，最終才體現為集群每秒生成的Token數。不同公司這套切分技術的精細程度，直接決定了同樣標價的一個Token，背後真實佔用的算力含量。 在設備、電價之外，合同週期是第三個變量，而且Token經濟正在把它推入一種全新的複雜度。從簽約年限到計費顆粒度，規則都在變：算力正在從整租變成散租。吳昊打了個比方：過去一個算力集群可能只服務一兩個大客戶，沒什麼運營問題，但Token讓算力變成了可以按需切割的商品——不必整租一台機器，甚至可以像交電費一樣，按Token消耗量結算。「以後會變成像寫字樓那樣，從整租變成散租。每個客戶的裝修要求不同，檔期不同，空置率也不同。恰恰是這種變化，倒逼著真正的運營能力要做起來。」1年和5年的長期鎖定合同，與按Token量結算的散租模式，背後是兩套完全不同的運營邏輯和成本結構。而一個Token的價格，始終是模型推理背後一整套基礎設施效率的最終體現，它涵蓋算力、能源、政策激勵與商業契約的每一層博弈。 為什麼「每百萬Token多少錢」不能直接比較？如果說成本的算法是「各家算各家的帳」，那標價的算法就更進了一步——它挑戰的是一個更基礎的前提：Token的計費規則，本身就沒有統一的標準。雲天勵飛副總裁羅憶提到，目前主流模型已將輸入和輸出拆分為兩個階段分別計價，兩個階段的計算成本完全不同：Prefill（預填充）一次性並行處理全部輸入，而Decode（解碼）需逐字串行生成，每多生成一個Token就多走一遍計算，因此輸出Token的單價普遍比輸入Token貴。超長上下文會顯著推高Prefill階段的開銷，長思考模式則讓Decode部分「先打草稿再正式回答」，內部思考的Token消耗可達上萬，整體開銷接近翻倍。 此外，緩存機制還進一步拉大了實際計費的差距。如果本次請求的前綴內容與之前相同，平台可直接複用之前保存的中間結果，跳過重複的Prefill計算，緩存命中與緩存未命中之間的價格差距可達上百倍。大廠憑藉更高的緩存命中率能有效降低用戶的重複計費，而一些廠商緩存機制不完善，用戶可能在毫不知情的情況下因緩存反覆失效而重複付費。 另一個同樣隱蔽的變量來自分詞器。不同模型對同一段文本的切分方式不同——GPT系列用BPE，Claude用BPE變體，Llama和DeepSeek用SentencePiece，各家的詞表大小、中文覆蓋度、子詞策略都不一樣，這就導致同樣是100萬Token，承載的信息量在不同模型之間可以差出不少。當計費口徑本身就不統一，「每百萬Token X元」的比價，比的可能就不是同一把尺子。 從整個行業的角度看，價格的離散程度更讓人意外。以輸出價格為例，OpenAI GPT-5.5的高性能版本每百萬Token可以要到上百美元，Anthropic Claude Opus 4.8標準模式也要二三十美元，而國內廠商普遍只有個位數人民幣——DeepSeek最新版本輸出價格不過6元。為什麼價格差距這麼大？羅憶坦言，當前Token定價體系尚處混沌期，不同模型、不同服務等級下，百萬Token的標價千差萬別，甚至不乏「掛羊頭賣狗肉」的虛標亂象。現在的定價就好比賣牛肉——不同部位、不同品質對應不同價格，但最終仍以重量作為基本的計量單位。邁富時CFO馬進則把它比作護膚品市場，「消費者可以根據需求選擇高端品牌還是中端品牌」。兩個比喻指向同一個結論：Token不是一個均質商品，不同模型能力、不同服務等級產出的Token，質量天然不同。 九章雲極把這種分層描述得更結構化：未來的Token市場會形成「金字塔」——底層是海量、廉價的基礎能力Token，中層是高可靠、特定場景優化的Token，頂層是極致性能、定製化的Token，三層Token背後的算力消耗和質量差異極大。所有這些說法，最終都指向同一個事實：儘管Token頂著「統一計量單位」之名，背後的分詞規則、計費口徑、質量等級，卻可能各不相同。度量衡的意義，本應是放之四海而皆準，一公斤在哪裡稱都是一公斤。但當下的Token，看起來是一個統一計價的基礎單位，實際上更像是每家公司自己定義、自己解釋、外部無法驗證的內部貨幣。所謂標準化，標準的只是這個名字，而不是它的質量與價值。 Token越用越貴，問題不在模型？算力中心在建，模型在跑，Token在燒。但燒掉的那些Token，到底換回了什麼——這個問題，正在成為每家企業IT負責人的日常拷問。要回答它，得往回倒一步。「該買什麼，以及買沒買對」——這是很多企業邁入AI採購時遇到的第一道門檻。吳昊提到過一個案例：一家大型供應鏈企業，主營業務是物流調配，數據主要是結構化指令和判斷數據，但對於「用誰的模型最合適，他不清楚；該規劃多少Token用量才合理，他也不知道。」許多公司在尚未明確自身需求時，習慣將行業頭部作為參照，卻常陷入錯位。頭部企業提出的需求類型、設備選型與部署規模，極易被同行直接照搬為標杆，而兩者在業務複雜度、數據體量與預算層級上往往相差懸殊——前者或許需要高性能算力集群支撐核心業務，後者可能僅需一個小參數模型即可勝任。照搬，性價比極低。 更大的挑戰在於，這種認知短板不只存在於需求方一側。一些過去只做英偉達產品的算力運營商，如今也在積極聯繫國產廠商進行測試——他們自己也需要先熟悉不同硬件的特性，才能形成有效的對比判斷。當供給端和需求端都在同步補課，「懂行」本身就成了一個相對的、暫時的狀態——而買家的第一筆帳，往往是在這種狀態下算出來的。 採購只是第一步，當Token真正燒起來之後，數字的漲法往往超出預期。以搭建一個股票分析工作流程為例，前期調試消耗上千萬Token，流程跑通後，每次運行再耗百萬Token；一旦從單隻股票擴展到批量分析，日總消耗立即驟增百倍。Agent的調用邏輯不是線性的——它會反覆迭代、自我對話、調用上下文。單次調試的成本看似可控，一旦規模化，消耗量就會以超出預期的方式膨脹，而大多數買家在做預算測算時，對這個拐點幾乎沒有感知。 規模化放大的，不只是消耗量本身，還有設計優劣之間的成本差距。共績科技聯合創始人黃力昂發現，使用Token有高手和普通人之分，兩者的差距遠比想像中大。而且，很多高效使用Token的知識和技巧目前還只存在於團隊和個人的腦子裡，沒有被固化到應用裡。這種差距具體從哪來？Meta程序員程子的經驗是，好的設計者從不放任Agent無限思考。真正高效的商業做法，是把Agent的行為框進「有限循環」裡——拆步驟、定邊界、限迭代。「會寫提示詞、會利用AI去設計Agent架構和優化交互流程的人，與從沒深入做過這件事的人相比，他們之間產生的經濟效益區別是巨大的。」程子說。好的設計能把Token變成智慧，差的設計只能把Token變成成本。 Meta和亞馬遜很早就撞上了這堵牆，兩家公司一度把Token消耗量作為KPI考核指標，後來又叫停了。程子透露，原因是「有點矯枉過正」，擔心員工「無條件地刷Token」。但他也承認，公司內部仍在關注這個數字——因為Token消耗量和工作狀態之間存在明顯的相關性，當一個人一段時間內不那麼忙，消耗量確實會明顯下降。換句話說，企業曾試圖用最粗暴的指標——「消耗量」，去衡量那個真正想衡量卻衡量不了的東西：「價值」。 邁富時CFO馬進把這個過程描述為一種必然的調整。在他看來，這並非Token作為計量單位的根本缺陷暴露，而是企業考核機制從「推動習慣養成」到「回歸經濟理性」的必然過渡。羅憶也看到了類似的階段分化——只是他的視角從市場切了進去：國內目前仍處於「鼓勵用量」的初期階段，不管用得好不好，先養成使用習慣，抓量不抓質；而頭部大廠已進入下一階段，開始從「用量」轉向「用精」，用更科學的指標來評估有效產出。類似的情況，九章雲極在互聯網早期也見過。「這如同互聯網早期，點擊量和頁面瀏覽量曾是核心指標，但後來大家更關注用戶停留時長、轉化率等有效指標。」Token的競爭，也必然會從「調用量」轉向「有效Token價值」——只是截至目前，這套新的換算關係還沒有成型。 當「燒多少」不能代表「值多少」，Token需要什麼新標尺？野蠻生長，在羅憶看來是這個階段的必然。整個行業的能力邊界還在不斷延伸，遠未觸達上限——技術會催生新的服務形態，服務落到場景裡跑通了，質量體系才會跟著長出來。本質上，是技術在推著標準往前走。羅憶認為，「一開始就過於規範，反而可能阻礙發展。」

而技術端的共識也已經正在冒頭。黃力昂注意到，模型在收斂，訓練範式在趨同——大家對什麼是「好」的默契，比外界想像的要多。這些默契還沒有寫成標準，但它們已經在代碼裡、在架構選擇裡、在工程師的日常判斷裡悄悄生長。但他也提醒，技術不是唯一在發力的力量。這次變革的體量不亞於一次工業革命，不可能只把話語權交給技術，不同文化和社會體制，會把各自的需求刻進Token的基因裡。 馬進從商業端看到的圖景，與技術側的收斂遙相呼應：大模型市場正在逐漸收攏，未來全球能存活的大模型公司會越來越少——市場的無形之手，也在把玩家往同一個方向推。共識在聚攏，但標準還沒來。行業沒有乾等——雲天勵飛聯合三十多家產業鏈企業簽署「1001計劃」，先把各方拉到一張桌子上，以行業共識為起點推動標準制定。與此同時，各家廠商已經開始用自己的方式給出參照系：九章雲極提出「按度計量」，作為算力端的統一標尺，讓不同芯片、不同集群產出的Token可在同一把算力尺度下可比，Token工廠則在輸出端負責智能的標準化封裝與交付；邁富時區分「大模型Token」與「場景Token」，按詞元消耗與任務效果分別計價，將價值的度量從「消耗端」遷移到「結果端」，全棧Token工廠的溢價權，最終取決於企業智能體能否在具體場景中交付可量化、可持續的業務成果；太初元碁率先發布高密液冷集群，在性能、功耗與建設成本間尋求最優平衡，為Token生產成本劃出參照標尺。 從共識到標準，仍有距離。這條路徑究竟由技術、商業還是更複雜的博弈主導，尚不明朗，但標尺已在打磨，刻度隱約浮現。Token未必會成為AI時代最終的「度電」，但圍繞它所構建的新價值尺度，終將左右下一代AI基礎設施的話語權。