微軟叫停Tokenmaxxing！預算卡死，超限自負

微軟內部近期傳出最新動態，這家長期投入人工智慧與大規模語言模型的科技巨頭，如今也開始對AI基礎設施的運算成本祭出嚴格管控。根據量子位取得的內部郵件顯示，從今年7月起，微軟已經為各業務部門設立了明確的「AI Token預算目標」，換句話說，每個部門能夠使用的模型推論運算量（以Token計）都受到上限約束，一旦超出預算，相關費用必須由部門自行承擔。這項政策被內部解讀為「預算卡死、超限自負」，等同於全面叫停過去各團隊無限制追求Token消耗量的「Tokenmaxxing」文化。 所謂Tokenmaxxing，指的是在AI應用開發與內部測試過程中，團隊為了追求模型回應品質、嘗試更多情境或進行大量A/B測試，往往不加節制地使用模型推論，導致Token用量持續膨脹。過去微軟內部對於這類行為並無明確的財務約束，但隨著生成式AI服務的普及，以及背後運算成本與電力消耗的快速攀升，高層終於意識到必須建立一套可量化的成本管理機制。 微軟執行副總裁Jay Parikh也在內部會議與信件中明確表態，直言「Tokenmaxxing不是我們優化的目標」。這番話等於直接否定過去那種「只要效果好、Token用多少都無所謂」的思維，轉而強調資源效率與成本控制的重要性。據了解，Jay Parikh在內部溝通中指出，微軟必須在提供強大AI能力的同時，確保每一分錢的投入都能產生對應的商業價值，而不是讓各部門毫無節制地消耗運算資源。 這項政策變化在業界引發不少討論。有評論認為，微軟此舉顯示即使是資金雄厚、與OpenAI深度合作的雲端巨頭，也無法忽視大型語言模型所帶來的巨額營運成本。過去一段時間，微軟將GPT系列模型整合進Office 365、Azure雲端服務、Bing搜尋引擎乃至Windows作業系統，內部研發團隊與外部客戶對AI功能的依賴度持續攀升，Token用量也隨之暴增。若不加以管控，這筆開銷將會侵蝕雲端服務的利潤，甚至影響整體財報表現。 值得注意的是，微軟內部目前預設使用的模型版本為GPT-5.6，這款模型據稱在效能與成本之間取得了一定平衡，但即便如此，大量的推論請求仍然會讓帳單快速膨脹。因此，設定Token預算目標成為微軟當前階段最直接的應對手段。未來各部門在規劃AI功能時，必須先評估Token消耗量，並將其納入年度預算編列，而非像過去那樣可以無上限地向後端模型發送請求。 對於這項新政策，部分員工與技術團隊難免感到壓力。過去習慣於大量使用模型進行原型開發或快速迭代的工程師，現在必須重新思考如何以更少的Token完成同樣的任務，例如透過更精簡的提示詞設計、更有效的快取機制，或是選擇特定場景下較小型的模型來替代通用大模型。這些調整雖然可能影響開發速度，但長期來看有助於提升整體資源運用效率。 另一方面，市場上也出現調侃的聲音，認為微軟既然要節省Token成本，不如直接採用來自東方的神秘力量——例如DeepSeek這類開源或低成本的模型。當然，這類建議帶有玩笑成分，但也反映出業界對於AI模型成本結構的關注。微軟與OpenAI的深度合作關係，使其在模型選擇上較難直接轉向第三方替代方案，但內部對於成本效率的檢討，無疑會加速微軟在自研模型與優化推論基礎設施上的投入。 從更宏觀的角度看，微軟這項政策預示著AI產業正從「大膽投入、快速擴張」的階段，逐漸轉向「精細化運營、成本可控」的新常態。過去兩年，各大科技公司為了搶佔生成式AI的市場先機，不惜投入數十億美元購買GPU、建置資料中心、訓練大型模型，但如今隨著競爭加劇與投資人對獲利能力的要求提高，企業開始更審慎地評估每一筆AI支出的回報率。 微軟並非唯一一家採取行動的公司。Google、亞馬遜、Meta等巨頭也紛紛在內部推動類似措施，例如限制模型推論的並發請求量、鼓勵使用蒸餾模型或量化模型，以及建立Token使用儀表板供管理者監控。這股風潮正在重塑整個AI開發的流程：從過去「模型能產生什麼就試什麼」，轉變為「用最少的計算資源達成目標」。 對於外部開發者與企業客戶而言，微軟的Token預算政策也可能間接影響其使用Azure OpenAI服務的體驗。如果微軟內部都開始嚴格控管Token，未來提供給客戶的API定價方案或許也會出現調整，例如推出更細緻的用量分級、鼓勵預付折扣，或是提供更透明的成本分析工具，幫助客戶優化自己的Token消耗。 總而言之，微軟喊停Tokenmaxxing，不僅是內部財務紀律的體現，更象徵著AI發展進入一個新階段：當技術紅利逐漸穩定，誰能更有效率地運用AI，誰就能在下一波競爭中勝出。而對於使用者來說，無論是內部員工還是外部客戶，未來都必須學會在Token預算的框架下，創造出最大的應用價值。