IT之家生成式AI

奧爾特曼:OpenAI 內部有人每月用掉約 1000 億個詞元

2026年6月4日 10:47
奧爾特曼:OpenAI 內部有人每月用掉約 1000 億個詞元

重點摘要

從六年前月耗十萬詞元到如今月耗千億,OpenAI 的詞元消耗量呈爆炸式增長。公司內部設有消耗排行榜,員工甚至曬圖炫耀,與亞馬遜等嚴控成本的企業形成鮮明對比。奧爾特曼承認成本已成難題,正尋求降本增效。 #AI 成本# #詞元消耗#

站內 AI 整理稿

### 重點整理:OpenAI 內部詞元消耗驚人,奧爾特曼坦言成本壓力

OpenAI 執行長山姆·奧爾特曼(Sam Altman)近日透露,公司內部已出現每月消耗約 1000 億個詞元(Token)的誇張案例,凸顯出 AI 模型運算資源的巨量使用。從六年前每月僅十萬詞元,到如今輕鬆突破千億,詞元消耗量的爆炸式成長,不僅反映 OpenAI 產品與服務的快速擴張,也暴露出背後驚人的營運成本。值得注意的是,OpenAI 內部甚至設有「詞元消耗排行榜」,員工間互相曬出使用量,彷彿將資源消耗視為一種榮譽象徵,與亞馬遜等科技巨頭嚴控成本的企業文化形成強烈對比。奧爾特曼本人也坦承,這已成為公司當前最棘手的難題之一,正積極尋求降本增效的解決方案。

### 背景脈絡:詞元消耗量與 AI 規模法則的連動

詞元是 AI 模型處理文本時的基本單位,無論是訓練模型、推理回答,還是 API 調用,每一次運算都伴隨大量詞元消耗。OpenAI 從 2015 年創立至今,模型規模從 GPT-1 的 1.17 億參數,一路成長到 GPT-4 的兆級參數,加上 ChatGPT、API 服務的廣泛應用,詞元消耗量自然以幾何級數攀升。六年前月耗十萬詞元,可能只是早期實驗室內部的測試用量;如今月耗千億,則代表 OpenAI 已成為全球規模最大的 AI 運算服務提供者之一。內部員工的「炫耀文化」,某種程度上反映出公司內部對技術資源的慷慨態度,這與傳統科技企業如亞馬遜強調「每一分錢都要花在刀口上」的方針截然不同。

### 可能影響:成本壓力將重塑 OpenAI 的營運策略

詞元消耗量的急遽膨脹,最直接的衝擊就是營運成本。每一筆 API 調用背後,都需耗費龐大的 GPU 算力與電力,奧爾特曼坦言這是「難題」,暗示現有的資源配置模式已難以持續。未來 OpenAI 可能採取多項措施:例如推出更高效的模型架構(如 GPT-4o 的精簡版本)、優化推理引擎以降低每詞元成本,或調整 API 定價結構,將高消耗用戶導向更昂貴的方案。另一方面,內部員工的「曬圖文化」也可能面臨調整——若公司開始實施資源配額或使用監控,員工的揮霍行為便需收斂。這對開發者社群而言,意味著未來的 API 使用成本可能更趨區隔化:一般用戶享有平價方案,但大量消耗者將付出更高代價。

### 讀者可關注的後續:降本進度與定價變動

接下來可密切觀察 OpenAI 的官方動態。首先,奧爾特曼是否會在開發者大會或季度報告中,公布具體的降本策略?例如減少推理階段的冗余計算、採用混合專家模型(MoE)技術等。其次,API 價格是否會出現調整?尤其在 ChatGPT 企業版與個人版訂閱之間,如何平衡成本與使用者體驗。另外,內部管理是否會引入「詞元預算」制度,讓員工與研究團隊在資源使用上更有紀律?這類措施若實施,可能影響 OpenAI 的研究效率與創新步調。對一般使用者而言,短期內或許不會感受到直接衝擊,但長期來看,AI 服務的定價與效能將更貼近「用多少付多少」的模式。

### 產業啟示:規模化之後的資源效率課題

OpenAI 的詞元消耗風波,其實是整個 AI 產業發展的縮影。過去幾年,業界信奉「規模法則」(Scaling Laws),認為模型越大、資料越多、表現越好;但這條道路正面臨資源天花板。即使像微軟、Google 擁有雄厚資本,也難以無限制擴充算力。奧爾特曼的坦言,提醒我們 AI 發展必須正視「效率」與「可持續性」——未來勝出的關鍵,不再只是誰能訓練出最大模型,而是誰能用最少的詞元產出最多的價值。這也解釋了為何 OpenAI 近期積極開發小模型(如 GPT-4o mini)與邊緣運算方案。

### 結語:資源管理將成為 AI 企業的新競爭力

從內部排行榜的炫耀,到奧爾特曼的公開承認,OpenAI 正面臨甜蜜又苦惱的成長痛。詞元消耗量的數字,不只是技術指標,更是商業模式的壓力測試。讀者不妨留意未來幾個月 OpenAI 是否推出降本成果,例如更低成本的 API 方案或更聰明的使用限制。這不僅關係到開發者的錢包,也將影響整個 AI 生態系的資源分配邏輯。奧爾特曼能否在「規模」與「成本」之間找到平衡,將是決定 OpenAI 下一階段競爭力的關鍵。

Related

相關文章

鈦媒體生成式AI

Edge AI Daily 早報(6月19日)

AI Engineer World's Fair 2026規模再創新高,標誌AI工程從幕後走向舞臺中央。行業面臨結構性調整:楊立昆警示OpenAI年虧210億美元揭示商業模式脆弱性,Transformer之父轉投OpenAI反映人才爭奪白熱化。Anthropic多線佈局——語音支持七種語言、加入碳清除聯盟、落子首爾辦事處,展現生態擴張野心。監管壓力加劇,意大利依據DMA調查蘋果iCloud,巴西開放iOS側載佣金降至5%,蘋果圍牆花園持續崩塌。

3 小時前
智東西生成式AI

谷歌時隔6年再發智能音箱,Gemini上桌,售價不到700元

智東西 編譯 | 劉煜 編輯 | 陳駿達 智東西6月18日消息,谷歌昨日宣佈,其首款搭載居家版Gemini語音助手的智能音箱(Google Home Speaker)已開啟預售,將於當地時間6月25日正式上市,售價為99.99美元(約合人民幣677.03元)。在此之前,谷歌已有6年沒有推出過獨立智能音箱產品。 谷歌這款智能音箱外觀近似球形,風格類似亞馬遜新一代Echo音箱與蘋果舊款音箱HomePod Mini。 ▲谷歌智能音箱(圖源:谷歌官網) 使用音箱時,用戶只需通過口令“Hey Google”或“OK Google”喚醒Gemini,就可以繼續下達相應指令。這與谷歌舊款音箱、智能顯示屏等喚醒語音助手的方式相同。此外,用戶只要按照日常說話習慣下達命令,Gemini便能理解用戶意圖,相比之前大大提升溝通效率。 一、加強短時對話記憶,會員可與Gemini不限次數對話 谷歌此次推出的全新音箱升級諸多功能。其中,音箱搭載的Gemini語音助手擁有10款全新擬人化語音音色,用戶可以根據喜好自行選擇聲線。音箱還可支持用戶一次性下達多條語音指令,即使指令未能說對、說完整,用戶中途改口Gemini也能識別。 Gemini還具備多鏈路推理能力,落地到實際生活場景中比較實用。例如,用戶問:“我支持的足球隊下場比賽天氣如何?”Gemini收到指令後,會自動查詢賽事時間、舉辦地點,同時匹配相應時段天氣,再給出答覆。 同時,Gemini加強了短時對話記憶,能承接上下文實現連續對話功能。即使用戶連續追問、甚至串聯多項任務、不重複交代前置條件,該語音助手也能實現來回連貫交流。 ▲谷歌Gemini對話場景(圖源:谷歌官網) 不僅如此,Gemini搭配的連續對話功能,能讓應答後的音箱麥克風保持短暫收音,用戶無需重複喊“OK Google”就能繼續提問。該功能現已全面支持所有Gemini原生適配的語言,包括

23 小時前

微軟,考慮接入DeepSeek

這篇消息聚焦「微軟,考慮接入DeepSeek」。原始導語提到:Copilot Cowork轉為按量計費。 從 AI 情報角度來看,這類內容值得關注其背後的技術進展、產品落地、產業競爭與後續市場影響。

23 小時前