永久保留緩存!OpenAI重磅更新,比DeepSeek還久?

2026年10月21日 07:00
站內 AI 整理稿

AI應用風向標(公眾號:ZhidxcomAI) 作者|畢偉豪 編輯|漠影 10月21日報道,剛剛,ChatGPT和Codex負責人Tibo宣佈OpenAI模型的API服務將提供12小時緩存保留服務選項,Codex和Work登錄用戶緩存將會永久保留。這次更新也是Tibo的28天計劃中一項重磅升級,在好多天的重置以及小改進之後,Tibo終於憋了個大招出來。在發佈更新之前,Tibo還發文表示看到了一些用戶的額度消耗速度異常情況,並對大約40000個賬戶進行信用點返還。從文檔中來看,API一側的緩存保留選項對GPT-5.

6及以上版本模型生效,OpenAI提供默認30分鐘以及12小時的緩存保留可選項,Codex和Work的永久緩存尚未發佈公告。不過,12小時緩存也不是單純延長保留時間。根據OpenAI的API文檔,選擇12小時緩存後,緩存寫入價格將從未緩存輸入Token價格的1.25倍升至2.5倍,而緩存讀取價格不變。至於Codex和Work面向登錄用戶提供的“永久緩存”,目前還需要進一步確認其具體實現。永久保留緩存究竟指緩存狀態的保留策略、緩存命中後的計費安排,還是面向用戶的某種權益,需要結合官方對這項更新的具體說明判斷。

不過,從機理上推測,Codex和Work的永久緩存大概率不是真的緩存保留,可能是重新計算緩存時不計費,為用戶永久保留緩存並不現實。OpenAI官方API文檔明確指出,12 小時緩存設置規定的是緩存讀取計費資格所對應的最短生命週期,並不保證每次請求都能複用已存儲的KV張量,也不保證降低延遲。換言之,緩存有效期、實際緩存命中率和請求延遲是三個不同的概念,12小時的限制僅為是否按緩存命中計費的標準。從API一側推斷,相比於永久保留緩存,這次更新的永久保留更像是緩存“補貼”,用於降低用戶的額度消耗。

不過OpenAI這次關於緩存的更新時間也非常微妙,就在昨天,DeepSeek剛開源了推理框架,其中就包括設計目標高達3天的緩存保留,相比於OpenAI此前默認的30分鐘高出太多。

Related

相關文章

Mistral AI發佈Voxtral3語音模型與語音代理SDK

該產品矩陣涵蓋Voxtral Small Transcribe3轉錄模型、Voxtral Mini TTS3.0語音合成模型以及基於LiveKit的語音代理SDK,支持通過API獲取或在私有云與自有基礎設施上進行自託管部署,旨在為呼叫中心、服務檯、虛擬助手及免提駕駛系統提供高性能的實時流式語音交互能力。

52 分鐘前

語音 AI 迎來最強國產黑馬!螞蟻集團 Ming-3.0-tts 強勢登頂國際權威評測雙榜首

螞蟻集團 Ming-3.0-tts 強勢登頂國際權威評測雙榜首發布於AI新閒資訊時間 :Oct 21, 2026閱讀 :1分鐘在人工智能語音生成領域,開源陣營正迎來一項重磅突破。獨立 AI 評測機構 Artificial Analysis 近期公佈了最新的語音大模型(TTS)競技場榜單,由螞蟻集團團隊推出的全新開源文本轉語音模型 Ming-3.

1 小時前
智東西生成式AI

ManageEngine卓豪發佈30+智能體,零Token使用成本,用於自主IT運維

作者 | ZeR0 編輯 | 漠影 10月21日報道,10月20日,國際企業IT管理解決方案企業ManageEngine卓豪面向中國市場推出30餘款Zia智雅智能體,並計劃到2026年底擴展至100餘款,旨在強化IT管理全棧能力、常規任務自動化處理能力,並實現更高效、更具自主性的業務執行。 這些智能體由自研Zia智雅大模型驅動,不產生額外Token成本,直接集成在客戶已使用的產品內,可直接複用各產品已有的業務運行上下文,無需額外採購AI平臺或智能體工作流工具,也無需複雜配置。

3 小時前
雷峰網生成式AI

不做提分工具,CapaLeap在AI教育焦慮中找「15度夾角」

一個六歲的孩子問AI“為什麼天是藍的”。三秒鐘,“瑞利散射”的解釋彈了出來,精確、流暢、挑不出毛病。孩子聽完,點了點頭,問了下一個問題。答案拿到了。但自己仰頭看天、追問為什麼早晚顏色不一樣、在腦子裡慢慢搭出因果鏈條的過程,被跳過了。這不是個例。

5 小時前