永久保留緩存！OpenAI重磅更新，比DeepSeek還久？
AI應用風向標（公眾號：ZhidxcomAI） 作者｜畢偉豪 編輯｜漠影 10月21日報道，剛剛，ChatGPT和Codex負責人Tibo宣佈OpenAI模型的API服務將提供12小時緩存保留服務選項，Codex和Work登錄用戶緩存將會永久保留。這次更新也是Tibo的28天計劃中一項重磅升級，在好多天的重置以及小改進之後，Tibo終於憋了個大招出來。在發佈更新之前，Tibo還發文表示看到了一些用戶的額度消耗速度異常情況，並對大約40000個賬戶進行信用點返還。從文檔中來看，API一側的緩存保留選項對GPT-5.
6及以上版本模型生效，OpenAI提供默認30分鐘以及12小時的緩存保留可選項，Codex和Work的永久緩存尚未發佈公告。不過，12小時緩存也不是單純延長保留時間。根據OpenAI的API文檔，選擇12小時緩存後，緩存寫入價格將從未緩存輸入Token價格的1.25倍升至2.5倍，而緩存讀取價格不變。至於Codex和Work面向登錄用戶提供的“永久緩存”，目前還需要進一步確認其具體實現。永久保留緩存究竟指緩存狀態的保留策略、緩存命中後的計費安排，還是面向用戶的某種權益，需要結合官方對這項更新的具體說明判斷。
不過，從機理上推測，Codex和Work的永久緩存大概率不是真的緩存保留，可能是重新計算緩存時不計費，為用戶永久保留緩存並不現實。OpenAI官方API文檔明確指出，12 小時緩存設置規定的是緩存讀取計費資格所對應的最短生命週期，並不保證每次請求都能複用已存儲的KV張量，也不保證降低延遲。換言之，緩存有效期、實際緩存命中率和請求延遲是三個不同的概念，12小時的限制僅為是否按緩存命中計費的標準。從API一側推斷，相比於永久保留緩存，這次更新的永久保留更像是緩存“補貼”，用於降低用戶的額度消耗。
不過OpenAI這次關於緩存的更新時間也非常微妙，就在昨天，DeepSeek剛開源了推理框架，其中就包括設計目標高達3天的緩存保留，相比於OpenAI此前默認的30分鐘高出太多。
Related
相關文章
Mistral 發佈 Voxtral 3 語音 Agent SDK，支持 50 多種語言與工具調用
官方給出的演示場景很能說明它的定位:一位說法語的患者，拿著一張法語處方打給診所，語音代理聽懂了法語內容，完成了預約，還承諾用英語回一條短信。這一連串動作裡，跨語言、帶工具調用、有情緒適應能力的完整語音工作流，被一次性串了起來。語音 AI 的尷尬一直在於:從語音到文本的轉錄、語音合成、推理，每個環節都有成熟方案，但把它們拼成"能聽、能推理、能交互、能處理複雜工作流"的語音代理，卻始終很難。
OpenAI又出手！收購生物醫藥AI創企，讓Agent幫藥企管研發
編譯 | 孫小雯 編輯 | 程茜 10月21日消息，今天凌晨，OpenAI宣佈已收購美國AI藥物開發協作平臺Orchestra Bio，將其團隊和技術整合進生命科學業務Rosalind。Orchestra成立於2022年，主要為生物技術公司和藥企提供研發管理軟件，幫助團隊制定研發計劃、管理預算，並追蹤項目進度。
Mistral AI發佈Voxtral3語音模型與語音代理SDK
該產品矩陣涵蓋Voxtral Small Transcribe3轉錄模型、Voxtral Mini TTS3.0語音合成模型以及基於LiveKit的語音代理SDK，支持通過API獲取或在私有云與自有基礎設施上進行自託管部署，旨在為呼叫中心、服務檯、虛擬助手及免提駕駛系統提供高性能的實時流式語音交互能力。
語音 AI 迎來最強國產黑馬！螞蟻集團 Ming-3.0-tts 強勢登頂國際權威評測雙榜首
螞蟻集團 Ming-3.0-tts 強勢登頂國際權威評測雙榜首發布於AI新閒資訊時間 :Oct 21, 2026閱讀 :1分鐘在人工智能語音生成領域，開源陣營正迎來一項重磅突破。獨立 AI 評測機構 Artificial Analysis 近期公佈了最新的語音大模型（TTS）競技場榜單，由螞蟻集團團隊推出的全新開源文本轉語音模型 Ming-3.
一次抓取背後：讀懂智能的“計量”，Token經濟學如何聚合“算力、模型、語料”？
質檢線上，一臺人形機器人從料框裡取出平板，送進檢測櫃；完成檢測後，再將成品分流。抓取入櫃、多項目質檢、成品分揀，機器人與工人同線作業，一氣呵成。一次看似簡單的抓取，背後串聯起感知、判斷與執行。在智元2026年9月公開的具身模型中，一幀畫面可編碼為24個視覺詞元（Token）；相關實驗還展示了模型生成連續動作的低延遲能力。但若要算清抓取的成本，不能只數視覺詞元，還需綜合推理耗時、芯片功耗、執行成功率和設備投入。這恰好引出智能經濟的兩塊硬成本：一端是模型處理信息的詞元用量，另一端是硬件和系統完成任務的實際成本。
Google Cloud Ships llm-d 1.0 With Cache-Aware Routing for TPU and GPU Fleets
Google team have released llm-d 1.0, the first stable version of its distributed inference stack.This open-source, Kubernetes-native layer turns vLLM or SGLang model servers into one coordinated pool.