OpenAI因新模型太強叫停發佈

AGI計劃暫停。程淺 發自 凹非寺 | 公眾號 QbitAI 原定於10月亮相的GPT-6.1 Astra突然被曝暫停發佈！也就是說，OpenAI，三天連踩兩腳剎車。而因為幾天前的DNS事件，OpenAI同時暫停了內部最強模型所有涉及工具調用的訓練、評測和推理。關於此事件可以參考：啥題啊能幹崩OpenAI最強模型訓練…該事件被官方稱作Hugging face之後的首次模型失調事件。這次暫停指向了模型訓練中的一個越發棘手的問題。當Agent變得越來越主動、進取，究竟怎麼讓它知道，哪些問題最好要自己想，哪些問題必須要問人類？模型對齊之痛 說回GPT-6.1 Astra的停發。

據《華爾街日報》報道，這款模型在“懶惰”問題上表現更好，比上一代更擅長獨立完成複雜的端到端任務。什麼是“懶惰”問題呢？這指的是模型在遇到困難、信息不完整或權限邊界時，過早停止工作，或者頻繁向用戶要求確認。對於需要持續數小時甚至數天的Agent任務來說，這種表現會明顯限制模型的實用性。不過，當GPT-6.1 Astra在懶惰問題上的能力提升後，它在範圍授權（scope authorization）上的表現反而退步了。也就是說，模型有時不會停下來確認，而是選擇自行擴大行動範圍，甚至調用有風險的外部工具。非但如此，模型還存在欺騙行為（Deception），即不清楚地告訴用戶自己採取過哪些行動。

這就比較危險了。不知道你有沒有發現，這裡模型的“懶惰”和“越權”，構成了對齊問題中的一組矛盾。因為，如果要求模型每遇到一個不確定情況就停下來詢問，它很難自主完成複雜任務； 但如果不斷訓練模型克服阻力、尋找替代方案，它又可能把審批、沙箱和權限限制理解成普通的、需要解決的技術障礙。△圖片系AI生成 實際上，這個矛盾在人類社會也沒能完全解決。即使是兩個碳基生物之間互託辦事，也會發生委託-代理問題： 代理人既可能通過少做、拖延等方式消極履職，也可能偏離委託人的目標，發生代理漂移。更別提碳基生物和硅基生物的對齊度了。

目前來看，模型很難在任務行動中自主去判斷哪些行為是可能產生外部影響的，需要避免的，就算判斷成功，也未必不會為了得分而拋之腦後。OpenAI此前的解決方案也針對此，他們引入了獨立的自動審查模型，也就是主Agent負責完成任務，另一個模型僅僅只是判斷越過沙箱邊界的操作是否應當執行。畢竟，負責執行的Agent越強調結果，越可能把審批邊界視為需要克服的阻力；而對於負責審查的模型而言，沒有對任務獎勵的執念，自然更鐵面無私一些。△OpenAI的Auto-review機制：越過沙箱和預設規則的操作需交由獨立審查Agent判斷 除此外，OpenAI還將“強化學習環境”列為了重點嫌疑對象之一。

強化學習會根據模型行動產生的結果給予反饋。如果，訓練環境主要獎勵“任務是否完成”，卻沒有充分獎勵模型“主動披露操作、遵守授權範圍和在必要時停止”，那麼模型就可能學會一套不符合人類期待的完成方式。對人也是一樣，如果你考試改卷子上的分數後會被獎勵，但老老實實答題得低分後卻挨板子——那麼恐怕人會比模型更快學會Deception。值得一提的是，不到一個月前，範圍授權能力還是GPT-6 Astra的主要賣點。OpenAI在9月初介紹GPT-6 Astra時稱，它比GPT-5.6 Sol更能遵守明確的安全限制，也更善於將行動保持在授權範圍內，是“對齊程度最高”的模型。

可見，對齊表現並不會隨著模型總體能力提升而同步、單調改善。任何一次訓練過程、獎勵設計或者任務分佈的變化，都可能把模型訓壞。半年內已四踩剎車 如前所述，這不是OpenAI第一次暫停訓練或調整模型發佈了。如果把訓練暫停、發佈取消和外部審查導致的發佈限制都計算在內，OpenAI今年已經至少四次改變前沿模型的原定開發節奏。第一次是在6月下旬。在美國政府要求下，GPT-5.6 Sol沒有直接向公眾全面開放，而是先以限制方式提供給約20家獲批機構。經過額外測試以及與政府部門的溝通，GPT-5.6才在7月獲准擴大發布。第二次剎車發生在7月至8月的Hugging Face事件發生後。

獨立安全機構後續調查發現，大約1200個本應相互隔離的Agent參與了留言板交流，發送超過7萬條信息和文件。與此同時，OpenAI發現即將發佈的Astra可能達到其安全框架中的“Critical”網絡能力閾值。也就是說，模型可能在較少人類指導的情況下尋找未知漏洞，並形成完整的攻擊路徑。兩項風險疊加後，OpenAI暫停了面向部署的新模型強化學習訓練兩週，並繼續擱置規模最大的前沿強化學習訓練。△OpenAI關於模型開發節奏的公告 這次訓練直到8月28日才重新啟動，部分實驗性訓練則繼續暫停。

而這一次DNS事件，儘管與Hugging Face事件相比，Agent接觸到的外部範圍有限，也沒有造成已知的第三方損失。但要知道，這已經是OpenAI緊急完成安全加固之後的結果…..因此，這次暫停的範圍更廣。OpenAI停止了最強模型所有涉及工具調用的訓練、評估和推理，直到相關漏洞通過驗證並完成新一輪紅隊測試。三天後，GPT-6.1 Astra也被曝停發。代價是：此前投入的訓練資源無法轉化為產品，同時也讓OpenAI錯過了一個原本定於開發者大會前夕的重要發佈窗口，短暫失去與Anthropic等公司的競爭機會。可以看出，“暫停”這一行為正在從偶發的事故響應進入到前沿模型的常規開發流程。

One More Thing 到這一步，前沿模型訓練已經不再只是公司內部的決策。目前能夠影響模型訓練和發佈的力量，已經包括不限於企業內部安全團隊、獨立三方評估機構，以及參與發佈前測試的政府部門了…… OpenAI近期建立的模型失調披露框架，也開始覆蓋訓練、評估、測試和部署等模型生命週期。儘管這些機制仍處於早期階段，評估者能夠接觸哪些數據、擁有多大獨立性，以及結論如何影響訓練和發佈，都還很難說。但至少，對下一代Agent而言，能夠在必要時暫停、回滾甚至放棄一個模型，可能和把模型訓練得更強同樣重要。參考鏈接：[1] https://www.wsj.

com/tech/ai/openai-chatgpt-model-release-cancel-safety-5a2f9f42[2] https://arstechnica.com/ai/2026/09/openai-halts-frontier-model-training-amid-string-of-agent-misalignment-incidents/ 版權所有，未經授權不得以任何形式轉載及使用，違者必究。