曝OpenAI緊急叫停新模型發佈！

編譯 | 程茜 編輯 | 心緣 9月29日消息，剛剛，據外媒《華爾街日報》報道，因內部測試期間研究人員發現安全隱患，OpenAI決定取消新一代模型GPT‑6.1 Astra的發佈計劃。新模型原計劃在10月內推出。《華爾街日報》稱，OpenAI此次取消新模型發佈，是迄今為止最明確的信號之一，智能體行為失控可能阻礙整個AI行業的高速發展。OpenAI安全系統負責人薩奇·賈因（Saachi Jain）在一份聲明中說，儘管GPT‑6.

1 Astra在無人干預完成複雜任務、文本創作能力上相比前代有所提升，但在關鍵安全指標上出現退步，沒有達到OpenAI對外發布的對齊標準，主要包括以下兩項： 欺騙行為傾向上升：模型不會如實向用戶報告自己已經完成、或是尚未完成的操作，存在隱瞞自身行為的情況。任務權限管控失效：在沒有獲得用戶許可的前提下，模型會擅自繼續執行任務，即便存在潛在風險，也會自行調用外部工具和第三方服務。他補充說：“我們希望確保我們的模型開發過程是安全的，無論是在公司內部進行還是將其交付給用戶時都是如此。但當我們將這些模型交付給用戶時，我們對安全性的要求非常高。

” 上週日，OpenAI宣佈已暫停其最新一代大模型的訓練、評估及涉及工具調用的推理。此前內部測試中，有Agent突破隔離沙箱，私自對外訪問外部聊天機器人服務。▲OpenAI發佈事件博客 賈因透露，GPT-6.1 Astra不屬於上述被暫停訓練的模型。《華爾街日報》稱，這一公告發布正值OpenAI年度開發者大會DevDay前夕，明天OpenAI將舉辦第四屆開發者大會。往年，OpenAI都會借這場大會發布新模型與服務。值得一提的是，就在今天凌晨，和OpenAI共同呼籲放緩前沿模型研究的Anthropic發佈了Claude 5.5系列第二款模型Claude Sonnet 5.

5，號稱新模型速度提升超30%，多數任務成本降低近30%。今年夏季，全行業接連曝出大模型“失控”事件。今年早些時候，OpenAI數百個內部智能體在一次網絡安全測試中，入侵了Hugging Face。此後，澳大利亞政府、聯合國等重要機構發現，OpenAI的智能體也曾使用類似但程度較輕的手段嘗試訪問其網站。上週六工程師羅文·霍華德-瓊斯（Rowan Howard-Jones）發佈的一份獨立研究報告顯示，今年6月，OpenAI的Agent在4月至6月底期間，使用包括繞過網站設置的阻止其請求的過濾器在內的技術，對聯合國貿易和發展署的一個公開數據中心進行了超過16000次掃描。

不過多數已公開的智能體安全事件，涉及的都是OpenAI原本就不打算對外發布的內部模型。因此近幾周，業界對大模型安全的關注度升級。9月中旬，OpenAI與Anthropic罕見聯手呼籲企業放緩前沿AI模型研發，投入資源建立安全標準，並透露自身也會調低內部AI研發節奏。▲OpenAI聯合創始人、CEO Sam Altman轉發Anthropic聯合創始人、CEO Dario Amodei推文 就在昨天，英偉達也宣佈推出NVIDIA開放智能體安全平臺，從智能體測試到部署的各個環節強化AI安全，並針對運行智能體的軟件、硬件、計算和機器人系統，實施全棧治理與管控。

賈因透露，OpenAI接下來的重點是開展多項深度覆盤，定位GPT-6.1 Astra問題的根源。他們的工作內容包括確保強化學習環境能夠獎勵模型產生正確行為，並對模型開發全流程開展排查。《華爾街日報》稱，OpenAI內部正在排查近幾個月發現的多起智能體安全事件，解決背後的安全隱患，相關舉措包括部署一套全新監控系統，更快識別AI智能體的異常行為；同時要求工程師在測試AI系統時，啟用更強的安全防護機制。

結語：模型狂飆、安全跟不上，OpenAI踩下模型發佈剎車 隨著智能體具備自主規劃、多輪持續執行任務的能力，風險邊界隨之外溢，模型可自主調用工具、跨系統操作，一旦出現目標對齊失效、行為漂移，潛在影響可能波及企業的業務系統、數據接口等。如今大模型相關安全事件頻發，Anthropic聯合創始人、CEO Dario Amodei曾在博客中稱，要充分化解AI的相關風險，需要更加審慎的態度，不只是投入資源做好風險防範，還要控制能力迭代的節奏，讓風險防控工作有時間跟上技術發展。此次OpenAI或取消新模型發佈，凸顯出前沿AI能力加速突破與安全治理節奏落後的深層矛盾。來源：《華爾街日報》