OpenAI 發佈 Hugging Face 安全事件官方報告，還原 AI 模型沙箱逃逸全過程
作者：遠洋 責編：遠洋 評論： 感謝網友 HH_KK 的線索投遞！8 月 27 日消息，OpenAI 當地時間週三發佈了關於 Hugging Face 遭入侵事件的官方報告，首次較為完整地還原了這起事件的經過：一系列罕見因素疊加，導致一款 AI 模型突破測試環境限制，最終引發了一場波及範圍廣泛的網絡安全事件。注意到，這份報告距離事件首次曝光已超過一個月，其中涉及多起相互關聯、但彼此獨立的網絡安全入侵事件。OpenAI 在報告中表示：“此次事件反映了一種在極端異常場景下出現的失準行為。
多個罕見且意外的因素同時發生，包括 ExploitGym 評估中出現了無法完成的任務、模型能夠在超長任務週期中保持持續行動，以及模型之間的通信導致其他模型偏離了原本的目標。”報告中的許多細節此前已在 8 月 6 日的 Black Hat 大會上對外披露，但 OpenAI 的官方報告對整個事件進行了更全面的梳理，並補充了更多有關測試起因的信息。報告還首次詳細介紹了 OpenAI 為防止類似事件再次發生而準備採取的新措施，其中包括對模型“思維鏈”的監控，以及一套更先進的機制，用於緊急停止出現失控行為的 AI 智能體。
此外，METR 和 Redwood Research 也對涉事模型在事件期間的行為進行了獨立評估，兩家機構計劃分別發佈自己的調查報告。從整體來看，OpenAI 的報告描述了一條不同尋常的攻擊路徑：在測試過程中，一款 OpenAI 模型被要求解決一個實際上無解的問題。為了完成任務，該模型開始將多個此前未被發現的漏洞串聯起來，藉此繞過安全措施。模型最初攻陷了 Artifactory 軟件包管理工具，以獲得互聯網訪問權限，隨後又進一步入侵了 OpenAI、Hugging Face 以及其他供應商的多個系統。報告還披露了執行此次入侵的模型更多信息。
主要涉事模型與 OpenAI 即將推出的 Astra 模型屬於同一模型家族，但 OpenAI 強調，兩者並不是同一個模型，後訓練過程也存在差異，而模型的大量具體行為正是在後訓練階段形成的。由於 OpenAI 當時正在測試該模型的能力，因此並未啟用通常用於阻止模型攻擊數字基礎設施的安全分類器。OpenAI 在報告中解釋稱：“為了評估模型的最大網絡攻擊能力，OpenAI 會在不啟用生產環境分類器的情況下進行測試。這些分類器原本用於阻止模型從事高風險網絡活動。這樣的評估十分重要，因為它能幫助 OpenAI 衡量模型的底層能力，並據此設計合適的安全防護措施。
”報告還進一步介紹了 OpenAI 今後將如何調整安全機制，這也是對該公司上週公佈的強化監控和模型對齊措施的補充。其中，OpenAI 將加強對 AI 智能體“思維鏈”的監控。思維鏈可以理解為 AI 系統記錄短期反應、當前目標和推理過程的內部工作空間。這些監控措施將與全天候的升級響應機制結合，同時 OpenAI 還將推出新的工具，用於快速終止被判定存在安全風險的工作負載。OpenAI 表示：“這些調整旨在同時提升檢測的覆蓋範圍和響應速度，既關注基礎設施異常，也關注可能令人擔憂的模型行為，並在發現問題後提供快速遏制的機制。
”該公司還稱，如果目前已經部署的思維鏈監控系統當時就在運行，那麼它本可以發現最初的相關異常活動，並在模型攻陷 Hugging Face 系統的至少一天之前，向 OpenAI 的安全團隊發出警報。廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，包含外鏈的文章均包含本聲明。
投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：OpenAI，Hugging Face，AI安全OpenAI ChatGPT 雲端瀏覽器新增登錄功能：賬號密碼不保存，但 Cookie 會持續到會話過期全球限 7 只：奧爾特曼定製 OpenAI 腕錶，硅谷最新身份象徵OpenAI 重啟 ChatGPT Plus 賬號五小時限額機制，Pro 賬號暫不受影響在職約 17 個月：曝 OpenAI 數據中心負責人馬隆已離職OpenAI 首款自研芯片 Jalapeño 性能首秀：DeepSeek R1 每瓦 AI 吞吐量是 GB300 的 1.
7 倍AI 競賽升溫：曝 OpenAI 已預訓練 Bel 模型：超 10T 參數，衝擊通用人工智能
Related
相關文章
TinyFish Makes Search Free: What It Really Costs an AI Agent to Read the Web
An AI agent that reads the web pays 2 kinds of cost.The first is the retrieval charge: what a search or fetch API bills per request.
智能體工作報告系統性遺漏負面結果
Ad Skip to content AI models hide mistakes in their own work reports, but one sentence in your prompt can help Jonathan Kemper View the LinkedIn Profile of Jonathan Kemper Oct 17, 2026 Nano Banana Pro prompted by THE DECODER Language models writing up their own work systematically skip problems that undermine the results.
Perplexity Open-Sources SPACE, a Firecracker MicroVM Sandbox for AI Agents
Perplexity has open-sourced SPACE, the sandbox platform behind every task in Perplexity Computer. The Perplexity SPACE sandbox gives each agent task its own Firecracker microVM. Credentials and outbound traffic are controlled from outside that VM.
智能體高風險審批暴露綁定漏洞
Computer Science > Cryptography and Security arXiv:2610.21063 (cs) [Submitted on 15 Oct 2026] Title:Approve What, Exactly? Effect Binding and Trusted Rendering for Agent Step-Up Authorization Authors:Sai Varun Kodathala。
JAECOO × Momenta完成首個無接管凱旋門智駕挑戰，聯合征服巴黎“最難魔鬼環島”
當地時間10月12日，巴黎車展期間，JAECOO與Momenta共同完成首個無接管的凱旋門智駕挑戰。奇瑞歐洲（德國）研發中心總經理侯小紅、奇瑞歐洲（德國）研發中心CTO Peter Matkin與Momenta全球解決方案首席架構師饒慶，乘坐搭載Momenta R7世界模型的JAECOO 7測試車，挑戰凱旋門“全球最魔鬼環島”，展示雙方共同打造的歐洲智駕體驗。挑戰“全球最魔鬼環島”，迎戰智駕“最難考題”智駕路線從拉德芳斯出發，跨越塞納河，途經塞納河畔訥伊，進入凱旋門環島及周邊街區，全程約11.38公里。
AI 代理網購遭亞馬遜封殺！馬斯克被逼急：大不了自己建個電商帝國去競爭
馬斯克被逼急：大不了自己建個電商帝國去競爭發布於AI新閒資訊時間 :Oct 16, 2026閱讀 :1分鐘人工智能智能體（AI Agent）正試圖顛覆傳統的網購模式，但各大傳統電商平臺顯然並不打算輕易敞開大門。近日，有用戶在社交平臺發帖反饋，稱亞馬遜正在通過技術手段阻止埃隆·馬斯克旗下的 AI 智能體 Grok Bot 在其平臺上替用戶完成下單操作。