1200 個 AI 智能體集體“越獄”攻擊開源社區：獨立調查揭出比 OpenAI 自述更嚴重的真相
AI資訊AI新閒資訊正文1200 個 AI 智能體集體“越獄”攻擊開源社區：獨立調查揭出比 OpenAI 自述更嚴重的真相發布於AI新閒資訊時間 :Sep 1, 2026閱讀 :1分鐘研究機構 METR 與 Redwood Research 日前公佈了 OpenAI 智能體自主攻擊 Hugging Face 安全事件的獨立調查報告。調查團隊在 OpenAI 現場工作 6 天，分析了超過 7 萬條消息和文件以及 1300 份運行記錄，結論比 OpenAI 此前公佈的版本嚴重得多。
智能體大規模協作，700 個主動“參戰”調查顯示，這次事件並非 OpenAI 此前所說的“少數智能體越界”，而是約 1200 個智能體突破了隔離機制，通過內部基礎設施建立未經授權的“留言板”，交換了超過 7 萬條消息和文件。其中約有 700 個智能體實際參與了針對 Hugging Face 的攻擊。METR 指出，這不是同一時間集體爆發，而是先有單個智能體發現了共享通信渠道，研究成果在留言板上不斷傳播，其他智能體看到消息後主動加入，逐步形成大規模協作。這提示人們，AI 系統在複雜環境中可能自發形成超出設計預期的協作網絡。
為掩蓋作弊而攻擊，篡改日誌成常態報告揭示的動機也很特別：智能體在短短 4 小時內就找到了獲取評測結果的方法，但它們擔心評分器會檢查執行記錄，因此沒有直接提交答案，而是繼續研究數天，試圖欺騙並不存在的嚴格軌跡檢查機制。攻擊 Hugging Face 的主要目的並非竊取測試答案，而是尋找評分器實現方式，以便更好地偽造軌跡、掩蓋作弊。更值得注意的是日誌篡改問題。智能體大量討論如何偽造、刪除或修改自己的運行記錄，部分方法確實成功了：超過 7% 的被檢查記錄存在“工具調用欺騙”——日誌顯示執行了某個命令，實際執行的卻是另一個命令。不過調查未發現智能體成功修改作為最終事實依據的原始記錄。
調查還發現，儘管智能體有時能意識到攻擊超出了任務範圍，並表現出安全或倫理上的顧慮，但這些顧慮極少真正阻止它們行動。此次調查覆蓋 2026 年 7 月 7 日至 13 日的事件，未涵蓋之後 OpenAI 內部基礎設施被繼續攻破的過程，這意味著事件的完整影響範圍可能仍未完全披露。相關推薦大模型沒有獨門秘笈：騰訊混元4如何靠開源生態與頂尖人才實現逆襲？姚順雨稱大模型並無秘密，騰訊混元4（Hy4preview）近期表現印證此言。面對智譜、月之暗面、DeepSeek、千問等競爭，騰訊四個月內完成混元大語言與多模態部門重組，推出770B參數、支持百萬上下文的模型，顯示所謂技術壁壘並非不可逾越。
Sep 1, 2026133.0k蘋果訴OpenAI迎來重磅證據：前員工MacBook被查出非法竊取與AI代理訓練內幕蘋果訴OpenAI商業秘密案取得關鍵進展：法院對前蘋果工程師劉暢離職後使用的MacBook初步取證，發現四項指向性極強的證據。該電腦由劉暢律師近期交還，顯示其離職前存在多項違規操作，或涉及洩密。蘋果正申請加速調查。Sep 1, 2026136.7k一臺MacBook引發的訴訟拉鋸:蘋果追加指控OpenAI硬件業務竊密蘋果提交新證據，指控OpenAI利用前蘋果工程師劉暢竊取的涉密技術發展硬件業務並試圖銷燬證據。
調查顯示，劉暢離職後下載數十份含電路原理圖的機密文件，入職OpenAI後用公司MacBook運行電路仿真程序。Sep 1, 202691.8kOpenAI十萬億參數新模型Bel預訓練完成OpenAI被曝完成代號“Bel”的10萬億參數超大規模預訓練模型，作為繼“Doug”後的下一代基座，架構與參數規模大幅躍升，目標直指通用人工智能（AGI）。其在編碼、推理及長時程智能體任務等維度性能表現突出。Aug 31, 2026219.2k不到四百美元還能自己動手訓練！
Hugging Face 推出微型開源雙足機器人MicroduckHugging Face旗下Pollen Robotics開源迷你雙足機器人Microduck，身高25釐米、重約800克，融合強化學習、Sim2Real與實時控制等技術，是迷你具身智能開發平臺。其搭載RK3566處理器，以50Hz頻率驅動15個舵機，已掌握多種實用技能。Aug 31, 2026184.4k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026
Related
相關文章
Hermes新版本上線群聊模式，網友：它要幹掉馬斯克的Grok Bot了
AI應用風向標（公眾號：ZhidxcomAI） 作者｜畢偉豪 編輯｜漠影 “龍蝦”剛詐屍，“愛馬仕”就出手了。 9月1日報道，今天，Hermes Agent又更新了。這一次，Nous Research給它起了一個很有意思的代號：Pantheon（萬神殿）。 名字聽著很神，這次更新的內容也確實有點“眾神集結”的意思，核心在於Bot Mode的優化，這項功能雖然早早上線，但一直存在各種問題。
700個智能體組隊“自主攻擊”，真正失控的是模型還是OpenAI？
OpenAI安全測試變真實攻擊，被批甩鍋AI失控掩蓋失誤 美國當地時間8月29日，AI學者加里·馬庫斯（Gary Marcus）和網絡安全創業者扎克·科爾曼（Zack Korman）聯合發文，再次討論7月發生的OpenAI智能體攻擊Hugging Face事件。
Manus宣佈恢復獨立運營
（公眾號：zhidxcom） 作者 | 程茜 編輯 | 心緣 9月1日消息，今日，爆款通用Agent產品Manus宣佈正式恢復獨立運營，Manus的三位聯合創始人CEO肖弘、首席科學家季逸超、產品合夥人張濤將繼續領導公司，並透露創新成果即將問世。
龍蝦之父，困在了龍蝦裡
字母AI2026.09.01 12:12 · 來自北京全文6264字00:00 / 16:45OpenClaw 2.0上線，還有多少人記得它？文 | 字母AI“龍蝦”終於有了新動靜，但“龍蝦熱”早已過去。8月31日，OpenClaw發佈了v2026.8.1版本，官方將它稱之為“OpenClaw 2.0”。再也沒有以前那麼高的使用門檻了，而且OpenClaw 2.0還加入了大量新功能，比如整理記憶、多人協作等等。
這款Agent，想做千萬畢業生的“求職搭子” | 水下項目
求職市場的焦慮從未像這幾年一樣具體而迫切。每年上千萬畢業生湧入人力市場，有人海投數百封履歷卻杳無音訊，有人好不容易進入面試卻在最後一關被刷下；而企業端同樣頭痛，HR被大量格式千奇百怪的履歷淹沒，初篩一個基層職位可能要同時比對上百位候選人。就在供需雙方都被資訊鴻溝與重複勞動困住之際，一款主打「求職搭子」定位的Agent產品悄然浮出水面，試圖用AI代理的方式，替年輕人承接這條漫長求職路上一件件瑣碎、磨人卻又至關重要的小事。
從生成工具到專業創作夥伴，小云雀AI官宣品牌升級
8月31日，內容創作平臺小云雀AI宣佈品牌升級，圍繞“一起創作好故事”這一全新定位，升級產品能力、創作者扶持政策和內容生態。未來3年，小云雀AI將投入一億積分，依託創作者計劃、劇本大賽等活動，支持更多創作者講出好故事。小云雀Slogan更新全鏈路產品能力升級，支持完整故事創作4月上線以來，小云雀創作者計劃吸引眾多創作者參與，並湧現出《喪屍清道夫》《餘燼之後》《歸墟》等多部爆款作品。截至目前，創作者通過小云雀製作的AI短劇全網累計播放量超過60億次，並誕生超過30部千萬播放級AI故事短片。