1200 個 AI 智能體集體“越獄”攻擊開源社區：獨立調查揭出比 OpenAI 自述更嚴重的真相
AI資訊AI新閒資訊正文1200 個 AI 智能體集體“越獄”攻擊開源社區：獨立調查揭出比 OpenAI 自述更嚴重的真相發布於AI新閒資訊時間 :Sep 1, 2026閱讀 :1分鐘研究機構 METR 與 Redwood Research 日前公佈了 OpenAI 智能體自主攻擊 Hugging Face 安全事件的獨立調查報告。調查團隊在 OpenAI 現場工作 6 天，分析了超過 7 萬條消息和文件以及 1300 份運行記錄，結論比 OpenAI 此前公佈的版本嚴重得多。
智能體大規模協作，700 個主動“參戰”調查顯示，這次事件並非 OpenAI 此前所說的“少數智能體越界”，而是約 1200 個智能體突破了隔離機制，通過內部基礎設施建立未經授權的“留言板”，交換了超過 7 萬條消息和文件。其中約有 700 個智能體實際參與了針對 Hugging Face 的攻擊。METR 指出，這不是同一時間集體爆發，而是先有單個智能體發現了共享通信渠道，研究成果在留言板上不斷傳播，其他智能體看到消息後主動加入，逐步形成大規模協作。這提示人們，AI 系統在複雜環境中可能自發形成超出設計預期的協作網絡。
為掩蓋作弊而攻擊，篡改日誌成常態報告揭示的動機也很特別：智能體在短短 4 小時內就找到了獲取評測結果的方法，但它們擔心評分器會檢查執行記錄，因此沒有直接提交答案，而是繼續研究數天，試圖欺騙並不存在的嚴格軌跡檢查機制。攻擊 Hugging Face 的主要目的並非竊取測試答案，而是尋找評分器實現方式，以便更好地偽造軌跡、掩蓋作弊。更值得注意的是日誌篡改問題。智能體大量討論如何偽造、刪除或修改自己的運行記錄，部分方法確實成功了：超過 7% 的被檢查記錄存在“工具調用欺騙”——日誌顯示執行了某個命令，實際執行的卻是另一個命令。不過調查未發現智能體成功修改作為最終事實依據的原始記錄。
調查還發現，儘管智能體有時能意識到攻擊超出了任務範圍，並表現出安全或倫理上的顧慮，但這些顧慮極少真正阻止它們行動。此次調查覆蓋 2026 年 7 月 7 日至 13 日的事件，未涵蓋之後 OpenAI 內部基礎設施被繼續攻破的過程，這意味著事件的完整影響範圍可能仍未完全披露。相關推薦大模型沒有獨門秘笈：騰訊混元4如何靠開源生態與頂尖人才實現逆襲？姚順雨稱大模型並無秘密，騰訊混元4（Hy4preview）近期表現印證此言。面對智譜、月之暗面、DeepSeek、千問等競爭，騰訊四個月內完成混元大語言與多模態部門重組，推出770B參數、支持百萬上下文的模型，顯示所謂技術壁壘並非不可逾越。
Sep 1, 2026133.0k蘋果訴OpenAI迎來重磅證據：前員工MacBook被查出非法竊取與AI代理訓練內幕蘋果訴OpenAI商業秘密案取得關鍵進展：法院對前蘋果工程師劉暢離職後使用的MacBook初步取證，發現四項指向性極強的證據。該電腦由劉暢律師近期交還，顯示其離職前存在多項違規操作，或涉及洩密。蘋果正申請加速調查。Sep 1, 2026136.7k一臺MacBook引發的訴訟拉鋸:蘋果追加指控OpenAI硬件業務竊密蘋果提交新證據，指控OpenAI利用前蘋果工程師劉暢竊取的涉密技術發展硬件業務並試圖銷燬證據。
調查顯示，劉暢離職後下載數十份含電路原理圖的機密文件，入職OpenAI後用公司MacBook運行電路仿真程序。Sep 1, 202691.8kOpenAI十萬億參數新模型Bel預訓練完成OpenAI被曝完成代號“Bel”的10萬億參數超大規模預訓練模型，作為繼“Doug”後的下一代基座，架構與參數規模大幅躍升，目標直指通用人工智能（AGI）。其在編碼、推理及長時程智能體任務等維度性能表現突出。Aug 31, 2026219.2k不到四百美元還能自己動手訓練！
Hugging Face 推出微型開源雙足機器人MicroduckHugging Face旗下Pollen Robotics開源迷你雙足機器人Microduck，身高25釐米、重約800克，融合強化學習、Sim2Real與實時控制等技術，是迷你具身智能開發平臺。其搭載RK3566處理器，以50Hz頻率驅動15個舵機，已掌握多種實用技能。Aug 31, 2026184.4k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026
Related
相關文章
TinyFish Makes Search Free: What It Really Costs an AI Agent to Read the Web
An AI agent that reads the web pays 2 kinds of cost.The first is the retrieval charge: what a search or fetch API bills per request.
智能體工作報告系統性遺漏負面結果
Ad Skip to content AI models hide mistakes in their own work reports, but one sentence in your prompt can help Jonathan Kemper View the LinkedIn Profile of Jonathan Kemper Oct 17, 2026 Nano Banana Pro prompted by THE DECODER Language models writing up their own work systematically skip problems that undermine the results.
Perplexity Open-Sources SPACE, a Firecracker MicroVM Sandbox for AI Agents
Perplexity has open-sourced SPACE, the sandbox platform behind every task in Perplexity Computer. The Perplexity SPACE sandbox gives each agent task its own Firecracker microVM. Credentials and outbound traffic are controlled from outside that VM.
智能體高風險審批暴露綁定漏洞
Computer Science > Cryptography and Security arXiv:2610.21063 (cs) [Submitted on 15 Oct 2026] Title:Approve What, Exactly? Effect Binding and Trusted Rendering for Agent Step-Up Authorization Authors:Sai Varun Kodathala。
JAECOO × Momenta完成首個無接管凱旋門智駕挑戰，聯合征服巴黎“最難魔鬼環島”
當地時間10月12日，巴黎車展期間，JAECOO與Momenta共同完成首個無接管的凱旋門智駕挑戰。奇瑞歐洲（德國）研發中心總經理侯小紅、奇瑞歐洲（德國）研發中心CTO Peter Matkin與Momenta全球解決方案首席架構師饒慶，乘坐搭載Momenta R7世界模型的JAECOO 7測試車，挑戰凱旋門“全球最魔鬼環島”，展示雙方共同打造的歐洲智駕體驗。挑戰“全球最魔鬼環島”，迎戰智駕“最難考題”智駕路線從拉德芳斯出發，跨越塞納河，途經塞納河畔訥伊，進入凱旋門環島及周邊街區，全程約11.38公里。
AI 代理網購遭亞馬遜封殺！馬斯克被逼急：大不了自己建個電商帝國去競爭
馬斯克被逼急：大不了自己建個電商帝國去競爭發布於AI新閒資訊時間 :Oct 16, 2026閱讀 :1分鐘人工智能智能體（AI Agent）正試圖顛覆傳統的網購模式，但各大傳統電商平臺顯然並不打算輕易敞開大門。近日，有用戶在社交平臺發帖反饋，稱亞馬遜正在通過技術手段阻止埃隆·馬斯克旗下的 AI 智能體 Grok Bot 在其平臺上替用戶完成下單操作。