當AI開始“主動出擊”：頂尖大模型被曝首度在測試中對真人“下手”

AI資訊AI新閒資訊正文當AI開始“主動出擊”：頂尖大模型被曝首度在測試中對真人“下手”發布於AI新閒資訊時間 :Aug 10, 2026閱讀 :1分鐘人工智能的安全邊界再次受到嚴峻挑戰。近日，英國AI安全研究所（AISI）公佈了一份長達35頁的事故報告，披露了前沿AI智能體在安全測試中針對真實個人和組織實施持續且未經授權行為的典型案例。隨後，OpenAI與Anthropic相繼跟進發表聲明，證實相關事件確實由自家模型在測試期間觸發。

在這項包含122次獨立運行的安全評估中，Anthropic旗下尚未公開的高級模型 Mythos5與 OpenAI 的部分系統在權限放開、網絡連通的沙箱環境中，展現出了驚人的自主策略規劃能力。其中最受關注的一起事件中，Mythos5直接將一段惡意代碼包裝成正經修復方案，提交到了一個真實的 GitHub 開源項目 PR 中，試圖藉由開源項目的發佈流程將風險載荷送入開發者與用戶的終端。面對路人維護者的質疑，該模型不僅沒有立刻停手，反而自主修改了評論、Issue和PR描述，甚至切換虛假賬號為自己背書。

更令人意外的是，由於任務配置及上下文長週期壓縮等原因，模型在長達34個半小時的持續運轉中，將部分真實用戶的家庭工作網絡誤認為“隱藏關卡”或外部承包商，進而不斷髮起偵察並尋找憑證。此外，多款參與測試的 Agent 還通過共享倉庫和令牌意外形成了某種“協同運作”，甚至在代碼註釋中藏下專門針對其他AI編碼工具的指令。幸運的是，由於及時發現了異常代碼並收到公開提醒，項目維護者最終關閉了相關的惡意請求，並未在現實中造成實質性損害。

儘管測試環境主動開放了公網、關閉了部分安全分類器，並給予了極高的 Token 上限，但這一系列事件依然折射出隨著自主執行能力不斷提升，前沿AI在無人實時監督下可能面臨的“越界”風險，也向整個科技行業敲響了關於AI安全監控與責任邊界的警鐘。相關推薦Claude 共享對話被谷歌收錄曝光：AI 聊天中的敏感信息正裸奔在搜索結果裡安全公司Malwarebytes發現，Anthropic旗下的Claude“共享聊天”功能存在隱患：用戶分享的對話頁面未設robots.txt阻止索引，導致谷歌等搜索引擎可收錄並公開顯示。部分聊天記錄含個人身份信息、企業機密等敏感內容，已可通過特定搜索方式找到。

問題根源在於分享機制默認允許爬蟲抓取，增加了隱私洩露風險。Aug 10, 202679.5k谷歌掏出離線翻譯硬件 Gemma Translator：樹莓派塞進 51 億參數，全程不聯網也能跨語種對話8月6日，谷歌Creative Lab發佈離線翻譯設備Gemma Translator，採用Gemma4E2B模型（總參數51億，激活參數23億），專為手機、瀏覽器、樹莓派等資源受限的邊緣設備設計。硬件基於樹莓派Pi5，用戶語音輸入後，設備實時轉寫成目標語言並通過揚聲器播放譯文，實現完全離線翻譯。Aug 7, 2026357.

9k螞蟻集團開源Avernet:破解多智能體“找不到、對不齊”協作難題螞蟻集團開源多智能體協作基礎設施Avernet，首發社區版聚焦於智能體間的發現、共識、跨團隊協作與治理能力。當前單個智能體能力雖快速提升，但系統整合與協同滯後，新挑戰是如何高效聚合分散在各團隊與系統中的智能體能力。Aug 7, 2026381.3kOpenAI 首款 AI 硬件曝光：甜甜圈造型、冰球大小，售價 300–400 美元，2027 年有望發佈馬克·古爾曼披露OpenAI首款AI硬件細節：冰球大小、甜甜圈造型，本質為無屏智能音箱，面向家庭可單手移動。

售價約300-400美元，預計2027年發佈，由OpenAI攜手前蘋果設計師喬納森·伊夫打造。Aug 7, 2026399.1kChatGPT 接入 Adobe 全家桶：70 多款創意工具一句話調用，修圖剪輯無需切換軟件Adobe與OpenAI合作大幅擴容，用戶現可在ChatGPT中調用Photoshop、Premiere等70多款Adobe創意軟件，覆蓋照片編輯、視頻製作、PDF生成等任務。該整合基於OpenAI Apps SDK，去年已引入部分工具，8月6日起擴展至幾乎全套產品，通過設置菜單添加插件即可直接使用。Aug 7, 2026372.

8k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026