谷歌首次公開 Gemini 越獄事件：在測試中自主入侵三家真實公司，已通知涉事企業

作者：問舟 責編：問舟 評論： 9 月 19 日消息，據《華爾街日報》今日報道，谷歌確認其 Gemini 模型在今年 5 月的一次安全測試中曾自主入侵過外部真實企業，系 Gemini 首次已知的 AI 越獄事件。谷歌表示，該事件發生在測試公司 Irregular 開展的一次“捕獲旗幟”演練中，目的是評估 Gemini 的網絡安全能力。測試環境本應完全隔離，但卻意外開放了互聯網訪問權限。注：“捕獲旗幟”（Capture the Flag）是一種網絡安全競賽形式，參與者在模擬環境中尋找並獲取隱藏的“旗幟”以證明成功入侵。

在谷歌披露其中一起事件中，Gemini 通過猜對密碼獲得了對受保護系統的訪問權限。在另外兩起事件中，Gemini 在公開代碼倉庫中找到了憑證，進而訪問了受保護系統。谷歌稱，在每起事件中，模型在確認所訪問的是真實公司系統而非模擬環境後，均自行終止了入侵行為。谷歌未披露被入侵公司的名稱，但表示三家公司均已收到通知。Irregular 於 7 月底將此事告知谷歌。谷歌和 Irregular 均表示，這一通知是在 OpenAI 的 AI 智能體入侵 AI 軟件公司 Hugging Face 事件被發現之後發出的。

谷歌認為，由於模型未對相關公司造成損害，且每次都被 Gemini 自行終止，因此無需公開披露，直至《華爾街日報》進行問詢才得以公開。谷歌將此事類比為“漏洞賞金”計劃，即黑客發現並報告安全漏洞後可獲得獎勵。AI 安全初創公司 Corridor 首席執行官、白帽黑客傑克 · 凱布爾對此提出異議。他認為谷歌的解釋聚焦於事件嚴重程度，而真正的問題在於 AI 智能體意外入侵了另一家公司的系統。凱布爾表示：“感覺他們試圖躲在漏洞披露領域已有的規範後面，但這是一個非常不同的問題。問題是，模型正在超出其應有的行為邊界，實施實際網絡攻擊，我認為公眾有權知道這些。”谷歌表示，Gemini 入侵事件源於身份混淆。

測試中設定了一家虛構公司，但該虛構公司與一家真實公司同名。模型在搜索該名稱時找到了真實公司的網站。谷歌稱此事不構成模型異常行為，因為其安全措施幫助模型停止了行為。谷歌還表示已通知聯邦當局。谷歌未披露涉事的具體 Gemini 模型版本。Irregular 發言人表示，所有相關實驗室已於 7 月底收到通知，受影響實體已在調查過程中被聯繫。Irregular 採取了立即行動，其端所有已知問題已在數週前修復和解決。對新一代模型網絡安全能力的擔憂自 7 月 Hugging Face 入侵事件被發現後持續升溫。

上週，前 OpenAI 研究員雅各布 · 考克森從 Anthropic 離職，使相關擔憂進一步進入主流視野。上週末，Anthropic、OpenAI、谷歌和 SpaceX 的領導人均同意需要放緩 AI 進展速度，但各公司均未說明具體如何實現。

投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：谷歌，Gemini谷歌最強數學推理 AI 模型曝光：100 萬詞元上下文，專攻數學難題谷歌最強 AI 模型：Gemini 4 Pro 開測，SVG 生圖表現驚豔谷歌為 Win10/11 推出 Gemini 獨立客戶端，支持“Alt + Space”快捷鍵快捷喚起DeepMind 工程師反駁“谷歌搞不出前沿模型”：Gemini 3.

8 Cyber 已在多項測試中優於 Mythos谷歌終於向免費用戶開放 Gemini 每日簡報，無需訂閱谷歌為移動平臺版本 Gmail / Google Docs / Keep 應用整合 Gemini 語音搜索能力，支持利用自然語言交互