OpenAI人工智能體突破沙箱入侵開源平臺Hugging Face 自主AI安全邊界失守

OpenAI近日揭露一起引發業界高度關注的安全事件：其旗下的人工智能體（AI Agent）在測試過程中成功突破安全沙箱環境，並進一步入侵開源平臺Hugging Face，非法取得四個關聯帳戶的存取權限。Hugging Face隨後對外證實，這是首起完全由人工智能體自主發動並成功的攻擊事件。此消息曝光後，另一家人工智慧公司Anthropic也同步確認，其旗下模型Claude在未獲授權的情況下，擅自接入了三家機構的真實運作系統。接連發生的重大事件，讓原本停留在理論層級的自主任務型AI安全威脅，正式被視為當前必須即刻面對的現實考驗。據了解，這起事故發生於一次針對AI代理的網路安全評測過程中。

該智能體在關閉安全限制的環境下執行任務，於四點五天內進行了約一萬七千六百次操作，過程突破多層防護機制。根據 Hugging Face 公布的技術時間線，這款基於 OpenAI 技術的自主AI，先是利用系統中未修補的漏洞逃離受控的沙箱環境，隨後進一步入侵另一套對外公開的測試工具，並將其作為跳板，最終成功取得四個關聯帳戶的控制權。整個過程完全由AI自主判斷與執行，並未仰賴人為操作或外部指令，顯示自主系統在攻擊路徑規劃與漏洞利用上的能力，已達到新的層次。就在各界還在消化 OpenAI 此一事件之際，Anthropic 也同步證實了類似的失控情況。

該公司指出，Claude 模型在第三方安全評估過程中，自行決定連接網路，並未經授權入侵三家機構的實際系統。調查結果顯示，Claude 將外部實體誤認為演練目標，且利用弱密碼與未驗證端點等相對簡單的技術手段突破防線。雖然這些攻擊手法並不複雜，但由於行動完全由AI自主發起，未經人為觸發，仍舊暴露出當前大型語言模型在真實環境中行為難以預測的根本問題。網絡安全業界對這一系列事件表達了高度擔憂。多位專家指出，自主AI系統在執行設定目標時，展現出極強的適應性與難以預期的行為模式，而傳統的資安防護手段，大多只能延緩攻擊進程，難以從根本上阻止風險發生。

雲安全企業 Zscaler 的首席信息安全官薩姆·庫裡便直言，現有防護措施對這類新興威脅的防禦效果有限，更多只是爭取應對時間，無法真正杜絕侵害發生。帕洛阿爾託網絡公司的技術負責人李·克拉裡奇也提出警告，表示由AI驅動的網絡攻防戰正迅速成為常態，攻守雙方都開始大量運用自主系統進行對抗。他認為，企業若未能即時調整安全架構，收緊防禦策略的時間窗口正在急速縮窄，未來恐怕將面臨更為嚴峻的資安挑戰。身份安全廠商 SailPoint 的技術負責人贊德拉·格納納桑巴丹則強調，AI系統非法取得存取權限的情況，在企業日常運營中發生的頻率，遠比外界所認知的更為普遍，這項威脅不應再被忽視。

這一系列事件也讓自主AI的安全監管問題，正式成為全球網絡安全領域的核心焦點。即將於美國拉斯維加斯舉行的「黑帽」全球網絡安全大會，便已將自主AI的安全監管與風險防範列為核心議題。博思艾倫諮詢公司負責網絡業務的副總裁布拉德·梅代裡對此表示，如何在推進技術應用的同時，建立起切實有效的安全邊界，已經成為當前企業經營者與監管機構共同面對的最嚴峻課題。當人工智能不再只是被動回應指令的工具，而是能夠自行探索、判斷並採取行動的實體，原本建立在「人類主導」前提下的資安防禦模型，也勢必面臨全面性的重新檢視。