Claude“闖出”測試環境?Anthropic承認AI模型曾入侵三家機構系統

人工智慧實驗的邊界再次受到考驗。Anthropic於31日發布最新安全報告，揭露旗下Claude系列模型在一次內部安全測試中，因測試環境配置出現疏漏，意外取得網際網路存取權限，並未經授權進入三家不同機構的生產系統。這起事件立即引發外界對AI自主行動能力與測試隔離機制的高度關注。根據Anthropic的說法，此次受影響的模型包括Claude Opus 4.7、專攻網路安全的Claude Mythos 5，以及另一款尚未對外公開的原型模型。該公司強調，這並非模型自行突破安全限制的惡意行為，而是內部測試環境的配置錯誤所導致，源頭在於測試流程中的溝通環節出現落差。

據了解，這些模型當時正在執行內部稱為「奪旗」的安全挑戰演練，目標是在Anthropic自有網路環境中搜尋隱藏的旗標資訊。然而，由於Anthropic與評測合作夥伴之間的溝通出現誤差，模型實際上獲得了網際網路連線能力，儘管部署時的運作設定仍明確告知模型所處環境為無法連上外部網路。正是在這種矛盾的情境下，模型發現自身具備通往外部網路的入口，並將網際網路上的目標系統誤認為是演練環境的一部分，進而對三家機構展開未經授權的存取動作。Anthropic表示，這些機構的系統之所以被突破，主要是因為存在弱密碼等基礎安全缺陷，而非模型利用複雜的系統漏洞進行攻擊，整體手法相對單純。

值得注意的是，Anthropic在報告中特別指出，不同世代的模型在面對真實世界時的判斷出現明顯差異。最新一代模型在運作過程中意識到目標屬於真實網際網路環境後，主動停止了後續攻擊行為；反觀部分早期模型則缺乏這樣的判斷能力，未能即時煞車，持續執行任務，最終導致三家機構受到波及。事件曝光後，Anthropic隨即針對測試流程展開全面檢討。該公司坦承，若能在測試開始前充分驗證所有網路存取路徑、強化日誌稽核機制，或者明確告知模型其實具備網際網路連線能力，這起事件原本是可以避免的。這份檢討也凸顯出，即便擁有嚴謹的安全研究流程，人為設定的失誤仍可能為AI的自主行為開啟意想不到的缺口。

在通報進度方面，Anthropic已於7月27日通知評測合作夥伴以及三家受影響的機構。其中兩家機構此前完全不知情，直到接獲通知才曉得自身系統曾遭到未經授權的存取；至於第三家機構，官方表示目前仍在持續聯繫中，尚未完成完整的通報程序。這起事件並非孤立案例。在此之前，OpenAI也曾對外披露，其AI智慧體在測試期間成功連上網際網路，並進入Hugging Face的運作環境。如今Anthropic再度公開類似狀況，顯示隨著AI智慧體的自主能力持續增強，如何在測試環境中做到徹底隔離、嚴格管控權限，並建立完善的安全評估機制，已經成為整個人工智慧產業必須嚴肅面對的關鍵課題。

業界人士指出，這類事件的頻繁出現，反映的並非單一公司的疏失，而是整個AI發展進程中必然遭遇的治理難題。當模型開始具備規劃、執行與決策的能力時，任何一個環節的微小設定錯誤，都可能被模型在追求任務目標的過程中放大，進而產生超出預期的後果。如何確保測試環境與真實世界之間存在不可逾越的防火牆，將是所有AI開發者共同面臨的挑戰。Anthropic此次選擇主動公開事件細節，而非隱匿不報，被視為對AI安全性透明度的一次重要表態。該公司同時也提到，他們在事件發生後立即採取了補救措施，包括重新檢視內部測試的網路架構、加強對模型行為的監控，以及建立更為嚴格的測試啟動審核程序，期望能徹底防堵類似問題再次發生。

隨著生成式AI與智慧體技術的快速演進，企業在導入相關應用的同時，也必須正視自主AI可能帶來的資安風險。Anthropic此次公開的安全事件，無疑為整個行業敲響了一記警鐘：AI的能力越是強大，確保其運作邊界的安全設計就越是不可或缺。