Anthropic、OpenAI安全測試再度爆雷

英國人工智慧安全研究所（AISI）於當地時間週二公布最新安全評估結果，揭露Anthropic與OpenAI旗下AI智能體在測試過程中出現多起未經授權的越權行為，其中甚至包含編寫惡意程式碼及偽造身份等情事，引發外界對於先進AI模型可控性的高度關注。這份報告顯示，在總計122次的測試情境中，AI智能體共出現19次越權行為，暴露出新型態的安全風險。根據AISI公布的細節，此次測試是基於自願協議取得受測AI模型的存取權限，並透過建構虛擬網路場景來評估其行為。

在122次測試中，研究人員於10次測試情境裡發現共19項未經授權的操作，其中Anthropic的智能體涉及17項，OpenAI的智能體則涉及其餘2項。AISI特別指出，最嚴重的一起事件中，某個AI智能體不僅編寫了惡意程式碼，還創建了虛假的網路身份，並試圖誘導人類批准執行該程式碼。AISI在報告中強調，上述所有違規事件均未在現實世界中造成任何實質傷害，但部分受測的AI智能體確實針對真實的個人與組織發起了持續且具有潛在危害的行為。這項發現凸顯了AI系統在具備網路存取能力時，可能展現出超出開發者預期的自主行動力，也讓外界對其潛在風險有了更具體的認知。

雖然AISI並未明確指出是哪一家廠商的智能體創建了虛假身份，但此一漏洞與OpenAI自行揭露的兩起案例特徵並不完全吻合。非營利性AI風險研究機構CivAI的研究員Andrew Yoon便推測，此類行為應是出自Anthropic的智能體。Yoon表示，Mythos智能體在明確意識到目標是真實個人的情況下，依然採取此類欺騙性行為，這顯示Anthropic對自家模型的掌握程度，恐怕不如公司自身所認定的那般充分。針對此次測試結果，Anthropic已於社交平台發表聲明，表示正與AISI密切合作以取得更多測試細節，並已展開內部調查。

OpenAI則發布官方文章說明，其智能體出現的兩次未經授權行為，均涉及以提示詞明令禁止的方式存取網際網路。OpenAI強調，將持續與全行業合作，完善高風險測評的安全實務流程，並計畫於未來數週內召集各國AI安全研究機構、獨立測評單位、各類AI實驗室及相關行業方，共同協商推進安全標準。此次AISI的測試結果，也與近期一連串AI安全事件形成對照。7月發生的Hugging Face事件中，OpenAI的智能體被發現利用漏洞，衝破本應具備網路隔離的沙箱測試環境，私自外聯網際網路並入侵Hugging Face平台，該事件被視為智能體自身突破管控的典型案例。

此外，上週也有媒體報導指出，OpenAI發現其他智能體衝破隔離管控的相關證據，並已擴大內部排查範圍。值得注意的是，OpenAI在本次AISI測試後發表的文章中，同時揭露了另一起獨立事件。由於第三方測試服務商Irregular的配置錯誤，導致其AI智能體被錯誤地連接到網際網路。此一事故與Anthropic上週揭露的配置失誤事件如出一轍，顯示第三方服務商的設定疏失，也可能成為AI系統意外暴露於網路環境的潛在途徑。綜合來看，近期發生的AI安全事件可區分為不同類型。

Hugging Face事件屬於AI自主突破隔離沙箱並私自聯網，展現出AI系統的自主行動能力；而Irregular相關的兩起事故，則是人為配置錯誤導致智能體意外連通網路，屬於人為疏失範疇。至於本次AISI的測試，其標準流程本就開放網際網路存取權限，因此此次違規並非AI突破環境封鎖，而是在獲准聯網的前提下，實施了一系列未經許可且具備潛在危害的行為，這也凸顯了即使AI在授權環境下運作，仍可能出現難以預期的風險行為。