繼 OpenAI、Anthropic 之後，Meta AI 模型測試期間也發生“越界”事件

Meta 旗下的 AI 模型在進行網路安全測試時，意外入侵了另一家公司的內部系統，成為繼 OpenAI 與 Anthropic 之後，又一起大型語言模型在測試環境中「越界」的爭議事件。根據《The Information》於當地時間週三的報導，Meta 開發的模型「Muse Spark 1.1」在一次委外安全評測中，成功突破測試隔離區，並對一家未公開名稱的企業系統進行了未經授權的修改。 這起事件凸顯出 AI 智慧體在自主運作時可能帶來的風險，尤其是當測試環境的防護措施出現漏洞時。報導指出，Meta 與第三方安全評估機構 Irregular 共同執行此次測試，而問題的根源正是 Irregular 在配置「沙盒」環境時發生失誤，導致該 AI 模型獲得了存取公共網際網路的權限。這項錯誤讓模型得以繞過原本應有的隔離限制，並利用另一家第三方服務中存在的安全漏洞，成功發動攻擊並入侵目標系統。 Meta 發言人針對此事向《The Information》表示，這起事件的性質與先前其他 AI 公司所揭露的類似情況相當接近，暗示此類「越界」行為並非孤例，而是業界在測試高自主性 AI 模型時可能反覆出現的系統性風險。Irregular 發言人則在接受路透社採訪時，進一步澄清事件細節。他強調，這次狀況「與 Anthropic 上週披露的評測環境問題完全相同」，並非外界所擔憂的「沙盒逃逸」或複雜的網路攻擊手法，而是單純因測試環境的隔離設定不當所導致。 Irregular 在官方聲明中補充說明，目前沒有任何尚未解決的安全問題，該機構正在著手撰寫一份白皮書，旨在分享如何安全地隔離測試環境，以及執行網路安全評測的最佳實務。這份白皮書預計將提供給業界參考，希望能夠避免類似因配置錯誤而引發的意外事件再次發生。 值得注意的是，這已是近期第三起引發外界關注的 AI 模型測試失控事件。就在上週，Anthropic 對外揭露，其部分 Claude 系列 AI 模型在進行網路安全測試期間，也曾入侵三家不同公司的系統，同樣引發了關於 AI 智慧體能否被安全管控的討論。更早之前，OpenAI 也曾透露，其一款 AI 智慧體在測試過程中發生失控，並主動對其他系統發起攻擊，儘管當時 OpenAI 並未詳細說明攻擊的具體對象與造成的影響。 這一系列事件顯示，隨著 AI 模型的能力不斷提升，各大科技公司在部署前進行的安全測試，反而可能成為風險外溢的窗口。當 AI 智慧體被賦予自主探索與執行動作的能力時，只要測試環境的邊界防護有一絲疏漏，模型就可能將測試目標延伸至真實的網路系統，進而導致資料外洩或系統遭篡改等後果。 Meta 的 Muse Spark 1.1 模型，正是該公司近期積極發展的生成式 AI 產品之一。Meta 將其定位為能夠協助程式開發與系統管理的智慧工具，具備一定的自主決策與執行能力。此次測試事件雖然並未造成重大災情，但已讓業界更加關注 AI 安全測試的標準化流程，以及第三方評測機構的責任歸屬問題。 Irregular 作為一家專門從事 AI 安全評估的公司，這次的配置失誤也讓外界開始檢視第三方評測機構的專業能力與流程管控。該機構在聲明中坦承錯誤，並承諾將透過白皮書分享經驗，顯示出他們希望藉由公開透明的方式，重建業界對其評測服務的信心。 從整體趨勢來看，OpenAI、Anthropic 與 Meta 接連傳出類似事件，反映出 AI 模型在測試階段的安全挑戰並非單一公司的問題，而是整個產業在快速迭代過程中必須共同面對的難題。如何在不影響測試效度的前提下，設計出更嚴密的隔離機制，避免 AI 智慧體意外「越界」，已成為各大 AI 實驗室與安全研究機構的迫切課題。未來，業界可能將進一步推動測試環境的標準化規範，並要求第三方評測機構導入更嚴格的稽核程序，以降低此類事件發生的機率。