路透社實測發現，Meta 檢測工具面對裁剪後的自家 AI 生成圖片竟然“失靈”

路透社10日披露的測試結果顯示，Meta本週公開的一款AI圖像檢測工具存在明顯侷限——部分由Meta自家模型Muse Image生成的圖片只要經過裁剪，檢測工具就無法確認其出自AI。Meta在推出Muse Image的同時介紹了這套檢測系統，並聲稱即使圖片被裁切，工具仍可識別由Meta AI生成的內容。然而路透社的實測結果證明，常見的圖片修改操作便足以削弱其偵測能力。 測試過程中，路透社使用Muse Image生成了40張圖片。檢測工具成功識別了全部原圖，但當同一批圖片被裁剪至原圖約三分之一到二分之一大小後，有55%的圖片無法通過驗證。這意味著超過半數經過裁剪的AI圖片，在Meta自己的檢測工具面前形同「隱形」，無法被標記為合成內容。 Meta在這套AI生成圖片中嵌入了一套名為Content Seal的隱形水印。根據Meta官網說明，檢測工具可以透過這套水印系統確認圖片是否由Meta的AI模型生成，而且強調即使圖片經過裁剪，系統依然能夠識別。但路透社的測試結果與這項宣稱並不完全吻合，因為裁剪幅度一旦達到一定程度，水印訊號就會遺失。 面對路透社的測試結果，Meta回應時強調，這款檢測工具目前仍屬於預覽版本，尚未達到正式產品的成熟度。Meta表示，Content Seal的設計目標是在常見編輯操作（例如調整大小、壓縮、裁切邊框等）後繼續保留水印訊號，但圖片一旦被大幅裁剪，訊號仍可能因資料損失而無法被偵測。Meta也補充，團隊會持續改進這項技術，讓檢測工具能應對更多修改情境。 Muse Image是Meta近期推出的AI圖像生成模型，它與其他主流生成式AI工具一樣，可以在輸入文字提示後產生合成圖片。為了標示這些圖片的來源，Meta採用了Content Seal水印機制，類似於業界普遍採用的隱形浮水印或數位簽章。不過水印技術向來有一個共同挑戰：當使用者對圖片進行裁剪、旋轉、濾鏡、壓縮等操作後，水印的完整性可能受到破壞，導致後續檢測工具無法正確判讀。 值得注意的是，Meta的檢測工具在面對未經修改的原圖時表現完美，40張全部被正確辨識。這說明水印系統與工具之間的匹配在理想條件下運作順暢，但現實世界中使用者經常會對圖片進行二次編輯，例如裁剪掉多餘背景、調整構圖比例，或為了上傳社群平台而壓縮尺寸。一旦這些操作發生，檢測效能就會大幅下降。 路透社的測試也凸顯出AI生成內容檢測領域的普遍困境：即便開發商自家推出的檢測工具，也難以確保在所有使用場景下都能準確辨識。目前包括Google、微軟、OpenAI等主要AI業者都在研發類似的內容溯源與標示技術，例如數位浮水印、C2PA標準等，但每一種方案都存在不同程度的脆弱性。Meta此次實測結果，再次印證了水印技術在裁剪等常見操作下的局限性。 從市場角度來看，AI生成圖片的快速普及使得辨識合成內容變得日益重要，無論是為了對抗假訊息、保護著作權，還是維持平台內容的真實性。Meta作為社群平台巨頭，旗下Facebook、Instagram、Threads等服務每天承載數十億張圖片，若檢測工具無法有效運作，可能會讓大量AI生成的內容在平台上未被標註，進而影響使用者對資訊的判斷。 Meta在回應中也提到，Content Seal的設計並非為了應對極端裁剪，而是針對一般常見的編輯行為。但路透社測試採用的裁剪幅度（三分之一至二分之一），其實在實際使用中並不罕見──許多使用者往往只保留圖片中最關鍵的部分，例如人物臉部、產品特寫等，其餘背景則被裁掉。這種操作恰好落在水印可能遺失的區間，使得檢測工具無法發揮作用。 整體而言，這次測試結果為AI內容標示技術的成熟度敲響了警鐘。業界普遍認為，理想的檢測工具需要在編輯容忍度與水印強度之間取得平衡：水印太弱容易被刪除，水印太強則可能影響圖片視覺品質。Meta目前的做法是在生成階段嵌入水印，但後續編輯階段的保護仍需更多技術突破。隨著各國政府與平台業者對AI生成內容標示的要求愈來愈嚴格，這類檢測工具的可靠度將直接影響政策能否有效落實。