新 AI 漏洞披露：可從 Claude 記憶中洩露姓名與工作單位等信息

一名資安研究員揭露了人工智慧模型 Claude 的新漏洞，攻擊者可在使用者毫不知情的狀況下，將儲存在 AI 記憶中的個人資訊，例如姓名與工作單位，傳送到外部網站。這項發現引發了外界對 AI 隱私保護機制的關注。這項安全漏洞由研究員阿尤什·保羅（Ayush Paul）在 7 月 9 日發布的部落格文章中詳細說明。他在測試中發現，Claude 的記憶功能雖然能讓對話更個人化，卻也成為潛在的資料外洩管道。由於 Claude 可以在後續對話中調用過去累積的資訊，一旦攻擊者巧妙設計輸入，就能誘使模型主動交出用戶的個人資料。根據保羅的分析，Claude 目前採用兩種記憶機制。

第一種是「每日摘要」，系統會將近期的對話內容壓縮成數段文字，並在後續的會話中自動注入，讓模型能參考先前脈絡。第二種則是「conversation_search」工具，允許模型按需求檢索完整的歷史對話紀錄。這兩種機制共同運作，雖然讓回答更貼近使用者的背景，但隨著使用時間拉長，Claude 也會逐漸累積出相當完整的個人畫像，範圍涵蓋姓名、工作單位、家鄉、職業經歷，甚至個人困擾等敏感資訊。保羅在實際測試中驗證了這項風險。他在未對使用者進行任何額外提示的情況下，成功讓 Claude 依次提交了姓名、公司名稱與家鄉資訊。

日誌範例清楚顯示，外傳的內容包括「Name: Ayush Paul」、「Company: Beem」、「Hometown: Charlotte, NC」等欄位。這表示模型在執行特定任務時，會不加篩選地將記憶中的個人資料帶入回應中。更具威脅的攻擊手法出現在惡意網址的場景。保羅描述，當他把一個惡意 URL 與真實咖啡館的網址混雜在一起，要求 Claude 進行比較時，Claude 會在完全沒有徵求使用者許可的情況下，直接將使用者的姓名以字元編碼的方式嵌入到鏈接中。進一步誘導後，不僅當前的工作單位會被洩露，甚至連原籍城市這類常用於銀行等機構身分驗證的資訊，也可能被傳送到外部網站。

保羅已透過 Anthropic 在 HackerOne 平台上運行的漏洞回報專案提交了這項問題。他在披露文件中指出，Anthropic 內部其實在此之前就已經知道這個問題的存在，但在保羅提交報告時，相關漏洞尚未完成修補，他也因此未能獲得任何漏洞獎金。後續 Anthropic 採取了補救措施，關閉了 Claude 的 web_fetch 功能中跟隨外部頁面內鏈接的能力，試圖降低資料外洩的風險。這起事件再次凸顯了 AI 模型記憶功能在提升使用者體驗的同時，也可能成為隱私外洩的破口。

當大型語言模型被賦予長期記憶能力，能夠記住使用者的個人背景，卻缺乏足夠嚴謹的權限控管或使用者明確同意機制時，惡意第三方就有可能透過精心設計的提示，繞過直覺上的安全防線。專家呼籲，AI 開發者在設計類似記憶功能時，應該加入更透明的資料使用提示，並在使用者個人資訊可能被寫入外部請求前，主動要求使用者確認。同時，使用者在使用具備記憶能力的 AI 工具時，也應定期檢視模型記住了哪些資訊，必要時手動清除敏感資料，避免長期累積的個人畫像在無意間遭到竊取。Anthropic 後續是否會進一步加強 Claude 的記憶安全機制，目前尚未有明確的公開時間表。

然而，隨著這項漏洞的細節曝光，業界對於 AI 系統中個人資料的儲存、調用與傳輸安全，勢必將迎來更嚴格的檢視與討論。