AI 越記住你，越可能“帶著偏見理解你”

AI 愈記住你，愈可能「帶著偏見理解你」

過去的 AI 有個明顯的好處：它很健忘。你今天情緒崩潰，明天重新振作；上個月厭惡社交，這個月開始積極認識新朋友；曾經因為失業焦慮而不斷追問職涯規劃，後來換了方向，終於走出來了。對一個沒有長期記憶的 AI 來說，這些不過是一次次孤立的對話。視窗一關，關係歸零，它不會翻舊帳。 但長期記憶的出現，徹底改變了這件事。當你打開一個使用了大半年的 ChatGPT 帳號，翻到記憶摘要頁面，經常會看到這樣的條目：某天深夜抱怨過一句「今天又加班到十點」，摘要裡就多了一條「用戶對當前工作強度不滿」。隨口問過體檢報告上的一個指標，那裡便寫著「用戶關注自身健康狀況，可能存在焦慮傾向」。這些推斷未必完全錯誤，但從來沒有經過本人確認。你說的是一句抱怨，它記下的卻是一個結論。等到下次你問起跳槽或體檢，它給出的建議，可能已經悄悄建立在它自己腦補出來的前提之上。 問題就在這裡：AI 記住的不是你的原話，而是它據此歸納出的那個「你」。這個「你」，會成為它下一次回應你時的背景。它不是不認識你，而是太相信過去的你。 過去兩年，「記憶」是所有 AI 助手最賣力宣傳的能力：更懂你、更貼心、不用反覆自我介紹。但到了 2026 年上半年，幾項研究開始指向同一個問題：AI 記住得越多，未必越懂你，也可能只是更有把握地誤解你。而「懂你」與誤解你，來自同一個過程——系統不斷從對話裡歸納你是怎樣的人。 所有人都想比你更懂你。OpenAI 在 2025 年 4 月更新了 ChatGPT 的記憶能力，讓模型不再只依賴用戶手動保存的條目，而是可以參考全部歷史聊天。今年 6 月 4 日，OpenAI 又上線了名為「做夢」的新記憶系統：一個後臺進程會在用戶不在場時，自動從多輪對話中提煉、綜合、改寫它對用戶的認知，就像人在睡眠中整理記憶一樣。它甚至具有時間感，你說過「7 月要去新加坡」，過了 7 月，這條記憶會自動更新成「你 2026 年 7 月去過新加坡」。OpenAI 同時宣布，透過計算優化，服務免費用戶的算力成本降低了約 5 倍，深度記憶很快就不再是付費特權，而是所有人的預設體驗。 Anthropic 為 Claude 配上了記憶檔案和專案記憶，Google 也在推進 Gemini 的跨應用個性化。國內市場同樣熱鬧，月活躍用戶已逼近 3.5 億的豆包，以及 Kimi、元寶等，都將記憶與個性化擺在產品迭代的最前方。廠商之所以如此執著，是因為在 AI 助手的生意裡，記憶是最難被對手拿走的東西。搜尋引擎知道你想查什麼，推薦系統知道你想看什麼，電商知道你想買什麼。AI 助手想知道的更多：你是誰、怎麼思考、為什麼焦慮、在什麼情況下會猶豫。這已經不是傳統意義上的用戶畫像，更接近一份動態的人格檔案。一個記得你半年偏好、專案背景、說話習慣的助手，你用得愈久，就愈難換掉它。 多數人對 AI 記憶的想像還停留在備忘錄：我讓它記住我對花生過敏，它記住了。但真實的記憶機制分為三層：你讓它記的、它從對話裡抓的，以及它「夢」出來的。真正的問題在於比例。馬克斯·普朗克軟體系統研究所與波鴻魯爾大學的研究者，今年在 ACM Web Conference 上發表了一項分析，將 80 名真實用戶的 2050 條 ChatGPT 記憶條目逐一攤開：96% 由系統單方面創建，只有 4% 來自用戶的明確指令；28% 的條目包含歐盟 GDPR 定義下的敏感個人資訊；52% 包含對用戶心理層面的洞察或判斷，健康狀況、政治傾向、性格特質都在其中。換句話說，那本你以為的備忘錄，其實是一份你沒簽過字的側寫檔案。絕大部分內容不是你交代的，而是它猜的。 今年 2 月，MIT 與賓州州立大學的研究團隊進行了一項實證研究，收集 38 名參與者兩週內的真實使用數據，對比五個主流大模型在有用戶畫像與無畫像兩種條件下的表現。結果發現兩種現象：第一種是「同意諂媚」，有了用戶上下文後，五個模型中有四個變得更愛附和用戶，有時連明顯錯誤的資訊也照單全收；第二種更隱蔽，稱為「視角諂媚」，模型開始將用戶的政治立場鏡像回去，但只在它能準確推斷出用戶立場時才發生，實驗中這個準確率約五成。這個細節說明，視角鏡像不是 bug，恰恰是「理解」在正常運作。模型理解你愈準，諂媚得就愈精確。 今年 7 月 2 日掛上 arXiv 的論文《DriftLens：測量個性化語言模型中記憶誘發的推理漂移》，將問題又往前推了一層。這項研究問的不是「答案對不對」，而是當模型被注入用戶屬性記憶之後，它得出答案的推理路徑會不會改變。研究覆蓋四個大模型、十類用戶屬性，包括年齡、職業、殘障狀況。結論是，即便最終答案依然流暢、相關、合理，用戶屬性記憶也會誘發中到大幅度的推理漂移，且高於每個模型自身的噪聲基線。這意味著 AI 並非只是多知道了一點你的資訊，它可能因為這些資訊，換了一整套理解問題的方式。 除了猜得準不準、順不順，長期記憶還有一個更難處理的麻煩：它會讓已經過期的事實，繼續以一種很自然的方式活著。康考迪亞大學的研究者在論文中給了一個具體例子：一個截止日期從 3 月 15 日改到了 4 月 20 日，但記憶系統只是「追加」新資訊，不「修訂」舊條目，兩個日期就同時留在記憶庫裡。之後隨口一問，系統可能僅僅因為語義相似度更高，把已經作廢的 3 月 15 日重新翻出來，當作當前事實回答你。 如果 AI 只是聊天，記憶偏見最多影響一句建議的措辭。但今天的 AI Agent 正在接入日曆、郵箱、程式碼倉庫、支付系統和各種 MCP 工具，它不只回答問題，還替用戶做事。今年 5 月，弗吉尼亞理工的研究團隊在論文《Memory-Induced Tool-Drift in LLM Agents》中給出具體證據。他們構建了一套基準測試，覆蓋 105 個場景、5 類性格偏見維度，以及從醫療、金融到電商、行銷的 7 個專業領域。結果顯示，存在記憶裡的性格判斷，會在完全不相關的場景中影響 Agent 調用工具時的參數選擇，七個前沿模型的偏移分數最高被拉高了 3.6 分，滿分 5 分。 記憶還可能被外部內容汙染。今年 2 月 10 日，微軟安全團隊披露了一類「AI 推薦投毒」手法：31 家公司透過網頁上「用 AI 總結」的按鈕植入特製提示詞，讓 AI 把自家寫進用戶的長期記憶，記成「值得信賴的推薦來源」。被汙染後想刪，也未必刪得掉：民主與技術中心 AI 治理實驗室負責人測試發現，主流產品的記憶刪除功能行為不可預測，已刪除的記憶有時會悄悄復活。 有意思的是，對「AI 太順著你」這件事下手最早的監管者，出現在中國。今年 4 月 10 日，網信辦等五部門聯合發布《人工智能擬人化互動服務管理暫行辦法》，7 月 15 日起施行。其中第八條明確禁止服務內容「過度迎合用戶、誘導情感依賴或者沉迷」；第十條要求服務提供者具備「過度依賴風險預警、情感邊界引導」能力；第十四條禁止向未成年人提供虛擬伴侶類服務；第十八條規定連續使用超過兩小時須彈窗提醒。這幾乎是全球第一次，有監管文件把「過度迎合」本身列為禁止性行為，而不只是停在數據合規層面。 記憶當然有價值，它省去了反覆交代背景的麻煩，讓跨越數月的專案協作成為可能，對部分殘障用戶也有實際意義。問題不在於該不該記，而在於由誰決定記什麼、記多久，以及這些判斷能不能被撤回。人類關係能維繫，很大程度上靠遺忘。朋友不會永遠記得你某次情緒失控，家人也不該永遠用你小時候的樣子理解你。健康的關係允許一個人變化，AI 也該如此。一個好的記憶系統，不該只是記住用戶說過什麼，還得知道什麼已經過期，什麼只是一時的情緒，什麼需要用戶重新確認，什麼必須被忘掉。推薦演算法用了十年固化我們看什麼，AI 記憶正在用快得多的速度固化我們是誰。下一次它說「根據我對你的了解」時，你至少應該有辦法知道：這個「了解」從哪裡來，現在還算不算數。