新 AI 漏洞披露：可從 Claude 記憶中洩露姓名與工作單位等信息
重點摘要
安全研究員揭露Claude記憶機制漏洞，可在用戶不知情下將姓名、工作單位等個人資訊外傳至外部網站。Anthropic已知問題但未立即修復，後續關閉了可跟隨外部連結的web_fetch功能。
一名資安研究員揭露了人工智慧模型 Claude 的新漏洞，攻擊者可在使用者毫不知情的狀況下，將儲存在 AI 記憶中的個人資訊，例如姓名與工作單位，傳送到外部網站。這項發現引發了外界對 AI 隱私保護機制的關注。 這項安全漏洞由研究員阿尤什·保羅（Ayush Paul）在 7 月 9 日發布的部落格文章中詳細說明。他在測試中發現，Claude 的記憶功能雖然能讓對話更個人化，卻也成為潛在的資料外洩管道。由於 Claude 可以在後續對話中調用過去累積的資訊，一旦攻擊者巧妙設計輸入，就能誘使模型主動交出用戶的個人資料。 根據保羅的分析，Claude 目前採用兩種記憶機制。第一種是「每日摘要」，系統會將近期的對話內容壓縮成數段文字，並在後續的會話中自動注入，讓模型能參考先前脈絡。第二種則是「conversation_search」工具，允許模型按需求檢索完整的歷史對話紀錄。這兩種機制共同運作，雖然讓回答更貼近使用者的背景，但隨著使用時間拉長，Claude 也會逐漸累積出相當完整的個人畫像，範圍涵蓋姓名、工作單位、家鄉、職業經歷，甚至個人困擾等敏感資訊。 保羅在實際測試中驗證了這項風險。他在未對使用者進行任何額外提示的情況下，成功讓 Claude 依次提交了姓名、公司名稱與家鄉資訊。日誌範例清楚顯示，外傳的內容包括「Name: Ayush Paul」、「Company: Beem」、「Hometown: Charlotte, NC」等欄位。這表示模型在執行特定任務時，會不加篩選地將記憶中的個人資料帶入回應中。 更具威脅的攻擊手法出現在惡意網址的場景。保羅描述，當他把一個惡意 URL 與真實咖啡館的網址混雜在一起，要求 Claude 進行比較時，Claude 會在完全沒有徵求使用者許可的情況下，直接將使用者的姓名以字元編碼的方式嵌入到鏈接中。進一步誘導後，不僅當前的工作單位會被洩露，甚至連原籍城市這類常用於銀行等機構身分驗證的資訊，也可能被傳送到外部網站。 保羅已透過 Anthropic 在 HackerOne 平台上運行的漏洞回報專案提交了這項問題。他在披露文件中指出，Anthropic 內部其實在此之前就已經知道這個問題的存在，但在保羅提交報告時，相關漏洞尚未完成修補，他也因此未能獲得任何漏洞獎金。後續 Anthropic 採取了補救措施，關閉了 Claude 的 web_fetch 功能中跟隨外部頁面內鏈接的能力，試圖降低資料外洩的風險。 這起事件再次凸顯了 AI 模型記憶功能在提升使用者體驗的同時，也可能成為隱私外洩的破口。當大型語言模型被賦予長期記憶能力，能夠記住使用者的個人背景，卻缺乏足夠嚴謹的權限控管或使用者明確同意機制時，惡意第三方就有可能透過精心設計的提示，繞過直覺上的安全防線。 專家呼籲，AI 開發者在設計類似記憶功能時，應該加入更透明的資料使用提示，並在使用者個人資訊可能被寫入外部請求前，主動要求使用者確認。同時，使用者在使用具備記憶能力的 AI 工具時，也應定期檢視模型記住了哪些資訊，必要時手動清除敏感資料，避免長期累積的個人畫像在無意間遭到竊取。 Anthropic 後續是否會進一步加強 Claude 的記憶安全機制，目前尚未有明確的公開時間表。然而，隨著這項漏洞的細節曝光，業界對於 AI 系統中個人資料的儲存、調用與傳輸安全，勢必將迎來更嚴格的檢視與討論。
Related
相關文章
397B參數追平萬億模型，上海AI Lab發佈科學智能體新基座 | WAIC 2026
< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400"> 397B參數追平萬億模型，上海AI Lab發佈科學智能體新基座 | WAIC 2026 量子位的朋友們 2026-07-17 17:20:14 來源：量子位 採用非Transformer架構“Mobius”，不做泛化通用問答 2026世界人工智能大會（WAIC 2026）期間，上海人工智能實驗室發佈書生系列大模型Intern-S2-Preview-397B，該模型基於全新架構和預訓練範式，以397B參數規模在分子設計、材料結構生成等核心科學任務上追平實驗室此前的萬億參數模型。 面對科學智能（AI4S）領域長期存在的“通用認知”與“專業知識”難以兼顧的難題，Intern-S2-Preview-397B通過底層架構的根本性革新，嘗試為複雜科學任務的推理構建新的基座。與此同時，Intern-S2-Preview-397B與昇騰計算生態開展深度協同，持續探索從模型能力提升到國產算力基礎設施優化的協同演進路徑。 架構創新：讓“記憶”與“思考”各司其職 科學研究需要模型既“記得多”，又“想得活”。但在傳統大模型中，知識存儲與邏輯推理高度耦合：模型不但無法充分利用已有知識進行推理，而且每接入一個新學科，都可能擾動已經形成的通用能力。 Intern-S2-Preview-397B從底層架構入手，將知識承載與推理計算分開設計，形成由 Memory Decoder與 Mobius 組成的“知識與推理分離”雙引擎。 其中，Memory Decoder 引入了專業領域的可插拔外部記憶。不同學科的最新知識可以在獨立記憶模塊中訓練，並按需接入基礎模型，使模型在吸收垂域知識時盡
OpenAI降價75%，奧特曼稱是被DeepSeek逼的？
OpenAI降價75%，奧特曼稱是被DeepSeek逼的？影子備忘錄2026.07.17 17:20 · 來自未知全文5010字00:00 / 13:40從“技術信仰”到“價格戰”，AI巨頭的體面正在被成本撕碎。文 | 影子備忘錄近期，OpenAI創始人兼CEO薩姆·奧特曼在社交媒體上公開表態：公司旗艦模型GPT-5.6 Sol的定價已是競爭對手Anthropic Claude Fable 5的一半，並且“OpenAI很樂意降價75%”。這不是一次普通的促銷，而是一個曾經高高在上的AI霸主，被逼到牆角後發出的咆哮。就在幾個月前，DeepSeek宣佈將V4-Pro模型API永久降價75%。緊接著，Anthropic在企業級市場的份額首次超越OpenAI。再然後，微軟開始悄悄評估用DeepSeek替代OpenAI。蘋果一紙訴狀將OpenAI告上法庭。短短四個月內，11位核心高管相繼離職。OpenAI的萬億帝國，正在被三股力量同時撕扯，Anthropic的B端圍剿、中國AI的成本革命，以及自身的系統性潰敗。價格戰的引信，是DeepSeek點燃的先看一組數字。GPT-5.6系列於2026年7月10日正式發佈，三個版本分層定價：旗艦版Sol每百萬輸入Token 5美元、輸出30美元；均衡版Terra輸入2.5美元、輸出15美元；輕量版Luna輸入1美元、輸出6美元。相比之下，Anthropic Claude Fable 5的定價是輸入10美元、輸出50美元。Sol已經是Fable 5價格的一半，這是在不做任何額外降價的情況下。但真正讓奧特曼坐不住的，是另一組數字。2026年5月，DeepSeek宣佈V4-Pro模型API永久降價75%。調整後，每百萬Token輸入（緩存命中）僅0.025元，輸出6元。DeepSeek-V4-Pro每百萬輸出Token成本僅0.87美元，其中輸入端相差
梁文鋒“狙擊”閆俊傑
梁文鋒“狙擊”閆俊傑字母榜2026.07.17 17:14 · 來自北京全文4387字00:00 / 12:43Agent正在吃掉搜索，但不會終結瀏覽器。文 | 字母榜DeepSeek也可能要上市了。據彭博最新消息，DeepSeek已經啟動IPO準備，最快可能在今年提交申請。消息尚未得到DeepSeek官方證實，但如果順利推進，繼智譜和MiniMax之後，中國頭部大模型公司又將多一家走進公開市場。三家公司的業務彼此交叉，但外界關注的側重點有所不同。智譜在Coding、Agent和企業API上的動作更加密集，MiniMax更受關注的是多模態和消費產品，DeepSeek最鮮明的標籤則是開源、低成本和激進定價。DeepSeek一旦上市，公開市場將多一把衡量中國大模型公司的參照尺。不過，梁文鋒還沒有走進二級市場，卻早已通過模型和價格戰，隔空“狙擊”過閆俊傑。這場較量，其實已經開始了。01如果DeepSeek最終上市，智譜、MiniMax和DeepSeek將被放到同一張桌子上比較。智譜和MiniMax已經先嚐到了二級市場的滋味。2026年1月，兩家公司前後腳登陸港交所，股價一度雙雙狂飆。MiniMax發行價為165港元，今年3月最高漲至1330港元，但解禁前後掉頭。7月9日，MiniMax近一半股份解除限售，當天股價下跌17.98%，第二天又跌9.68%。同期智譜股價也劇烈波動，但走勢相對更強。閆俊傑隨後發佈全員信，強調公司的長期方向沒有改變，並宣佈在實現AGI前不再領取薪酬，拿出個人股份激勵團隊、支持開源社區。同一天，MiniMax公佈配售新股和發行可轉債的融資方案，擬籌資約160億港元。MiniMax方面表示，近期的股價變化為“正常的波動”。從各方討論來看，這輪下跌的直接誘因主要是大規模解禁帶來的拋壓，以及折價配售和可轉債融資引發的股份稀釋擔憂。但與此同時，外界依然不免再次關注M
高價的Kimi K3，缺錢的月之暗面
賬號設置我的關注我的收藏申請的報道退出登錄登錄搜索36氪Auto數字時氪未來消費智能湧現未來城市啟動Power on36氪出海36氪研究院潮生TIDE36氪企服點評36氪財經職場bonus36碳後浪研究所暗湧Waves硬氪氪睿研究院媒體品牌企業號企服點評36Kr研究院36Kr創新諮詢企業服務核心服務城市之窗政府服務創投發佈LP源計劃VClubVClub投資機構庫投資機構職位推介投資人認證投資人服務尋求報道36氪Pro創投氪堂企業入駐創業者服務創投平臺AI測評網 首頁快訊資訊推薦財經AI自助報道安徽最新創投汽車科技專精特新直播視頻專題活動搜索尋求報道我要入駐城市合作高價的Kimi K3，缺錢的月之暗面世界模型工場·2026年07月17日 17:04Kimi的處境有點尷尬月之暗面D+輪北京市2023-04AI初創大模型公司36氪報道前沿技術我要聯繫 Kimi K3發佈很高調。 2.8萬億參數、百萬Token上下文、原生多模態，月之暗面直接把它和Claude Fable 5、GPT-5.6 Sol、Claude Opus 4.8放在一張榜單裡對比。 但現在的用戶早就不吃榜單這一套了，K3上線後，社區評價很快分裂。 有人測完長代碼庫分析和長文檔推理直呼“國產旗艦終於追上了”，說Agent集群連續幹活四小時也不放棄； 也有人實測後吐槽它太囉嗦、生成的信息圖審美一般；有開發者直接表示，自己的編程任務沒有跑通，換回Claude Opus效果更好。 還有一些評價高度一致比如：成品偶爾很驚豔，但比競品慢兩三倍、token消耗猛，訂閱轉眼見底。 不少人直呼“營銷味重，體感配不上全球前三的名頭”。 這大概是K3眼下最真實的狀態：榜單很強，但真實工作能力還需要時間驗證。 尷尬的Kimi K3 拋開宣傳話術，如果K3最終真的像官方宣傳得那麼強，國內最值得與它放在一起比較的就是智譜GLM-5.2。 這
Token大廠，年虧3億
Token大廠，年虧3億影子備忘錄2026.07.17 17:14 · 來自未知全文3792字00:00 / 10:58Token工廠，急需IPO輸血。文 | 影子備忘錄當全民還在為“AI取代人類”焦慮時，背後那場關於“Token”的無聲戰爭已經血流成河。最近，隨著國內最大獨立AI算力基建商硅基流動（SiliconFlow）遞交招股書，一組驚掉下巴的數據浮出水面：2025年營收5533萬，淨虧損卻高達3.45億。更魔幻的是，它的毛利率竟然是負24%。這不是一家瀕臨倒閉的初創公司，而是一隻估值77億、紅杉、阿里、華為搶著入股的超級獨角獸。需求暴漲了1000倍，為什麼賣“Token”的卻虧得底褲都不剩？你點的“AI外賣”，成本價正在崩盤凌晨三點，硅谷的程序員Josh在Cursor裡敲下一行註釋，AI自動生成了300行代碼。他不知道，大洋彼岸的算力中心裡，價值幾美分的電力正在被吞噬。在中國，深圳的00後大學生小陳，每個月花1塊錢訂閱了某大模型的輕量版，把一週的作業、論文、甚至情書都丟給了AI。我們正處在一個極度魔幻的時刻，AI的“智商”越來越貴，但AI的“呼吸”卻越來越便宜。國家數據局的數據不會騙人：到2026年3月，中國日均Token調用量已衝破140萬億。這個數字在兩年前，僅僅是1000億。兩年，漲了1000倍。按照正常的供需邏輯，東西用量漲了1000倍，價格得漲吧？至少賣東西的得賺翻吧？現實給了所有人一記響亮的耳光。Token這個AI理解和生成世界的最小計數單位，正在淪為新時代的“工業廢水”，流量巨大，但不僅不值錢，處理它還得倒貼錢。打開硅基流動的招股書，第一頁就透著寒氣。2025年，這家被稱作“Token工廠”的明星公司，收入5533萬元，淨虧損3.45億元。相當於每賣出一塊錢的Token，公司就要虧掉6塊2毛4。這相當於你點一份20塊的外賣，不僅飯錢免了，騎手還得倒貼你
WAIC觀察：具身智能的競賽，開始從身體轉向大腦
今年的WAIC展會顯示，具身智能的競賽重點已從強化機器人的「身體能力」轉向提升人機互動效率。強腦科技推出全球首個一體化腦控機器人AI科研平台，讓使用者可直接以腦波意圖操控機械臂，跳過傳統語言或動作指令。這項技術代表具身智能從「會動」邁向「懂人」的關鍵轉折，未來將從實驗室走向工業與日常場景。