大模型分級安全水印技術
重點摘要
隨著大型語言模型（LLM）生成的文字內容日益普及，如何在人工智慧產出的資訊中嵌入可供辨識的記號，同時又能兼顧資訊安全與隱私保護，已成為學術界與業界關注的焦點。目前常見的對策是在模型輸出時加入數位浮水印，讓系統得以區分合成文本與人類書寫，或進一步嵌入版本、時間戳等元資料。然而，現有的多位元浮水印技術存在一項關鍵限制：驗證任何一部份的浮水印時，都必須揭露完整的內嵌訊息。這種「全有全無」的設計不僅缺乏彈性，更可能導致不必要的資訊外洩，引發嚴重的隱私疑慮。
隨著大型語言模型（LLM）生成的文字內容日益普及，如何在人工智慧產出的資訊中嵌入可供辨識的記號，同時又能兼顧資訊安全與隱私保護，已成為學術界與業界關注的焦點。目前常見的對策是在模型輸出時加入數位浮水印，讓系統得以區分合成文本與人類書寫，或進一步嵌入版本、時間戳等元資料。然而，現有的多位元浮水印技術存在一項關鍵限制：驗證任何一部份的浮水印時，都必須揭露完整的內嵌訊息。這種「全有全無」的設計不僅缺乏彈性，更可能導致不必要的資訊外洩，引發嚴重的隱私疑慮。 針對上述痛點，一項由 Xuyang Chen、Xiang Li、Yangxinyu Xie 與 Qi Long 共同提出的研究成果，發表了名為「階層式詞彙路由」（Hierarchical Vocabulary Routing，簡稱 HeRo）的全新浮水印框架，直接挑戰既有技術的盲點。該論文已被機器學習頂尖會議 ICML 2026 收錄，並在預印本平台 arXiv 上公開，迅速引起學術界與安全領域的討論。 現有的浮水印技術大致可分為兩類：零位元（zero-bit）方案僅用於判別文字是否由語言模型生成，適用於偵測深偽內容；多位元（multi-bit）方案則能夠嵌入更多元的資訊，例如模型版本、生成時間、使用者識別碼等。然而，多位元方案的驗證機制存在明顯的不足——驗證某一段元資料時，整個浮水印承載的訊息都必須被解碼，這意味著即便只是想確認某個特定屬性，系統也會暴露其他不相關的敏感資訊，在隱私與合規要求日益嚴格的環境中難以落地。 HeRo 框架的核心貢獻在於實現「選擇性揭露」（selective disclosure）。研究團隊利用階層式結構，將詞彙表（vocabulary）反覆進行遞迴分割，並將浮水印資訊分散配置於不同的層級中。如此一來，系統便可依照驗證者的權限等級，只允許其解開相對應層級的承載內容，而無法存取較高層級或非授權的資訊。這種設計讓浮水印的驗證不再是一翻兩瞪眼的全面攤牌，而是能依照需求進行精準的細粒度存取控制。 從技術面來看，HeRo 的運作過程與語言模型的取樣邏輯緊密整合。在模型生成文字的當下，系統會依據預先定義的階層路由規則，在不同的詞彙子集中嵌入對應的浮水印位元。驗證時，具備特定權限的驗證者只擁有該層級的路由金鑰，只能解碼出該層級的訊息，而無法窺探其他層級的內容。這種方式相當於在浮水印內部建立了一套權限分級體系，符合現實場景中對資料最小揭露的隱私要求。 更重要的是，這項方法設計上保持了底層取樣程序的無偏性（unbiasedness）。過去部分浮水印技術為了嵌入訊號，往往會扭曲機率分佈，導致生成文字品質下降或出現重複模式。HeRo 透過嚴謹的數學論證與階層路由的設計，在不影響語言模型原始生成分佈的前提下完成資訊嵌入，從而使輸出的文字依然保持流暢自然。實驗結果也證實，該方法在文本品質上與未添加浮水印的版本幾乎沒有差異。 在實測表現方面，研究團隊在多個基準測試上進行評估，結果顯示 HeRo 能夠在極低的延遲下達到高檢測準確度。即便面對較長的生成序列或複雜的權限分層結構，系統依然維持穩定效能，彰顯其具備實際部署的可行性。論文也強調，該框架支援靈活的權限設定，適用於從簡單的二元驗證到多層級的組織授權情境。 這項研究的應用前景相當廣泛。例如在不同部門共享同一套語言模型輸出時，管理階層可能希望能夠驗證所有資訊，而基層員工只需要確認該文字來源可靠即可。透過選擇性揭露浮水印，系統可在不增加隱私風險的情況下滿足多方需求。此外，對於生成式 AI 服務的開發者來說，此法也能作為合規審計的輔助工具，在不洩漏使用者資料的前提下舉證內容來源。 隨著 ICML 2026 的正式發表，HeRo 架構已被視為大型語言模型浮水印技術邁向實用化與隱私保護的關鍵進展。研究團隊也同步開放了相關程式碼供學術研究與工業應用參考。未來若能進一步優化整合流程，此技術極有可能成為 AI 內容治理中不可或缺的基礎元件，協助社會在擁抱生成式 AI 的同時，守住資訊安全與個人隱私的底線。
Related
相關文章
民航視覺智能第一龍頭IPO了，開盤大跌17%
智東西（公眾號：zhidxcom） 作者 | 程茜 編輯 | 李水青 智東西7月8日報道，剛剛，廈門視覺智能企業瑞為技術在港交所掛牌上市。 其發行價為每股21.66港元（約合人民幣18.76元），開盤價為每股18港元（約合人民幣15.59元），較發行價下跌16.9%。截至午間休市，其股價較發行價下跌4.8%至每股20.62港元（約合人民幣17.87元），總市值為62.95億港元（約合人民幣54.55億元）。 瑞為技術成立於2012年，其主要業務是基於自研的視覺大模型、深度學習相關技術、多光譜成像技術及軟硬件協同設計能力，提供一系列視覺感知、視覺認知及視覺推理智能產品，主要應用場景為民航、商業空間、安全駕駛。 該公司的業務涵蓋視覺智能產品、機器人及智能體等，其已推出曉瑞旅服機器人、曉蟻行李轉運機器人，並打造了RecoSee、RecoAware及RecoThink三大視覺智能體，提升企業內部研發效率。 根據弗若斯特沙利文的數據，按2025年的收入計，瑞為技術以8.7%的市場份額，在中國民航企業視覺智能產品市場排名第一。 瑞為技術以1.7%的份額，在中國商業空間企業視覺智能產品市場排名第四。 根據批註估計，公司A、B、C、D分別為北京AI視覺企業愛筆智能、瑞士3D感知企業Xovis、雲從科技、瑞典視覺識別廠商Gunnebo。公司E、F、G分別是上海視覺分析公司匯納科技、廣州數字化視覺企業萬店掌、上海視覺創企矩視智能。 根據招股書，瑞為技術上市前共完成9輪融資，累計獲得5.712億元，截至2025年12月31日，全部上市前投資募集淨額已全額使用完畢。該公司最新一輪融資是去年4月的E輪融資，投後估值達35.5億元。 此外，英特爾為其重要股東，持股4.16%。 瑞為技術計劃募資6.08億港元（約合人民幣5.27億元），將用於在未來五年內加強研發能力及產品供應、建立生產基地、提升業務發展
快手換船：短視頻擱淺，AI搶灘
快手換船：短視頻擱淺，AI搶灘斑馬消費2026.07.08 12:37 · 來自湖北全文2678字00:00 / 08:54可靈能否扛起快手的未來？文 | 斑馬消費 任建新快手，正在經歷冰火兩重天。7月2日晚間，快手宣佈旗下可靈AI重組，引入BAT以及各路資本豪門，投後估值180億美元；3天之後，快手第一大股東騰訊控股大宗減持套現百億，持股從15.68%下降至9.37%。消息公佈後，昨日快手股價大跌超過12%。騰訊將自己在快手的資產，從短視頻+電商，轉移到可靈AI，代表了主流市場的潮水方向。現在的爭議在於，快手APP坐擁4億日活、年入千億，是否被過於低估？可靈AI佔據視頻生成模型頭部地位，但仍然面臨幾大互聯網巨頭AI業務的集體擠壓，能否扛起快手的未來？重倉可靈、減持快手618以來平靜了半個月的互聯網市場，突然被快手-W（01024.HK）投下的兩塊巨石，激起層層波浪。7月2日，快手集團旗下可靈AI重組方案落地。可靈AI運營公司北京可靈，從快手的全資子公司，變為快手系持股68.33%的控股子公司，仍納入快手報表。根據重組方案，21家初始投資者，將向北京可靈注資138.24億元（20.28億美元）。另外，該交易也保留了額外認購通道，額外投資人的總增資款不超過204.47億元（30億美元），約佔北京可靈經擴大註冊資本的16.67%。據此測算，可靈AI投後估值達到180億美元，約為目前快手總市值的八成。值得一提的是，北京可靈重組後的股東名單可謂星光熠熠：互聯網產業資本BAT三家，源峰資本、國方創投、弘毅資本、春華資本、中信證券等PE機構，中國互聯網投資基金等國資產業資本，華策影視、芒果系影視資本，均已確認參與其中。根據市場慣例，獨立融資後接下來就是分拆上市。在重組公告中，快手也給出了可靈AI的上市時間，不晚於2031年10月30日。然而，就在快手宣佈可靈重組的幾天後，快手第一大股東
騎手背後的美團，悄悄跑通了萬億大模型
騎手背後的美團，悄悄跑通了萬億大模型摩爾觀察2026.07.08 12:26 · 來自北京全文3591字00:00 / 10:50騎手背後那家公司" 雖然製造了懸念，但也增加了一層理解成本。文 | 摩爾觀察美團悄悄跑通了萬億參數大模型。一個送外賣的公司，憑什麼做最前沿的 AI？上週，一件有點違和的事發生了。美團，那個天天給你送炸雞、幫你約按摩的外賣平臺，悄悄發佈了一個叫LongCat-2.0 的大模型。參數量1.6 萬億。不是1.6 億，是 1.6T，“T” 是trillion，萬億級別。全球能跑這個量級的模型，兩隻手數得過來。更奇的是，這個模型不是在英偉達的GPU 上練出來的，而是在五萬張國產算力卡上完成的全流程訓練和推理，目前全球範圍內第一個這樣做的萬億參數模型。說實話，第一次看到這條新聞，我的反應是：美團做這個幹嘛？騎手送餐路上要用到萬億參數大模型？但這事兒沒這麼簡單。外賣這件事，比你想的複雜一百倍先說說外賣配送這個“簡單” 的場景。午高峰，北京某個三公里範圍內，幾百個騎手，幾千張訂單，每分鐘都在變動。某家餐廳出餐慢了，某條路剛出了交通事故，某個小區電梯壞了，某個用戶剛改了收貨地址。這些變量同時發生，系統需要在毫秒級別重新規劃每一個騎手的路線，預估每一張訂單的送達時間，還要把新進來的訂單合理分配出去。用行業的話說，這叫“實時動態調度”，是公認的超級複雜的計算問題。美團每天處理的訂單量是以千萬級計算的。這個系統跑了十幾年，積累了天量的真實世界數據：路況、天氣、用戶等待容忍度、商家出餐模式、騎手行為習慣……這些數據有個共同特點：髒、雜、真實。教科書上找不到這些，論文數據集裡也沒有，只有在真實的配送場景裡日復一日運轉，才能攢出來。而大模型，說白了是靠喂數據長起來的。誰的數據更貼近真實世界，誰的模型就更懂真實世界。美團做大模型，不是追風口，是因為手裡攥著別人沒有的東西。調度數
競賽編程Agent進入全球前十，南大、清華新模型CF rating超3500
南京大學與清華大學團隊提出Solvita框架，透過Planner、Solver、Oracle、Hacker四個角色形成閉環，並搭配可訓練的圖結構知識網絡，讓程式碼智能體能從失敗中累積經驗。該系統在Codeforces真實比賽中評分超過3500，進入傳奇宗師區間與全球前十。
尼日利亞將對人工智能企業涉嫌侵犯該國媒體行業權益進行調查
尼日利亞聯邦競爭和消費者保護委員會（FCCPC）於當地時間7月6日正式宣布，將對Meta、Alphabet、X（前身為Twitter）以及部分生成式人工智慧平台等大型科技公司展開調查，理由是這些企業涉嫌侵害該國媒體產業的合法權益。這項調查源自尼日利亞新聞組織（Nigeria Press Organisation）向總統博拉·提努布遞交的請願書，該組織由多個媒體業協會與從業者團體共同組成，表達了對數位平台日益擴張影響力的擔憂。總統隨後責成FCCPC啟動調查程序。
人人都在喊的世界模型，正在成為AI最大的“概念筐”
世界模型已成AI領域最混亂的詞彙，不同業者各自定義，從視頻生成到機器人、自駕車都搶貼此標籤。文章指出，該概念面臨定義模糊、物理數據稀缺且採集成本極高、技術路線分歧等系統性困境，即使特定垂直場景已有應用，通用世界模型仍處於早期探索階段。