打假大動作！小紅書已治理超 120 萬個AI託管賬號，處置 18 萬篇AI造假筆記
重點摘要
在2026上海網絡視聽創作者大會上，小紅書分享了AIGC創作與社區治理的最新實踐。其AI治理團隊披露，截至2026年5月，平臺已累計處置18萬篇涉嫌AI造假的筆記，並對超120個違規賬號採取限制措施，展現了應對生成式AI虛假內容挑戰的積極行動。
在 2026 年上海網絡視聽創作者大會上，小紅書首度公開其 AIGC（生成式 AI）創作與社區治理的最新進展。該平台 AI 治理團隊揭露，截至 2026 年 5 月，已累積處置超過 18 萬篇涉嫌利用 AI 造假的筆記，並對超過 120 個違規帳號採取限制措施，展現出應對生成式 AI 虛假內容的積極態度。這項大規模打假行動，不僅反映平台自我監管的決心，也凸顯了內容生態面臨的全新挑戰。
根據小紅書公布的數據，18 萬篇 AI 造假筆記的處置，以及 120 個違規帳號的限制，僅是現階段可見的成果。平台強調，這些違規行為多半涉及利用 AI 生成虛假評價、偽造產品使用心得、甚至創造不存在的旅遊打卡點，企圖誤導用戶決策。值得注意的是，小紅書並未將所有 AI 內容一概封殺，而是針對「造假」與「誤導性」內容進行重點打擊，顯示其治理策略兼具區分性與針對性。
這波打假行動的背景，始於近兩年生成式 AI 技術的爆炸性成長。在 2024 至 2025 年間，多款文字與影像生成工具的普及，讓創作者能快速產出大量圖文內容，但也催生了「AI 託管帳號」的灰色產業鏈。這些帳號通常以自動化方式批量發布 AI 生成筆記，擾亂平台真實性，稀釋優質原創內容的能見度。小紅書作為以真實用戶分享為核心的社群平台，若不主動遏制此類濫用，將直接動搖用戶信任基礎。
此舉帶來的可能影響相當深遠。首先，對於依賴 AI 輔助創作的正常創作者，平台需更明確區分「合理使用」與「惡意造假」的界線，避免誤傷。其次，品牌與廣告主過去仰賴素人筆記進行口碑行銷，如今將面臨更嚴格的審查，行銷成本與難度可能上升。再者，用戶對搜尋結果的信賴度可望回升，但同時也須適應平台對內容真實性標籤的新規範，例如加註 AI 生成標
Related
相關文章
因批評 AI 數據中心迅速擴張，多名亞馬遜工程師遭內部調查
亞馬遜多名工程師因公開批評AI數據中心快速擴張，遭到公司內部調查。亞馬遜告知員工，調查可能導致紀律處分，甚至明確警告最嚴重後果為解僱。此舉使受調查員工深感威脅，並對就業穩定性產生不安。
因用 AI 編造證據材料，英國一警員面臨刑事調查
英國德比郡一名警探涉嫌利用警局內部AI聊天機器人，刻意下達偏頗指令以捏造有利於起訴的證據，包括誇大被害者影響聲明，目前該警員已遭停職並面臨「妨礙司法公正」的刑事調查。此案為英國首起執法人員濫用AI干預司法的事件，可能影響其經手案件的判決效力，也引發對警方導入AI技術監管機制的檢討。
AI 賬單失控：AT&T、Meta 等巨頭急剎車，從“瘋狂消耗”到“嚴苛限制”
科技媒體 The Information 昨日（6 月 18 日）發佈博文，報道稱包括 AT&T、Meta、Uber、微軟在內的諸多科技公司已嚴苛限制內部 AI 工具使用，正從鼓勵 AI 無限使用（tokenmaxxing）轉向嚴格限制（tokenminimizing）。
蓋洛普最新研究：不經常使用 AI 的員工更容易成為被裁員對象
這篇消息聚焦「蓋洛普最新研究：不經常使用 AI 的員工更容易成為被裁員對象」。原始導語提到：在美國科技行業，每月至少使用一次 AI 的員工，預計遭裁員的概率約為 6%；使用 AI 較少的員工，預計遭裁員的概率達到 18%，是前者的三倍。 從 AI 情報角度來看，這類內容值得關注其背後的技術進展、產品落地、產業競爭與後續市場影響。
皮尤研究中心民調：63% 美國人認為 AI 發展速度過快
這篇消息聚焦「皮尤研究中心民調：63% 美國人認為 AI 發展速度過快」。原始導語提到：49% 的美國人偶爾會使用聊天機器人，63% 則認為 AI 發展速度過快。2024 年，使用過 AI 聊天機器人的受訪者比例只有 33%。 從 AI 情報角度來看，這類內容值得關注其背後的技術進展、產品落地、產業競爭與後續市場影響。
Anthropic CEO 阿莫迪：公司治理機構隨時有權解僱我
Anthropic CEO 阿莫迪接受採訪時表示，AI 技術主要由私營企業推動，他本人並不完全認同此模式。為防範權力濫用，公司設立了“長期利益信託”治理結構，該機構有權撤換董事會成員甚至解僱 CEO。他強調，政府與企業應合作引入公共監督機制，確保 AI 安全發展。#AI 治理##Anthropic#