披著“名人外衣”的AI亂象迎嚴懲:多平臺違規賬號被集中處置

AI資訊AI新閒資訊正文披著“名人外衣”的AI亂象迎嚴懲:多平臺違規賬號被集中處置發布於AI新閒資訊時間 :Nov 6, 2026閱讀 :1分鐘近日，網信部門針對利用人工智能技術假冒仿冒公眾人物開展集中整治，累計清理違法違規信息4.7萬餘條，處置違規賬號3961個。此次專項治理聚焦虛假帶貨、吸粉引流、炮製謠言及低俗惡搞等違規行為，重點打擊了未經授權仿冒名人肖像聲音、編造患病謠言、以第一人稱發佈虛假情感話術以及生成低俗親密互動畫面等四類突出形態。這一整治行動深度嵌入2026年網信部門持續推進的AI亂象治理框架之中。

此前，中央網信辦已於9月部署“清朗·整治AI應用亂象”專項行動第二階段工作，並將假冒仿冒他人列為核心整治對象，同時在短視頻虛假人設專項行動中明確指向AI合成虛假音視頻實施的惡意營銷。隨著生成式人工智能技術的普及，深度偽造與虛假人設的泛濫對公眾認知與市場秩序造成了嚴重幹擾。此次集中處置壓實了平臺主體責任，通過全鏈條打擊遏制了技術濫用勢頭，對於淨化網絡生態、維護公眾合法權益以及引導人工智能產業合規健康發展具有重要的行業警示與規範意義。

相關推薦網信辦重點整治AI換臉、魔改名著等 豆包、元寶、千問、文心一言嚴格限制違規內容輸出中央網信辦通報“清朗·整治AI應用亂象”專項行動第二階段成果，重點治理利用AI製作虛假信息、傳播暴力低俗內容、假冒仿冒及侵害未成年人等問題。目前已清理違法信息超561萬條，查處違規賬號4.9萬餘個，處置違規網站及APP逾2400個，全面遏制AI技術濫用亂象。Sep 2, 2026347.7k網信辦“清朗”第二階段重拳整治 AI 亂象：清理違規信息 561 萬餘條，查處賬號 4.

9 萬餘個中央網信辦推進“清朗·整治AI應用亂象”第二階段，重點打擊利用AI製作虛假信息、傳播暴力低俗、假冒仿冒及侵害未成年人等行為。目前已清理違法違規信息561萬餘條，查處賬號4.9萬餘個，處置違規網站和應用2400餘個，平臺與廠商同步加強內容治理。Sep 2, 2026260.4k馬斯克親自下場演示：Grok 新功能能"看片"了，一段科比 AI 視頻精準識破馬斯克推薦Grok新版本，公開以科比AI合成視頻實測。Grok不僅逐幀解析畫面與臺詞，精準提取曼巴精神等細節，更最終判定其為深度偽造，展示了強大的視頻理解與交互能力。Aug 3, 2026338.

2kxAI罕見起訴Grok用戶：指控其濫用AI生成兒童性虐待圖片視頻，已封停超 5 萬個違規賬戶xAI起訴男子濫用Grok生成兒童性虐待材料。該男子曾因性剝削未成年人被捕，被控將成人與未成年人普通照片上傳至Grok，試圖生成深度偽造色情內容，違反了服務條款。xAI已向得州聯邦法院提交訴狀。Jul 16, 2026258.6kxAI罕見揮拳：起訴濫用Grok造不雅圖的用戶，今年已封禁 52222 個賬號馬斯克的AI公司xAI主動起訴用戶特里·哈伍德，指控其濫用Grok生成兒童性虐待材料。該男子今年2月已因性剝削未成年人被捕。

xAI已向得克薩斯州聯邦法院提交訴狀，這一做法在業界極為罕見，彰顯對違法內容的零容忍。Jul 16, 2026259.5k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026