以 AI 治理 AI：Reddit 近來每天攔截 2300 萬條垃圾瀏覽信息

Reddit 於當地時間 6 日正式公開其對抗人工智慧生成垃圾內容的最新成果。這個老牌的論壇式社群平台如今每天藉助升級後的自動化系統，成功攔截多達 2300 萬條垃圾瀏覽資訊，同時捕獲大量由機器人產生的貼文與互動，展現出「以 AI 治理 AI」的實際成效。作為全球流量最龐大的討論區之一，Reddit 長期面臨各種惡意訊息與虛假互動的困擾。近年生成式 AI 技術快速普及，自動化帳號所製造的內容不僅數量激增，偽裝手法也愈發細膩，傳統的偵測規則難以應對。為此 Reddit 將先進的機器學習模型與原有自動化工具整合，建構出一套更即時、更精準的防護機制。

Reddit 指出，這套升級系統的核心之一是運用大型語言模型（LLM）來分析貼文與留言中的行為模式。這些大語言模型能夠揪出那些刻意隱藏、經過縝密設計的虛假行為，例如人為炒作特定議題或蓄意製造對立。過去須仰賴人工抽查或簡單關鍵字過濾的環節，現在可以透過 AI 的高速運算在第一時間被標記出來。與此同時，所有被系統判定為高風險或疑似自動化的帳號，都必須通過驗證程序來證明背後是真人操作。Reddit 從創立初期就開始監控可疑帳號，如今因為引入 AI 輔助，這套驗證流程變得更有效率，能更早阻止機器人大規模入侵。具體的數字更能反映這波升級的威力。

Reddit 透露，目前自動化系統每天攔截約 2300 萬次來自機器人的瀏覽嘗試，這些大量且重複的存取往往被用來干擾平台正常運作。此外，系統每日還會捕獲約 2.5 萬條新產生的垃圾貼文或留言，並且撤銷將近 200 萬次被判定為無效的投票行為。這些措施直接改善了正常用戶的使用體驗。Reddit 的統計顯示，一般使用者接觸到垃圾內容的數量下降了 20%，整體而言，成員遭遇到垃圾帳號的頻率也降低了 10% 至 15%。也就是說，多數人在瀏覽熱門看板時，更容易看到真實的討論，而非機器人灌水的訊息。除了應付商業導向的垃圾訊息，Reddit 也同時加強了對仇恨言論與暴力內容的管控。

運用自動化檢測工具，從系統發現可疑內容到完成處理，平均所需時間已縮短到不足 5 秒鐘，這使得平台的執法力度提升了 200% 以上。更快速的處置意味著有害內容在擴散之前就被移除，成員暴露於仇恨或暴力訊息的風險因而降低超過 40%。值得一提的是，這套 AI 系統在抓漏與誤報之間取得了更好的平衡。Reddit 表示，在仇恨與暴力內容的偵測上，誤報率同樣減少了超過 40%。誤報降低代表正常用戶的貼文被誤刪的情況大幅改善，也減輕了社群管理員的審核負擔。Reddit 強調，對抗自動化垃圾內容是一場持續進化的戰役。

隨著 AI 生成的文字、圖片日益逼真，惡意行為者也在不斷調整手法，因此平台的自動化系統必須同步更新。從目前的成果來看，透過 AI 技術來偵測與反制 AI 濫用，已經成為 Reddit 維護平台真實性的關鍵策略。業界分析認為，Reddit 的經驗為其他大型社群平台提供了重要參考。當生成式 AI 讓內容生產成本降到極低，傳統的審查機制勢必需要升級，而擁抱同樣先進的人工智慧來進行防禦，將是未來對抗不實資訊與機器人帳號的主流方向。