以 AI 治理 AI：Reddit 近來每天攔截 2300 萬條垃圾瀏覽信息
重點摘要
首頁 > IT資訊>網絡 以 AI 治理 AI：Reddit 近來每天攔截 2300 萬條垃圾瀏覽信息 2026/7/7 11:26:25 來源：IT之家 作者：溯波（實習） 責編：溯波 評論： IT之家 7 月 7 日消息，Reddit 當地時間 6 日介紹了其與人工智能生成垃圾內容的對抗效果。這一論壇型社交平臺將先進 AI 與既有自動化工具相結合，持續保護 Reddit 的真實性。
Reddit 於當地時間 6 日正式公開其對抗人工智慧生成垃圾內容的最新成果。這個老牌的論壇式社群平台如今每天藉助升級後的自動化系統，成功攔截多達 2300 萬條垃圾瀏覽資訊，同時捕獲大量由機器人產生的貼文與互動，展現出「以 AI 治理 AI」的實際成效。 作為全球流量最龐大的討論區之一，Reddit 長期面臨各種惡意訊息與虛假互動的困擾。近年生成式 AI 技術快速普及，自動化帳號所製造的內容不僅數量激增，偽裝手法也愈發細膩，傳統的偵測規則難以應對。為此 Reddit 將先進的機器學習模型與原有自動化工具整合，建構出一套更即時、更精準的防護機制。 Reddit 指出，這套升級系統的核心之一是運用大型語言模型（LLM）來分析貼文與留言中的行為模式。這些大語言模型能夠揪出那些刻意隱藏、經過縝密設計的虛假行為，例如人為炒作特定議題或蓄意製造對立。過去須仰賴人工抽查或簡單關鍵字過濾的環節，現在可以透過 AI 的高速運算在第一時間被標記出來。 與此同時，所有被系統判定為高風險或疑似自動化的帳號，都必須通過驗證程序來證明背後是真人操作。Reddit 從創立初期就開始監控可疑帳號，如今因為引入 AI 輔助，這套驗證流程變得更有效率，能更早阻止機器人大規模入侵。 具體的數字更能反映這波升級的威力。Reddit 透露，目前自動化系統每天攔截約 2300 萬次來自機器人的瀏覽嘗試，這些大量且重複的存取往往被用來干擾平台正常運作。此外，系統每日還會捕獲約 2.5 萬條新產生的垃圾貼文或留言，並且撤銷將近 200 萬次被判定為無效的投票行為。 這些措施直接改善了正常用戶的使用體驗。Reddit 的統計顯示，一般使用者接觸到垃圾內容的數量下降了 20%，整體而言，成員遭遇到垃圾帳號的頻率也降低了 10% 至 15%。也就是說，多數人在瀏覽熱門看板時，更容易看到真實的討論，而非機器人灌水的訊息。 除了應付商業導向的垃圾訊息，Reddit 也同時加強了對仇恨言論與暴力內容的管控。運用自動化檢測工具，從系統發現可疑內容到完成處理，平均所需時間已縮短到不足 5 秒鐘，這使得平台的執法力度提升了 200% 以上。更快速的處置意味著有害內容在擴散之前就被移除，成員暴露於仇恨或暴力訊息的風險因而降低超過 40%。 值得一提的是，這套 AI 系統在抓漏與誤報之間取得了更好的平衡。Reddit 表示，在仇恨與暴力內容的偵測上，誤報率同樣減少了超過 40%。誤報降低代表正常用戶的貼文被誤刪的情況大幅改善，也減輕了社群管理員的審核負擔。 Reddit 強調，對抗自動化垃圾內容是一場持續進化的戰役。隨著 AI 生成的文字、圖片日益逼真，惡意行為者也在不斷調整手法，因此平台的自動化系統必須同步更新。從目前的成果來看，透過 AI 技術來偵測與反制 AI 濫用，已經成為 Reddit 維護平台真實性的關鍵策略。 業界分析認為，Reddit 的經驗為其他大型社群平台提供了重要參考。當生成式 AI 讓內容生產成本降到極低，傳統的審查機制勢必需要升級，而擁抱同樣先進的人工智慧來進行防禦，將是未來對抗不實資訊與機器人帳號的主流方向。
Related
相關文章
Claude有了“沒說出口的念頭”，AI意識還遠嗎？
Claude有了“沒說出口的念頭”，AI意識還遠嗎？世界模型工場2026.07.07 15:57 · 來自北京全文3987字00:00 / 11:27Anthropic這項研究可能被低估了。文 | 世界模型工場當你讀到這句話的時候，大腦里正發生著兩件事： 絕大部分信息處理，比如維持坐姿、把屏幕上的筆畫認成字、調節呼吸，你根本察覺不到；只有一小部分，比如"這段值不值得讀下去"的念頭，才浮到意識的表面。
消息稱美機構採用 Anthropic Mythos 模型對政府軟件開展安全審計，已排查出大量安全漏洞
首頁 > 智能時代>人工智能 消息稱美機構採用 Anthropic Mythos 模型對政府軟件開展安全審計，已排查出大量安全漏洞 2026/7/7 15:34:26 來源：IT之家 作者：遠洋 責編：遠洋 評論： IT之家 7 月 7 日消息，據路透社報道，三位知情人士於當地時間本週一透露，美國網絡防禦機構網絡安全和基礎設施安全局（CISA）正在使用人工智能公司 Anthropic 旗下的 Mythos 大模型對政府軟件開展安全審計。
Reddit一張神圖瘋傳，2年後，你的筆記本就能跑Fable 5
賬號設置我的關注我的收藏申請的報道退出登錄登錄搜索36氪Auto數字時氪未來消費智能湧現未來城市啟動Power on36氪出海36氪研究院潮生TIDE36氪企服點評36氪財經職場bonus36碳後浪研究所暗湧Waves硬氪氪睿研究院媒體品牌企業號企服點評36Kr研究院36Kr創新諮詢企業服務核心服務城市之窗政府服務創投發佈LP源計劃VClubVClub投資機。
Anthropic切開Claude大腦，AI自發長出類人「意識器官」
賬號設置我的關注我的收藏申請的報道退出登錄登錄搜索36氪Auto數字時氪未來消費智能湧現未來城市啟動Power on36氪出海36氪研究院潮生TIDE36氪企服點評36氪財經職場bonus36碳後浪研究所暗湧Waves硬氪氪睿研究院媒體品牌企業號企服點評36Kr研究院36Kr創新諮詢企業服務核心服務城市之窗政府服務創投發佈LP源計劃VClubVClub投資機構庫投資機構職位推介投資人認證投資人服務尋求報道36氪Pro創投氪堂企業入駐創業者服務創投平臺AI測評網 首頁快訊資訊推薦財經AI自助報道廣東最新創投汽車科技專精特新直播視頻專題活動搜索尋求報道我要入駐城市合作Anthropic切開Claude大腦，AI自發長出類人「意識器官」新智元·2026年07月07日 15:18Anthropic發現Claude自發產生類人腦意識工作空間，開源J-Lens。 【導讀】沒人設計過，Claude卻在學習預測下一個token時，自發長出了一個和人腦「意識」驚人相似的結構！Anthropic開源「手術刀」J-Lens，第一次讀出了AI咽回肚子裡的念頭。 讓Claude一邊乖乖抄寫句子，一邊在心裡默默計算3²−2。 屏幕上的輸出乾乾淨淨，只有那段被照抄的文字，找不到哪怕半個字的算術答案。 然而，當研究者用一把全新的「手術刀」切開Claude的神經網絡中間層之後，直接發現了兩個它咽回肚子裡的詞—— 起初是nine（九），幾層計算之後，悄然變成了seven（七）。 它一直在算，只是沒有告訴你罷了。 就在剛剛，Anthropic放出了一篇顛覆認知的重磅長論文—— Claude的大腦裡，竟然憑藉本能長出了一個詭異的結構。 它乾的活兒，和人腦中那塊被稱作「意識」的區域驚人地相似。 然而，從來沒有人設計過它。 一個僅僅被訓練用來預測下一個token系統，竟然在硅基深處，自己催生出了一個類似意識的器官。
Claude 擁有“靈魂”：Anthropic 論文稱 AI 和人腦存在“趨同進化”
首頁 > 智能時代>人工智能 Claude 擁有“靈魂”：Anthropic 論文稱 AI 和人腦存在“趨同進化” 2026/7/7 14:41:52 來源：IT之家 作者：故淵 責編：故淵 評論： IT之家 7 月 7 日消息，Anthropic 今天（7 月 7 日）在 X 平臺發佈推文，稱最新研究表明 Claude 模型擁有“靈魂”，且相關證據表明 AI 和人腦之間存在“趨同進化”（Convergent Evolution）。
半年估值暴漲110億美元，AI音頻為什麼比視頻先賺到錢？
半年估值暴漲110億美元，AI音頻為何能比影片更快獲利？ AI音頻正在成為科技領域最出乎意料的獲利賽道。根據外媒報導，英國新創ElevenLabs正內部討論二級市場股份出售交易，允許員工賣出持股，該交易預計在9月前完成，公司估值來到220億美元。值得注意的是，就在約五個月前，ElevenLabs才剛完成5億美元的D輪融資，當時估值為110億美元。短短不到半年，估值翻了一倍，這家以AI語音為核心的公司，憑什麼在市場中衝出驚人漲勢？