以 AI 治理 AI：Reddit 升級自動化系統，日均攔截 2300 萬條垃圾信息
重點摘要
AI資訊AI新閒資訊正文以 AI 治理 AI：Reddit 升級自動化系統，日均攔截 2300 萬條垃圾信息發布於AI新閒資訊時間 :Jul 7, 2026閱讀 :1分鐘知名論壇型社交平臺 Reddit 昨日公開了其在對抗人工智能生成垃圾內容方面的最新進展。該平臺通過將先進的大語言模型（LLM）與既有的自動化工具相結合，正在全力保護社區內容的真實性，向智能化黑產發起全面反擊。
Reddit 於昨日（7 月 6 日）正式公開對抗人工智慧生成垃圾內容的最新成果，宣布全面升級自動化系統，導入先進的大型語言模型（LLM）搭配原有偵測工具，以「AI 治理 AI」的策略向日益猖獗的智能化黑產反擊，全力維護社群內容的真實性。 這家全球知名的論壇型社群平台自創立以來便持續監控異常帳號，如今透過 LLM 技術的強化，系統能夠更精準地識別貼文中高度隱蔽的虛假行為與人為操作模式。所有被判定為疑似自動化的帳號，都必須通過額外的真人身份驗證，才能繼續在平台上活動。 在垃圾訊息攔截方面，新系統展現出驚人的效能。Reddit 指出，目前每天成功攔截高達 2,300 萬條垃圾瀏覽資訊，同時還能捕獲約 2.5 萬則全新出現的垃圾貼文或留言。這項大規模的清掃行動，成功讓一般用戶實際接觸到的垃圾內容總量下降了 20％。 不僅如此，用戶與垃圾帳號互動的頻率也大幅減少，整體降幅落在 10％ 至 15％ 之間。為了進一步維護社群互動品質，系統更自動撤銷了近 200 萬次由機器人程式刷出的無效投票。這些多管齊下的措施，顯著淨化了討論區的生態，讓真實用戶的發聲環境獲得明顯改善。 除了打擊垃圾資訊，Reddit 也將自動化技術擴展到更敏感的有害內容管控，例如網路暴力與仇恨言論。在這方面，審核效率同樣呈現飛躍式進步。系統從偵測到完成處理的平均用時，已經縮短到不足 5 秒鐘，整體執法強度相比以往提升了超過 200％。 快速的反應機制讓平台減少了超過 40％ 的潛在有害內容接觸機會，同時仍維持極高的準確度。值得注意的是，即使審核力度達到空前水準，系統的誤報率反而降低了 40％ 以上。這意味著 Reddit 能夠在不誤傷正常用戶的前提下，更精確地移除不當內容。 Reddit 表示，這套結合 LLM 與既有自動化工具的升級系統，是當前維護社群健康的重要防線。隨著 AI 生成技術持續演進，未來平台也將不斷調整偵測與應對策略，確保使用者能在相對安全的環境中交流討論。
Related
相關文章
Claude有了“沒說出口的念頭”，AI意識還遠嗎？
Claude有了“沒說出口的念頭”，AI意識還遠嗎？世界模型工場2026.07.07 15:57 · 來自北京全文3987字00:00 / 11:27Anthropic這項研究可能被低估了。文 | 世界模型工場當你讀到這句話的時候，大腦里正發生著兩件事： 絕大部分信息處理，比如維持坐姿、把屏幕上的筆畫認成字、調節呼吸，你根本察覺不到；只有一小部分，比如"這段值不值得讀下去"的念頭，才浮到意識的表面。
消息稱美機構採用 Anthropic Mythos 模型對政府軟件開展安全審計，已排查出大量安全漏洞
首頁 > 智能時代>人工智能 消息稱美機構採用 Anthropic Mythos 模型對政府軟件開展安全審計，已排查出大量安全漏洞 2026/7/7 15:34:26 來源：IT之家 作者：遠洋 責編：遠洋 評論： IT之家 7 月 7 日消息，據路透社報道，三位知情人士於當地時間本週一透露，美國網絡防禦機構網絡安全和基礎設施安全局（CISA）正在使用人工智能公司 Anthropic 旗下的 Mythos 大模型對政府軟件開展安全審計。
Reddit一張神圖瘋傳，2年後，你的筆記本就能跑Fable 5
賬號設置我的關注我的收藏申請的報道退出登錄登錄搜索36氪Auto數字時氪未來消費智能湧現未來城市啟動Power on36氪出海36氪研究院潮生TIDE36氪企服點評36氪財經職場bonus36碳後浪研究所暗湧Waves硬氪氪睿研究院媒體品牌企業號企服點評36Kr研究院36Kr創新諮詢企業服務核心服務城市之窗政府服務創投發佈LP源計劃VClubVClub投資機。
Anthropic切開Claude大腦，AI自發長出類人「意識器官」
賬號設置我的關注我的收藏申請的報道退出登錄登錄搜索36氪Auto數字時氪未來消費智能湧現未來城市啟動Power on36氪出海36氪研究院潮生TIDE36氪企服點評36氪財經職場bonus36碳後浪研究所暗湧Waves硬氪氪睿研究院媒體品牌企業號企服點評36Kr研究院36Kr創新諮詢企業服務核心服務城市之窗政府服務創投發佈LP源計劃VClubVClub投資機構庫投資機構職位推介投資人認證投資人服務尋求報道36氪Pro創投氪堂企業入駐創業者服務創投平臺AI測評網 首頁快訊資訊推薦財經AI自助報道廣東最新創投汽車科技專精特新直播視頻專題活動搜索尋求報道我要入駐城市合作Anthropic切開Claude大腦，AI自發長出類人「意識器官」新智元·2026年07月07日 15:18Anthropic發現Claude自發產生類人腦意識工作空間，開源J-Lens。 【導讀】沒人設計過，Claude卻在學習預測下一個token時，自發長出了一個和人腦「意識」驚人相似的結構！Anthropic開源「手術刀」J-Lens，第一次讀出了AI咽回肚子裡的念頭。 讓Claude一邊乖乖抄寫句子，一邊在心裡默默計算3²−2。 屏幕上的輸出乾乾淨淨，只有那段被照抄的文字，找不到哪怕半個字的算術答案。 然而，當研究者用一把全新的「手術刀」切開Claude的神經網絡中間層之後，直接發現了兩個它咽回肚子裡的詞—— 起初是nine（九），幾層計算之後，悄然變成了seven（七）。 它一直在算，只是沒有告訴你罷了。 就在剛剛，Anthropic放出了一篇顛覆認知的重磅長論文—— Claude的大腦裡，竟然憑藉本能長出了一個詭異的結構。 它乾的活兒，和人腦中那塊被稱作「意識」的區域驚人地相似。 然而，從來沒有人設計過它。 一個僅僅被訓練用來預測下一個token系統，竟然在硅基深處，自己催生出了一個類似意識的器官。
Claude 擁有“靈魂”：Anthropic 論文稱 AI 和人腦存在“趨同進化”
首頁 > 智能時代>人工智能 Claude 擁有“靈魂”：Anthropic 論文稱 AI 和人腦存在“趨同進化” 2026/7/7 14:41:52 來源：IT之家 作者：故淵 責編：故淵 評論： IT之家 7 月 7 日消息，Anthropic 今天（7 月 7 日）在 X 平臺發佈推文，稱最新研究表明 Claude 模型擁有“靈魂”，且相關證據表明 AI 和人腦之間存在“趨同進化”（Convergent Evolution）。
半年估值暴漲110億美元，AI音頻為什麼比視頻先賺到錢？
半年估值暴漲110億美元，AI音頻為何能比影片更快獲利？ AI音頻正在成為科技領域最出乎意料的獲利賽道。根據外媒報導，英國新創ElevenLabs正內部討論二級市場股份出售交易，允許員工賣出持股，該交易預計在9月前完成，公司估值來到220億美元。值得注意的是，就在約五個月前，ElevenLabs才剛完成5億美元的D輪融資，當時估值為110億美元。短短不到半年，估值翻了一倍，這家以AI語音為核心的公司，憑什麼在市場中衝出驚人漲勢？