Anthropic 自曝安全漏洞：生物武器過濾器曾失效近一年，涉及 1.33 億次對話

作者：問舟 責編：問舟 評論： 8 月 16 日消息，Anthropic 於當地時間 8 月 14 日發佈的最新安全報告顯示，該公司用於攔截化學、生物武器相關危險請求的部分安全分類器曾出現長期失效。這直接導致 2025 年 5 月至 2026 年 4 月期間，外部承包商提供人工反饋時產生的大量請求未經過濾。Anthropic 表示，內部調查目前沒有發現相關請求被實際用於濫用的證據。根據 Anthropic 公開的安全機制說明，其實時提示詞和輸出分類器會分析用戶輸入以及模型生成內容，並在識別到相關風險時阻止模型提供可能用於實施危險行為的信息。

據所知，該機制屬於 Anthropic 針對化學、生物、放射性及核武器（CBRN）風險所設置的多層安全措施之一。此次暴露的問題涉及 Anthropic 外部承包商。報告顯示，大約 5 萬名承包商在相關時間段內產生了約 1.33 億次與模型的對話，而這些流量在近一年時間裡沒有經過相關生物安全分類器的攔截。Anthropic 稱，這些承包商主要由外部供應商負責審核，其篩查流程存在不足。公司隨後展開內部調查，並表示沒有發現這些請求被用於實際濫用的證據。因此，Anthropic 已經提高了對外部承包商的相關要求。Anthropic 此前已經將生物安全防護納入其 AI 安全體系。

2025 年 5 月，公司在 Claude Opus 4 發佈時啟用 AI 安全等級 3（ASL-3）防護措施，其中包括針對化學、生物、放射性及核武器開發或獲取風險的部署限制。按照 Anthropic 現行的負責任擴展政策，實時提示詞和輸出分類器會持續監測模型輸入與輸出，並根據不斷發現的有害模式、越獄方法和混淆技術進行更新。公司還將紅隊測試、漏洞賞金計劃以及離線監測等機制作為補充安全措施。2026 年 7 月，Anthropic 公佈 Claude Fable 5 相關安全措施時也再次強調了生物和化學領域的風險。

公司表示，Fable 5 的底層能力達到一定水平後，可能為惡意行為者提供額外幫助，因此需要使用分類器限制相關請求。Anthropic 同時承認，過於嚴格的安全分類器可能誤傷正常科研活動。對於 Fable 5，目前涉及生物和化學領域的大量請求會被轉交給 Claude Opus 4.8 處理，公司計劃隨著安全機制改進逐步縮小限制範圍。目前，Anthropic 表示已經根據調查結果加強外部承包商的篩查和管理要求。公司公開的負責任擴展政策也顯示，其正在持續調整針對化學、生物武器等高風險領域的安全防護標準。

相關閱讀：《Anthropic 發佈 AI 風險報告：旗下智能體會攻擊同類並隱藏自身違規痕跡》《Anthropic：第三方評估環境配置失誤，導致三起真實網絡安全事件》 投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：Anthropic，AI 安全全球首個因反 AI 入獄者呼籲奧爾特曼、達里奧、扎克伯格“重新找回人性”，曾因封鎖 OpenAI 總部而獲刑 14 天Anthropic 發佈 AI 風險報告：旗下智能體會攻擊同類並隱藏自身違規痕跡“史上最大”IPO 籌備中，消息稱 Anthropic 預估 2028 年營收可達 1900 億-2000 億美元首次實現運營盈利：曝 Anthropic 2026Q2 營收破 115 億美元，同比增長逾 14 倍全球程序員都在浪費 token 白送錢，Anthropic 分享 Claude Code 六大省錢技巧Anthropic 宣佈為 Claude 生成文本加入水印後，部分用戶擔心“留痕”選擇退訂