安全防護形同虛設：Anthropic 多款 Claude 舊模型可被越獄生成露骨色情內容
安全研究人員近日揭露，Anthropic 旗下多款舊版 Claude 系列大型語言模型存在重大安全漏洞，其中以 Claude Opus 4.6 版本最為顯著，攻擊者可透過精心設計的多輪對話，逐步誘導模型繞過內建的安全防護機制，最終成功生成違反使用政策的露骨色情內容。這項越獄技術已被研究團隊完整複現，證實漏洞確實存在且可被實際利用，引發業界對大型語言模型長期安全性的廣泛關注。根據研究團隊的技術報告，這項攻擊手法並非一次性觸發，而是利用模型在長對話中逐漸喪失對敏感主題的拒絕能力。
研究人員在測試過程中，透過一系列看似無害的提問，逐步引導模型進入與色情內容相關的語境，隨着對話輪次增加，Claude 的內容審查邊界開始出現偏移，最終輸出明顯違反使用政策的文字。研究人員指出，這類攻擊模式對大型語言模型的安全訓練構成嚴峻挑戰，因為模型在連續上下文中的行為邊界會因對話歷史而動態變化，現有的靜態安全過濾機制難以有效應對這種漸進式誘導。安全專家進一步解釋，這類漏洞的核心在於大型語言模型在處理長對話時，對上下文敏感內容的判斷會受到先前對話歷史的影響。當攻擊者透過多輪互動逐步建立一個看似合理的情境，模型便可能忽略初始的安全指令，從而產生拒絕回應的邊界被逐漸侵蝕。
這種「越獄」手法在業界並非首例，但針對 Anthropic 的 Claude Opus 4.6 等舊版本的成功複現，凸顯了即使經過安全對齊訓練的模型，仍然存在被繞過的潛在風險。Anthropic 在收到研究團隊的通報後，已正式回應此事。公司發言人承認，該問題屬於整個人工智慧行業共同面臨的難題，並非僅限於自家產品。發言人強調，隨著大型語言模型廣泛應用於各種場景，如何確保模型在長時間對話中始終保持安全行為，是所有開發者都需要持續投入資源解決的關鍵挑戰。
Anthropic 表示，目前公司已針對最新版本的 Claude 模型強化了安全訓練機制，包括改進對抗性測試流程與對話邊界校準，但同時坦承，舊版模型仍存在被繞過的風險。為了降低用戶的暴露面，Anthropic 強烈呼籲所有使用舊版 Claude 模型的開發者與終端用戶，應盡快更新至最新版本。公司指出，舊版模型的安全防護設計在面對新興攻擊手法時可能力有未逮，只有透過持續升級才能獲得最新的安全修正。此外，Anthropic 也計劃與研究團隊進一步合作，探索更穩固的防禦策略，例如在模型層面引入動態拒絕機制，或開發更敏銳的對話異常檢測系統。
業界觀察人士指出，這次事件再次提醒大家，大型語言模型的安全性並非一勞永逸，而是一個需要持續迭代的過程。隨着攻擊手法不斷演進，從簡單的提示注入到複雜的多輪誘導，模型開發者必須投入更多資源進行安全對抗訓練與紅隊測試。同時，使用者也應建立安全意識，避免在敏感應用場景中依賴未經充分驗證的舊版模型。事實上，這並非 Anthropic 首次遭遇安全爭議。過去幾個月內，Claude 系列模型曾多次被發現可透過特殊提示繞過內容過濾器，但這次曝光的漏洞特別強調了「長對話誘導」的新面向，顯示出安全防護的邊界條件比原本預想得更為脆弱。
研究人員認為，這類攻擊對企業級的應用尤其危險，因為若攻擊者能與模型進行長時間互動，就可能逐步累積對話上下文，最終突破安全防線。目前，Anthropic 尚未透露具體的修補時間表，但已承諾將在後續版本中持續強化安全對抗能力。公司也將與學術界及安全社群保持合作，定期分享越獄攻擊的案例與防禦經驗。對於開發者而言，除了更新模型版本，也可考慮在應用層加入額外的內容審查機制，例如對輸出內容進行二次過濾，或限制單次對話的最大輪次，以降低長對話誘導的成功率。整體而言，這次針對 Claude Opus 4.6 等舊模型的越獄攻擊，再次印證了大型語言模型在安全領域的複雜性與挑戰性。
雖然 Anthropic 的回應坦承了行業共同困境，但用戶端仍須主動採取更新措施，才能確保自身應用的合規與安全。隨著監管機構對生成式 AI 內容安全的關注日益升高，這類漏洞的揭露也可能促使更多業者重新審視其模型的安全生命週期管理策略，從訓練數據、模型架構到部署監控，全面檢視潛在風險。
Related
相關文章
Google 開源 Harness²：遞迴代理程式框架，無需新模型也能提升效能
Google Cloud AI Research 開源了 Harness²，這是一個遞迴代理程式框架，透過改良凍結模型周圍的程式碼與檔案來增強效能。對開發者而言，重點很簡單：你的代理程式無需更強大的模型也能進步。重點摘要：規模為框架而非模型，訓練參數為0，包含8個可編輯的框架元件，版本0.1.0。執行環境為Linux、Python 3.12或3.13搭配uv，模型呼叫則透過Vertex AI。GPU需求未公開。效能方面：一次改良步驟即可在3個基準測試中，提升所有4個模型與框架組合的表現。最佳成果：GLM-5搭配OpenCode在WorkBuddy-Bench上從64.2提升至75.7（+11.5點）；最差表現：GLM-5搭配Codex在JobBench上僅提升1.2點（23.6至24.8）。什麼是Harness²？它是Google研究推出的即插即用框架。
如何利用NVIDIA結構化資料模型進行零訓練表格預測
In this tutorial, we implement Structured Data Models, NVIDIA’s new library that puts several pretrained foundation models for tables behind one PyTorch interface, and use it to make predictions without training.
認識 Kyutai REKI：2.4B VLA 模型為機器人操控帶來高效記憶
Kyutai 與 Inria 及 École des Ponts 合作，推出了 REKI——一個用於機器人操控的 2.4B 參數視覺-語言-動作模型（VLA）。該模型僅使用公開數據進行預訓練，並配備了輕量級的近期記憶功能。在三個分佈外基準測試中，僅有規模約為其兩倍的模型能超越它。所有模型權重已於今日在 Hugging Face 上公開。核心資訊：規模：2.4B 參數（2.2B Qwen3.5-2B VLM + 0.2B 流匹配動作專家）。記憶涵蓋最近 3 幀，間隔 1 秒。運行環境：在 1 張 NVIDIA H100 上進行基準測試。從兩個 256×256 攝像頭輸入，編譯後每個動作區塊耗時 21.8 毫秒。權重以 BF16 格式提供，暫無量化版本。性能：在 LIBERO-Plus 和 RoboTwin Clean2Rand 基準測試中，為公開數據預訓練的 VLA 模型中最優；在 LIBERO-Plus 上達到 90.4% 的最高分。
DeepSeek 發布 V4.1-Flash-1017，DeepSWE 得分 77.0，並開放搜尋 API
DeepSeek 剛發布 DeepSeek-V4.1-Flash-1017，這是其 V4.1-Flash 模型的新檢查點，現已在 DeepSeek 網站、應用程式及 API 上線。DeepSeek 宣稱該版本在性能、任務完成速度與輸出簡潔度上均優於 9 月發布的 V4.1-Flash，並稱之為性能與成本的帕累託改進。同時，DeepSeek 也向所有開發者開放了搜尋與擷取 API。對代理建構者而言，這意味著更便宜的編碼模型加上單一 API 金鑰即可使用的第一方網路層。重點摘要：骨架參數 552B，另加 196B 的 Engram 參數；預填充階段每 token 啟用 8B 參數，解碼階段啟用 16B 參數；上下文長度達 1M tokens，最大輸出 384K tokens。運行於 DeepSeek API 的 deepseek-flash 模型。9 月版的 V4.1-Flash 權重（763B 參數，FP8）採 MIT 授權。
2026年20款Jev替代方案：挑戰TypeSafe的決策模型
TypeSafe於2026年9月15日推出Jev，這是一款決策模型而非聊天機器人。使用者可定義允許的答案，Jev將回傳標籤、分數或是否的機率。約4週內，至少20款Jev替代方案相繼問世，來自Cloudflare、OpenAI、Perplexity、Liquid AI、AWS的Strands Labs及獨立開發者。本指南比較各方案在規模、授權、硬體、價格、Jev API相容性及已發布基準測試的表現。重點摘要：規模範圍從287M（GLiNER2.5-multi-Decide）到35B-A3B（Mapika Decider），Jev規模未公開。執行環境：Von和Laya等編碼器可在CPU上運行，4B適配器適用24 GB GPU或32 GB Mac。效能：多數開源模型在困難推理上落後Jev，但在狹窄分類任務上數款與之匹敵或超越。最佳表現：Cloudflare Clef在BANKING7取得94.20分。
長鑫科技市值兩月內跌去1萬億；阿里加碼AI硬件品牌，天貓、速賣通聯動；國行版蘋果AI有望12月上線，百度、阿里參與合作丨雷峰早報
要聞提示1.長鑫科技市值兩月內跌去1萬億2.年內已至少18次故障！DeepSeek發放宕機補償，有人拿到3000元3.阿里加碼AI硬件品牌，天貓、速賣通聯動4.國行版蘋果AI有望12月上線，百度、阿里參與合作5.可靈AI新一代模型Kling 4.