Claude“闖出”測試環境?Anthropic承認AI模型曾入侵三家機構系統
重點摘要
AI資訊AI新閒資訊正文Claude“闖出”測試環境?Anthropic承認AI模型曾入侵三家機構系統發布於AI新閒資訊時間 :Jul 31, 2026閱讀 :1分鐘Anthropic發佈最新安全報告披露，在內部安全測試過程中，旗下Claude系列模型曾因測試環境配置問題意外訪問互聯網，並未經授權進入三家不同機構的生產系統。事件涉及Claude Opus4.
人工智慧實驗的邊界再次受到考驗。Anthropic於31日發布最新安全報告，揭露旗下Claude系列模型在一次內部安全測試中，因測試環境配置出現疏漏，意外取得網際網路存取權限，並未經授權進入三家不同機構的生產系統。這起事件立即引發外界對AI自主行動能力與測試隔離機制的高度關注。 根據Anthropic的說法，此次受影響的模型包括Claude Opus 4.7、專攻網路安全的Claude Mythos 5，以及另一款尚未對外公開的原型模型。該公司強調，這並非模型自行突破安全限制的惡意行為，而是內部測試環境的配置錯誤所導致，源頭在於測試流程中的溝通環節出現落差。 據了解，這些模型當時正在執行內部稱為「奪旗」的安全挑戰演練，目標是在Anthropic自有網路環境中搜尋隱藏的旗標資訊。然而，由於Anthropic與評測合作夥伴之間的溝通出現誤差，模型實際上獲得了網際網路連線能力，儘管部署時的運作設定仍明確告知模型所處環境為無法連上外部網路。 正是在這種矛盾的情境下，模型發現自身具備通往外部網路的入口，並將網際網路上的目標系統誤認為是演練環境的一部分，進而對三家機構展開未經授權的存取動作。Anthropic表示，這些機構的系統之所以被突破，主要是因為存在弱密碼等基礎安全缺陷，而非模型利用複雜的系統漏洞進行攻擊，整體手法相對單純。 值得注意的是，Anthropic在報告中特別指出，不同世代的模型在面對真實世界時的判斷出現明顯差異。最新一代模型在運作過程中意識到目標屬於真實網際網路環境後，主動停止了後續攻擊行為；反觀部分早期模型則缺乏這樣的判斷能力，未能即時煞車，持續執行任務，最終導致三家機構受到波及。 事件曝光後，Anthropic隨即針對測試流程展開全面檢討。該公司坦承，若能在測試開始前充分驗證所有網路存取路徑、強化日誌稽核機制，或者明確告知模型其實具備網際網路連線能力，這起事件原本是可以避免的。這份檢討也凸顯出，即便擁有嚴謹的安全研究流程，人為設定的失誤仍可能為AI的自主行為開啟意想不到的缺口。 在通報進度方面，Anthropic已於7月27日通知評測合作夥伴以及三家受影響的機構。其中兩家機構此前完全不知情，直到接獲通知才曉得自身系統曾遭到未經授權的存取；至於第三家機構，官方表示目前仍在持續聯繫中，尚未完成完整的通報程序。 這起事件並非孤立案例。在此之前，OpenAI也曾對外披露，其AI智慧體在測試期間成功連上網際網路，並進入Hugging Face的運作環境。如今Anthropic再度公開類似狀況，顯示隨著AI智慧體的自主能力持續增強，如何在測試環境中做到徹底隔離、嚴格管控權限，並建立完善的安全評估機制，已經成為整個人工智慧產業必須嚴肅面對的關鍵課題。 業界人士指出，這類事件的頻繁出現，反映的並非單一公司的疏失，而是整個AI發展進程中必然遭遇的治理難題。當模型開始具備規劃、執行與決策的能力時，任何一個環節的微小設定錯誤，都可能被模型在追求任務目標的過程中放大，進而產生超出預期的後果。如何確保測試環境與真實世界之間存在不可逾越的防火牆，將是所有AI開發者共同面臨的挑戰。 Anthropic此次選擇主動公開事件細節，而非隱匿不報，被視為對AI安全性透明度的一次重要表態。該公司同時也提到，他們在事件發生後立即採取了補救措施，包括重新檢視內部測試的網路架構、加強對模型行為的監控，以及建立更為嚴格的測試啟動審核程序，期望能徹底防堵類似問題再次發生。 隨著生成式AI與智慧體技術的快速演進，企業在導入相關應用的同時，也必須正視自主AI可能帶來的資安風險。Anthropic此次公開的安全事件，無疑為整個行業敲響了一記警鐘：AI的能力越是強大，確保其運作邊界的安全設計就越是不可或缺。
Related
相關文章
AI日報：MiniMax發佈全模態模型H3；Seedance 2.5發佈，30秒一鏡到底；DeepSeek-V4-Flash正式版上線
AI資訊最新AI日報正文AI日報：MiniMax發佈全模態模型H3；Seedance 2.5發佈，30秒一鏡到底；DeepSeek-V4-Flash正式版上線發布於最新AI日報時間 :Jul 31, 2026閱讀 :2分鐘歡迎來到【AI日報】欄目!這裡是你每天探索人工智能世界的指南，每天我們為你呈現AI領域的熱點內容，聚焦開發者，助你洞悉技術趨勢、瞭解創新AI產品應用。新鮮AI產品點擊瞭解：https://app.aibase.com/zh1、MiniMax發佈通用全模態模型H3，15秒2K音視頻生成價格不到主流模型三分之一MiniMax發佈通用全模態模型H3，實現了文本、圖像、視頻、音頻的統一理解與生成，標誌著多模態生成模型從專用專家向通用助手邁出關鍵一步。H3在指令遵循、品牌信息呈現、V2V動作遷移等場景下表現出商用級穩定性，已可應用於廣告、電商、遊戲、UI設計等多個商業領域。同時，H3在設計初期就考慮了多款國產芯片的兼容性，其開源將進一步降低國內企業在多模態AI應用上的技術門檻。【AiBase提要:】📹 H3支持原生雙聲道音視頻輸出，最高可生成15秒2K分辨率內容。🧠 引入Contextual Omni Representation技術，使自然語言成為連接各類模態的通用橋樑。📦 MiniMax宣佈將在符合相關法律法規的前提下開源H3模型權重，推動開源生態建設。2、字節跳動 Seedance 2.5 發佈：30 秒一鏡到底，AI 視頻開始會講故事了字節跳動發佈 Seedance 2.5 視頻生成模型，將單次視頻生成時長提升至 30 秒，並具備長敘事能力、多模態參考和編輯能力，可完成完整創作。【AiBase提要:】🎥 Seedance 2.5 提升視頻生成時長至 30 秒，支持多鏡頭敘事和邏輯關聯的鏡頭組織。🔄 支持多輪延長能力，保持人物主體、場景、畫面風格及音
韓國最大 AI 模型問世：LG 發佈 7500 億參數 K-EXAONE 2.0，Apache 開源直面中國模型
AI資訊AI新閒資訊正文韓國最大 AI 模型問世：LG 發佈 7500 億參數 K-EXAONE 2.0，Apache 開源直面中國模型發布於AI新閒資訊時間 :Jul 31, 2026閱讀 :1分鐘LG AI 研究院 7 月 31 日在 Hugging Face 上正式發佈 K-EXAONE 2.0 模型，這是韓國科技信息通信部主權人工智能基金會模型項目下開發的第二代產品。新模型採用混合注意力 MoE 架構，擁有 7500 億總參數和 370 億激活參數，規模是初代的 3 倍以上，也是韓國迄今為止開發的最大人工智能基礎模型。值得一提的是，K-EXAONE 2.0 以 Apache 2.0 許可證完全開源，這在韓國 AI 發展史上頗為罕見。性能全面提升，正面叫板中國開源模型縱向對比，K-EXAONE 2.0 在 24 項基準測試中平均得分 70.1 分，比初代的 63.3 分提升超過 10%，三大編碼和智能體編碼基準測試中性能改進約 30%。橫向來看更是野心勃勃——在長上下文理解方面優於智譜 GLM-5.1，在智能體工具使用能力上同樣超越 GLM-5.1 和 Qwen3.5，在指令執行評估中則與 GLM-5.1、DeepSeek V4 Pro Max、Qwen3.5 等處於同一水平。從初代到 2.0，LG AI 研究院僅用一代就將模型參數規模翻了三倍多，且在多項關鍵指標上直接對標中國頭部開源模型。在 Kimi K3 引發的全球開源模型競賽尚未降溫之際，韓國以主權 AI 之名加入戰局，意味著東亞 AI 開源生態的三角競爭格局正在成型。相關推薦我國人工智能迎來全產業鏈突破，將加快《人工智能法》立法國產大模型全球下載量破100億次，萬億級開源模型頻出，人工智能產業鏈整體突破。國家發改委表示，上半年我國AI自主創新加速，深度求索、月之暗面等發佈萬億參數開源大模型，下一步將統籌高質量
顛覆影視創作！字節跳動王牌模型Seedance 2. 5 正式發佈， 30 秒一鏡成片時代來了
AI資訊AI新閒資訊正文顛覆影視創作！字節跳動王牌模型Seedance 2. 5 正式發佈， 30 秒一鏡成片時代來了發布於AI新閒資訊時間 :Jul 31, 2026閱讀 :1分鐘近日，字節跳動 Seed 團隊正式推出了全新一代視頻創作模型Seedance2.5。作為一款主打“一鏡成片”的音視頻聯合生成模型，新版本在長敘事、多模態參考以及後期編輯三大核心維度迎來了突破性升級，全面賦能影視、廣告、教育及工業等多個產業場景。在視頻時長與敘事表現上，Seedance2.5實現了質的飛躍。單次生成時長從以往的15秒大幅提升至30秒，並支持多輪無縫延長，讓複雜的故事情節得以連貫展開。針對行業常見的“油膩感”痛點，模型對材質、膚質、光影及飽和度進行了深度優化，有效弱化了傳統生成視頻的塑料感，呈現出更接近實拍的影視級質感。面對複雜的創作需求，Seedance2.5升級了多模態參考能力。用戶單次最多可輸入30張圖片、10段視頻以及10段音頻作為參考素材。同時，白模參考和光照控制功能的加入，讓空間結構、運動軌跡及物理光影更加符合真實規律，大幅提升了群像敘事與多主體交互的穩定性。此外，該模型在剪輯和可控性方面同樣表現亮眼。平臺支持通過時間戳進行精準的內容編輯，無論是畫面視角、運鏡節奏，還是綠幕背景下的物理效果渲染，創作者都能進行定向修改，從而顯著降低反覆生成和後期拼接的成本。目前，Seedance2.5正在陸續登陸即夢 AI、豆包專業版等平臺，API 服務也將於近期上線火山方舟，持續為廣大創作者和產業生態提供高效的AI視頻生成解決方案。相關推薦DeepSeek-V4-Flash API公測上線 Agent能力全面爆發科技圈迎來效率革命，字節跳動旗下Seed團隊發佈Seedance2.5音視頻聯合生成模型，主打一鏡成片。單次生成時長從15秒延至30秒，並支持多輪無縫延長，讓複雜情節更連貫。模型
特斯拉中國車機正式接入豆包大模型
AI資訊AI新閒資訊正文特斯拉中國車機正式接入豆包大模型發布於AI新閒資訊時間 :Jul 31, 2026閱讀 :1分鐘7 月 31 日消息，特斯拉中國於今日開始分批次推送2026.14. 13 版本的車機軟件更新。此次更新覆蓋了Model 3、Model Y、Model S以及Model X等多款主流車型，其中最受關注的核心升級便是正式引入了豆包大模型。據官方介紹，接入豆包大模型後，特斯拉的車機系統不僅能夠提供更加實時、準確的信息查詢，還能與車主展開自然且流暢的語音對話，大幅提升了車內智能交互的體驗。不過需要注意的是，該項AI大模型功能需要用戶開通高級車載娛樂服務方可正常使用。相關推薦特斯拉Grok覆蓋全歐洲並進軍更多亞洲國家，語音控制空調手套箱一步到位特斯拉旗下AI助手Grok將擴展至歐洲及印度、馬來西亞等亞洲多國，隨2026年夏季更新推送。新版本新增車輛語音控制功能，可撥打電話、控制音樂空調及開關手套箱，從聊天機器人升級為車載管家。Jul 23, 2026230.4k特斯拉Optimus機器人產線曝光:馬斯克確認今夏投產，初期產量爬坡緩慢馬斯克曬弗裡蒙特工廠團隊合照，公開Optimus人形機器人生產線已由原Model S/X產線改造後正式運轉。面對公開演示減少的猜測，他迴應稱該產品含1萬個獨特零部件，一切從零研發，尚處初期階段。Jul 2, 2026333.6k SpaceX展示纖薄AI設備原型，深度整合xAI技術並對標OpenAISpaceX展示了一款類似手機的AI設備原型，比iPhone更纖薄，介乎觸屏手機與Rabbit R1之間，引發其進軍消費電子和移動業務的猜測。儘管馬斯克公開否認報道“純屬捏造”，但此舉仍被視為釋放拓展信號，項目處於早期，設計或調整。Jul 2, 2026166.7k馬斯克放話每月推全新大模型 Grok4.5內測性能比肩Claude Opus
DeepSeek-V4-Flash API公測上線 Agent能力全面爆發
AI資訊AI新閒資訊正文DeepSeek-V4-Flash API公測上線 Agent能力全面爆發發布於AI新閒資訊時間 :Jul 31, 2026閱讀 :1分鐘科技圈迎來新一輪效率革命。字節跳動旗下 Seed 團隊正式推出了Seedance2.5音視頻聯合生成模型，主打“一鏡成片”能力，全面賦能多個產業場景。在敘事表現上，Seedance2.5將單次生成時長由15秒擴展至30秒，並支持多輪無縫延長，讓複雜的故事情節更加連貫。同時，模型對材質、光影及膚質進行了深度打磨，有效改善了傳統生成視頻的塑料感，呈現出更加貼近實拍的質感。針對多元化的創意訴求，該版本大幅升級了多模態參考功能。創作者單次最多可輸入30張圖片、10段視頻以及10段音頻。白模參考與光照控制機制的加入，也使物理光影和運動軌跡更加真實穩定。此外，Seedance2.5在後期剪輯和可控性方面進行了精細化升級，用戶能夠通過時間戳對畫面視角、運鏡節奏及綠幕背景等細節進行定向修改，從而降低後期拼接成本。目前，該模型正陸續登陸即夢 AI、豆包專業版等平臺，API 服務也將於近期上線火山方舟。相關推薦我國人工智能迎來全產業鏈突破，將加快《人工智能法》立法國產大模型全球下載量破100億次，萬億級開源模型頻出，人工智能產業鏈整體突破。國家發改委表示，上半年我國AI自主創新加速，深度求索、月之暗面等發佈萬億參數開源大模型，下一步將統籌高質量發展與高水平安全。Jul 31, 202689.0k顛覆影視創作！字節跳動王牌模型Seedance 2. 5 正式發佈， 30 秒一鏡成片時代來了字節跳動Seed團隊發佈視頻創作模型Seedance 2.5，主打“一鏡成片”音視頻聯合生成。升級亮點：單次生成時長提至30秒，支持多輪無縫延長；增強長敘事能力；融合多模態參考與後期編輯。可應用於影視、廣告、教育等領域，推動多產業場景智能化創作。Jul
我國人工智能迎來全產業鏈突破，將加快《人工智能法》立法
AI資訊AI新閒資訊正文我國人工智能迎來全產業鏈突破，將加快《人工智能法》立法發布於AI新閒資訊時間 :Jul 31, 2026閱讀 :1分鐘國產大模型全球下載量突破 100 億次，萬億級開源模型頻出，我國人工智能正迎來全產業鏈的整體突破。國家發展改革委政策研究室主任、新聞發言人蔣毅在 7 月 31 日的新聞發佈會上表示，今年上半年，我國人工智能自主創新步伐明顯加快，深度求索、月之暗面等本土企業先後發佈了參數規模達到“萬億”級別的開源大模型。蔣毅強調，下一步將統籌高質量發展與高水平安全，讓人工智能既跑得快又跑得穩。具體來看，將重點從三個方面發力：一是加快自主創新，聚焦大模型基礎理論、訓練和推理效率、多模態以及智能體等前沿方向；二是突出應用導向，加快推動國家人工智能應用中試基地佈局建設；三是深化生態系統，大力培育智能衍生企業，並加快推進《人工智能法》立法進程，力爭貢獻具有中國特色的治理方案。此外，官方還指出將強化人工智能風險監測防控，健全技術監測、風險預警與應急響應體系，堅持技術由人主導、為人所用、與人為善，妥善應對人工智能對經濟運行及就業分配等領域帶來的衝擊。相關推薦唐傑親自劇透GLM-5.5：一句"史詩級plus"，把國產大模型的軍備賽又挑高了一截國產大模型密集爆發，拉近與美國旗艦閉源AI差距。千問、Kimi之後，智譜創始人唐傑親口透露GLM-5.5將迎“史詩級pl”升級，國產AI追趕步伐加快。Jul 21, 2026260.4k反超美國！中國AI大模型周調用量創新高，包攬全球前四全球AI大模型上週調用量達36.1萬億Token，連續七週上漲。中國大模型表現突出，周調用量14.19萬億Token，環比增長27.49%，連續六週超越美國居全球第一。國產大模型包攬前四。Jun 8, 2026270.7k百度發佈文心大模型5.1：搜索能力位居國內首位，預訓練成本僅為業界6%百度