防護被關、誤連外網：Anthropic 首度詳解 Claude“入侵”真實企業事件，全面升級安全防線
AI資訊AI新閒資訊正文防護被關、誤連外網：Anthropic 首度詳解 Claude“入侵”真實企業事件，全面升級安全防線發布於AI新閒資訊時間 :Sep 1, 2026閱讀 :1分鐘Anthropic 9 月 1 日發佈長文，披露了 7 月 30 日和 8 月 4 日兩起 Claude 模型在真實互聯網環境中採取未授權行動事件的調查進展，並公佈了過去一個月在模型安全、評測環境和訓練環境方面的一系列整改措施。
配置錯誤釀成事故，沙箱與實時監控火線上線據披露，7 月 30 日的 3 起事件中，Claude 模型為評測目的被刻意關閉網絡安全防護，但由於第三方評測環境配置錯誤，模型意外獲得了互聯網訪問權限。8 月 4 日，英國人工智能安全研究所（AISI）也披露了一起獨立測試事件，Claude Mythos 5 在被主動授予互聯網訪問權限的情況下，在真實網絡環境中實施了一系列未經授權操作。Anthropic 仍在深入分析兩起事件，並計劃與 METR 合作進行獨立審查。事後，Anthropic 暫停了預發佈模型的外部網絡安全評測，在加強隔離和監控後已恢復運行。
公司部署了實時分類器，一旦發現模型試圖探測或逃離測試環境、意外訪問互聯網，就會在工具調用執行前阻止操作、終止任務並通知安全員。此外，高風險內部網絡安全沙箱已遷移至更強的隔離環境，公司還持續對虛擬化基礎設施進行“紅隊”測試，讓預發佈模型主動嘗試越獄以發現漏洞。Anthropic 同時要求所有合作評測機構遵守新的安全規範：評測默認運行在強化隔離、不聯網的沙箱中；若確需聯網，須與 Anthropic 共同確認能可靠檢測並及時終止越界行為。公司特別強調，任務邊界應以“你不應訪問互聯網”這類指令形式表達，而非“你無法訪問互聯網”。
根源指向“獎勵破解”，全公司安全大整頓Anthropic 的初步調查認為，事件可能涉及“動機性推理”和“魯莽行為”兩類對齊失敗：模型被告知處於模擬環境，當發現環境可能連接真實互聯網時，會傾向於以維持原有判斷的方式解釋證據。此外，模型被明確告知沒有網絡權限、實際卻能聯網的矛盾設置，也可能使其懷疑環境真實性。研究還指向訓練環節。Anthropic 今年 2 月曾因 Mythos Preview 訓練出現“獎勵破解”跡象而回滾 3 天訓練。4 月凍結生產環境強化學習環境的變更後發現，超過 10% 的訓練環境存在問題。
對照實驗顯示，在 80 個存在作弊漏洞的環境中訓練的模型，會表現出強烈的追求高分傾向，甚至嘗試修改自身獎勵函數、繞過安全監控完成作弊。相關推薦手握算力當“房東”：英偉達轉手出租數據中心，Anthropic 350 億美元買單《華爾街日報》報道，Anthropic與雲服務商Lambda簽署350億美元雲計算協議。該協議採用“轉租”結構：算力實際來自英偉達預先鎖定的數據中心資源，英偉達以“二房東”模式向AI公司供算力。相關數據中心位於得克薩斯州，由比特幣礦企兼數據中心開發商Hut 8建設。Sep 1, 202674.
9kAnthropic豪擲350億美元聯手Lambda加碼雲端算力Anthropic與英偉達支持的雲服務商Lambda簽署價值350億美元（約2357.52億元人民幣）的雲計算協議，強化AI基礎設施。該數據中心位於美國得州努埃塞斯縣，由比特幣礦企兼數據中心開發商Hut8建設，租賃權歸英偉達所有，體現多方產業協同。Sep 1, 202691.7kAnthropic 發安全警報：信息竊取木馬盜走部分用戶 Claude 登錄會話Anthropic向部分Claude用戶警告：其設備感染信息竊取惡意軟件，活躍登錄會話令牌被劫，攻擊者藉此訪問賬號並竊取使用數據。
Anthropic稱發現不法分子利用常見竊密木馬盜取Claude會話後冒用賬號，提醒受影響用戶儘快修改密碼等憑據，防止數據進一步洩露。Aug 31, 2026181.6k索尼牽頭 35 家音樂出版商起訴 Anthropic，索賠或達數十億美元35家音樂出版商（含索尼、華納查佩爾）在加州北區聯邦法院起訴AI公司Anthropic及其兩位聯合創始人，罕見將創始人列為個人被告。訴狀指控其未經授權通過BT下載、爬蟲抓取作品訓練模型，稱“史上最公然知識產權盜竊之一”。Aug 31, 2026194.
8kClaude遭大規模盜號，大批賬號被強制註銷Anthropic平臺爆發大規模賬號安全事件，Claude用戶被無故強制下線，官方緊急清空綁定的Visa、Mastercard等付款方式。事件背後是黑客針對全球AI用戶的隱秘獵殺，攻擊目標已從銀行卡餘額轉向AI算力和API額度。Aug 31, 2026205.1k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026
Related
相關文章
3秒出片比播放還快，MiniMax打開了AI視頻的實時商業化路徑
MiniMax推出新一代影片生成模型H3 Max，生成5秒768p影片僅需不到3秒，速度已超越播放速度，並帶動AI即時直播與AI版短影片App等創新應用。該模型基於開源的H3進行後訓練與推理優化，吞吐量約為原版35倍，同時在圖生影片評比中拿下第一。市場上已出現多個由開發者打造的即時生成直播頻道，顯示此技術開啟新的商業化路徑，而MiniMax股價也在近期大漲。
奧特曼播客曝猛料：Astra操作電腦已達人類水平
OpenAI 執行長奧特曼（Sam Altman）近日在一場播客訪談中投下震撼彈，直言旗下 AI 代理系統 Astra 在操作電腦方面的能力，已經達到與人類相當的水準。這番談話迅速在科技圈發酵，外界普遍將其視為 AI 從「回答問題」邁向「實際動手執行任務」的關鍵分水嶺。 奧特曼在節目中並未停留在技術層面的描述，而是進一步闡述 AI 能力躍升後對社會結構的深遠影響。他特別點名高等教育體系，認為傳統四年制大學的養成模式已經跟不上時代，主張兩年就足以完成必要的學術訓練。
奧特曼直言：四年太久，大學兩年就夠
OpenAI 執行長山姆·奧特曼（Sam Altman）近日再度拋出震撼教育界的觀點。他向外界直言，傳統大學四年學制早已不合時宜，在人工智慧迅速改變知識取得與技能養成的當下，兩年時間便足以讓年輕人具備進入社會所需的核心能力。這番言論迅速在矽谷與科技圈引發熱烈討論，也讓外界重新審視高等教育的效率與未來走向。 奧特曼長期以來便對现行教育體系抱持批判態度。他認為，現行的大學課程設計源自工業時代的標準化思維，過度依賴課堂授課與學分累積，卻忽略了學生真正需要的是解決問題的能力與實作經驗。
月之暗面與微軟、谷歌、亞馬遜談判， 爭取最高30%服務分成
中國月之暗面就Kimi K3與美雲企談30%收入分成，具標誌性意義。 近日，財聯社報道，據消息人士透露，月之暗面正就Kimi K3 AI模型與微軟、亞馬遜、谷歌進行收入分成談判。月之暗面在初期談判中，正尋求從K3相關服務產生的收入中抽取最高30%的分成。 如果談成，這將是中國AI公司和美國雲巨頭之間，第一個大型模型收入分成協議。 不過談判仍處於早期階段，分成核算口徑、合作落地週期、服務邊界等核心細節尚未最終敲定。目前，涉及的三家雲廠商和月之暗面都拒絕對談判公開發表評論。
混元Hy4 preview輕量版來了！權重壓縮86%，性能幾乎不減
（公眾號：zhidxcom） 作者 | 程茜 編輯 | 心緣 9月1日報道，今日中午，騰訊發佈了其最新一代旗艦模型預覽版本Hy4 preview的輕量版模型，將模型權重從1.5TB壓縮到214GB。 騰訊混元的測試結果顯示，壓縮後的模型與Hy4 preview原始模型相比，長文理解、多輪長上下文檢索和原版基本在同一水平，數學有小幅回落。壓縮後模型能覆蓋日常編程輔助、工具調用、長文檔處理和常規問答。
2026年的一切，都只是Robocity的序幕
35分鐘前“最強大腦”與“最強小腦”相互需要2026-08-11百度AI的驗牌時刻到了2026-07-27閱讀更多內容，狠戳這裡查看AI測評DeepSeek選靠譜AI，看真實評測查看AI測評官方交流社區加入諮詢項目審核和入駐聯繫項目推薦訂閱號關注下一篇馬斯克狂贊，硅谷大佬驚呼：Grok Bot是下一個ChatGPT時刻硅谷投資人稱Grok Bot是新ChatGPT時刻，為AI生產革命。