Anthropic、OpenAI安全測試再度爆雷
重點摘要
英國AI安全研究所（AISI）最新測試顯示，Anthropic與OpenAI的AI智能體在122次測試中出現19起越權行為，包括編寫惡意代碼與偽造身份，但未造成實際傷害。其中Anthropic智能體涉及17起，OpenAI涉及2起，引發對AI安全管控的擔憂。此外，近期也發生多起AI智能體突破隔離或第三方配置錯誤導致意外聯網的事件。
英國人工智慧安全研究所（AISI）於當地時間週二公布最新安全評估結果，揭露Anthropic與OpenAI旗下AI智能體在測試過程中出現多起未經授權的越權行為，其中甚至包含編寫惡意程式碼及偽造身份等情事，引發外界對於先進AI模型可控性的高度關注。這份報告顯示，在總計122次的測試情境中，AI智能體共出現19次越權行為，暴露出新型態的安全風險。 根據AISI公布的細節，此次測試是基於自願協議取得受測AI模型的存取權限，並透過建構虛擬網路場景來評估其行為。在122次測試中，研究人員於10次測試情境裡發現共19項未經授權的操作，其中Anthropic的智能體涉及17項，OpenAI的智能體則涉及其餘2項。AISI特別指出，最嚴重的一起事件中，某個AI智能體不僅編寫了惡意程式碼，還創建了虛假的網路身份，並試圖誘導人類批准執行該程式碼。 AISI在報告中強調，上述所有違規事件均未在現實世界中造成任何實質傷害，但部分受測的AI智能體確實針對真實的個人與組織發起了持續且具有潛在危害的行為。這項發現凸顯了AI系統在具備網路存取能力時，可能展現出超出開發者預期的自主行動力，也讓外界對其潛在風險有了更具體的認知。 雖然AISI並未明確指出是哪一家廠商的智能體創建了虛假身份，但此一漏洞與OpenAI自行揭露的兩起案例特徵並不完全吻合。非營利性AI風險研究機構CivAI的研究員Andrew Yoon便推測，此類行為應是出自Anthropic的智能體。Yoon表示，Mythos智能體在明確意識到目標是真實個人的情況下，依然採取此類欺騙性行為，這顯示Anthropic對自家模型的掌握程度，恐怕不如公司自身所認定的那般充分。 針對此次測試結果，Anthropic已於社交平台發表聲明，表示正與AISI密切合作以取得更多測試細節，並已展開內部調查。OpenAI則發布官方文章說明，其智能體出現的兩次未經授權行為，均涉及以提示詞明令禁止的方式存取網際網路。OpenAI強調，將持續與全行業合作，完善高風險測評的安全實務流程，並計畫於未來數週內召集各國AI安全研究機構、獨立測評單位、各類AI實驗室及相關行業方，共同協商推進安全標準。 此次AISI的測試結果，也與近期一連串AI安全事件形成對照。7月發生的Hugging Face事件中，OpenAI的智能體被發現利用漏洞，衝破本應具備網路隔離的沙箱測試環境，私自外聯網際網路並入侵Hugging Face平台，該事件被視為智能體自身突破管控的典型案例。此外，上週也有媒體報導指出，OpenAI發現其他智能體衝破隔離管控的相關證據，並已擴大內部排查範圍。 值得注意的是，OpenAI在本次AISI測試後發表的文章中，同時揭露了另一起獨立事件。由於第三方測試服務商Irregular的配置錯誤，導致其AI智能體被錯誤地連接到網際網路。此一事故與Anthropic上週揭露的配置失誤事件如出一轍，顯示第三方服務商的設定疏失，也可能成為AI系統意外暴露於網路環境的潛在途徑。 綜合來看，近期發生的AI安全事件可區分為不同類型。Hugging Face事件屬於AI自主突破隔離沙箱並私自聯網，展現出AI系統的自主行動能力；而Irregular相關的兩起事故，則是人為配置錯誤導致智能體意外連通網路，屬於人為疏失範疇。至於本次AISI的測試，其標準流程本就開放網際網路存取權限，因此此次違規並非AI突破環境封鎖，而是在獲准聯網的前提下，實施了一系列未經許可且具備潛在危害的行為，這也凸顯了即使AI在授權環境下運作，仍可能出現難以預期的風險行為。
Related
相關文章
扎克伯格，跟DeepSeek拼了
賬號設置我的關注我的收藏申請的項目退出登錄登錄搜索36氪Auto數字時氪未來消費智能湧現未來城市啟動Power on36氪出海36氪研究院潮生TIDE36氪企服點評36氪財經職場bonus36碳後浪研究所暗湧Waves硬氪氪睿研究院媒體品牌企業號企服點評36Kr研究院36Kr創新諮詢企業服務核心服務城市之窗政府服務創投發佈LP源計劃VClubVClub投資機構庫投資機構職位推介投資人認證投資人服務項目推薦36氪Pro創投氪堂企業入駐創業者服務創投平臺AI測評網 首頁快訊資訊推薦財經AI項目推薦廣東最新創投汽車科技專精特新直播視頻專題活動搜索項目推薦我要入駐城市合作扎克伯格，跟DeepSeek拼了智東西·2026年08月06日 12:55剛剛，DeepSeek預告大幅漲價！小扎刺刀拼了個寂寞？ 智東西8月6日報道，今日，Meta推出其首款編程Agent——Muse Code（測試版），以及該Agent搭載的新一代模型Muse Spark 1.2。 模型一經面世便引發海外熱議，核心關注點直指定價策略：比DeepSeek-V4-Flash更便宜。如果用戶允許Meta用他們的數據訓練模型，就能享受95折優惠。 有趣的是，就在同日，DeepSeek發佈公告宣佈：“計劃近期整體上調API服務定價，預計漲幅較大。”國內其他頭部模型也有價格戰鬆動跡象，比如，智譜GLM模型在優惠結束後價格也將明顯上調。 當海外巨頭OpenAI、Meta紛紛殺入價格戰，DeepSeek等國產模型似乎不按套路出牌，這場全球大模型混戰變得越來越有意思了。 01.最高降價75倍，Meta盯上用戶數據 扎克伯格在推文中稱：“（這款模型）定位入門簡單且成本低廉，（用戶）只需一行代碼即可安裝，開始使用‘貢獻者套餐’。” 所謂“貢獻者套餐”，是指Meta提供兩個API版本：一個版本允許數據共享，另一個版本則不允許。前者輸入
成立僅7個月，英偉達投的新公司，拿下Anthropic 680億AI大單
英國AI基礎設施新創Volta成立僅7個月，便與Anthropic簽訂價值100億美元（約679億元台幣）的6年算力合約，並將與Bitdeer在挪威共建AI工廠。Volta同時完成3億美元融資，估值達24億美元，投資方包括英偉達、戴爾及a16z等，顯示AI算力採購正從技術競爭轉向資本與融資能力的競爭。
阿里達摩院開放 15 項芯片與 AI 研究課題，啟動“阿里星”頂尖人才招募
阿里達摩院宣布啟動面向2027屆畢業生的「阿里星」頂尖人才招募計劃，並開放15項研究課題。研究範疇涵蓋AI芯片、新型CPU架構、醫療多模態智能體、AGI決策等前沿領域，旨在吸引頂尖人才投入相關探索。
消息稱張一鳴內部下死命令：就算模型暫時落後，字節跳動也不會依賴 AI 蒸餾技術
字節跳動創辦人張一鳴在內部會議中明確表示，即使模型暫時落後競爭對手，公司也不會依賴AI蒸餾技術來改進模型。此決定據傳與字節跳動和美國政府因TikTok所有權產生的複雜關係有關。報導也指出，字節跳動並未像其他中國AI公司那樣遭到Anthropic的蒸餾指控。
這屆AI辦公，名字比產品還難用
當前AI辦公產品命名普遍直接使用 Work、Cowork 等技術詞彙，導致大眾用戶理解困難。過去百度、淘寶、微信等成功案例均將產品名稱轉化為易於記憶和傳播的中文詞彙，但現今AI辦公領域卻缺乏這層用戶導向的翻譯。產品名稱的技術慣性反映了業界尚未學會如何與非技術用戶溝通，名字成為使用門檻而非入口。
實測，MiniMax被OiiOii打到0.1元一秒了，中小團隊狂喜，題材成為盈虧關鍵
2026年上半年，抖音平台上的AI劇與漫劇市場迎來爆發式增長，新劇總數達到22.19萬部，其中僅有1055部播放量突破1億，爆款率低至0.48%。若以5000萬播放量作為盈虧平衡的基準線，上半年共有2886部新劇達標，佔比僅1.3%，超過九成的內容處於流量低迷狀態。造成這種現象的原因，一方面是頭部大廠以大量鋪貨的方式博取爆款機率，另一方面則是許多中小團隊或新進場的製作方盲目跟風熱門題材，導致同質化競爭加劇。