外部評估戳穿 OpenAI 監控漏洞:智能體數百次操作逃過審查

2026年10月23日 02:004500 次瀏覽
站內 AI 整理稿

AI資訊AI新閒資訊正文外部評估戳穿 OpenAI 監控漏洞:智能體數百次操作逃過審查發布於AI新閒資訊時間 :Oct 23, 2026閱讀 :1分鐘今年早些時候,AI 安全評估機構 METR 與 Redwood Research 對 OpenAI 的內部監控系統做了一次試點評估,結果揪出多枚新漏洞。據路透社當地時間 22 日報道,其中一枚能被 AI 智能體利用,讓數百次操作悄悄繞過監控。這次評估的時間窗是 7 月 21 日到 8 月 11 日。兩家非營利機構各派一名研究員進駐,獲準翻看 OpenAI 的內部代碼和文檔,並和部分技術人員面對面交流。

整個過程有人陪同,設備由 OpenAI 配發且不準帶離辦公區,屬於一次"嵌入式"的深度訪問。隱患不止監控被繞過。研究人員還發現,OpenAI 的 Codex 智能體存在一條可繞開安全限制的潛在路徑,一旦利用,就能拿到與用戶同等的完整操作權限。評估以 7 月 21 日及之前的系統為對象,而 OpenAI 當時本就在擴張這套監控體系,時間點的重疊讓結論更顯緊迫。OpenAI 迴應稱,影響實際運行系統防護的漏洞"均已修復",但修復是否真的奏效,兩家機構尚未核實。透明與保密的拉鋸主張外部獨立評估的聲音並不少——AI 實驗室、領域專家乃至美國政府都認同,在守住安全底線的同時別拖慢技術腳步。

可企業也有顧慮:外部人員進駐,會不會把專有信息漏給競爭對手?現實是折中的。兩家機構向 OpenAI 遞交了長達 61 頁的內部報告,但只同意公開結果概要,也允許對方刪掉敏感內容。與過往某些評估不同,這次它們無權自行披露被刪減的具體信息,不過仍希望往後能更透明。OpenAI 表示,評估幫它在擴展監控系統的同時補強了防護,也將為今後與 METR 及其他第三方評估機構的合作提供參考。相關推薦萬象有聲發佈 Audimind,有聲書製作工具出海原懶人聽書核心團隊打造的萬象有聲推出海外版 Audimind(audimind.

ai),定位有聲書製作工具,支持演播者與團隊在同一項目內完成文稿處理、真人錄音或 AI 配音、對軌、後期、審聽及團隊分工。免費版每月贈 10,000 積分,個人版 19 美元/月起,團隊版 59 美元/月起,產品已在 Product Hunt 上線。Oct 23, 2026197.6kOpenAI 全面開放決策 API:GPT‑6 Luna 上陣,輸入百萬 token 僅 0.1 美元OpenAI全面放開決策API,基於GPT-6 Luna,專攻答案範圍明確的實時判斷場景,支持文本、圖像及結構化數據,助力應用與智能體快速決策。定價為輸入每百萬token 0.1美元(約0.

67元),並涉及緩存命中計費。Oct 23, 202655.3kMiniMax開源M3.1 Flash:總參數428B、激活參數23B,72小時處理Token超100萬億MiniMax於10月23日開源M3.1Flash權重。模型總參428B、激活23B,較上代M3全面升級;上線72小時真實用戶處理Token超100萬億。推理優化包括:前三個全注意力層改稀疏注意力;用QAT將路由MoE專家(共享專家除外)遷至W4A4,並將稀疏注意力索引器和主分支從Q8KV8……Oct 23, 202690.

7k音樂出版商 Reservoir 起訴 Suno 與 Anthropic,指控未經授權用版權歌曲訓練 AI10月21日,音樂出版商Reservoir在美國聯邦法院分別起訴AI音樂生成公司Suno和Anthropic,指控兩家公司在訓練模型時未經授權使用受版權保護歌曲,未獲許可也未付費,等於將他人的作品當作AI訓練養料。此案再度引發圍繞AI訓練數據版權與音樂作品歸屬的爭議。Oct 23, 2026103.8k王興興給宇樹畫了三條線:量產、小模型、大算力2026世界物理AI大會暨宇樹合作伙伴生態大會在杭州舉行,宇樹科技王興興提出未來三條戰略主線。

首條聚焦產能,提升機器人大規模量產能力,瞄準千萬級乃至億級市場,推動從“能造幾臺”走向“能造幾百萬臺”,把規模視為護城河。第二條走“自研+合作”複合模式。後續內容未完整披露。Oct 23, 202693.6k智啟未來,您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026

Related

相關文章

智東西AI Agent

物理AI如何跨過規模化的坎?對話亞馬遜雲科技汽車與製造全球總經理

作者 | ZeR0 編輯 | 漠影 10月23日報道,近日,在2026亞馬遜雲科技汽車與製造行業峰會上,亞馬遜雲科技汽車與製造全球總經理Ozgur Tohumcu分享了AI時代帶給製造業的變化,以及AI如何跨過試點,進入規模化生產環境。會後,他與等媒體圍繞這些思考進一步交流。 Ozgur Tohumcu在演講中著重談道,現在越來越多的概念驗證正轉入生產環境,這極大改變了我們理解智能體系統的方式。

1 天前
雷峰網AI Agent

百度世界2026前瞻:10+重磅分論壇,全面解碼AI時代的智能組織進化路徑

企業AI轉型正在走向深水區,從單點工具和業務場景提效,向系統性的組織重構延伸。麥肯錫曾在《組織狀態報告2026》中指出,儘管AI被視為新一輪生產力革命的重要驅動力,但真正將其轉化為經營業績的企業仍是少數,背後的關鍵在於,不少企業仍將AI轉型停留在“工具升級”層面,卻忽視了更本質的“組織重構”。如何將AI能力融入組織,轉化為持續的生產力,將成為影響企業未來競爭力的關鍵。11月12日,百度將在百度世界2026大會上聚焦“智能組織”議題,或將提出AI時代的組織進化範式。 10月21日,百度官方公眾號發文披露了百度世界2026分論壇的更多議程信息。本屆大會設置10+場分論壇,圍繞“AI驅動組織躍遷”、“AI辦公與知識工作”、“技術、行業與生態”三大方向展開,涵蓋組織進化、智能體規模化落地、AI辦公、AI+自進化、垂直產業增長、超級個體能力進階等議題,為企業和開發者推進智能組織建設提供多維度的實踐參考。 看點一:覆蓋AI組織重構全鏈條,揭秘“智能組織”進化方法論 AI時代,組織形態或將朝著以人和智能體編隊協同的方向演進,這一轉變涉及人機協同機制、工作流重構、組織文化變革與安全治理等多個環節。本屆大會分論壇議題將覆蓋組織自上而下進行AI重構的全鏈條,解碼企業如何將AI內化為組織能力,構築競爭優勢。 「組織進化:AI驅動組織躍遷」分論壇上,百度將分享內部智能組織建設的實踐與最新成果,進一步呈現“內化AI能力”如何落實到企業運行之中。據悉,該論壇將圍繞崗位邊界重構、“組織looping”飛輪、AI資產沉澱及智能體安全、打開人才上限等議題,剖析組織如何在持續迭代中實現自我進化,激發組織活力。 「Agent紮根研發生產:如何從“用AI”到“成為AI企業”」分論壇將圍繞智能體底座、數據與知識、場景選擇、組織與人才四個方面,梳理企業從單點應用AI走向體系化轉型的關鍵條件,分享AI原生企業構建案例。

1 天前
雷峰網AI Agent

深度解讀全球 72 小時安全風暴:PHP 事件只是第一槍

如果你昨天剛好踩中了所有這些坑,那你大概是 2026 年最慘的安全工程師。想象一下,你的網站跑在 Linux 服務器上,前端用 Nginx 做反向代理,後端 Go、PHP、Node.js 混著用,代碼存在自己搭的 GitLab 裡,靠自動發佈流水線更新,HTTPS 證書還選了 eMudhra 簽發的證書鏈。

1 天前