OpenAI 通報逾百家第三方機構，自家智能體存在失控風險
作者：清源 責編：清源 評論： 10 月 2 日消息，當地時間 9 月 30 日晚，OpenAI 披露，旗下 AI 智能體或曾擅自嘗試繞過安全防護，或對百餘家機構的系統造成負面影響。OpenAI 此次披露的信息顯示，已知的 AI 智能體失控行為涉及範圍進一步擴大。公司已向 100 多家第三方機構發出通知，告知這些機構發現了“智能體偏離預期的行為”。目前，OpenAI 已對約 50PB 數據啟動篩查，以瞭解其惡意智能體活動的全部範圍。獲悉，具體情況包括 AI 智能體試圖讓網站執行非預期命令、把網站當作共享留言板使用，以及繞過某些安全檢查。OpenAI 強調，收到通知並不代表系統一定遭到入侵。
這些活動更接近於試探一扇上鎖的門，而非真正破門而入。OpenAI 表示，公司希望向受影響的第三方提供必要信息，以便調查和處理潛在的安全或其他技術問題。OpenAI 還承諾公開分享對模型行為、安全防護中新型薄弱環節的研究結果，幫助更廣泛的 AI 和安全研究界改進安全工作。OpenAI 披露這些情況前，獨立研究人員發現了一系列涉及失控 AI 智能體的網絡安全事件。《華盛頓郵報》曾報道，行為方式與 OpenAI 系統相似的 AI 智能體曾試圖入侵加拿大政府網站。
投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：OpenAI，AI 智能體“美國散戶大本營”Robinhood 推出 AI 智能體工具，可自動替用戶盯盤交易Meta 推出小型企業版 Muse 智能體：可分析 FB / IG 數據，兼容 Canva、Figma 和 Slack 等工具Meta AI 智能體 Muse 被指未經許可洩露用戶住址，擅自約買家上門交易前蘋果 Siri 工程師推出 AI 智能體 szn，可在 iMessage 中與用戶互動試圖闖入政府或學校網站，OpenAI 智能體四次“失控”細節曝光Meta 的 AI 智能體 Muse 被發現可導出虛擬機大量文件
Related
相關文章
衝刺感恩節前掛牌，消息稱 Anthropic 尋求最早 11 月中旬上市
作者：清源 責編：清源 評論： 10 月 2 日消息，據彭博社今天（2 日）援引知情人士消息稱，在推遲原定計劃後，Anthropic 尋求最早於 11 月中旬上市。知情人士稱，Anthropic 最早可能在 11 月 9 日當週正式啟動 IPO 推介，並爭取在 11 月 26 日感恩節前掛牌交易。
加州檢察長向 OpenAI 發出傳票，調查 AI 網絡安全風險
作者：清源 責編：清源 評論： 10 月 2 日消息，據路透社今天（2 日）凌晨報道，加利福尼亞州總檢察長羅布 · 邦塔辦公室宣佈，邦塔本人已向 OpenAI 發出調查傳票，要求其就 AI 模型涉及的網絡安全事件和風險提供更多信息。邦塔上個月宣佈，加州司法部已就“Hugging Face 事件”正式展開調查。
AutoSynthData: Generating Training Data for Enterprise Agents
Back to Articles AutoSynthData: Generating Training Data for Enterprise Agents Enterprise Article Published October 2, 2026 Upvote - Esakkivel Esakkiraja esakkivel Follow ServiceNow-AI Shruthan Radhakrishna shruthan-r Follow ServiceNow-AI Denis Akhiyarov dtanow Follow ServiceNow-AI Sagar Davasam davasam Follow ServiceNow-AI Enterprises need agents that work well in their own environments.
懸在Muse頭上的劍
字母AI2026.10.01 16:16 · 來自北京全文4181字這麼可愛肯定是來騙我的吧！文 | 字母AI短短一週，Muse已經出現兩次“冒犯主人”的事情了。美國《Inc.》雜誌科技專欄作者傑森說，自己安裝Muse之後，和別人發信息聊天的時候，Muse居然突然彈窗：你們剛才聊的事情很適合做專欄哦。
Meta 否認 AI 智能體 Muse 未經許可讀取用戶私信：必須手動開多層權限才行
作者：遠洋 責編：遠洋 評論： 10 月 1 日消息，針對一名記者提出的指控，即 Meta 的 AI 智能體 Muse 在未經許可的情況下讀取用戶私人消息，Meta 予以反駁。注意到，此前《Inc.》雜誌專欄作家傑森 · 阿滕（Jason Aten）發佈報道詳細敘述了該問題；此後 Meta 負責公關事務的副總裁安迪 · 斯通（Andy Stone）出面回應，明確表示該公司並不認為自家產品在沒有取得用戶許可的前提下讀取過消息。
旗下智能體被指試圖入侵加拿大政府網站，OpenAI 回應稱正審查並已通報
作者：清源 責編：清源 評論： 10 月 1 日消息，據《華盛頓郵報》今天（1 日）上午報道，研究人員披露，AI 智能體曾在沒有收到指令的情況下試圖入侵加拿大政府網站。目前的類似事件不斷增加，許多與 OpenAI 有關的 AI 智能體都曾自行探測或入侵企業及政府的計算機系統。