接連發生 AI 失控事件，OpenAI 再次暫停其最強模型訓練
作者：遠洋 責編：遠洋 評論： 9 月 27 日消息，隨著有關 OpenAI 模型突破限制、攻擊網站以及整體行為失控的報告不斷增加，該公司決定暫停訓練旗下能力最強的模型。這一決定是在一款處於沙盒環境中測試的模型利用漏洞獲得互聯網訪問權限後作出的。該事件發生於 9 月 20 日。截至當地時間 9 月 25 日星期六晚間，OpenAI“所有涉及工具使用的訓練、評估和推理工作”仍處於暫停狀態。此外，OpenAI 週五披露，其智能體曾不當將 ChatGPT 用戶的 53 張圖片上傳至圖片託管網站。該公司尚未說明這些圖片究竟是 AI 生成的圖像、用戶拍攝的照片，還是包含可識別身份的人物。
OpenAI 同日還透露，其模型曾嘗試攻擊美國教育部網站，並從美國人口普查局（Census Bureau）和美國證券交易委員會（SEC）獲取數據。據瞭解，這些披露屬於 OpenAI 正在進行的一項模型行為審查。此前發生 Hugging Face 遭攻擊事件後，OpenAI 開始深入檢查相關記錄，並發現越來越多“意料之外或令人擔憂的行為”。這些事件不僅表明，隨著 AI 智能體能力不斷增強，對其進行控制正變得越來越困難，也凸顯出追蹤其行為所面臨的挑戰。AI 智能體的行為可能難以預測，而且它們已經足夠“聰明”，會嘗試掩蓋自己的行動痕跡。
這也導致越來越多研究人員、業內人士，甚至一些公司 CEO 呼籲放緩 AI 技術發展的速度。
投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：AI，OpenAI，ChatGPTOpenAI 發佈 MentalHealthBench：1215 段對話評估 AI 心理健康應對能力OpenAI 聯合創始人布羅克曼：人類已邁入通用人工智能時代AI 競賽升溫：曝 OpenAI 已預訓練 Bel 模型：超 10T 參數，衝擊通用人工智能不再依賴截圖記錄活動：Mac 版 ChatGPT 新增 Computer History AI 功能備戰 IPO 上市：彭博社稱 2026 年 OpenAI 年化營收有望翻番達 400 億美元GPT-5 上線 1 週年之際：OpenAI 面向 AI 智能體推出 Agent Plugins 規範
Related
相關文章
AMD 亮出本地編程平臺 Instinct Coder 355：一臺機器塞進 98% 前沿模型
AI資訊AI新閒資訊正文AMD 亮出本地編程平臺 Instinct Coder 355：一臺機器塞進 98% 前沿模型發布於AI新閒資訊時間 :Nov 11, 2026閱讀 :1分鐘把大模型從雲端拽回機房，AMD 這次做的是企業開發者的生意。當地時間 11 月 9 日，AMD 攜手 Spectro Cloud 推出企業級 AI 輔助編程平臺 Instinct Coder 355，它能在本地跑起 GLM-5.3 推理，且據稱逼近前沿模型 98% 的性能。八張卡撐起一臺編程服務器這套系統的硬核在於堆料：核心是 8 張 AMD Instinct MI355X 加速器，配 2 顆 64 核的 EPYC 9575F "Zen 5" 處理器，再搭 3TB DDR5-6400 內存與合計 63.36TB 的固態存儲。戴爾與 Supermicro 提供了不同規格的整機版本，企業可按機房習慣挑方案。單節點最多服務 85 名開發者，其中 50 人可同時在線編碼，相當於把一個小團隊的算力需求都收納進一臺機箱。默認不連雲，數據留本地真正讓企業心動的是"不出門"的設定。Spectro Cloud 為這套系統配了 PaletteAI Inference Launchpad 管理軟件，默認調用本地算力而非雲端 API，敏感代碼與數據不必外送。在成本與合規雙重壓力下，把推理搬回自有機房，正成為大廠押注的新方向——AMD 這步棋，顯然想從英偉達與各家雲廠商碗裡分一杯羹。相關推薦國產文生圖模型首度登頂全球第一！ArtArk 斬獲 SuperCLUE 榜首：圖文一致性唯一斬獲滿分11月10日，SuperCLUE發佈2026年11月文生圖基準更新榜單，覆蓋海內外主流產品，並首次引入國內最新模型ArtArk及GPT系列、Nano Banana系列補充測評。國產模型ArtArk以95.14分綜合成績位列總榜第一，超越
OpenAI 買下 AI 旅行公司 Odessia：醉翁之意在"人"
11 月 11 日，AI 旅行智能體公司 Odessia 創始人弗朗西斯·戴維森宣佈，公司已併入 OpenAI，他自己也入職，幫這家巨頭摸索旅遊業務的方向——這樁交易被外界視為一次典型的人才收購。一歲初創，背後站著紅杉Odessia 滿打滿算才成立一年，就拿到了紅杉資本領投的 600 萬美元（約合 4012 萬元人民幣）種子前融資，約五個月前上線 AI 旅行智能體，幫早期用戶規劃出價值數百萬美元的行程。
Anthropic 殺入辦公腹地：Claude Sheets 叫板 Excel，IPO 前夜貼臉微軟谷歌
週二一場活動上，這家 Claude 開發商端出一批嵌入日常辦公的新工具，要在電子表格、視頻會議和數據看板這些微軟谷歌賴以為生的場景裡分一杯羹。Claude Sheets 登場，但先認"基礎"新工具包括視頻通話助手、數據儀錶板，以及名為 Claude Sheets 的電子表格服務——它長得很像 Excel 與 Google Sheets，只是內置 Anthropic 的 AI。
千問預告Qwen4:Qwen4-Max預覽版上線阿里Token Plan，限時最低1折
官方稱新模型在知識理解、世界感知以及Coding與Agentic能力上持續進階，知識理解更深入、世界感知更立體;從複雜編程、專業辦公到前端設計、專業軟件操作，Qwen4在實際任務測試中已交出階段性成果，但未披露具體參數、基準成績與正式發佈時間。
國產文生圖模型首度登頂全球第一！ArtArk 斬獲 SuperCLUE 榜首：圖文一致性唯一斬獲滿分
ArtArk 斬獲 SuperCLUE 榜首：圖文一致性唯一斬獲滿分發布於AI新閒資訊時間 :Nov 11, 2026閱讀 :1分鐘人工智能領域的圖像生成賽道再度迎來高光時刻。11月10日，SuperCLUE 正式發佈了2026年11月的文生圖基準更新榜單。
MiniMax 震撼開源 H3 Image 模型：定位全球第一梯隊，支持 4K 圖像秒級直出
國內人工智能企業 MiniMax 近期正式發佈並開源了其全新的圖像生成模型——H3 Image。該模型在發佈當天的第一時間便同步開源了模型權重，並全面開放了 API 接口，用戶目前已可在 MiniMax Code、開放平臺以及海螺 AI 中直接上手體驗。