接連發生 AI 失控事件，OpenAI 再次暫停其最強模型訓練

作者：遠洋 責編：遠洋 評論： 9 月 27 日消息，隨著有關 OpenAI 模型突破限制、攻擊網站以及整體行為失控的報告不斷增加，該公司決定暫停訓練旗下能力最強的模型。這一決定是在一款處於沙盒環境中測試的模型利用漏洞獲得互聯網訪問權限後作出的。該事件發生於 9 月 20 日。截至當地時間 9 月 25 日星期六晚間，OpenAI“所有涉及工具使用的訓練、評估和推理工作”仍處於暫停狀態。此外，OpenAI 週五披露，其智能體曾不當將 ChatGPT 用戶的 53 張圖片上傳至圖片託管網站。該公司尚未說明這些圖片究竟是 AI 生成的圖像、用戶拍攝的照片，還是包含可識別身份的人物。

OpenAI 同日還透露，其模型曾嘗試攻擊美國教育部網站，並從美國人口普查局（Census Bureau）和美國證券交易委員會（SEC）獲取數據。據瞭解，這些披露屬於 OpenAI 正在進行的一項模型行為審查。此前發生 Hugging Face 遭攻擊事件後，OpenAI 開始深入檢查相關記錄，並發現越來越多“意料之外或令人擔憂的行為”。這些事件不僅表明，隨著 AI 智能體能力不斷增強，對其進行控制正變得越來越困難，也凸顯出追蹤其行為所面臨的挑戰。AI 智能體的行為可能難以預測，而且它們已經足夠“聰明”，會嘗試掩蓋自己的行動痕跡。

這也導致越來越多研究人員、業內人士，甚至一些公司 CEO 呼籲放緩 AI 技術發展的速度。

投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：AI，OpenAI，ChatGPTOpenAI 發佈 MentalHealthBench：1215 段對話評估 AI 心理健康應對能力OpenAI 聯合創始人布羅克曼：人類已邁入通用人工智能時代AI 競賽升溫：曝 OpenAI 已預訓練 Bel 模型：超 10T 參數，衝擊通用人工智能不再依賴截圖記錄活動：Mac 版 ChatGPT 新增 Computer History AI 功能備戰 IPO 上市：彭博社稱 2026 年 OpenAI 年化營收有望翻番達 400 億美元GPT-5 上線 1 週年之際：OpenAI 面向 AI 智能體推出 Agent Plugins 規範