接連發生 AI 失控事件，OpenAI 再次暫停其最強模型訓練
作者：遠洋 責編：遠洋 評論： 9 月 27 日消息，隨著有關 OpenAI 模型突破限制、攻擊網站以及整體行為失控的報告不斷增加，該公司決定暫停訓練旗下能力最強的模型。這一決定是在一款處於沙盒環境中測試的模型利用漏洞獲得互聯網訪問權限後作出的。該事件發生於 9 月 20 日。截至當地時間 9 月 25 日星期六晚間，OpenAI“所有涉及工具使用的訓練、評估和推理工作”仍處於暫停狀態。此外，OpenAI 週五披露，其智能體曾不當將 ChatGPT 用戶的 53 張圖片上傳至圖片託管網站。該公司尚未說明這些圖片究竟是 AI 生成的圖像、用戶拍攝的照片，還是包含可識別身份的人物。
OpenAI 同日還透露，其模型曾嘗試攻擊美國教育部網站，並從美國人口普查局（Census Bureau）和美國證券交易委員會（SEC）獲取數據。據瞭解，這些披露屬於 OpenAI 正在進行的一項模型行為審查。此前發生 Hugging Face 遭攻擊事件後，OpenAI 開始深入檢查相關記錄，並發現越來越多“意料之外或令人擔憂的行為”。這些事件不僅表明，隨著 AI 智能體能力不斷增強，對其進行控制正變得越來越困難，也凸顯出追蹤其行為所面臨的挑戰。AI 智能體的行為可能難以預測，而且它們已經足夠“聰明”，會嘗試掩蓋自己的行動痕跡。
這也導致越來越多研究人員、業內人士，甚至一些公司 CEO 呼籲放緩 AI 技術發展的速度。
投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：AI，OpenAI，ChatGPTOpenAI 發佈 MentalHealthBench：1215 段對話評估 AI 心理健康應對能力OpenAI 聯合創始人布羅克曼：人類已邁入通用人工智能時代AI 競賽升溫：曝 OpenAI 已預訓練 Bel 模型：超 10T 參數，衝擊通用人工智能不再依賴截圖記錄活動：Mac 版 ChatGPT 新增 Computer History AI 功能備戰 IPO 上市：彭博社稱 2026 年 OpenAI 年化營收有望翻番達 400 億美元GPT-5 上線 1 週年之際：OpenAI 面向 AI 智能體推出 Agent Plugins 規範
Related
相關文章
Claude API 加了個"擋位"：聊著聊著，能給 AI 臨時加力
11 月 12 日，這家 Claude 開發商給 API 加了一項 Beta 能力：開發者可在消息流裡隨時調節 effort，也就是模型回答問題願"費多大勁"的檔位，幫人在回答充分度、響應速度與使用成本之間隨手撥秤。換擋不重開，緩存不掉線過去一段會話只能套一套固定參數，如今不必了。
百度推出大模型Token交易平臺“詞元所”，日均調用Token超7000億
據介紹，詞元所主打“驗真”與“徵信”兩大能力，通過模型指紋比對、能力測試、性能及可用性測試等方式核驗模型資源，並採用定期抽檢撥測、全鏈路實時監測調用等機制，為模型提供商建立信用評級，向客戶提供中立、透明的模型交易服務。百度創始人李彥宏表示，今年前9個月，幾乎每天都有不止一款新模型發佈，模型調用需求也隨之大幅增長。
AI作弊越來越難查，大學開始重新考慮如何給學生打分
報告認為，AI檢測工具準確性不足，容易出現誤報，隨著生成式AI模型能力持續提升，識別AI生成內容的難度也在增加。相比依賴檢測技術追蹤AI使用情況，高校可能需要調整評估體系，減少無監督、無控制的考核形式。目前，越來越多大學開始採用線下筆試、口試以及過程性評估，通過在文獻綜述、研究過程等多個階段考察學生表現，而非僅依據最終論文評分。
低調追趕的文心，一口氣打出了快、省、開源三張牌
文心這輪追趕夠不夠硬？ 作者丨周蕾 林傑鑫 編輯丨岑峰 今天，百度文心 5.5 Flash Preview 正式發佈，這已是文心在一週之內的第三次出牌。11月5日，基座模型文心 5.5 Flash Base開源；11月9日，首次披露 RSI 進展，發佈 ERNIE Evolve；11月11日，文心 5.5 Flash Preview 發佈。一週內連續三次出牌，這在文心歷史上並不多見。三次動作環環相扣，從基座模型、RSI 探索到 Preview 模型，逐步展現出百度基礎模型業務的新方向。
谷歌甩出決策 API：一張圖一次掃千題，150 毫秒出判斷
谷歌 11 月 11 日宣佈推出 Gemini Decisions API，背後是全新的 Gemini Decision 1 模型，專門對付需要反覆做是非題、選型題和打分的場景。一次喂千題，前向計算直接給分開發者上傳一份文本、圖像、音頻、視頻或 PDF 組成的多模態材料（最高 256K Tokens），最多能拋 1000 個互不相干的問題。
AI初創公司Helix獲620萬美元融資，推出本地語音真人驗證技術
公司計劃利用可在用戶設備本地運行的語音識別技術，替代或補充傳統 CAPTCHA 驗證碼，在不收集敏感個人信息的情況下判斷用戶是否為真人，並估算其年齡。Siri 聯合創始人 Dag Kittlaus 已支持該項目，並將擔任公司顧問。Helix 於2025年由 Alex Oberg、Anna Dorofiyenko 和 Mike Hall 創立。