給失控 AI 智能體裝"急剎車"：OpenAI 35 秒熔斷機制上線

2026年11月10日 03:006200 次瀏覽

站內 AI 整理稿

AI資訊AI新閒資訊正文給失控 AI 智能體裝"急剎車"：OpenAI 35 秒熔斷機制上線發布於AI新閒資訊時間 :Nov 10, 2026閱讀 :1分鐘AI 智能體一旦跑偏，人類還能不能拉得住韁繩？OpenAI 在 11 月 10 日給出了一道新保險——名為"控制室"的系統已在內部研究設施上線，專門用來掐斷有風險的 AI 任務，最快能在 35 秒內叫停一隻失控的智能體。從"報警"升級到"斷供"傳統監控只會給可疑行為貼標籤，而控制室走的是主動阻斷路線。它把智能體訓練、評估和數據處理等任務負載接入中央服務，由系統拍板某項任務能否繼續吐出內容。

研究員啟動任務前，必須向控制室申領唯一任務 ID，這個身份標識會跟隨每一次發給推理引擎的請求；引擎在跑之前得先問控制室："這活兒能不能幹？"一旦研究員或監控系統喊停，控制室就會拒絕下一次推理請求，讓引擎不再為該項任務輸出任何模型結果。換句話說，危險動作不是被記錄，而是被當場切斷。35 秒延遲，目標歸零OpenAI 透露，從收到停止指令到徹底攔下任務，最長耗時 35 秒。這道時差來自推理授權請求的緩存層，公司正設法把它壓到零。與此同時，所有前沿強化學習任務都配了獨立的模型監控器，負責盯行為、發現問題就拉響警報。

讓 AI 自己看著 AI 跑、再設一道人工可觸發的急停開關，OpenAI 這套組合拳，折射出行業對"失控智能體"風險的警惕正從紙面預案走向工程落地。相關推薦Meta 推出輕量主力 Muse Ember：性能持平 Claude 5.5，單次任務成本大降至三分之一11月9日，Meta發佈迄今規模最小、運行效率最高的輕量級AI模型Muse Ember。該模型主打高效輕量，定位AI智能體（Agent）日常反覆處理的高頻任務，場景包括工具調用等，旨在以極致效率滿足智能體高強度運轉。此舉顯示人工智能領域“性價比軍備競賽”再添重量級選手。Nov 10, 2026126.

4kAnthropic 發佈 Fable / Mythos 新版：支持超千個智能體協同，多項硬核性能大升級隨著美股上市臨近，Anthropic公佈旗艦AI模型Mythos與Fable全新版本，意在鞏固全球AI開發領先地位。核心亮點Fable5.2定於週一發佈，複雜任務處理能力實現質的飛躍，重點攻克高難度軟件工程，並支持超千個智能體協同。官方介紹顯示，該模型在相關能力上進一步升級。Nov 10, 2026122.

7kOpenAI 構建中央控制室：實時追蹤模型工作負載，確保異常幹預後 35 秒內秒級叫停近日OpenAI宣佈構建全新中央研究工作負載管控系統Control Room，以應對前沿AI模型規模與推理能力飆升帶來的高風險安全監控和緊急叫停需求。系統核心是實時追蹤研究基礎設施中的模型工作負載，發現潛在安全或安保隱患時，能以極高速度切斷相關工作負載，強化運行時安全管控與應急響應。Nov 10, 2026111.

5k蘋果新 CEO 上任三把火，特努斯逼著費德里吉"大膽搞 AI"彭博社古爾曼在11月8日《Power On》披露，蘋果新任CEO約翰·特努斯正敦促軟件工程主管克雷格·費德里吉加快AI步伐，採取更大膽策略，把Siri升級為能自主替用戶幹活的AI智能體。特努斯公開在財報會上表現輕鬆，盛讚新版Siri實現多年設想、對反饋滿意；但私下深知蘋果仍遠落後於對手。Nov 9, 2026184.6kOpenAI新一輪融資籌集110億美元，估值達1.25萬億美元TechCrunch最新報道稱，OpenAI在新一輪融資中已成功籌集110億美元，估值達到1.25萬億美元。

原始來源：AIBase ↗

查看原始來源

AIBase生成式AI

Meta 拋出"小鋼炮"Muse Ember：跑分追上 Haiku，成本只要三分之一

Meta 在 11 月 10 日推出 Muse Ember，標榜自家"迄今最小、最高效"的模型，專為複雜推理和智能體反覆執行的日常任務而生。它不拼參數規模，只拼性價比。跑分追上 Haiku，賬單隻剩零頭在 Artificial Analysis 榜單上，Muse Ember 的綜合表現已能與 Claude Haiku 5.

46 分鐘前閱讀分析

AIBase生成式AI

通用大腦能力再提升，螞蟻靈波發佈LingBot-Touch觸覺基礎模型

該模型基於近5000小時真實觸覺數據預訓練，覆蓋磁觸覺、視觸覺和壓阻式三類主流傳感原理，可將不同信號轉化為同一套觸覺表徵，供不同靈巧手和動作模型使用，讓機器人在“看得清楚、想得明白”的同時，進一步補齊精細操作所需的觸覺感知。在通用大模型加速演進的時點，選擇推出一款面向物理操作閉環的觸覺基礎模型，傳遞出螞蟻靈波對具身原生路線的持續投入和篤定。

1 小時前閱讀分析

AIBase生成式AI

你的遊戲“最強搭子”上線:騰訊首款AI遊戲陪伴Agent鵝次元”內測開啟

該產品面向PC端玩家，深度主打遊戲場景的實時陪伴，標誌著騰訊在遊戲AI交互與擬人化陪伴垂直領域的實質性佈局。“鵝次元”的核心技術亮點在於其具備實時的屏幕遊戲畫面感知能力。AI能夠實時讀取並理解用戶的遊戲畫面信息，針對玩家在遊玩過程中遇到的各類疑問提供即時問答支持。

2 小時前6400閱讀分析

AIBase生成式AI

千問 Qwen4 跑分力壓 Opus 5.5，極高性價比展現強勁競爭力

根據近日洩露的核心評測數據，該系列在專門評估遊戲開發創造力的 GameFeel Bench 基準測試中表現亮眼，成功在部分指標上超越了海外頂尖的 Opus5.5，成為首個在該項評測中實現反超的國產大模型。核心跑分超越海外勁敵，本地部署版本緊追主流此次曝光的測試結果顯示，定位輕量的 Qwen4-Flash 取得了49.

2 小時前4900閱讀分析

雷峰網生成式AI