微軟CEO納德拉發聲:呼籲為先進AI模型設立人類可控的“緊急制動”機制
AI資訊AI新閒資訊正文微軟CEO納德拉發聲:呼籲為先進AI模型設立人類可控的“緊急制動”機制發布於AI新閒資訊時間 :Oct 12, 2026閱讀 :1分鐘微軟首席執行官薩蒂亞·納德拉於10月10日通過社交平臺發表長文，公開呼籲行業必須為先進人工智能模型引入“緊急制動”機制，徹底評估現有的AI信任架構。針對當前迅速演進的超級智能技術，納德拉指出行業不能再盲目將複雜的黑箱模型視為全知全能，而是應當從“模型已被攻破”的防禦性假設出發，推行更為審慎的安全治理路線。在具體技術框架上，納德拉主張將底層AI模型與協調其工作任務的控制框架相剝離，實現控制和安全措施的外部化。
他強調，每一次有意義的模型操作都必須伴隨防篡改、人類可讀的執行證據，並確保授權人員在任務執行的全程中擁有隨時暫停或關閉模型的終極權力。這一主張與此前Anthropic首席執行官達裡奧·阿莫迪提出的謹慎開發計劃形成呼應，凸顯出當前頭部科技領袖對AI模型失控風險的高度警惕。業內分析認為，隨著模型自主性與代理能力的不斷躍升，如何建立透明、可控且具備外部幹預能力的行業標準，已成為平衡技術創新與安全底線的當務之急。
相關推薦OpenAI悄悄掛出未發佈生命科學模型gpt-rosalind-discovery，要給藥企當"工具販子"OpenAI API價格頁近日出現未發佈的生命科學新模型gpt-rosalind-discovery，定價與gpt-rosalind-research相同，外界猜測其瞄準藥物發現。這並非孤立上架：OpenAI已為生命科學設立獨立品牌Rosalind，鋪設多條交付路徑，並此前聯合多家藥企探索，正加速佈局該賽道。Oct 12, 202663.
7k螞蟻“靈光”開啟新版內測，對標Meta Muse升級個人智能體螞蟻集團AI產品“靈光”近日開啟新版本小範圍內測，全面對標Meta今年9月推出的個人智能體Muse。據接近項目人士透露，該項目自半年前籌備，歷經多版迭代，計劃本月全面開放。此次升級核心是，靈光從基礎聊天與應用生成的AI助手，跨越為具備長期記憶、可主動推進複雜任務的AI原生個人智能體，並可通過調用Skill和MCP等能力。Oct 12, 202678.7k月之暗面註冊資本飆至 1437 萬，年內密集增資動作頻頻北京月之暗面科技股份有限公司近日完成工商變更，註冊資本由約1157.53萬元增至約1437.23萬元，增幅約24%。
今年以來，該公司註冊資本已多次密集增資，從最初100萬元一路升至約1437.23萬元。作為國內大模型頭部企業及備受矚目的AI獨角獸，其資本變動引發關注。Oct 10, 2026225.7k知名學者怒批：立即全網下架可聯網開放式AI智能體AI學者蓋瑞·馬庫斯呼籲市場立即下架所有具備聯網能力的開放式AI智能體，直至技術缺陷與安全隱患徹底修復。該呼籲源於《紐約時報》披露的Anthropic智能體引發嚴重安全事故。結合此前頻發的智能體失控事件，他指出當前一代合成智能體無法被公眾或企業完全信任或掌控，行業應正視風險。Oct 10, 2026217.
4kMeta AI 智能體 Muse 曾曝安全隱患，扎克伯格為何仍執意上線？《紐約時報》披露，Meta因安全隱患將AI智能體Muse發佈推遲數月。內部測試暴露多起安全隱私問題，高管知情仍推進。但面對Instinct等初創公司競爭，扎克伯格頂住風險，最終決定按計劃推向市場。Oct 10, 2026191.0k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026
Related
相關文章
AI 浪潮下的社區無奈謝幕:知名反編譯追蹤網站decomp.dev宣佈關閉
該網站曾致力於集中展示匹配反編譯的進展，並凝聚志同道合的技術愛好者。然而，隨著近年來人工智能技術的迅猛發展，開源協作生態遭到嚴重破壞，創始人最終決定讓其退居為歷史數據存檔。匹配反編譯長期以來是一項極度耗時且艱難的任務。自2026年初 Opus4.
AI 系統 RFdiffusion3 能從原子層面造蛋白：實驗裡真能幹活
更硬核的是，用它全新設計的蛋白質，已在真實化學反應中兌現了預期功能。由美國華盛頓大學、英國牛津大學、英偉達等機構組成的國際團隊搭建了這套系統，可對單個原子建模，專門用於設計蛋白質與核酸，相關成果於當地時間 16 日刊登在國際期刊《科學》上。
迪士尼將以2000萬美元收購Character.AI部分資產並接納核心團隊
據彭博社披露的法律文件顯示，迪士尼已同意以2000萬美元收購 Character.AI 的部分資產，並向至少60名員工（佔其員工總數的大多數）提供總額約6000萬美元年薪的就業機會，目前絕大多數受邀員工已接受試探性報價。此次收購與人才吸納，凸顯了傳統娛樂巨頭在人工智能浪潮下對垂直領域技術團隊的深度整合。
不操控鍵鼠、自己寫代碼：4 個 Gemini 智能體在《我的世界》裡自主組隊擊敗末影龍
4個 Gemini4Argon 通用編碼智能體，在沒有人類替它們分派任何角色的情況下，僅憑遊戲內的聊天頻道和一份共享筆記，就自己商量著完成了分工，然後一頭扎進一個隨機生成的《我的世界》生存世界裡。這場硬仗打了27小時14分鐘，它們最終通關，把末影龍撂倒。
垂直大模型"同源觀瀾"在福州發佈：用 AI 把兩岸共同歷史記憶"激活"
10月18日，中華文化傳承與兩岸融合發展垂直大模型"同源觀瀾"在福建師範大學旗山校區正式發佈，它的使命很明確——用數字技術把兩岸共享的歷史記憶重新盤活。福建師範大學校長鄭家建點出了這套系統要解決的真實痛點:涉臺檔案資料浩如煙海，整理和考辨的難度極高。
Vercel數據表明決策模型Jev成史上採用最快AI模型
Jev於9月15日限量發佈，通過限制預設輸出數量實現更高速度與更低成本，成為快速分類大量數據的理想選擇，並已促使OpenAI和亞馬遜等公司推出競品。作為早期採用者，Vercel已利用Jev取代GPT-6Luna來識別有害指令。相關數據源自類似OpenRouter的統一 API 服務VercelAI網關，該報告同時指出開源模型已佔據處理代幣的70% 以上及總支出的近25%，而前沿實驗室支出亦實現十倍增長。