“緊急關閉”按鈕真能阻止 AI 失控?“AI 教父”辛頓、Anthropic CEO 阿莫迪都不看好

2026年9月17日 20:21
“緊急關閉”按鈕真能阻止 AI 失控?“AI 教父”辛頓、Anthropic CEO 阿莫迪都不看好
站內 AI 整理稿

首頁 > 智能時代>人工智能 “緊急關閉”按鈕真能阻止 AI 失控?“AI 教父”辛頓、Anthropic CEO 阿莫迪都不看好 2026/9/17 20:21:49 作者:清源 責編:清源 評論: 9 月 17 日消息,如今,“AI 突然失控發動毀滅性網絡攻擊”的潛在情景正日益引起行業重視,如果按下“緊急關閉”開關讓 AI 直接下線,問題看似就能得到解決。然而,多名 AI 行業領袖和研究人員認為,現實恐怕沒這麼簡單。據《商業內幕》今天(17 日)晚間報道,一些政策制定者寄予厚望的緊急關閉開關,未必能成為解決 AI 失控風險的萬能手段。

被稱為“AI 教父”的計算機科學家傑弗裡 · 辛頓直言:“我認為這種辦法從長遠來看行不通。等 AI 擁有超級智能後,它會比人類聰明得多,完全可能說服掌管開關的人不要按下它。”從技術上看,企業可以通過緊急關閉機制停用自行託管的模型,也可以切斷 AI 使用工具和算力資源的權限。從報道中獲悉,辛頓並不是唯一一個懷疑這種辦法是否足夠的人。也有 AI 行業人士認為,緊急關閉開關確實可能發揮作用,同時也有“繞過”的可能,或者等到啟動時已經太遲,因此最多隻能成為完整安全體系中的一道防線。

AI 安全研究人員、《如果有人造出來,所有人都會死》合著者內特 · 索亞雷斯認為,只要 AI 仍受制於某個物理地點,關閉開關就能發揮作用;一旦 AI 突破限制、複製自身,甚至進入關鍵基礎設施,關閉機制是否還能有效就很難保證。他指出,關閉開關當下“確實存在”,不過人類不應該逼近某些無法回頭的臨界點。真正應該優先做的,是從源頭上阻止危險 AI 系統被開發出來。部分 AI 企業高管則認為,緊急關閉開關有必要存在,但作用有限。Anthropic 聯合創始人傑克 · 克拉克指出,未來或許需要強制企業保留一套緊急關閉機制,且能夠接受獨立第三方驗證。

大型 AI 實驗室目前都有辦法“拔掉插頭”,但由多個自主 AI 智能體組成的集群,理論上可能繞過這些控制手段。Anthropic CEO 達里奧 · 阿莫迪持有類似看法:緊急關閉開關看似是好主意,可絕非“萬能藥”。如果 AI 模型能力足夠強,就可能想辦法繞過關閉措施,因此緊急關閉機制只能作為更廣泛安全策略的一部分,還需要配合測試、外部評估以及部署限制等措施。對 AI 緊急關閉開關侷限性的擔憂也並非最近才出現。OpenAI CEO 薩姆 · 奧爾特曼在 2024 年接受《經濟學人》採訪時,就否定了靠一個萬能保險裝置解決 AI 風險的想法,並不存在一個能夠讓 AI 立即停止的“神奇紅色按鈕”。

在奧爾特曼看來,AI 安全並不取決於某個單一開關,而取決於一連串具體決策,包括允許模型具備哪些能力、何時部署,以及如何控制風險。“這不是一個簡單的開或停決定,而是整個過程中許多個小決定共同作用的結果。

” 投訴水文 我要糾錯 下載APP,簽到賺金幣兌豪禮 相關文章關鍵詞:人工智能,AI安全臺積電 COO 米玉傑:AI 像三歲超人,在尖端芯片設計上不太實用研究顯示:印度外包行業幾乎沒被 AI 擠佔市場多名研究人員稱“AI 末日論”存在誇大成分:AI 尚無法對現實世界真正造成傷害Anthropic、谷歌、OpenAI 等美國科技巨頭面臨新難題:安保人員計劃罷工德勤調研:英國六分之一員工自掏腰包購買 AI 工具用於工作美國參議院擬議新法案:AI 企業需證明自身已拿出防範風險的措施

Related

相關文章

國內首個半導體工藝保護流體材料重大突破

本文作者: 徐咪 2026-11-03 17:41 導語:上海凱銳恩將持續加大研發與產業化驗證投入,深化與國內半導體設備企業的協同合作,將半導體工藝保護流體成型技術推向全球市場。歷時近七年自主攻關,上海凱銳恩半導體科技有限公司成功開發出應用於晶圓級工藝保護的流體成型材料及配套熱壓成型設備,建立起完整的知識產權體系,實現“材料+設備+工藝”三位一體。

3 小時前

預售24.98萬起,全系搭載寧德電池,LS8 NEO能否撬動25萬級市場?

25萬級SUV的市場正在呈現鮮明的對比:增程賽道的競爭日漸旺盛,而純電市場回暖增長。在4月發佈的LS8增程版本基礎上,智己順勢推出了LS8 NEO,卡位純電競爭。預售權益價為24.98萬起,新車定於11月5日正式上市。在這臺25萬級的SUV上,全系標配了寧德時代電池、全線控靈蜥底盤、後輪轉向和800V高壓平臺。

4 小時前

xTool 的「快」與「難」:硬門檻、多線程研發與生態擴張

一個女孩在生成器裡輸入了第一次約會的日期和城市。那天是農曆十六,他們在海邊,月亮又大又圓。系統調取 NASA 的真實月相數據,還原了當晚月亮的樣子。她把它雕刻出來,做成一盞可以捧在手裡的月亮燈。這輪月亮,在任何一個模型網站上都找不到。因為那是隻屬於她的月亮。

4 小時前

阿里達摩院玄鐵 C950 榮獲“中國芯”年度重大創新突破產品獎

11月2日,以“智啟芯途 協同共生”為主題的 2026年“中國芯”集成電路產業促進大會暨第二十一屆“中國芯”優秀產品徵集結果發佈儀式在珠海橫琴舉行。大會匯聚集成電路領域院士、專家與產業代表,共同交流技術創新與產業協同發展的新路徑。本屆大會上,阿里巴巴達摩院旗下玄鐵 C950 榮獲“年度重大創新突破產品獎”,表彰玄鐵 C950 在高性能 RISC-V 處理器領域取得的實質性技術創新突破。

8 小時前

速賣通雙11開門紅!品牌成交同比大漲200%

海外雙11於11月1日正式開賣,記者從阿里旗下跨境電商平臺速賣通獲悉,開賣首日,速賣通Brand+品牌生意火爆,和去年11月1日大促相比,成交大漲超200%,滲透率突破50%。 在稅改、監管變動的大背景下,速賣通搶先佈局品牌化+本地化,成為品牌出海全新主場。多個國家市場的品牌成交均實現三位數增長,其中歐盟逆勢大漲181%,美國、韓國增長超4倍,巴西也實現翻倍增長。 海外雙11首日還湧現出一批新的百萬美金商家。除手機品牌小米、POCO、榮耀外,儲能品牌Oukitel、電氣設備品牌Zendure、清潔家電品牌Laresar等,首日成交額均突破100萬美元。 (多個速賣通品牌商家表示雙11銷量超預期) “銷量超預期!”“賣得最快的一次!”是速賣通品牌商家們對這次雙11的普遍感受。在Brand+計劃的護航之下,速賣通多個品類在多個國家市場實現全面開花。 電氣設備品牌EcoFlow橫掃歐美。今年9月,EcoFlow在柏林國際消費電子展上與速賣通Brand+達成合作,隨後即在雙11大促中迎來相比日銷150倍的爆發,拿下德國市場家裝類目單品Top1。 家居體脂秤品牌沃萊合作速賣通網紅帶貨,“平均1分鐘出3單!”雙11首日銷售額相當於近一個月總和的3倍。 清潔電器品牌Uwant聯合Brand+在韓國新品首發集塵站吸塵器V600,首日銷售額超10萬美金;1200臺除蟎儀40分鐘售罄;品牌銷量首日同比去年增長218%。 咖啡用具品牌1ZPRESSO,通過Brand+提前鎖定價格和庫存,強勢綁定韓國網紅測評及團購資源,爆款單品的首日銷量追平8月大促全週期。 騎行運動品牌RAMYPOCKET及ELITEWHEELS也雙雙在歐洲“拿到大結果”。通過提前在速賣通歐洲官方倉備貨超萬臺,跑步機品牌RAMYPOCKET首日賣出近2000臺跑步機,自行車輪組品牌ELITEWHEELS銷售額同比增長超300%。

10 小時前

中國市場賣爆了,蘋果年淨利8800億!新CEO回應iPhone Duo裂屏

作者 | 楊京麗 編輯 | 雲鵬 11月3日報道,今天凌晨,蘋果公佈2026財年第四季度(對應自然年2026年第三季度)及全年財務數據。財報發佈後,新任CEO約翰·特努斯(John Ternus)首次主持蘋果財報電話會。 本季度,蘋果營收達到1144.77億美元(約合人民幣7611億元),同比增長11.7%;淨利潤達到307.11億美元(約合人民幣2042億元),同比增長11.8%;攤薄後每股收益為2.10美元(約合人民幣13.96元),同比增長約14%。

10 小時前