OpenAI 奧爾特曼:AI 事故無法完全避免,應借鑑航空業建立公開上報機制

2026年9月16日 20:31
OpenAI 奧爾特曼:AI 事故無法完全避免,應借鑑航空業建立公開上報機制
站內 AI 整理稿

作者:遠洋 責編:遠洋 評論: 9 月 16 日消息,薩姆 · 奧爾特曼(Sam Altman)表示,部分 AI 事故無法完全避免,但關鍵在於如何從事故當中吸取教訓。當地時間週二,這位 OpenAI 首席執行官在賽富時(Salesforce)的 Dreamforce 大會上發表講話。他提出,科技企業應當建立公開上報事故的企業文化,可以借鑑航空業的做法。“我確實認為,對於一項新興技術而言,一定程度上的事故是難以避免的。”奧爾特曼說道,“我真正在意的是,我們能夠形成一套完善的事故上報與覆盤學習機制。

”他以美國聯邦航空管理局(FAA)和美國國家運輸安全委員會(NTSB)作為 AI 行業應當效仿的範例。這兩家機構十分重視事故調查,正是這套機制讓航空出行變得更加安全。談及 FAA 與 NTSB 的處置思路,他表示:“事故終究還是會發生。我們要儘可能從每一起事故當中汲取經驗,並據此作出應對。”注意到,奧爾特曼發表此番言論之際,外界再次提出疑問:頭部 AI 實驗室在研發高能力自主系統的道路上,前進的步伐是否走得過快。上週從 Anthropic 離職的研究員雅各布 · 考克森(Jacob Coxon)此前也曾任職於 OpenAI。

他的發言引發了一場討論;他稱各大企業“正一股腦衝向能夠自我迭代的超級智能,拿全人類的命運下注。”“世界對此感到擔憂合乎情理”此後另有多名 AI 安全研究人員表示,未來先進 AI 系統有可能擺脫人類管控;還會降低網絡攻擊、生物災害以及其他災難性威脅的實施門檻,只不過這類系統想要介入現實物理世界仍會面臨不少阻礙。奧爾特曼承認,人們對於 AI 末日論的擔憂確有其合理性。“世界對此感到害怕是理所應當的。”他在 Dreamforce 大會上指出,一方面存在 AI 失控事故的可能性;另一方面少數 AI 研發機構手中也有可能聚集起過大的權力。他認為解決方案並不是放棄這項技術。

與之相反,AI 企業必須保證“對齊、安全以及監控方面的工作”要大幅領先於模型能力本身的提升速度。他還補充,如果做不到這一點,企業就應當做好準備,主動放緩甚至暫停研發工作。而他的這番表態,或許也會進一步激化 AI 安全倡導者提出的核心批評意見:前沿實驗室口頭上承認風險重大,卻依舊持續開發能力更強的模型。奧爾特曼稱,一旦商業壓力有可能阻礙企業或者國家做出“正確抉擇”的時候,公眾就會陷入深深的恐慌。奧爾特曼強調,這並不代表就要接受災難的發生;核心在於如實披露各類事件、迅速覆盤吸取教訓,阻止事態進一步惡化。“或許我們甚至有機會徹底規避那些極端風險局面。”他說道。

就在這場行業爭論持續發酵的同時,特朗普政府對 AI 行業監管態度冷淡,政策重心是維持美國相對中國的技術領先地位。美國總統科學與技術顧問、前白宮 AI 事務負責人戴維 · 薩克斯(David Sacks)於當地時間上週日再次重申該立場。此前 OpenAI 首席執行官薩姆 · 奧爾特曼與 Anthropic 首席執行官達里奧 · 阿莫代(Dario Amodei)都呼籲要對前沿 AI 的發展速度加以管控。“達里奧撰文提出我們需要‘管控前沿發展節奏’,薩姆也對此表示認同。大家或許會對我的答覆感到意外:放手去做吧。”薩克斯在 X 平臺發帖寫道,“但是別再假裝你們還需要徵得其他人的許可。

” 投訴水文 我要糾錯 下載APP,簽到賺金幣兌豪禮 相關文章關鍵詞:OpenAI,AI安全,奧爾特曼OpenAI 奧爾特曼回應監管:相信行業能安全開發,不會傷害公眾OpenAI 奧爾特曼:AI 若要贏得懷疑論者的支持,“能治癒癌症”還不夠OpenAI 奧爾特曼承認自己高估 AI 普及速度:最大阻力其實是改變用戶習慣萬億 IPO 前夜的 OpenAI:高管爭奪奧爾特曼注意力OpenAI 奧爾特曼:大學讀四年可能有點久,兩年就夠了OpenAI 奧爾特曼:人們並不想要 AI CEO,且更珍視人性聯結

Related

相關文章

國內首個半導體工藝保護流體材料重大突破

本文作者: 徐咪 2026-11-03 17:41 導語:上海凱銳恩將持續加大研發與產業化驗證投入,深化與國內半導體設備企業的協同合作,將半導體工藝保護流體成型技術推向全球市場。歷時近七年自主攻關,上海凱銳恩半導體科技有限公司成功開發出應用於晶圓級工藝保護的流體成型材料及配套熱壓成型設備,建立起完整的知識產權體系,實現“材料+設備+工藝”三位一體。

3 小時前

預售24.98萬起,全系搭載寧德電池,LS8 NEO能否撬動25萬級市場?

25萬級SUV的市場正在呈現鮮明的對比:增程賽道的競爭日漸旺盛,而純電市場回暖增長。在4月發佈的LS8增程版本基礎上,智己順勢推出了LS8 NEO,卡位純電競爭。預售權益價為24.98萬起,新車定於11月5日正式上市。在這臺25萬級的SUV上,全系標配了寧德時代電池、全線控靈蜥底盤、後輪轉向和800V高壓平臺。

4 小時前

xTool 的「快」與「難」:硬門檻、多線程研發與生態擴張

一個女孩在生成器裡輸入了第一次約會的日期和城市。那天是農曆十六,他們在海邊,月亮又大又圓。系統調取 NASA 的真實月相數據,還原了當晚月亮的樣子。她把它雕刻出來,做成一盞可以捧在手裡的月亮燈。這輪月亮,在任何一個模型網站上都找不到。因為那是隻屬於她的月亮。

4 小時前

阿里達摩院玄鐵 C950 榮獲“中國芯”年度重大創新突破產品獎

11月2日,以“智啟芯途 協同共生”為主題的 2026年“中國芯”集成電路產業促進大會暨第二十一屆“中國芯”優秀產品徵集結果發佈儀式在珠海橫琴舉行。大會匯聚集成電路領域院士、專家與產業代表,共同交流技術創新與產業協同發展的新路徑。本屆大會上,阿里巴巴達摩院旗下玄鐵 C950 榮獲“年度重大創新突破產品獎”,表彰玄鐵 C950 在高性能 RISC-V 處理器領域取得的實質性技術創新突破。

8 小時前

速賣通雙11開門紅!品牌成交同比大漲200%

海外雙11於11月1日正式開賣,記者從阿里旗下跨境電商平臺速賣通獲悉,開賣首日,速賣通Brand+品牌生意火爆,和去年11月1日大促相比,成交大漲超200%,滲透率突破50%。 在稅改、監管變動的大背景下,速賣通搶先佈局品牌化+本地化,成為品牌出海全新主場。多個國家市場的品牌成交均實現三位數增長,其中歐盟逆勢大漲181%,美國、韓國增長超4倍,巴西也實現翻倍增長。 海外雙11首日還湧現出一批新的百萬美金商家。除手機品牌小米、POCO、榮耀外,儲能品牌Oukitel、電氣設備品牌Zendure、清潔家電品牌Laresar等,首日成交額均突破100萬美元。 (多個速賣通品牌商家表示雙11銷量超預期) “銷量超預期!”“賣得最快的一次!”是速賣通品牌商家們對這次雙11的普遍感受。在Brand+計劃的護航之下,速賣通多個品類在多個國家市場實現全面開花。 電氣設備品牌EcoFlow橫掃歐美。今年9月,EcoFlow在柏林國際消費電子展上與速賣通Brand+達成合作,隨後即在雙11大促中迎來相比日銷150倍的爆發,拿下德國市場家裝類目單品Top1。 家居體脂秤品牌沃萊合作速賣通網紅帶貨,“平均1分鐘出3單!”雙11首日銷售額相當於近一個月總和的3倍。 清潔電器品牌Uwant聯合Brand+在韓國新品首發集塵站吸塵器V600,首日銷售額超10萬美金;1200臺除蟎儀40分鐘售罄;品牌銷量首日同比去年增長218%。 咖啡用具品牌1ZPRESSO,通過Brand+提前鎖定價格和庫存,強勢綁定韓國網紅測評及團購資源,爆款單品的首日銷量追平8月大促全週期。 騎行運動品牌RAMYPOCKET及ELITEWHEELS也雙雙在歐洲“拿到大結果”。通過提前在速賣通歐洲官方倉備貨超萬臺,跑步機品牌RAMYPOCKET首日賣出近2000臺跑步機,自行車輪組品牌ELITEWHEELS銷售額同比增長超300%。

10 小時前

中國市場賣爆了,蘋果年淨利8800億!新CEO回應iPhone Duo裂屏

作者 | 楊京麗 編輯 | 雲鵬 11月3日報道,今天凌晨,蘋果公佈2026財年第四季度(對應自然年2026年第三季度)及全年財務數據。財報發佈後,新任CEO約翰·特努斯(John Ternus)首次主持蘋果財報電話會。 本季度,蘋果營收達到1144.77億美元(約合人民幣7611億元),同比增長11.7%;淨利潤達到307.11億美元(約合人民幣2042億元),同比增長11.8%;攤薄後每股收益為2.10美元(約合人民幣13.96元),同比增長約14%。

10 小時前