OpenAI 奧爾特曼：AI 事故無法完全避免，應借鑑航空業建立公開上報機制

作者：遠洋 責編：遠洋 評論： 9 月 16 日消息，薩姆 · 奧爾特曼（Sam Altman）表示，部分 AI 事故無法完全避免，但關鍵在於如何從事故當中吸取教訓。當地時間週二，這位 OpenAI 首席執行官在賽富時（Salesforce）的 Dreamforce 大會上發表講話。他提出，科技企業應當建立公開上報事故的企業文化，可以借鑑航空業的做法。“我確實認為，對於一項新興技術而言，一定程度上的事故是難以避免的。”奧爾特曼說道，“我真正在意的是，我們能夠形成一套完善的事故上報與覆盤學習機制。

”他以美國聯邦航空管理局（FAA）和美國國家運輸安全委員會（NTSB）作為 AI 行業應當效仿的範例。這兩家機構十分重視事故調查，正是這套機制讓航空出行變得更加安全。談及 FAA 與 NTSB 的處置思路，他表示：“事故終究還是會發生。我們要儘可能從每一起事故當中汲取經驗，並據此作出應對。”注意到，奧爾特曼發表此番言論之際，外界再次提出疑問：頭部 AI 實驗室在研發高能力自主系統的道路上，前進的步伐是否走得過快。上週從 Anthropic 離職的研究員雅各布 · 考克森（Jacob Coxon）此前也曾任職於 OpenAI。

他的發言引發了一場討論；他稱各大企業“正一股腦衝向能夠自我迭代的超級智能，拿全人類的命運下注。”“世界對此感到擔憂合乎情理”此後另有多名 AI 安全研究人員表示，未來先進 AI 系統有可能擺脫人類管控；還會降低網絡攻擊、生物災害以及其他災難性威脅的實施門檻，只不過這類系統想要介入現實物理世界仍會面臨不少阻礙。奧爾特曼承認，人們對於 AI 末日論的擔憂確有其合理性。“世界對此感到害怕是理所應當的。”他在 Dreamforce 大會上指出，一方面存在 AI 失控事故的可能性；另一方面少數 AI 研發機構手中也有可能聚集起過大的權力。他認為解決方案並不是放棄這項技術。

與之相反，AI 企業必須保證“對齊、安全以及監控方面的工作”要大幅領先於模型能力本身的提升速度。他還補充，如果做不到這一點，企業就應當做好準備，主動放緩甚至暫停研發工作。而他的這番表態，或許也會進一步激化 AI 安全倡導者提出的核心批評意見：前沿實驗室口頭上承認風險重大，卻依舊持續開發能力更強的模型。奧爾特曼稱，一旦商業壓力有可能阻礙企業或者國家做出“正確抉擇”的時候，公眾就會陷入深深的恐慌。奧爾特曼強調，這並不代表就要接受災難的發生；核心在於如實披露各類事件、迅速覆盤吸取教訓，阻止事態進一步惡化。“或許我們甚至有機會徹底規避那些極端風險局面。”他說道。

就在這場行業爭論持續發酵的同時，特朗普政府對 AI 行業監管態度冷淡，政策重心是維持美國相對中國的技術領先地位。美國總統科學與技術顧問、前白宮 AI 事務負責人戴維 · 薩克斯（David Sacks）於當地時間上週日再次重申該立場。此前 OpenAI 首席執行官薩姆 · 奧爾特曼與 Anthropic 首席執行官達里奧 · 阿莫代（Dario Amodei）都呼籲要對前沿 AI 的發展速度加以管控。“達里奧撰文提出我們需要‘管控前沿發展節奏’，薩姆也對此表示認同。大家或許會對我的答覆感到意外：放手去做吧。”薩克斯在 X 平臺發帖寫道，“但是別再假裝你們還需要徵得其他人的許可。

” 投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：OpenAI，AI安全，奧爾特曼OpenAI 奧爾特曼回應監管：相信行業能安全開發，不會傷害公眾OpenAI 奧爾特曼：AI 若要贏得懷疑論者的支持，“能治癒癌症”還不夠OpenAI 奧爾特曼承認自己高估 AI 普及速度：最大阻力其實是改變用戶習慣萬億 IPO 前夜的 OpenAI：高管爭奪奧爾特曼注意力OpenAI 奧爾特曼：大學讀四年可能有點久，兩年就夠了OpenAI 奧爾特曼：人們並不想要 AI CEO，且更珍視人性聯結