OpenAI 前安全部門員工：AI 模型迭代部署太激進，公司的文化已經崩壞

作者：遠洋 責編：遠洋 評論： 感謝網友 愚公騎馬 的線索投遞！10 月 4 日消息，據路透社報道，一名近期辭職的前 OpenAI 安全部門員工批評了該公司對待人工智能安全的做法，他認為一味追求快速開發的高壓企業文化會提高系統發生故障的風險。注意到，戴維 · 魯賓森（David Robinson）於當地時間週六在《大西洋》雜誌發表題為《我辭去 OpenAI 的工作，只因這家公司的文化已經崩壞》的文章中表示，包括 OpenAI 在內的各家人工智能企業做得“遠遠不夠謹慎”，在研發能力更強的系統之前，應當更加重視安全方面的專業人才與相關研究。“試錯的時代已經結束了。

”魯賓森（David Robinson）寫道。他提出，先進人工智能系統所需要的防護機制，應當更接近核電與航空這類行業所採用的安全保障體系。魯賓森（David Robinson）稱，OpenAI 十分依賴其所謂的“迭代部署”模式：先對外發布系統，等到問題暴露之後再去加固安全防護。此番言論進一步激化了人工智能行業內部的一場爭論，爭議焦點在於各家企業研發性能日益強大的系統時，推進的腳步是否過快。此前已經發生過多起安全管控失效或是實驗性系統出現異常表現的事件，OpenAI 及其競爭對手 Anthropic 也因此受到外界審視。

魯賓森自稱曾在 OpenAI 任職三年半，參與起草過該公司的風險應對框架，並且負責監督 12 次前沿模型發佈對應的安全報告。他寫道：“公司只顧著接二連三地趕進度推出新版本，卻沒能達到我心目中理應具備的審慎標準。”OpenAI 的一名發言人在一份聲明中表示：“我們一直在把控模型，避免它的能力超出我們能夠安全管控的範圍；一旦需要放緩節奏，我們就會暫停訓練，或是暫緩模型的對外發布。”魯賓森同時發出警示：人工智能能力的發展速度，已經超過研究人員對於對齊問題的認知水平；對齊這一研究領域致力於保證人工智能系統的行為符合人類的目標與價值觀。

投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：OpenAI，人工智能，人工智能安全哈佛大學心理學家：渲染“AI 末日”無助於應對風險，應審慎開展安全工程20 餘名行業領袖示警“智能爆炸”，Anthropic、OpenAI 高管呼籲關注 AI 自我改進“AI 教父”辛頓警告：AI 執行看似無害的任務，仍有“毀滅人類”的風險黑客在暗網兜售 AI 模型訪問權限，最低價僅有正版 3%OpenAI 奧爾特曼、 Anthropic 阿莫迪罕見“同臺”，呼籲全球合作應對 AI 安全路透社民調：近四分之三美國人認為 AI 公司在防止災難方面做得不夠