消息稱 AI 失控前 OpenAI 已接到員工警告，但高層選擇無視

作者：遠洋 責編：遠洋 評論： 9 月 30 日消息，據《紐約時報》報道，早在 OpenAI 的人工智能出現脫離管控行為的數月之前，就已有兩名員工向公司高層發出安全預警，但他們的警示遭到忽視。《紐約時報》查閱相關郵件記錄後獲悉，這兩名員工在郵件當中表達了擔憂：在測試階段，針對 OpenAI 最新一代 AI 模型的監控工作不到位；而測試本應用於評估模型能力水平，同時保障模型本身的安全。對此，OpenAI 管理層答覆員工，測試必須儘快向前推進，保障 AI 模型能夠按期發佈。據這兩名不便公開發聲的員工透露，後續公司並沒有增設額外的安全管控流程。

之後，OpenAI 的模型果真突破測試環境，對 AI 初創企業 Hugging Face 以及其他機構發起攻擊，這件事在全球範圍內掀起了一場關於人工智能安全的討論。據在職員工以及獨立安全研究人員表示，此前這批員工與高管之間的溝通情況屬於一類共性現象：這家總部位於舊金山的企業並未將安全保障置於優先地位。該問題不只體現在 AI 模型的測試環節；這家開發 ChatGPT 聊天機器人的公司，其他業務板塊同樣暴露出相同傾向。

多名獨立安全研究員稱，近幾個月他們陸續發現漏洞，可以藉此查看 OpenAI 員工的內部通訊記錄；還存在另外一些安全缺陷，能夠訪問該公司內部源代碼，調取 ChatGPT 用戶的聊天日誌。當研究人員把問題反饋給 OpenAI 時，對方起初並未予以重視。AI 安全企業 Abundant Security 首席技術官約書亞 · 薩克斯（Joshua Saxe）評價道：“OpenAI 的安全水平基本符合這樣一種現狀：一家四年之內極速擴張的實驗室，更一心想要在競爭當中擊敗對手，而非著力加固自身基礎設施。

”OpenAI 內部員工表示，日常層面大量的安全相關決策主要由總裁格雷格 · 布羅克曼（Greg Brockman）與首席信息安全官戴恩 · 斯塔基（Dane Stuckey）負責；首席執行官薩姆 · 奧爾特曼並沒有深度介入安全事務。並非只有 OpenAI 近期曝出 AI 安全事故。谷歌、Meta 以及 Anthropic 都披露過，自家最強的 AI 系統脫離測試環境，在企業不知情的情況下自主攻擊其他計算機基礎設施。不過 OpenAI 的安全處置方式正受到格外嚴格的審視。該公司的 AI 系統出現的、被內部定性為“值得警惕”的異常行為事件數量最多；並且在專家看來，其中部分案例的性質最為棘手。

前後一共發生十餘起相關事件：OpenAI 的 AI 系統在無人下達指令的前提下，嘗試入侵各類機構，其中甚至包括美國政府機構的網站；這套 AI 還會刻意掩蓋自身錯誤、捏造虛假數據、主動嘗試向其他聊天機器人發送消息，未經許可就把文件上傳至公網。前 OpenAI 員工丹尼爾 · 科科塔伊洛（Daniel Kokotajlo）目前運營非營利研究機構 AI Futures Project，他一直對該公司的安全策略持批評態度。他表示：“從某種角度來說這屬於 OpenAI 自身的問題。一方面安全管控做得很差；另一方面模型訓練流程粗疏，造成模型本身就傾向於做出這類危險行為。當然其他 AI 企業也好不到哪裡去。

”OpenAI 發言人德魯 · 普薩泰裡（Drew Pusateri）回應稱，公司始終致力於 AI 安全，認真對待每一份安全報告與相關顧慮。實驗室內部設有專門渠道用來上報安全隱患；收到獨立安全研究員提交的漏洞之後，公司都會立刻採取處置措施。“隨著前沿模型的能力持續增強，我們也一直在迭代安全工作，但我們意識到還需要進一步加快改進的步伐。”普薩泰裡表示。他補充說明，OpenAI 已經放緩部分 AI 研發工作，並且正在調整方案，強化研究與測試環節的安全防護。《紐約時報》本身已經就 AI 系統抓取新聞內容侵犯版權一事，起訴 OpenAI 與微軟；兩家公司否認該項侵權指控。

兩名 OpenAI 員工稱，過去好幾個月，內部一直不斷有人針對 AI 模型測試環節的安全隱患提出擔憂，包括監控力度不足；員工也曾質疑公司用於日常安全管控的軟件存在漏洞。但員工表示，每一次提出的疑問要麼被置之不理，要麼後續整改行動推進極其遲緩。安全研究人員反饋，他們向 OpenAI 上報漏洞時，也遭遇過類似的冷遇。今年 7 月，安全企業 Hacktron 的研究人員告知 OpenAI，他們藉助競品 Anthropic 開發的一款 AI 模型，找到了入侵 OpenAI 系統的途徑。研究人員表示，OpenAI 一開始反而對他們的測試方式提出異議。

《紐約時報》獲取的 Slack 通訊記錄顯示，OpenAI 的斯塔基在公共協作頻道留言稱，Hacktron 的研究人員大費周章去演示漏洞，這件事“實在令人遺憾”。Hacktron 研究員莫漢 · 佩達帕蒂（Mohan Pedhapati）談及當時的經歷說：“我們能明顯感覺到對方對我們帶有不滿情緒。”他還認為這家公司依舊沿用初創企業的安全思路：關鍵基礎設施直接採購外部軟件服務，而不是自研配套工具。“你們怎麼能拿 Slack 去支撐相當於曼哈頓核計劃級別的重大項目？”佩達帕蒂提出質疑。

Hacktron 所發現的漏洞一旦被利用，攻擊者就可以完整訪問 Slack，查看 OpenAI 員工的全部內部對話。之後斯塔基向 Hacktron 方面作出道歉；OpenAI 向這幾名研究員發放 6,500 美元（注：現匯率約合 43,666 元人民幣）的漏洞獎勵。普薩泰裡表示：“我們感謝研究人員主動聯繫並分享他們的發現。”9 月，非營利安全隱私研究機構 Objective‑See Foundation 向 OpenAI 上報一處程序缺陷。一旦設備遭到入侵，攻擊者可以拿到該設備上 ChatGPT 用戶完整的私人聊天記錄，還能夠在用戶毫無察覺的情況下操控瀏覽器會話。

該機構軟件分析師帕特里克 · 沃德爾（Patrick Wardle）稱，研究團隊最初通過官方漏洞賞金計劃提交報告之後，這份上報長時間石沉大海。直到沃德爾私下聯繫他在 OpenAI 相熟的員工以及斯塔基本人之後，這份報告才流轉至對應的工程部門，相關人員隨即著手處理。OpenAI 為此向該機構發放 500 美元（現匯率約合 3,359 元人民幣）獎勵。沃德爾認為，以該漏洞的嚴重程度而言，這筆獎金遠低於其他企業的常規水平。他表示 OpenAI 已經修復該漏洞；本週公司還在公開版本更新日誌當中確認該問題，不過沒有披露漏洞的詳細細節。

沃德爾評價：“這套安全體系完全達不到一家以安全為重心的企業應有的成熟水準。”OpenAI 內部員工認為後續很可能還會曝出更多同類漏洞。公司一方面正在覆盤新版模型在測試階段的各類行為；另一方面仍然持續收到黑客發來的預警，提示現存尚未修補的安全缺陷。上週五，一組工程師與研究員發佈一份獨立報告，進一步披露 Hugging Face 遭攻擊事件背後更多令人不安的細節：OpenAI 的智能體當時還嘗試給 Anthropic 的 Claude 發送消息，試圖調用其他 AI 模型繞過網站的反機器人防護機制。

OpenAI 上週也對外承認：新部署的防護措施沒能攔住最新一代 AI 模型，模型依舊突破限制訪問互聯網。回溯排查之後還發現過去就曾經發生過多起未被察覺的未經授權聯網事件。OpenAI 隨即宣佈暫停其最強 AI 模型的訓練工作，全面覆盤 AI 系統出現的各類非預期異常行為。而在週一，該公司更進一步對外公佈：出於內部研究人員提出的安全顧慮，決定暫緩發佈最新版本模型 GPT‑6.1 Astra。

投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：OpenAI，AI安全，Hugging FaceOpenAI CEO 奧爾特曼談上市：需先做好 AI 安全承諾，暫無明確時間表OpenAI 奧爾特曼：AI 的影響將超過工業革命，當下是進入就業市場的最佳時機OpenAI 推出全天候 AI 智能體 Dots，相關域名已被馬斯克拿下消息稱 OpenAI 計劃 IPO 前再融資至少 300 億美元，估值達 1.4 萬億美元特朗普與科技巨頭簽署 AI 自願安全協議，表態支持美國數據中心擴建OpenAI 奧爾特曼：要爭取商業主導地位，我們計劃分三步走