OpenAI安全團隊持續地震！負責人離職，三名員工因洩密被開

又咋啦。。。程淺 發自 凹非寺 | 公眾號QbitAI OpenAI怎麼又雙叒叕走了一個安全負責人？？David Robinson，OpenAI Safety Systems團隊內的“安全透明度”職能負責人。據BI報道，Robinson本人尚未公開說明離職原因，OpenAI也沒有公佈繼任者。“安全透明度負責人”這項工作並不耀眼，但這名字一聽就很重要。幾乎每次OpenAI發佈重要模型時，Robinson和他領導的團隊都會為模型撰寫一份“system card”。簡單來說就是“風險說明書”。

而如今，新模型還在接連上線，Robinson卻先下線了…… 安全透明度負責人究竟負責什麼 用Robinson自己的話說，他所做的工作，是幫助外界理解並信任OpenAI為保障系統安全所開展的技術工作。簡單說，他和團隊扮演的是技術部門與公眾之間的“翻譯器”。△David Robinson Safety Systems團隊負責評估、紅隊測試、安全措施和模型部署決策。但這些工作的過程和結果通常非常複雜，外界很難僅憑一組測試數據判斷模型是否安全。安全透明度團隊要做的，就是把內部的技術發現、風險判斷和部署決定，整理成外界能夠看懂的公開材料。

這項工作歸屬於Safety Systems內部的Trustworthy AI團隊，產出包括system card、Deployment Safety Hub、安全研究博客和公開治理文件。其中最常和公眾見面的，就是system card。在其中需要寫明：一款模型訓練所用的方法、接受了哪些安全評估、在生物和網絡攻擊等高風險領域達到了什麼能力、內部採取了什麼安全措施、採取措施後還有什麼風險等等。（說是card，實際上篇均幾十頁。） △GPT-6 Astra的System Card，顯示為迄今為止最安全的模型 它可以被類比理解為食品包裝上的“營養成分表”。

也就是，雖然看的人很少，但必須得有…… Robinson自己也不無自豪地說，這是OpenAI向外界提供的有關公司技術安全工作“最詳細、最全面的說明”了。除此外，Robinson還是OpenAI《Preparedness Framework 2.0》的主要起草人。這套框架用於追蹤前沿模型可能帶來的嚴重風險，並提前規定模型達到某種能力後，公司需要進行哪些評估、增加哪些防護措施。比如這第二版框架裡，就新增了三類需追蹤的能力：生物與化學能力、網絡安全能力，以及AI自我改進能力。如果追蹤中發現，模型能力達到了High，那就意味著它可能顯著放大現有的嚴重危害路徑，必須在部署前配置足夠的安全措施。

而一旦達到Critical，就代表模型可能憑空創造嚴重危害路徑，是否繼續開發將存在問題。Deep Research就是一個典型案例。在Deep Research System Card中，這款模型的生物學評估顯示，它正“接近”High能力門檻。換句話說，它“開始接近”能夠實質幫助非專業人士製造已知生物威脅的水平。該怎麼準確地向公眾描述這種安全領域裡的閾限空間，就是Robinson負責的工作。不久前，Robinson還在招聘OpenAI首位Safety Transparency Editor。

這個崗位需要負責重要安全透明度材料的編輯質量，從項目啟動到最終發佈，全程推動system card和相關文件的敘事與表述。目前還是在招狀態，人招沒招進來不知，總之是leader先走了。OpenAI安全部門又“地震”？其實吧，在Robinson離職消息曝光前，OpenAI的安全部門就已狀況頻發。比如……OpenAI剛開了三名安全方向的員工。據《華爾街日報》報道，三人分別是Jasmine Wang、Tomek Korbak和Mikita Balesni，主要從事安全與模型對齊研究。

OpenAI給的理由是，內部調查發現三人把公司敏感信息分享給了一家外部AI安全機構，其中還有OpenAI基礎設施架構的內容。耐人尋味的是，Tomek Korbak此前曾擔任OpenAI與第三方評估機構METR、Redwood Research之間的技術聯繫人。這兩個機構就是當時Hugging Face事件後OpenAI邀請進駐公司調查的三方機構。Korbak就是與這些研究人員對接的人。實際上，OpenAI的安全團隊從Dario Amodei時期就一貫是變動頻出，“地震”連連。最近的可參考： OpenAI解散「災難風險應急」團隊！

GPU大神Scott Gray也跑路了 OpenAI一個月跑4名高管！前COO離場，安全線幾乎被一鍋端 GPT-5.6剛發佈，OpenAI安全主管就跑路了？？因為離職的人實在是太多了，很難羅列，我做了張圖。大家自行感受…… △圖片系AI生成 One More Thing 離職之前，Robinson曾在X上多次公開談論高能力AI帶來的風險。9月初，他在X上表示，OpenAI內部的人正在逐漸意識到高能力AI模型可能產生的影響。（竟然才意識到嗎？） “OpenAI的確每天都在發生重大變化，但我不知道這種變化是否足夠快。

” 在最新一則X中，Robinson轉發了另一名研究人員的帖子，並表示百分百贊同： 我不認為競相發展RSI真是什麼囚徒困境——它可能就像普通人直觀看到的那樣，既瘋狂又傲慢。Robinson對那些AI staff說，如果現在選擇繼續留下來，就應該思考—— 如何利用自己在公司內部的影響力，推動公司更認真地應對AI風險。版權所有，未經授權不得以任何形式轉載及使用，違者必究。