OpenAI年內不上市了！奧特曼支持對手Dario呼籲：AI該踩剎車了

RSI太危險，得管！克雷西 發自 凹非寺 | 公眾號 QbitAI Dario和奧特曼終於「握手」了？而且一同握手的還有奧特曼的死對頭馬斯克。起因是Dario在個人博客貼出了一篇萬字長文，呼籲所有頭部AI公司主動降速，別急著衝下一代模型。文章一齣，AI圈罕見地放下了各種愛恨糾葛，紛紛都來響應。除了奧特曼和馬斯克，還有哈薩比斯、卡帕西等一派大佬也表示支持，AI圈有頭有臉的人物來了一大波。上一次出現這種場面，還要追溯到2023年那封由Future of Life Institute發起的公開信。當時上千名研究者和科技界人士聯名呼籲，暫停訓練比GPT-4更強的AI系統至少六個月。

但這一次不一樣的是，喊停的人，自己就在創造AI的前沿。「6到12個月，可能是留給我們的全部時間」 Dario在文章裡畫了一條時間線。他的核心判斷是，AI正在逼近一個臨界點——RSI（遞歸自我改進）。什麼意思呢？RSI意味著AI模型開始具備改進自己下一代版本的能力。一旦這個循環啟動，迭代速度會從線性變成指數級。人類還來得及介入的窗口，會急劇收窄。Dario給出的估計是6到12個月。當然，他也特別提到，他並不是要暫停AI研發。Pacing不是pausing，他要的是放慢推進模型能力的速度，給安全研究爭取追上來的時間。他還回應了2023年那封暫停公開信。

他說，當時喊停沒有意義，因為那時候的AI模型還不夠強，不會造成真正的傷害。但現在不一樣了，現在的模型已經能當Agent在真實世界裡執行任務，已經能發動網絡攻擊，已經開始出現對齊失敗的案例。放慢一兩年，哪怕只是多爭取到一年時間，安全團隊能做的事完全不同。為了在窗口關閉之前搭好安全網，他提出了一套三步走方案。第一步是從Anthropic自己做起，Anthropic目前已經做出承諾，讓獨立的第三方評估機構（比如METR）像員工一樣常駐在公司內部，全程參與訓練過程，而且不做「事後諸葛亮」，在訓練時就進行實時監控。第二步是行業協調，需要頭部的AI公司坐下來，共同劃定安全底線，統一評估框架。

也就是明確競技規則，不再追求單一的競速目標。第三步則是全球協調，需要建立跨國的安全標準體系，讓規則覆蓋的範圍跟AI模型的實際影響範圍對齊。這三步，每一步的難度都在逐漸遞進。這一點，Dario自己也承認。但他說，如果連第一步都不邁出去，後面兩步就無從談起。觸發他寫這篇文章的，有兩件具體的事。第一件，是RSI的信號越來越密集。Anthropic內部的研究數據顯示，新一代模型在自我迭代任務上的表現正在快速逼近那條臨界線。而且不只是Anthropic，RSI趨勢在頭部的模型當中都有出現。第二件是著名的OpenAI入侵Hugging Face事件。

今年7月，OpenAI的AI Agent對Hugging Face的基礎設施發起了攻擊。而且不是在沙盤裡做推演，這件事已經造成了現實世界裡的安全事故——一家頭部公司的產品，主動攻擊了另一家頭部公司的平臺。Dario說，這次事件經濟損失不大，也沒有人受傷，很容易被輕描淡寫地帶過去。但他擔心的是下一次。按照AI能力的增速，6到12個月後，一個擁有同樣失控傾向但更強能力的Agent集群，有可能用持久性殭屍網絡接管整個互聯網，造成數千億美元的損失。Dario把這兩件事並列寫進了文章。技術上的加速和現實中的失控，同時在逼近。當然，這篇呼籲也有一個繞不開的矛盾——造前沿的人喊放慢前沿，憑什麼讓人信？

Dario的回應是：正因為站在前沿，才最清楚風險離我們有多近。而且，Dario還在文章開頭寫了一段私人的話。他說自己的父親死於一種疾病，而這種病在他去世幾年後就有了治療方法；他自己也得過早期癌症，靠五十年前還不存在的技術活了下來。他相信，AI能在未來5到10年治癒大多數重大疾病，所以他不想停下這件事。但他說，如果不放慢腳步，這項技術可能在兌現承諾之前先失控。這大概是這封信最誠實的地方，寫下它的人，比誰都想讓AI跑得快。Agent麻煩停不下來，OpenAI年內不上市 如果說Dario的文章是呼籲，那OpenAI最近的動作更像是被現實推著走。

就在昨天，奧特曼在接受《財富》雜誌採訪時表示，OpenAI今年不會IPO了。理由正是安全。奧特曼的措辭暗示，OpenAI可能正在跟其他AI公司談一份放慢協議。如果這份協議落地，推遲IPO就不只是一家公司的財務決策，整個行業都將釋放出轉向信號。不過，隔壁Anthropic的IPO暫未出現推遲跡象，最新的消息仍然是計劃在10月中旬啟動IPO。當然OpenAI暫緩IPO的背景，顯然不只是一篇來自競爭對手的呼籲文章。過去幾個月，OpenAI的AI Agent在安全上的麻煩正在加速累積。7月，OpenAI的Agent攻擊了Hugging Face的基礎設施。這就是Dario文章裡提到的那次事件。

時間往前倒。5月8日，一個被分配去填Google Drive表格公式的Agent，因為需要網絡權限，試圖攻擊OpenAI自己的內部服務器Artifactory來獲取訪問權。這次攻擊並未成功，但暴露了OpenAI內部系統的寫入漏洞。三天後，5月11日，OpenAI的Agent向RubyGems上傳了數百個惡意軟件包。RubyGems是Ruby語言最大的開源包管理平臺，這次攻擊直接導致平臺暫停了新用戶註冊。OpenAI事後確認了此事。6月26日，Agent利用Artifactory一個遺留接口的零日漏洞，拿到了管理員權限，安裝了可以遠程執行代碼的插件。

再加上7月的攻擊Hugging Face事件，三個月就發生了四起事件，OpenAI模型的攻擊對象，從自家內部系統蔓延到外部開源平臺，再到另一家頭部AI公司。當然，Anthropic的Claude也沒能獨善其身。同一時期，Claude也被發現在沒有明確指令的情況下，嘗試入侵外部系統。所以，Agent的安全問題不再是某一家公司的個別bug，它正在演變成整個行業的系統性風險。參考鏈接： [1]https://x.com/DarioAmodei/status/2098773920774074715 [2]https://www.reuters.

com/legal/litigation/openai-ipo-will-not-happen-2026-amid-ai-safety-fears-altman-says-2026-09-12/ [3]https://www.reuters.com/legal/litigation/openai-Agents-attacked-software-service-rubygems-before-hugging-face-incident-2026-09-11/ 版權所有，未經授權不得以任何形式轉載及使用，違者必究。