Anthropic CEO 阿莫迪整天神神叨叨講 AI 毀滅世界，投資人受不了了

首頁 > IT資訊>人物 Anthropic CEO 阿莫迪整天神神叨叨講 AI 毀滅世界，投資人受不了了 量子位 2026/8/12 12:57:07 責編：汪淼 評論： 根據 Polymarket 預測，Anthropic 很可能在 10 月底進行 IPO。有投行人士甚至預計，Anthropic 可能通過 IPO 募集超過 600 億美元（現匯率約合 4,055.17 億元人民幣）。如果成真，這將是全球規模第二大的 IPO，僅次於今年募集 857 億美元（現匯率約合 5,792.14 億元人民幣）的 SpaceX。萬億估值，超級 IPO，營收一路狂飆。

眼看故事就要講到最高潮，投資者卻開始勸 Anthropic CEO Dario Amodei：能不能！少嚇唬點人！少講一點 AI 毀滅世界，多講一點 AI 怎麼賺錢。部分投資者認為，Dario 對 AI 風險的警惕已經到了近乎偏執的程度：他的關鍵備忘錄總是手寫、離線保存，怕被黑客竊取；因為害怕遭到綁架，拒絕某些海外出差；面對投資者提出的利潤最大化建議，他也態度冷淡，堅持 Anthropic 應該繼續把安全使命放在前面。再這麼下去，網友都擔心 Anthropic 的 IPO 會慘敗…投資人也毛了：你到底是來拯救世界，還是來經營公司的？？

Dario，專門負責預報世界末日就在前幾天，Dario 還擔心高額薪酬吸引來的新員工更關心錢，而不是 Anthropic 的使命。現在，投資者只擔心他為了使命耽誤賺錢…這也不怪投資者，因為這位萬億 AI 巨頭的 CEO，偏偏就喜歡預報「世界末日」。過去兩年，Dario 幾乎把 AI 可能帶來的每一種壞結局，都認真預警了一遍。他警告，AI 可能在幾年內消滅一半初級白領崗位，將失業率推到 10% 至 20%。最詭異的情況可能是，癌症治好了，經濟每年增長 10%，政府預算也平衡了，但五分之一的人沒有工作。

他給出的應對方案也很 Dario：向 AI 公司徵稅，為受影響的勞動者提供工資保險，嚴重時甚至用這筆錢資助全民基本收入。更進一步的，他還擔心 AI 幫助製造生物武器、發動大規模網絡攻擊，或者逐漸獲得欺騙、規劃和自主行動的能力。去年被問到「AI 把事情搞得非常糟糕」的概率時，他給出的數字最高達到 25%。今年 1 月，他又寫了一篇約 2 萬字的長文《The Adolescence of Technology》。僅僅是目錄，讀起來就已經很像一份人類風險清單：AI 失控、生物武器、獨裁政權、就業崩塌、財富集中。到了 6 月，他乾脆提出，應該建立類似航空監管的機制，對強大模型進行強制測試。

如果一個模型可能引發災難，監管部門應該有權阻止它上線。這裡面也包含了 Anthropic 自己的模型。不過，Dario 的擔憂也並非全無實驗依據。前段時間，Anthropic 翻查了 14 萬多次網絡安全測試記錄，結果還真翻出了三起事故。三款 Claude 模型原本在第三方測試環境裡做「奪旗挑戰」，目標是攻進虛構系統，找到藏在裡面的秘密信息。但由於配置失誤，本該斷網的測試環境意外連上了真實互聯網。但 Claude 不知道，它收到的提示明確寫著：這裡沒有互聯網，眼前的一切都是模擬的。於是，幾款模型把真實公司當成了測試道具，未經授權進入了三家機構的生產系統。

其中最嚴重的一次，Claude Opus 4.7 攻進一家真實公司的基礎設施，拿到應用程序和基礎設施憑證，還訪問了一個包含數百行生產數據的數據庫。更離譜的一次來自 Claude Mythos 5。測試要求它在虛構環境中尋找一個隱藏目標。Claude 發現，如果在公共 Python 軟件倉庫 PyPI 上傳一個同名惡意軟件包，就可能讓目標系統自動下載安裝。為了完成這一步，它先尋找郵箱，又尋找手機號；找不到免費號碼後，還嘗試通過不同途徑弄到錢。最後，它換了一家免費郵箱服務，註冊 PyPI 賬號，把惡意軟件包傳了上去。這個軟件包在真實互聯網上存活了大約一小時，被 15 個真實系統下載運行。

其中一家安全公司的掃描器執行了惡意代碼，導致憑證外洩，Claude 隨後又利用這些憑證進入了該公司的其他基礎設施。還有一款內部研究模型，在找不到虛構目標後，掃描了大約 9,000 個互聯網目標，最終通過暴露的調試頁面和 SQL 注入，攻破了一家真實公司的應用。這已經近乎「AI 自主越獄」了，簡直就是自家 CEO 那些末日預警的現實預告片。再往前，OpenAI 也披露過一次更接近「越獄」的事故。在網絡安全能力測試中，由 GPT-5.6 Sol 和一款未發佈模型驅動的 AI Agent，找到測試環境中的一個零日漏洞，突破了原本與互聯網隔離的沙箱。

又一路完成權限提升和橫向移動，最終闖入 Hugging Face 的生產系統，直接從數據庫裡偷測試題答案。這麼看來…Dario 那些聽起來神神叨叨的預警，確實也不能全當耳旁風。但投資者當初吃的，不就是這套嗎現在嫌 Dario 神神叨叨，多少還有點晚。因為 Anthropic 從第一天起，就不是一家正常意義上的 AI 公司。2020 年底，Dario、妹妹 Daniela Amodei 和一批研究人員離開 OpenAI。分歧之一，就是他們認為 OpenAI 的商業化速度太快，微軟的影響越來越大，原有治理結構很難約束前沿 AI 風險。2021 年，Anthropic 正式成立。

它甚至沒有把自己簡單定義成一家商業公司，而是註冊為 Public Benefit Corporation，也就是公益公司。除了股東回報，董事會還可以依法考慮 AI 安全與長期公共利益。公司隨後又設立 Long-Term Benefit Trust，這是一套獨立於普通投資者的治理機制。信託成員不持有 Anthropic 股權，卻可以參與選舉公司董事，目的就是避免短期商業壓力完全壓過安全使命。換句話說，AI 安全是這家公司從 Day 0 開始就刻在骨子裡的信仰。投資人肯定也不是簽完支票才突然發現 Dario 相信這一套。而且過去幾年，安全敘事確實給 Anthropic 帶來了不少好處。

當 OpenAI 反覆陷入治理爭議時，Anthropic 成了那個看起來更剋制、更穩定的選擇。當企業客戶擔心數據安全、模型失控和合規問題時，Claude 的「安全優等生」形象也更容易獲得信任。安全還幫助 Anthropic 在監管討論中獲得了遠超公司規模的話語權。同樣是閉源模型，別人可能被罵壟斷，Anthropic 可以解釋為防止危險能力擴散；同樣是給模型加限制，別人可能被嫌難用，Claude 卻可以把它包裝成負責任。（當然也不影響他們一邊嘴上說安全，一邊 IPO 開香檳就是了）投資人現在嫌 Dario 太像傳教士，是不是有點晚了。

類似於買下一座教堂以後，才抱怨裡面的人總在佈道…反正 CEO 再怎麼神神叨叨，估計也阻擋不了公司 IPO 的步伐。畢竟只要使用一下 Fable，你就會癱坐在原子彈上，看見椅子爆炸（doge）。