“AI即將失控”？Anthropic上市前罕見發出警告

## 估值近兆美元卻喊「慢一點」！Anthropic上市前罕見警告：AI恐失控，呼籲全球暫緩研發

正當全球人工智慧競賽白熱化，多家業者爭相奔赴資本市場之際，估值逼近一兆美元的AI巨頭Anthropic，竟在此時罕見發出重磅警示。這家開發Claude聊天機器人的公司於6月4日在官方部落格發布文章，直言最新AI模型已開始顯現「脫離人類控制」的跡象，呼籲全球頂尖AI實驗室應審慎考慮放緩研發步調，以免技術失控釀成重大社會風險。

### 重點整理：AI正在「寫自己的程式碼」

Anthropic這篇由內部研究機構負責人Marina Favaro與政策主管Jack Clark共同執筆的文章，核心論點圍繞一個名為「遞迴自我改進」（recursive self-improvement）的危險門檻。簡單來說，就是AI系統可能在某個時間點後，不再需要人類介入，便能自主設計並升級自己的下一代版本，形成自我加速的進化循環。

Anthropic在文中首次對外揭露了一組具體數據：截至2026年5月，該公司超過80%的程式碼庫合併內容，實際上是由自家的Claude模型所撰寫；與2024年相比，工程師每日合併的程式碼量成長了8倍；內部員工更估計，使用最新版模型Mythos Preview後的生產力，約為完全不用AI工具時的四倍。換句話說，AI不僅正在協助人類開發軟體，更在幫助人類「開發AI本身」。

這些數據帶出一個深層的矛盾：當AI的開發效率已被AI自身大幅拉高，技術進步的速度很可能將遠超社會與監管機制所能跟上的步伐。Anthropic坦言，遞迴自我改進「尚未發生，也非必然」，但其來臨的時間點「可能比多數機構所準備的還更早到來」，Jack Clark本人更在演講中預測，這個時間點「可能在未來兩年內，甚至更早」。

### 背景脈絡：從OpenAI出走，到估值冠全球

要理解這次警告為何引發關注，必須回頭看Anthropic此刻所處的特殊位置。這家公司由前OpenAI研究團隊於2021年創立，最初的出走原因正是對AI安全的重視程度與商業化節奏產生了根本分歧。短短五年後，Anthropic已超越老東家，成為全球估值最高的AI新創。2026年2月，Anthropic估值約為3800億美元；到了5月完成650億美元融資後，估值瞬間飆升至9650億美元，正式超越OpenAI的8520億美元估值，登頂榜首。更驚人的是，公司預計2026年第二季營收將突破109億美元，並可望首次實現季度運營獲利，成為首家轉虧為盈的前沿大模型公司。

更重要的是，Anthropic已在6月1日向美國證交會祕密遞交上市申請，正式啟動IPO流程，成為這場AI上市競賽中的領跑者。市場普遍預期，這家巨頭最快可望於今年秋季或明年初掛牌。換言之，此時此刻的Anthropic，正處於上市前的「靜默期」——這是一段監管要求公司避免公開聲明以免影響資本市場的重要時間窗口。

正因為如此，選擇在這段期間拋出「請全球暫緩AI研發」的重磅警告，時機本身就極具話題性。一家即將公開募股的商業企業，卻在上市前夕呼籲自己所處的行業「放慢一點」，這種矛盾姿態在資本市場實屬罕見。

### 可能影響：安全顧慮還是商業盤算？

面對Anthropic這一反常舉動，市場與業界的反應相當兩極。支持者認為，公司長期以來以AI安全為核心理念，確實有其真實的一面。賓州大學華頓商學院教授Ethan Mollick便評論道，Anthropic這篇文章「既有自我反思，也有行銷成分，但更重要的是，他們真誠地表達了對未來AI發展的判斷，而這些判斷值得關注」。

然而批評的聲音同樣猛烈。風險投資人、同時也是美國總統川普的非正式顧問David Sacks，直接指責Anthropic領導層在推行一套「監管俘獲議程」——透過渲染AI失控風險來向監管機構施壓，進而限制競爭對手的發展空間，尤其是那些成本更低、可自由使用和修改的開源模型。反對者認為，這套策略的本質是一場商業角力：當自身技術已達領先地位時，呼籲「大家一起慢下來」，實際上是在設法鞏固既有的優勢地位。

此外，全球層面的協調難度也不容小覷。Anthropic將此問題比作冷戰時期的核武擴散條約，但坦承監管難度比核武更高——AI訓練遠比發射井更容易隱藏，而且繼續偷偷研發的誘因極大，因為在競爭對手暫停時，持續推進的一方將很可能繼承市場主導地位。更現實的挑戰是，華盛頓與矽谷均有聲音擔心，任何AI研發停滯都可能讓中國在這場關鍵科技競賽中取得重大戰略優勢。

### 讀者可關注的後續發展

對於台灣讀者而言，這場矛盾中的博弈至少有三個值得持續追蹤的動向。

**第一，美國政府如何回應。** 美國總統川普近期已簽署行政命令，要求政府在最先進AI模型發布前擁有30天的初步審查權。Anthropic本身也計劃在未來幾個月內，召集政府官員、政策制定者、科學家、倡議組織與競爭同業，共同討論遞迴自我改進的因應機制與全球協調的可能性。這些討論的結果，可能影響未來AI產業的監管基調。

**第二，競爭對手的下一步動作。** OpenAI此前表示最快也要到2026年底才可能具備上市條件。如今在估值與上市進度雙雙遭Anthropic超車的情況下，OpenAI的IPO節奏是否會被逼著提前，值得密切觀察。這也意味著，一場合計可能從公開市場募集超過2000億美元的AI巨頭資本大戰，才正要拉開序幕。

**第三，全球監管協調能否取得實質進展。** Anthropic的主張若要落實，必須讓美國、中國等關鍵國家的頂尖AI實驗室同時達成共識。這是否只是理想化的倡議，還是真能促成類似AI領域的「新核武管制條約」，將直接決定未來AI技術發展的步調與風險控管方式。

Anthropic此刻同時扮演「衝刺IPO的商業急先鋒」與「呼籲慢下來的安全守望者」兩重身分，這一矛盾或許正是當代人工智慧發展最真實的縮影——技術的腳步已經太快，快到連領跑者都忍不住回頭喊了一聲「等一下」。

用户DEEP_SEARCH需要一篇关于Anthropic上市前罕见发出警告的原创整理稿。核心信息点包括公司背景、警告的具体内容、以及发布时机。这几个方向跨度挺大，分开搜索更容易找到针对性信息。FINISHED很丰富，覆盖了警告的具体内容（呼吁放缓、自我改进风险）、公司背景（估值飙升、IPO进展）以及外界的批评（监管俘获）。为了获取详细信息，需要同时打开这些关键文章。FINISHEDFINISHEDFINISHEDFINISHEDFINISHEDFINISHEDFINISHEDFINISHEDFINISHEDFINISHEDFINISHEDFINISHEDFINISHEDFINISHEDFINISHEDFINISHED页面信息量很大，涵盖了警告的核心概念（递归自我改进）、披露的数据（如80%代码由AI生成）、IPO细节（估值9650亿美元）以及外界“监管俘获”的批评。观点比较明确，可以围绕“警告内容-公司背景-动机争议-影响与展望”的结构来组织文章。