1100 多名 AI 員工聯名呼籲美國政府踩剎車，奧爾特曼罕見表態支持

# 1100多名AI員工聯名呼籲美國政府踩剎車，奧爾特曼罕見表態支持

來自OpenAI、Anthropic、谷歌和Meta等頂尖人工智慧公司的1134名員工，近日聯合簽署一份公開信，呼籲美國政府支持國際合作，開發必要的技術與治理工具，以便在必要時對AI發展「有意識地把控節奏」。這項名為「把控前沿」（Pacing the Frontier）的倡議，不僅獲得業界一線研究人員的廣泛響應，更罕見地得到OpenAI CEO薩姆·奧爾特曼的公開支持，標誌著AI行業內部對「無節制加速」的焦慮正從邊緣走向主流。 ## 業界重量級人物齊聚聯署

這封公開信的簽署名單涵蓋了AI領域最具影響力的代表人物。其中包括Anthropic CEO達裡奧·阿莫代伊及其聯合創始人傑克·克拉克、賈裡德·卡普蘭，OpenAI首席科學家雅庫布·帕霍茨基、首席研究官馬克·陳，Meta首席科學家趙晟佳，谷歌DeepMind AI安全與對齊負責人安卡·德拉甘，以及Thinking Machines首席科學家約翰·舒爾曼等。如此規模的聯合行動，在AI業界實屬罕見，凸顯了問題的迫切性與共識的廣泛性。 ## 核心擔憂：AI的「遞歸式自我改進」

公開信的核心關切在於「自動化AI開發」——即AI系統能夠自行開發和改進AI的能力，業界稱之為「遞歸式自我改進」。信中明確指出：「很難準確預測這將在多大程度上加速AI進步，但確實存在一種真實風險：AI能力的發展速度會迅速超出我們理解或控制這些系統的能力。」

這項憂慮並非空穴來風。Anthropic此前曾表示，其Claude系列模型正在快速接近這一門檻。一旦AI系統具備自我改進的能力，技術發展的曲線可能從線性增長瞬間轉變為指數級爆發，遠遠超出人類社會現有的適應能力。這不僅是技術上的挑戰，更關乎人類能否在AI能力飛躍的過程中，建立足夠的安全防護與治理機制。 ## 奧爾特曼的態度轉變引發關注

在此次聯名信中，最引人注目的莫過於奧爾特曼的立場轉變。過去他對類似呼籲放緩AI發展的倡議始終保持距離，2023年的一封類似公開信甚至被他批評為「缺少關於究竟需要在哪些方面暫停發展的關鍵技術細節」。然而，在近期參與《Invest Like the Best》播客節目時，奧爾特曼的語氣明顯轉變，他坦言：「我們可能需要把控AI發展的速度，給自己足夠的時間，讓社會適應這些新的能力水平並建立起防護機制。」

奧爾特曼同時強調，在推動這項工作的過程中，「既不能讓任何人覺得這是監管俘獲，也不能讓人覺得這是前沿AI實驗室之間的串通」。這番表態既顯示他對風險的認知已發生根本性變化，也反映出在推動AI治理時，必須謹慎處理產業競爭與公共利益之間的微妙平衡。 ## 業界巨頭同步回應

針對這封公開信，OpenAI在X平臺發文回應：「我們相信，在未來的某個時間點，前沿模型開發中的AI加速可能會如此之快，以至於世界將需要把控AI進步的速度。」這段表態與公開信的核心訴求高度一致，顯示該公司內部對風險的認知已逐步形成共識。 Anthropic則更進一步強調：「我們上個月發佈的關於遞歸式自我改進的研究表明，我們需要一些工具，能夠有意識地調控AI發展的前沿速度，讓社會有時間做好準備。」這家被視為最重視AI安全的公司，顯然正在將理論上的風險評估轉化為具體的行動倡議。 ## 行業競爭與安全治理的兩難

當前AI公司正處於一場全球性的軍備競賽中，各企業競相研發能力越來越強大的系統。然而，外界普遍擔憂，當AI的發展速度可能超過現有安全保障、治理體系和監管機制的跟進能力時，後果將不堪設想。這封聯名信的出現，表明即便是AI行業的內部人士，也開始對這場競賽的潛在風險感到不安。 值得注意的是，這並不是AI業界第一次發出類似警告，但如此規模的聯合行動，以及奧爾特曼這樣關鍵人物的態度轉變，確實為這場辯論帶來了新的格局。曾經被視為「阻礙創新」的聲音，如今正在獲得越來越多主流業界人士的認同。 ## 國際合作的必要性

公開信特別呼籲美國政府支持國際合作，這點同樣具有深遠意義。AI技術的發展是全球性的，任何單一國家的監管措施都可能因為其他國家的政策差異而效果打折。唯有透過國際協調，建立共同的技術標準與治理框架，才能真正有效應對AI發展所帶來的挑戰。 正如信中所述，必要的技術與治理工具必須「在必要時」能夠「有意識地把控節奏」。這樣的表述顯示，倡議者並非主張全面禁止或無限期擱置AI發展，而是希望建立一套「緊急煞車機制」，在AI能力可能失控的關鍵時刻，能夠提供社會足夠的反應時間。 ## 從邊緣到主流的焦慮

這封聯名信的發表，標誌著AI行業內部對「無節制加速」的憂慮，已經從少數人的邊緣觀點，轉變為業界主流共識。隨著AI技術的快速演進，如何在不扼殺創新的前提下，確保技術發展的過程中不偏離人類的利益，將成為整個社會必須共同面對的課題。 從印度的合理使用判決，到蘋果首次將漏洞發現歸功於AI模型，再到OpenAI推出Codex Security CLI開源工具，AI正在以驚人的速度滲透進我們生活的每一個角落。然而，速度帶來的紅利與風險往往是一體兩面。這封來自業界內部的呼籲，或許正是人類在AI時代需要認真傾聽的重要警訊。 ## 今日相關動態

同日，AI領域還有數則值得關注的新聞。蘋果系統更新首次點名感謝AI模型，Anthropic的Claude、OpenAI的Codex與NVIDIA的AI紅隊協助修復多項漏洞，顯示科技巨頭正將AI深度整合至安全研究領域。另一方面，AI加速漏洞發現的現象也帶來新隱憂——2026年熱門產品安全漏洞數量預計較去年翻番，AI既成安全團隊的「放大鏡」，也成黑客的「加速器」，攻防戰持續升級。 此外，OpenAI於7月29日正式推出開源命令行工具Codex Security CLI，可檢測並驗證程式碼倉庫中的安全漏洞，並直接嵌入CI/CD流水線。印度德里高等法院則裁定OpenAI使用新聞內容訓練AI不構成侵權，為AI訓練資料的使用爭議劃出明確偏向。在國產算力領域，摩爾線程宣布已為月之暗面開源的2.8萬億參數Kimi K3模型完成適配，為國產GPU支撐萬億級大模型再添底氣。