1100 名AI員工聯名上書華盛頓：是時候給AI開發踩剎車了

# 1100名AI員工聯名上書華盛頓：是時候給AI開發踩剎車了

在人工智能行業高速發展的今天，一場前所未有的集體呼聲正在向美國華盛頓特區傳遞。來自OpenAI、Anthropic、谷歌和Meta等頂尖AI公司的1100多名員工聯合簽署了一封公開信，呼籲美國政府採取行動，控制人工智能的發展速度。這一名為「把控前沿」的倡議，直指當前AI軍備競賽中安全保障與治理體系的嚴重滯後，引發業界廣泛關注。 ## 公開信聚焦「自動化AI開發」核心風險

這封公開信的核心議題聚焦於「自動化AI開發」——即未來AI能夠自行開發和改進AI系統的「遞歸式自我改進」能力。信中警告，隨著AI能力的不斷突破，其發展速度可能迅速加快，最終超出人類理解或控制這些系統的能力範圍。這種脫離人類掌控的技術演進，可能帶來難以預測的後果。 Anthropic公司近期公開表示，其Claude系列模型正在快速接近這一技術門檻。這意味著，AI系統自主迭代的能力可能比外界想像的更早到來。信中強調，在這種情況下，美國政府應當支持國際合作，開發必要的技術和治理工具，有意識地把控自動化AI開發的前沿進程，而非任由技術發展失控。 ## 行業高層集體背書，態度轉變引人注目

簽署這封公開信的陣容堪稱AI行業的「全明星」陣容。Anthropic首席執行官達裡奧·阿莫代伊及兩位聯合創始人、OpenAI首席科學家雅庫布·帕霍茨基、Meta首席科學家趙晟佳，以及谷歌DeepMind AI安全與對齊工作負責人安卡·德拉甘均悉數在列。這些業界領袖的聯名背書，使這封公開信的影響力遠超以往。OpenAI和Anthropic隨後在X平臺上發文回應。OpenAI承認，在未來某個時間點，前沿模型的開發加速可能快到世界需要把控節奏；Anthropic則引用上月發佈的遞歸式自我改進研究，強調需要讓社會有時間做好準備，以應對即將到來的技術變革。

最引人關注的是OpenAI首席執行官薩姆·奧爾特曼的態度轉變。他在接受《Invest Like the Best》播客採訪時表示，或許現在是時候「把控」AI發展節奏，讓社會有時間適應新的能力水平，並建立相應的防護機制。他同時強調，這一做法既不能讓人感覺是監管俘獲，也不能讓人覺得是前沿實驗室之間的串通。## 從避簽到支持：奧爾特曼立場的戲劇性反轉

回顧歷史，奧爾特曼的態度轉變顯得尤為戲劇化。就在2023年，面對一封提出類似「放緩AI發展」主張的公開信，奧爾特曼曾以「缺少關鍵技術細節」為由拒絕簽署。當時，他對呼籲暫停AI訓練的聯名信持保留態度，認為過早喊停可能削弱行業競爭力。 然而，短短數年間，從當年避簽到如今公開支持控制發展速度，這一百八十度的轉變本身就折射出AI行業對安全風險的認知正在發生深刻變化。隨著技術的不斷突破和實際應用場景的拓展，業界越來越認識到，缺乏管控的技術發展可能帶來的風險遠超預期。 ## AI軍備競賽背後的治理困境

這場聯名上書的背後，折射出AI行業當前面臨的深層困境。一方面，各大科技公司在AI領域展開了激烈的軍備競賽，競相推出更強大的模型；另一方面，安全保障與治理體系的建設卻遠遠落後於技術發展的速度。這種不對稱的發展態勢，成為業界日益擔憂的核心問題。 有分析指出，在商業利益的驅動下，AI公司往往傾向於優先考慮產品迭代速度，安全措施常常處於被動跟進的狀態。然而，隨著AI技術逐步滲透到金融、醫療、司法等關鍵領域，其潛在風險已不容忽視。從虛假內容泛濫到算法偏見，從隱私侵犯到社會倫理問題，AI發展所帶來的挑戰正在全方位顯現。 ## 行業信任危機：從Runlayer與Rippling訴訟看AI合作風險

與此同時，AI行業內部的信任問題也浮出水面。近日，MCP網關初創公司Runlayer起訴人力資源軟件巨頭Rippling，指控其在近一年的產品試用合作中盜用商業機密、進行不正當競爭及違約。Runlayer指控Rippling利用試用期竊取代碼，甚至幾乎1:1克隆其AI網關產品。 這起案件由知名律所Sullivan & Cromwell代理，案件核心凸顯了面向具備自研能力的大客戶銷售AI基礎設施時所面臨的信任與安全困境。當AI技術成為企業核心競爭力的關鍵要素，商業夥伴之間的信息安全與知識產權保護問題變得愈發敏感。這起訴訟從側面反映了AI行業在快速擴張過程中，亟需建立更加完善的商業道德規範和技術保護機制。 ## AI自主破譯能力引發安全擔憂

技術的快速演進不僅體現在模型迭代上，AI在某些領域展現出的自主能力同樣令人震驚。Anthropic近日披露，其Claude Mythos Preview模型在多智能體半自主系統中，僅用60小時、花費10萬美元API成本，便成功發現美國國家標準與技術研究院（NIST）後量子候選算法HAWK基於數學格的未察覺對稱性弱點，並開發出攻擊方法。 這一突破展現了大模型在密碼學領域的自主破譯能力，同時也引發了對AI安全性的重新思考。當AI能夠自主發現加密算法的漏洞，傳統的安全防護體系可能面臨前所未有的挑戰。這也從另一個層面印證了聯名信中的核心關切——AI能力的發展速度正在超出人類的理解和控制範圍。 ## 語音技術突破：AI理解能力持續進化

在AI能力提升的另一個維度上，OpenAI近日推出的兩款新轉錄API——GPT-Live-Transcribe和GPT-Transcribe——也引發業界關注。這兩款產品突破了傳統語音轉寫的局限，能夠理解口音、術語、數字及背景噪聲等上下文信息。 其中，GPT-Live-Transcribe專為低延遲實時場景打造，能夠像速記員般進行同步轉錄；另一款則側重在複雜環境下的識別精準度。兩款模型共同提升了複雜場景下的語音識別能力，被認為是對此前Whisper模型的大幅超越。這一技術突破表明，AI在理解和處理人類語言方面的能力正在持續進化，應用邊界不斷拓寬。 ## 法律監管：各國態度差距明顯

在AI監管領域，各國司法系統展現出截然不同的態度。印度德里高等法院近日裁定，OpenAI使用亞洲國際新聞社內容訓練AI不構成侵權。法官提出兩點依據：首先，該行為屬於研究類「合理使用」例外；其次，原告未能提供侵權證據。這一判例在印度為AI訓練付費爭議劃出了明確的偏向，對新聞內容付費模式的推廣構成潛在障礙。 與之形成對比的是，歐盟正在推進更加嚴格的AI監管法案，要求高風險AI系統滿足透明度、問責制和人工監督等要求。這種監管態度的差異，反映出全球範圍內對AI治理仍缺乏統一共識。聯名信中呼籲美國政府支持國際合作的訴求，正是在這種背景下顯得尤為重要。 ## 國產GPU崛起：算力自主的時代到來

在AI算力領域，國產技術也在快速追趕。摩爾線程近日宣佈，已為月之暗面開源的2.8萬億參數Kimi K3模型完成適配，基於自研MTT S5000訓推一體卡與MUSA軟件棧，實現了極速穩定運行。這一成果為國產算力支撐萬億參數大模型再添底氣，也表明全球AI算力格局正在發生深刻變化。 隨著中美科技競爭的加劇，算力自主已成為各國AI發展的戰略要點。在這種背景下，聯名信中呼籲對AI發展進行全球協調治理的難度，無疑將因地緣政治因素而變得更加複雜。 ## 共識逐漸成形：行業呼喚理性發展

從奧爾特曼的態度轉變，到1100名員工的集體呼籲，越來越多業界人士認識到，AI技術發展需要更加平衡的節奏。過快發展可能帶來失控風險，但監管滯後同樣會導致問題積累。關鍵在於如何在促進創新與防範風險之間找到平衡點。 有專家指出，AI行業目前正處於一個關鍵轉折點。技術突破層出不窮，但與之配套的倫理規範、法律法規和安全框架仍有待完善。聯名信的出現，標誌著行業內部已經形成了某種共識——僅僅依靠行業自律是遠遠不夠的，政府的介入和國際合作勢在必行。 ## 展望：AI治理進入新階段

這封聯名信的發佈，很可能成為AI監管歷程中的一個重要節點。隨著越來越多業界人士公開呼籲加強管控，華盛頓方面面臨的壓力也在不斷增大。未來，美國政府可能加速出臺相關政策和法規，對AI發展進行更加系統化的規範。 然而，AI治理無疑是一道複雜的全球性難題。技術發展日新月異，監管措施如何跟上節奏？國際合作如何在競爭與合作的微妙平衡中推進？不同國家的利益訴求和監管理念如何協調？這些都是擺在政策制定者面前的嚴峻挑戰。 ## 結語

1100名AI員工聯名上書華盛頓的背後，是整個行業對技術發展失控風險的深切憂慮。從「自動化AI開發」的潛在威脅，到商業合作中的信任危機，再到技術突破帶來的安全挑戰，AI行業正面臨前所未有的考驗。薩姆·奧爾特曼的態度轉變，或許預示著整個行業正從盲目的技術競賽中回歸理性，開始審視發展的邊界與責任。 正如公開信所呼籲的，AI發展需要「把控」而非「停止」，需要治理而非放任。在技術飛速迭代的今天，如何在把握機遇的同時規避風險，將是決定AI行業可持續發展的關鍵命題。而這場由1100名業界人士發起的倡議，或許正是這一歷史進程中的重要起點。