Anthropic 遲遲不籤公開信成“眾矢之的”，CEO Dario Amodei 解釋稱公司從未主張禁止開源 AI 模型

Anthropic 遲遲不簽公開信成“眾矢之的”，CEO Dario Amodei 解釋稱公司從未主張禁止開源 AI 模型

近期，圍繞人工智慧模型是否應該開放權重（Open-weight）的議題，在全球科技界引發了一場激烈的論戰。這場爭論的焦點不僅關乎技術發展路徑，更觸及了國家安全、商業利益與創新自由的平衡。上週五，一封題為《開放權重與美國 AI 領導力》的公開信成為了導火索，包括英偉達、Meta 和微軟在內的 20 多家科技巨頭率先簽署，明確表態支持開放權重 AI 模型。隨後，OpenAI、谷歌和 SpaceX 也在週末加入了這一行列，使得支持開源陣營的聲勢愈發浩大。 然而，在這場幾乎席捲了整個美國科技界的簽名浪潮中，著名 AI 初創公司 Anthropic 卻一直保持沉默，其遲遲不簽署公開信的態度讓它迅速成為了同行批評的“眾矢之的”。業界普遍猜測，作為閉源模型的代表之一，Anthropic 可能出於自身商業利益的考量，試圖限制開源模型的發展。面對日益高漲的輿論壓力，Anthropic 的 CEO Dario Amodei 終於打破沉默，於今日在官方平台發布了一篇題為《我們對開放權重模型的立場》的長文，對公司的立場進行了全面而細緻的澄清。 在這篇立場聲明中，Amodei 首先回應了外界對其“試圖通過禁止開放權重模型來保護業務”的指控，他直言這是一種誤解。Amodei 表示：“任何讀過我以往文章的人都應該明白，我並不認為這種禁令是一種有效的措施。不過，我要明確地說，Anthropic 從未主張過對開放權重模型的禁令。”他強調，公司並非反對開源本身，而是對開源可能帶來的潛在風險抱有深刻的憂慮。 Amodei 在文章中進一步闡述了公司的核心觀點。他認為，對於那些不具備高度危險功能的開放權重模型，它們毫無疑問是一種珍貴的公共資產。這類模型除了運行所需的計算資源外，幾乎不會造成任何額外的社會成本，同時能為廣大的企業用戶、獨立開發者以及學術研究人員帶來不可估量的價值，有助於推動 AI 技術的民主化和廣泛應用。在這個層面上，Anthropic 的立場與公開信的支持者並無二致。 然而，分歧在於對高性能、強能力模型的管理態度上。Amodei 明確表示，他認同公開信中的大部分觀點，但無法接受其中提出的部分核心論述，特別是“開放權重模型必然更容易實現防護措施”以及“廣泛獲取能力會讓防禦者比攻擊者更有優勢”這種觀點。在他看來，現實情況可能恰恰相反。Amodei 認為，過分樂觀地假設開源環境下的防禦優勢，可能導致我們忽視那些可能被惡意利用的巨大風險。 為了更直觀地表達他的擔憂，Amodei 援引了生物學領域的例子。他指出，在生物技術領域存在明顯的“攻防不對稱”現象：那些能力極其強大的模型，可能具備利用現成的商業化材料，快速設計並製造出具有大規模殺傷力病毒的能力。而針對這些新型病原體的防禦措施（如疫苗、藥物）的研發，則是一項極其複雜且耗時長久的任務，往往需要數年時間才能完成。他擔心在 AI 領域同樣會出現這種嚴重的攻防失衡。 Amodei 認為，單純的保護主義禁令並不能解決他最為關心的國家安全問題。他主張應該採取更為精準和務實的監管策略。具體來說，他倡導要嚴厲打擊工業規模的模型蒸餾操作，因為這種行為可能繞開安全措施，複製出危險的能力。同時，他呼籲無論是開源模型還是閉源模型，都應該接受強制性的、標準化的安全測試。他說，這類深層次的風險問題應該通過嚴格的發佈前測試來驗證，而不是在事前就基於“開源必然更安全”這種假設做出決策。 Amodei 的這番表態，實際上是在兩種極端觀點之間尋找一條中間道路。他既不認同徹底禁止開放權重模型的保守主義，也反對那種認為“開放就能解決一切”的激進開源立場。他試圖引導公眾的關注點從“是否開源”轉移到“如何安全地開源”上，強調在模型能力達到某個危險閾值之前，必須有配套的風險評估和安全護欄。 這一事件反映出 AI 行業內部對於未來發展方向深刻的分裂。以 Meta 為代表的開源陣營堅信，開源是確保 AI 技術安全、透明和公平的最佳途徑，能夠匯聚全球智慧共同解決安全問題；而以 Anthropic 為代表的部分謹慎派則認為，在超級智能可能出現的前夜，盲目開源可能會打開“潘多拉魔盒”，導致不可控的後果。這場爭論預計還將持續很長時間，而 Anthropic 的此次發聲，無疑為這場辯論增添了更多複雜的層次。 截至發稿時，雖然 Anthropic 仍未簽署那封引發爭議的公開信，但 Amodei 的詳細解釋在某種程度上緩解了外界對該公司的誤解。他的立場似乎並非出於商業利益的算計，而是基於其對 AI 安全一貫的、甚至是略顯偏執的審慎態度。隨著 AI 技術的飛速演進，如何在擁抱開放、鼓勵創新與防控風險、確保安全之間找到最佳的平衡點，將是所有從業者、監管者乃至全社會共同面對的艱鉅課題。