大反轉！Anthropic CEO拒修漏洞才被封，舉報Claude新模型是自家大股東

智東西 作者 | 程茜 編輯 | 雲鵬 智東西6月14日報道，今日凌晨，據多家外媒爆料，Anthropic宣佈終止訪問Fable 5和Mythos 5模型的導火索，可能是亞馬遜CEO是‌安迪·賈西‌（Andy Jassy）。 《華爾街日報》報道，亞馬遜研究人員利用Anthropic的Claude Fable 5進行研究時，獲取到了可用於網絡攻擊的信息。隨後，美國政府對Fable 5和Mythos 5實施了出口管制禁令。 特朗普前AI專員、現任總統科學技術顧問委員會聯合主席大衛·薩克斯（David Sacks）在社交平臺X上發帖爆料了美國政府封禁的一些細節，他提到美國政府在發現安全漏洞時要求Anthropic進行修復否則就下架該模型，Anthropic首席執行官達里奧·阿莫代伊（Dario Amodei）拒絕修復，並在後續官宣中聲稱該漏洞不嚴重，其它公司的模型也有。 薩克斯認為，這種淡化風險的表述，與Anthropic標榜自身是AI安全企業的品牌定位自相矛盾。他還透露，美國政府希望Anthropic能儘快解決安全問題以解除出口管制，並重新發布Fable 5模型。 為了彌補用戶權益，Anthropic提供了退款通道，有網友發佈了收到的Claude退款郵件。郵件中提到，Anthropic已關閉Claude Fable 5模型的使用權限；Opus、Sonnet、Haiku其餘全系模型均可正常使用；已重置用戶的用量額度。 如果用戶認為此次調整不符合用戶需求，其可以選擇取消訂閱，並自動獲得按剩餘時長折算的退款。退款時間截止到當地時間6月20日。此次退款不支持在Claude移動端App操作。 ▲網友收到的退款郵件（圖源：X） 一、Claude開啟退款，網友：無法回頭了 有不少網友提到，Anthropic為封禁Fable 5倉促上架的退款處理方案有很多bug。其中一位網友稱，Anthropic直接關停了用戶的全部訂閱服務，他此前5倍時長有效期到6月19日的訂閱權益都沒了，很離譜。 還有網友直接斷言Claude已經被淘汰、無法回頭了。 有網友分析，Anthropic此次的退款操作也證明，Fable 5不會很快回來， 有網友稱要取消訂閱，然後等待ChatGPT的新型號。 二、美國政府稱Anthropic避重就輕，弱化新模型安全漏洞 亞馬遜發言人告訴The Information，作為服務大量私營和公共部門客戶的領先雲服務提供商，美國政府就潛在安全風險尋求亞馬遜的意見並不罕見。即便開展相關溝通，我們也不會透露洽談的具體內容。 發言人還透露，亞馬遜雲科技也受到了Anthropic封禁模型的影響。6月13日早上，亞馬遜雲科技就撤銷了所有地區對Fable 5和Mythos 5的訪問權限。 The Information援引知情人士說法，在與賈西及其他科技企業負責人會談結束後，美國國家網絡事務總監肖恩·凱恩斯克羅斯（Sean Cairncross）於週五召集美國政府高層官員開會，會上敲定，出口管制是針對Anthropic採取舉措最直接的手段。 這場會議結束後，Anthropic首席執行官達里奧·阿莫代伊（Dario Amodei）與美國政府官員進行了通話。會談中，Anthropic方面解釋稱，此次所謂越獄漏洞暴露出的安全隱患門檻並不算高，其他大模型也存在出現同類問題的可能性。但美國政府告知Anthropic，實施出口管制的決議已經敲定。 特朗普前AI專員、現任總統科學技術顧問委員會聯合主席大衛·薩克斯（David Sacks）在社交平臺X上發帖爆料了一些細節。 他稱一位同時深受Anthropic與美國政府高度信賴的可靠合作方，主動爆出了一項模型越獄漏洞。並且美國政府要求阿莫代伊修復這個越獄漏洞，否則就下架該模型時，阿莫代伊拒絕修復漏洞。 薩克斯還提到，Anthropic在官方博客中聲稱該越獄漏洞並不嚴重。但那位可靠合作方與美國政府均不認同這一說法，這種淡化風險的表述，也與Anthropic標榜自身是AI安全企業的品牌定位自相矛盾。目前，美國政府希望Anthropic能儘快解決安全問題以解除出口管制，並重新發布Fable 5模型。 此外，Anthropic在宣佈封禁模型的博客中還提到，其他公開模型也出現了類似漏洞。不過，一位接近美國政府的官員告訴The Information，美國政府不太可能將Anthropic先進模型的出口限制擴展到其他AI公司。 亞馬遜是Anthropic的主要投資方。亞馬遜今年4月曾公開提到，自2023年以來，其已經向Anthropic投資了130億美元（約合人民幣879億元），未來還計劃再投資200億美元（約合人民幣1353億元）。亞馬遜的Trainium芯片幫助訓練和驅動Anthropic的大模型，這些模型也運行在亞馬遜雲服務上。 值得一提的是，今年亞馬遜也大手筆入股了Anthropic的主要競爭對手OpenAI，承諾最高向其投入500億美元，並且首次將OpenAI最新模型接入亞馬遜雲科技對外銷售。 美國政府此次封禁Anthropic模型還有一大背景是，美國政府兩週前簽發了一項行政令，推出一套自願合規機制：AI企業在面向合作方、公眾發佈模型之前，可先行向政府提交模型以供核驗。這是因為美國政府內部曾就是否針對計劃推出高端大模型的AI企業設立一套門檻更高、審核更嚴苛的許可制度展開爭論，這份行政令便是這場博弈後的產物。 結語：Anthropic最強模型被關停，行業安全門檻被迫抬升？ 6月10日，Anthropic正式發佈Claude Fable 5和Mythos 5兩大模型，其同屬Mythos（神話）級，共享同一個底層模型，能力高於Opus級，這也是Anthropic迄今為止能力最強、綜合性能最高的大模型級別。 在發佈同期，Anthropic特意設計分級開放、內置安全降級路由，本想平衡強能力與風險管控，但仍然沒能抵禦潛藏的安全漏洞帶來的連鎖衝擊，短短數日就讓兩款旗艦模型被關停。這或許意味著未來新模型上線前，第三方獨立紅隊深度攻防核驗相關的安全測試或將成為硬性門檻。