美國總統科技顧問委員會主席炮轟 OpenAI、Anthropic：別借放緩之名尋求監管保護

作者：潞源 責編：潞源 評論： 9 月 14 日消息，美國總統科學技術顧問委員會聯合主席戴維 · 奧利弗 · 薩克斯（注：David Oliver Sacks）今日發文，就 OpenAI、Anthropic 近日“放緩前沿 AI 研發”論調發表個人看法：達里奧表示，我們需要放緩前沿 AI 的發展速度，奧爾特曼也表達贊同。人們可能會對我的看法感到意外：那就讓他們放慢吧。你們兩家公司就是前沿 AI。無論從市場份額、營收增長還是 AI 模型能力來看，你們已經形成了前沿 AI 領域的雙頭壟斷。這兩家公司還聲稱，由於遞歸式自我改進，領先優勢正在進一步擴大。我不知道你們實驗室裡發生了什麼。

如果尚未發佈的模型已經強大到讓你們認為應該放慢發展，那麼我支持你們負責任地作出決定。但是，你們別再裝成需要其他人認可。別再假裝必須暫停反壟斷法，這樣你們就會組成卡特爾。別裝成需要一個凌駕於產品責任之上的監管審批，也別想著 METR（模型評估與威脅研究機構）是獨立的，實際上它與 Anthropic 投資者和員工存在密切聯繫。你們別想著監管機構能拿你們的評判標準去衡量競爭對手。最重要的是，別再假裝你們放緩發展的動機完全出於“對別人好”。如果你們的產品導致真正具有破壞性的網絡攻擊，你們將面臨巨大責任風險。市場本身已經在懲罰那些行為不可預測或未經授權的模型。

Hugging Face 事件之後，你們兩家公司用部分原始能力換可靠性或可預測性，本來就是一門好生意。如果你們願意，可以把這稱為“對齊”。但歸根結底，這同樣是在為客戶提供他們想要的東西。放緩前沿 AI 的發展將為我們留出時間，讓監管問題能夠進行一場比伯尼 · 桑德斯（美參議員）所說的“全部關停”更加理性的討論。正如你們所知，中國很難加入全球性協議，這一點同樣值得考慮。所以，那就放緩前沿 AI 的發展吧，定義前沿的人就是你們。避免構建超級智能的最簡單方法，就是你們不去搞。如果你們想按自己的偏好制定監管框架，作為放緩發展的交換條件。這種行為在公眾和政治體系裡，基本上等於敲詐。所以，直接去做吧。

如果你們真的這麼做，就能為下一輪對話贏得公眾善意。如果你們不這麼做，那麼我們就會知道，這不過是又一次試圖進行監管要挾，或者是一場選舉季的心理戰行動。

投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：Anthropic，OpenAI，David Oliver Sacks，人工智能監管消息稱 Anthropic 預計自身有望連續第二個季度實現盈利衝擊全球最大 IPO：曝 Anthropic 選定納斯達克上市，目標估值約 2 萬億美元多位 AI 行業高管呼籲放緩前沿模型研發，分析稱芯片股短期承壓Anthropic CEO 阿莫迪呼籲放緩前沿 AI 模型開發後，xAI 馬斯克、OpenAI 奧爾特曼等業界大佬贊同奧爾特曼確認：OpenAI 今年不會上市Anthropic CEO 阿莫迪稱 AI 行業應當放緩發展速度，並承諾讓第三方評估機構獲得員工級訪問權限