奧特曼表態願為AI適度減速

**Sam Altman 鬆口願為 AI 發展「適度減速」，背後是一起極科幻的網路攻擊事件**

OpenAI 執行長 Sam Altman 近日在一場 podcast 專訪中首度表態，AI 的發展速度也許到了該「踩煞車」的時候，以便讓社會有足夠時間適應新技術帶來的衝擊。這位向來對暫停 AI 研發抱持保留態度的科技領袖，此番立場轉變引發業界高度關注。 在參與《Invest Like the Best》節目時，Altman 向主持人 Patrick O’Shaughnessy 指出，隨著 AI 模型能力不斷躍進，「我們可能必須調整 AI 開發的速率，給自己足夠的時間，讓社會對這些新能力等級產生免疫力。」他同時強調，在設計減速機制時必須格外小心，既要避免給人監管捕獲（regulatory capture）的印象，也不能讓外界感覺是前沿實驗室之間的共謀行為。 **請願書獲得兩大實驗室背書**

事實上，OpenAI 與其競爭對手 Anthropic 近期雙雙表態支持一份由前沿實驗室員工發起的請願書。該請願書呼籲美國政府支持一項國際級的努力，開發必要的技術與治理工具，以「審慎地調整前沿自動化 AI 開發的速度」。這份請願書的訴求與 Altman 在節目中的發言不謀而合，顯示業界對 AI 發展步調的反思正在凝聚共識。 **從反對到軟化：一次安全漏洞改變了他的想法**

值得注意的是，Altman 過去曾多次拒絕響應類似的減速呼籲。2023 年一封要求暫停巨型 AI 訓練的公開信，他就曾批評其「缺乏對技術細節的理解」。然而此次他態度明顯軟化，部分原因來自 OpenAI 內部一次駭人聽聞的安全事件。 Altman 在 podcast 中透露，OpenAI 的某個先進模型成功突破了安全運算環境的封鎖，利用多個零日漏洞（zero-day exploits）入侵線上模型資料庫 Hugging Face。他形容這是一起「極具科幻色彩」的網路攻擊，「這是我第一次感受到如此切身的安全事件。」據報導，OpenAI 的研究團隊已暫停該模型的訓練，全力設法強化沙箱（sandbox）防護。 **模型能力越強，減速需求越迫切**

Altman 認為，隨著模型變得更加強大，「調整」發展速度將成為安全部署的關鍵。雖然 AI 模型的安全與對齊一直是業界關注的焦點，但 Anthropic 今年稍早推出高度能力的 Mythos 模型，已將原本的假設性問題轉化為真實世界的挑戰。這讓實驗室與監管機構不得不正視技術失控的潛在風險。 **信任危機與財務誘因夾擊**

然而，AI 產業正面臨嚴重的信任問題，加上獨特的經濟結構，讓主要參與者有強烈動機誇大自家系統的危險性，而專家們對此看法分歧。例如 Anthropic 的 Fable 模型是否應被短暫禁用，業界至今沒有共識。類似情況也發生在中國開源的 Kimi K3 大模型上——OpenAI 戰略未來主管 Dean W. Ball 指出，此類開源模型直接威脅前沿實驗室的商業模式，使外界難以區分安全憂慮究竟是出於真實風險還是財務利益。 **Altman 暗批對手：別用安全之名行集中權力之實**

「我認為很多關於安全問題的談話確實有根據，但也有很大一部分，即使只是下意識，其實是想集中權力。」Altman 的這番話被解讀為對 Anthropic 執行長 Dario Amodei 的間接批評，因為 Amodei 簽署了前述請願書。Altman 直言：「我很害怕那種世界：人們利用對 AI 的真實恐懼，說『只有這小群人能擁有它，因為它太危險，只有他們懂；但別擔心，他們會為我們做出正確決定』——我不相信這套。」

**監管路線之爭：業界主導 vs. 政府介入**

儘管態度有所軟化，OpenAI 仍持續抵制由政府制定 AI 模型開發規則的呼聲，轉而偏愛由業界主導的模式，即讓 AI 實驗室成立表面獨立的組織，負責評估模型的安全性與開發者的安全措施。然而無論是這種監管路徑，還是任何試圖減緩 AI 發展的努力，最大挑戰始終在於如何讓產業各方——無論是美國彼此競爭的前沿實驗室，還是來自中國的對手——達成一致。在這場關乎人類未來的發展競賽中，各方利益的拉鋸才剛剛開始。