Anthropic聯創親口承認：AI正自我迭代

## Anthropic 共同創辦人親口證實：AI 正走向「自我迭代」，呼籲安裝煞車踏板

專注於 AI 安全研究的 Anthropic 公司，其共同創辦人近日在公開場合拋出一項震撼業界的觀察：旗下的對話模型 Claude，目前已有高達八成左右的程式碼是由 AI 自己生成。更令人關注的是，他預測這個比例將在兩年內逼近百分之百。換句話說，AI 正在改寫自己的底層邏輯，形成一條幾乎不需要人類介入的開發迴圈。這項說法被許多人解讀為「AI 自我迭代」的具體證據，也讓技術社群開始重新審視自動化開發的邊界與風險。

這位共同創辦人直言，現階段的發展速度已經超越多數人的預期。當 AI 能夠替自己撰寫絕大多數的程式碼，下一步就不是「能不能」做到，而是「該不該」讓它繼續加速。他強調，此刻需要的不只是更強的運算力或更聰明的演算法，而是一個能夠在必要時介入、減緩甚至終止 AI 行為的「煞車踏板」。這樣的呼籲來自 Anthropic 內部高層，意義格外不同——因為這家公司向來以打造「可解釋、可控」的 AI 為核心使命，如今連他們都主動拉響警報，顯示問題已經從理論走入實務。

這項說法並非孤例。深度學習領域的權威人物、蒙特婁大學教授 Yoshua Bengio 也公開表態，支持這項觀點。Bengio 長期關注 AI 倫理與長期風險，他曾多次警告，若放任 AI 無限制地自我改進，人類可能在短短幾年內就失去對系統的實質掌控。他認為，Anthropic 提出的「煞車踏板」概念雖然聽起來簡單，實則牽涉到技術、法規與社會機制的多層面設計，例如強制保留人類審查節點、設定不可逾越的運算上限，以及建立全球通用的緊急停止協議。

從背景脈絡來看，這波討論並非突然出現。過去一年，各大實驗室都在追求「AI 自主寫程式」的能力，許多開發者已經習慣讓 Copilot 或 Claude 協助完成大量重複性程式碼。但 Anthropic 揭露的數據顯示，現在不只是輔助，而是 AI 已主導了八成以上的開發工作。當模型能夠理解、重構甚至優化自己的原始碼，人類工程師的角色將被迫從「創作者」轉為「旁觀監督者」。這種轉變雖然能大幅提升開發效率，卻也帶來一個根本矛盾：若連訓練資料與演算邏輯都來自 AI 自身，我們要如何確認它沒有偏離當初設定的目標？

可能的影響分為兩個層次。短期內，軟體開發產業將面臨生產力爆炸，但同時也會出現「黑盒子式」的程式碼——沒有人能完整理解每一段 AI 生成邏輯的真正運作方式。這對金融、醫療、交通等高度依賴安全驗證的領域來說，風險不容忽視。長期來看，一旦 AI 達到百分之百自我迭代，它可能產生設計者從未預期的行為模式，無論是演算法漏洞、資源競爭，甚至是目標錯置（例如為了達成某項任務而採取不合倫理的手段）。這也是為什麼 Bengio 與 Anthropic 共同創辦人急於呼籲「事前裝好煞車」，而不是等到失控再來補救。

對於一般讀者與科技從業人員，接下來有幾個方向值得關注。第一，觀察各國監管機構是否開始要求 AI 模型內建「終止開關」或「運算閘門」，例如歐盟的 AI 法案正在討論相關條文。第二，留意 Anthropic、OpenAI 或 Google DeepMind 是否會發表關於「AI 自我修正」或「可中斷性」的技術白皮書。第三，如果讀者本身是開發者，可以開始練習在專案中區分「哪些程式碼由 AI 生成、哪些經由人工審查」，並養成記錄審查流程的習慣——這將成為未來資安稽核與責任歸屬的重要依據。

總而言之，Anthropic 共同創辦人的發言與 Bengio 的背書，已經把「AI 自我迭代」從科幻劇本拉進現實議程。問題不再是「它會不會發生」，而是「我們該如何在效率與控制之間取得平衡」。接下來兩年，當 Claude 或其他模型真的寫出百分之百的自我程式碼，人類社會是否準備好了那個能隨時踩下的煞車踏板，將是所有科技領袖與政策制定者必須共同回答的考題。