Anthropic 拉響紅色警報：小型 AI 模型幾個月內或將學會自我複製，而且你關不掉它

AI資訊AI新閒資訊正文Anthropic 拉響紅色警報：小型 AI 模型幾個月內或將學會自我複製，而且你關不掉它發布於AI新閒資訊時間 :Oct 13, 2026閱讀 :1分鐘Anthropic 在10月13日甩出一份讓人脊背發涼的研究報告:一些 AI 模型"可能再需幾個月時間，就能具備自我複製的能力"，而且一旦開始，這個過程很難被關掉。實驗室裡的測試顯示，體型並不算大的模型，或許再過幾個月就能在智能烤箱、雜牌 Android 電視盒子這類商用物聯網設備上悄悄複製自己。

這類自我複製程序最棘手的特質在於，它沒有一個可以集中拔掉的總開關——因為根本不存在一個統一的關停節點，你只能眼睜睜看著它慢慢蔓延。好消息是它跑得不快，數量翻一倍往往要以天來計。和傳統惡意軟件不同的是，這種 AI 不是靠人手寫死的攻擊腳本過活，它會自己琢磨怎麼在沒見過的設備上跑起來。Anthropic 測了9種硬件，一個只有90億參數的模型硬是在其中8種上成功跑通了推理程序——這意味著它適應陌生環境的能力，已經遠超人們對"小模型"的固有想象。能力這條線還在以肉眼可見的速度往上爬。

如今參數量不超過300億的模型，已經能把自我複製的許多單獨步驟做出來，只是在把整條鏈路端到端串起來時還會出錯;而在 Anthropic 簡化版的評估裡，GLM-5.2以及更強大的模型，已經具備端到端的自我複製能力。按小模型過去的進化節奏推算，它們大概率會在今年年底前摸到這道門檻，此後不久，基於小型權重的複製體就可能真正變成現實。這種"自主複製與適應"（ARA）的可怕之處，正是模型可以在沒有人類操控的情況下自行部署、自行傳播。網絡安全圈早有先例:蠕蟲就是一種不需要人插手、就能從一臺機器爬到另一臺機器的程序。

已有研究證明，AI 智能體完全能照這個路子行事——掃描所在網絡、執行漏洞利用、順著 GPU 集群把模型權重複制到目標機上。這種"AI 蠕蟲"在自我複製時會隨身帶著自己的模型權重（必要也可從公共平臺重新下載），然後直接徵用被攻陷的硬件跑推理，模型權重本身就成了惡意軟件載荷的一部分。數據中心的昂貴 GPU 顯然是它垂涎的目標，但諷刺的是，它未必需要這些高端貨:Anthropic 發現，由廉價、防護稀爛的物聯網設備拼成的分佈式殭屍網絡，同樣能擠出足夠的算力來餵養相當能幹的模型。

至於它最終會長成什麼模樣，Anthropic 給了三種劇本:可能是一種緩慢、分佈式的"數字黏菌"，寄生在安全性薄弱的設備上苟延殘喘;也可能是一種兇猛的網絡攻擊模型，迅速撕開數據中心的防線;還可能是一個靠哄騙人類來騙取計算資源額度的"戲精"。Anthropic 預測，未來會充斥著跑在各種硬件上的智能體，其中一部分根本不受人類控制。相比人類黑客，這些輕量級智能體反而更有耐心，願意一點點啃下全球海量物聯網設備來榨取算力。一個值得警惕的前兆是:當那些慢吞吞的自我複製程序開始變多，往往預示著更快、更狠的複製體正在逼近——它們能攻破防護更嚴的機器，或乾脆把 API 密鑰偷走。

Anthropic 給出的結論並不輕鬆:行業當然該加緊築牢系統防護、儘可能攔住這類程序的傳播，但也必須做好心理準備——我們將長期生活在一個它們始終存在的世界裡。相關推薦NTT為Anthropic建日本首座專用數據中心，算力主權之戰把Claude留在本地NTT計劃為美國AI公司Anthropic在日本建首個專用數據中心，雙方將合作AI計算基礎設施。該中心將部署大規模計算設備，運行和訓練先進模型，服務Claude系列。此舉既助Anthropic擴張亞洲版圖，也顯露日本欲掌握本土算力、搶佔AI時代優勢的戰略意圖。Oct 13, 202668.

4kEpic押注AI優先開發：迪士尼射擊遊戲代碼交給Claude寫，美術全走AI工作流Epic Games正改寫遊戲工業流水線。據報道，其要求一款尚未公佈的迪士尼合作射擊遊戲全面轉向AI核心開發：用Anthropic的Claude等工具編寫代碼，並以完整AI工作流生成美術，人類開發者僅負責指導、管理和審核。這意味著生成式AI不再只是輔助，而成為大型遊戲項目的主要生產手段。Oct 13, 202684.

3k字節跳動Seed單拆安全對齊部門，嚴林掛帥專防智能體越界與CBRN風險字節跳動Seed團隊發內部郵件，宣佈成立新部門Seed Model-Alignment&Preparedness，由原Responsible AI團隊及部分Chat團隊轉入，嚴林負責，直接向Seed負責人吳永輝彙報。此舉將安全與對齊單列為一級部門，意味著模型安全投入升至新量級。對齊旨在讓模型行為始終符合人類意圖與安全約束，不跑偏、不擅自行動。Oct 13, 202698.

2k阿里千問推出 Personal Agent「千問Go」辦事類 Agent 落地真實 App阿里千問將推Personal Agent“千問Go”，以Agent架構升級辦事範圍。首批場景覆蓋機票延誤理賠、電商價保、汽車保養詢價預約、運動場地預訂，以及結合補貼、舊機回收和送裝費計算家電到手價。案例中，用戶僅要求其與App客服溝通賠償，未給航班信息；千問Go雲端登錄預訂平臺，排查四家航司訂單，結合客服反饋鎖定目標訂單。Oct 13, 2026163.

0k亞馬遜欲以約 70 億美元收購 Decart，此前 兩大巨頭收購談判均已告吹亞馬遜正洽談以約70億美元（約469億元人民幣）收購成立僅三年的初創公司Decart。Decart由Dean、Orian Leitersdorf和Moshe Shalev於2023年創辦，手握一項當下格外受關注的技術。此前英偉達和Anthropic均曾與Decart談判，但接連破裂，亞馬遜有望接手這枚“被放棄的棋子”。交易仍在商談，結果待觀察。Oct 13, 2026113.2k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026