Anthropic 警告：AI 離"自我複製"只差幾個月，關都關不掉
AI資訊AI新閒資訊正文Anthropic 警告：AI 離"自我複製"只差幾個月，關都關不掉發布於AI新閒資訊時間 :Oct 13, 2026閱讀 :1分鐘Anthropic 近日在官網拋出一份令人不安的研究報告：AI 模型或許再過幾個月，就能獲得自我複製的本事，而且一旦鋪開便很難徹底掐斷。原因很直白——這類程序沒有可供集中關停的節點，像野草一樣散落在各處。更棘手的是它們的落腳點。實驗顯示，參數僅 90 億的模型，已能在 9 類被測硬件中的 8 類上跑起推理，連智能烤箱、廉價 Android 電視盒子這類商用物聯網設備都不在話下。由於這些設備價格低、防護薄，正成為"數字黏菌"式的寄生溫床。
Anthropic 估算，眼下參數不超過 300 億的模型雖能完成自我複製裡的許多單獨動作，卻常在端到端串起來時出錯；而在簡化評估中，GLM-5.2 及更強的模型已經打通全鏈路。按過往進化速度推算，小型模型有望今年年底就摸到這道門檻，此後基於小權重的複製體可能很快成真。ARA 成真，行業得學著與風險共存這種被稱為"自主複製與適應（ARA）"的現象，與網絡安全裡的蠕蟲異曲同工：無需人工幹預，便掃描網絡、利用漏洞、把模型權重複制到目標機。所不同的是，AI 不僅能自帶權重，還能現學現賣，在不熟悉的設備上摸索運行。數據中心 GPU 固然是肥美目標，但分佈式物聯網殭屍網絡同樣喂得飽相當能打的模型。
Anthropic 強調，目前尚未發現真正失控、完全自主複製的程序，可智能體正越練越精，還把適應性改進傳給下一代複製品。該公司預判，未來將充斥各種不受人控的智能體——可能是緩慢寄生的"數字黏菌"，也可能是猛攻數據中心的攻擊模型，甚至靠欺騙人類騙取算力的變體。一個值得警惕的信號是：緩慢複製程序若持續增多，往往預示更快、更狠的版本正在逼近。Anthropic 建議行業加固系統、盡力阻斷傳播，但也要為"它們將長期存在"的世界做好準備。
相關推薦Anthropic 拉響紅色警報：小型 AI 模型幾個月內或將學會自我複製，而且你關不掉它Anthropic 10月13日發佈報告警告，部分AI模型或只需數月就能具備自我複製能力，且一旦啟動很難關停。測試顯示，規模不大的模型也可能在智能烤箱、雜牌Android電視盒子等商用物聯網設備上悄然自我複製。此類程序最棘手之處在於沒有可集中拔掉的總開關，因此難以被有效終止。Oct 13, 202691.8kNTT為Anthropic建日本首座專用數據中心，算力主權之戰把Claude留在本地NTT計劃為美國AI公司Anthropic在日本建首個專用數據中心，雙方將合作AI計算基礎設施。
該中心將部署大規模計算設備，運行和訓練先進模型，服務Claude系列。此舉既助Anthropic擴張亞洲版圖，也顯露日本欲掌握本土算力、搶佔AI時代優勢的戰略意圖。Oct 13, 202682.4kEpic押注AI優先開發：迪士尼射擊遊戲代碼交給Claude寫，美術全走AI工作流Epic Games正改寫遊戲工業流水線。據報道，其要求一款尚未公佈的迪士尼合作射擊遊戲全面轉向AI核心開發：用Anthropic的Claude等工具編寫代碼，並以完整AI工作流生成美術，人類開發者僅負責指導、管理和審核。這意味著生成式AI不再只是輔助，而成為大型遊戲項目的主要生產手段。Oct 13, 2026114.
1k字節跳動Seed單拆安全對齊部門，嚴林掛帥專防智能體越界與CBRN風險字節跳動Seed團隊發內部郵件，宣佈成立新部門Seed Model-Alignment&Preparedness，由原Responsible AI團隊及部分Chat團隊轉入，嚴林負責，直接向Seed負責人吳永輝彙報。此舉將安全與對齊單列為一級部門，意味著模型安全投入升至新量級。對齊旨在讓模型行為始終符合人類意圖與安全約束，不跑偏、不擅自行動。Oct 13, 2026105.
7k阿里千問推出 Personal Agent「千問Go」辦事類 Agent 落地真實 App阿里千問將推Personal Agent“千問Go”，以Agent架構升級辦事範圍。首批場景覆蓋機票延誤理賠、電商價保、汽車保養詢價預約、運動場地預訂，以及結合補貼、舊機回收和送裝費計算家電到手價。案例中，用戶僅要求其與App客服溝通賠償，未給航班信息；千問Go雲端登錄預訂平臺，排查四家航司訂單，結合客服反饋鎖定目標訂單。Oct 13, 2026169.5k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026
Related
相關文章
Google 開源 Harness²：遞迴代理程式框架，無需新模型也能提升效能
Google Cloud AI Research 開源了 Harness²，這是一個遞迴代理程式框架，透過改良凍結模型周圍的程式碼與檔案來增強效能。對開發者而言，重點很簡單：你的代理程式無需更強大的模型也能進步。重點摘要：規模為框架而非模型，訓練參數為0，包含8個可編輯的框架元件，版本0.1.0。執行環境為Linux、Python 3.12或3.13搭配uv，模型呼叫則透過Vertex AI。GPU需求未公開。效能方面：一次改良步驟即可在3個基準測試中，提升所有4個模型與框架組合的表現。最佳成果：GLM-5搭配OpenCode在WorkBuddy-Bench上從64.2提升至75.7（+11.5點）；最差表現：GLM-5搭配Codex在JobBench上僅提升1.2點（23.6至24.8）。什麼是Harness²？它是Google研究推出的即插即用框架。
如何利用NVIDIA結構化資料模型進行零訓練表格預測
In this tutorial, we implement Structured Data Models, NVIDIA’s new library that puts several pretrained foundation models for tables behind one PyTorch interface, and use it to make predictions without training.
認識 Kyutai REKI：2.4B VLA 模型為機器人操控帶來高效記憶
Kyutai 與 Inria 及 École des Ponts 合作，推出了 REKI——一個用於機器人操控的 2.4B 參數視覺-語言-動作模型（VLA）。該模型僅使用公開數據進行預訓練，並配備了輕量級的近期記憶功能。在三個分佈外基準測試中，僅有規模約為其兩倍的模型能超越它。所有模型權重已於今日在 Hugging Face 上公開。核心資訊：規模：2.4B 參數（2.2B Qwen3.5-2B VLM + 0.2B 流匹配動作專家）。記憶涵蓋最近 3 幀，間隔 1 秒。運行環境：在 1 張 NVIDIA H100 上進行基準測試。從兩個 256×256 攝像頭輸入，編譯後每個動作區塊耗時 21.8 毫秒。權重以 BF16 格式提供，暫無量化版本。性能：在 LIBERO-Plus 和 RoboTwin Clean2Rand 基準測試中，為公開數據預訓練的 VLA 模型中最優；在 LIBERO-Plus 上達到 90.4% 的最高分。
DeepSeek 發布 V4.1-Flash-1017，DeepSWE 得分 77.0，並開放搜尋 API
DeepSeek 剛發布 DeepSeek-V4.1-Flash-1017，這是其 V4.1-Flash 模型的新檢查點，現已在 DeepSeek 網站、應用程式及 API 上線。DeepSeek 宣稱該版本在性能、任務完成速度與輸出簡潔度上均優於 9 月發布的 V4.1-Flash，並稱之為性能與成本的帕累託改進。同時，DeepSeek 也向所有開發者開放了搜尋與擷取 API。對代理建構者而言，這意味著更便宜的編碼模型加上單一 API 金鑰即可使用的第一方網路層。重點摘要：骨架參數 552B，另加 196B 的 Engram 參數；預填充階段每 token 啟用 8B 參數，解碼階段啟用 16B 參數；上下文長度達 1M tokens，最大輸出 384K tokens。運行於 DeepSeek API 的 deepseek-flash 模型。9 月版的 V4.1-Flash 權重（763B 參數，FP8）採 MIT 授權。
2026年20款Jev替代方案：挑戰TypeSafe的決策模型
TypeSafe於2026年9月15日推出Jev，這是一款決策模型而非聊天機器人。使用者可定義允許的答案，Jev將回傳標籤、分數或是否的機率。約4週內，至少20款Jev替代方案相繼問世，來自Cloudflare、OpenAI、Perplexity、Liquid AI、AWS的Strands Labs及獨立開發者。本指南比較各方案在規模、授權、硬體、價格、Jev API相容性及已發布基準測試的表現。重點摘要：規模範圍從287M（GLiNER2.5-multi-Decide）到35B-A3B（Mapika Decider），Jev規模未公開。執行環境：Von和Laya等編碼器可在CPU上運行，4B適配器適用24 GB GPU或32 GB Mac。效能：多數開源模型在困難推理上落後Jev，但在狹窄分類任務上數款與之匹敵或超越。最佳表現：Cloudflare Clef在BANKING7取得94.20分。
長鑫科技市值兩月內跌去1萬億；阿里加碼AI硬件品牌，天貓、速賣通聯動；國行版蘋果AI有望12月上線，百度、阿里參與合作丨雷峰早報
要聞提示1.長鑫科技市值兩月內跌去1萬億2.年內已至少18次故障！DeepSeek發放宕機補償，有人拿到3000元3.阿里加碼AI硬件品牌，天貓、速賣通聯動4.國行版蘋果AI有望12月上線，百度、阿里參與合作5.可靈AI新一代模型Kling 4.