RSI概念過熱，一線學者：有炒作成分

AIX財經2026.09.28 15:37 · 來自北京全文7242字00:00 / 21:01人人都在擔心AI失控，我們找了個不慌的人聊了聊。文 | AIX財經（AIXcaijing），作者｜陳丹，編輯｜魏佳在日行千里的AI行業，一直有人喊“狼來了”。過去幾年，這隻狼叫AGI、超級智能、失控的AI。最近，它有了一個更具體的名字：RSI——Recursive Self-Improvement，遞歸自我改進。簡單說，就是讓AI開始參與研發自己。今年5月，一家創業公司帶著6.5億美元融資走出隱身狀態，估值46.5億美元。

它的名字就叫Recursive Superintelligence——遞歸超級智能。八名聯合創始人來自OpenAI、Google DeepMind、Meta等頂尖實驗室，包括前Meta FAIR研究主管田淵棟。他們想做的事幾乎寫在公司名字裡：讓AI自己做實驗、尋找改進方向，再用這些發現繼續改進AI。這不是孤例。越來越多AI公司開始討論自我改進。OpenAI稱自己做出了“自動化研究實習生”，Anthropic開始按百分比測量Claude“主導”了多少內部研發工作，Google DeepMind讓AI尋找更好的算法，智譜則把下一代模型的方向稱為“完全自訓練”。

但在研究RSI的倫敦大學博士生周輝池看來，現在RSI的爆火更多是炒作，學術界甚至沒有一個統一定義。周輝池是論文《Memento-Skills: Let Agents Design Agents》的第一作者。這項研究嘗試讓通用Agent根據經驗，自主設計、調整和改進執行不同任務的Agent。今年，他還參與了導師汪軍（倫敦大學學院計算機系教授，長期研究強化學習、多智能體系統與智能決策）主導的Large Discovery Models，研究AI能否在巨大而未知的搜索空間裡，根據真實實驗反饋和自身不確定性，決定下一步最值得嘗試什麼。

周輝池所在的實驗室還搭了一套測試AI research能力的benchmark，讓AI連續工作12小時、反覆提交答案，再接受隱藏測試。結果是，今天最強的一批模型，仍未達到人類研究者的水平。01.“AI研發AI，大部分被誇大了”過去一年，“AI研發AI”正在從一句口號，變成幾家頭部實驗室可以展示的具體能力。2026年9月，OpenAI宣佈，按照自身測量標準，已達到“自動化研究實習生”的目標：系統能在人類指導下，完成定義清楚、原本需要熟練研究員數天完成的研究任務。它仍把2028年3月作為實現自動化AI研究員的目標。另一條路徑，是讓模型改善支撐模型運行的系統。

Google DeepMind的AlphaEvolve用語言模型和自動評估程序尋找更好的算法，應用包括數據中心調度和模型訓練優化。智譜披露，由GLM-5.3驅動的Infra Agent參與優化GLM-5.3-Flash的推理基礎設施，公司稱不到兩週，端到端吞吐達到初始基線的三倍。這些進展讓RSI成為一個具體問題：寫出更多代碼、提高一項性能指標，與自主研發下一代模型，究竟有多遠？「AIX財經」：現在外界有一種越來越強烈的感覺，AI已經開始研發下一代AI了。甚至有傳聞說，GPT已經能修改自己的訓練代碼、訓練下一代GPT，Google破解了RSI。你接觸到的真實情況是什麼？

周輝池：據我瞭解，這些說法並不是真的。今天絕大多數基礎模型研發，核心還是人在做。人決定算法、研究方向、訓練方法，AI替代得最快的是中間的執行環節，比如寫代碼、跑實驗、看結果。它還不是一個end-to-end的自我研發系統。Google DeepMind確實在做self-improvement相關研究，但目前RSI更多還是輔助方向，沒有徹底改變基礎模型研發流程。我跟Google和國內大廠一些做基模的研究員都聊過，他們的工作並沒有因RSI改變多少，也不care這個技術。更多工作仍是洗數據、做蒸餾、搭強化學習環境、形成數據飛輪，從人類數據裡拿到更好的環境反饋。

「AIX財經」：這個方向為什麼會在這時候突然變熱？周輝池：說實話，我覺得現在有一定的炒作成分。這個詞可能才火了兩三個月，Claude、GPT最近都在提RSI；國外很火的一些AI明星團隊也在做，資本又迅速跟進，所以這個概念就一下被推到臺前。但從學術上看，它還沒有形成特別清晰、統一的定義。薩頓（Richard Sutton）近期有一次公開表示，他並不認為RSI是什麼全新的東西。在他看來，這套邏輯本質上和continual learning（持續學習）有很強的延續性。學術界本來就在研究模型如何持續學習、根據反饋不斷更新自己。

只是到了融資市場，大家需要講一個更有辨識度、也更有想象力的故事，RSI就成了一個更容易被傳播的標籤。現在更像是一個混亂過渡期。技術和研究本身已經存在，但RSI這個概念還沒有被明確定義。「AIX財經」：那在你看來，什麼情況下才能算self-improvement，甚至RSI？周輝池：我會先區分兩件事：AI研究別的東西，和AI研究自己。現在很火的AI scientist，大部分屬於前一種。讓AI研究材料、藥物，或者寫代碼、跑實驗，本質上還是把AI當工具。self-improvement更強調第二種：迭代的對象開始變成AI自己。

人給它環境和目標，它完成任務、獲得反饋，再修改自己的代碼、記憶、參數或外圍系統，讓下一輪表現更好。只要循環裡“被修改的對象”開始指向系統自身，我就會把它放進self-improvement的範圍。「AIX財經」：按照這個定義，一個Agent修改自己的prompt或者工作流，也算self-improvement。但大家今天談到RSI時，想象的似乎是更激進的東西。周輝池：對，所以不同定義之間差得非常遠。

寬泛一點，Agent根據反饋修改memory、prompt或者harness，下一次做得更好，也可以叫self-improvement；再往前，是上一代模型幫助生產下一代模型所需的數據、環境或代碼；最狹義的RSI，是AI能夠修改訓練AI本身的代碼，甚至把下一代自己訓練出來。目前AI更多還是局部優化。它已經可以寫代碼、自動調參，也可以設計一部分實驗。給它一個明確指標，讓它不斷修改harness、上下文管理或者任務執行方式，這類事情已經能做很多。但問題通常還是人定義的，目標也是人設定的。AI更多是在一個已經搭好的環境裡尋找更優解。

「AIX財經」：也就是說，讓AI“修改自己”本身並沒有那麼難，真正困難的是讓它知道應該怎麼改？周輝池：對，還有一個更麻煩的問題：你怎麼證明它修改以後真的變強了？如果問題已經框得很清楚，比如給它一個指標，把數字從80優化到90，AI現在可以做很多事情。但真正的研究首先要知道什麼值得改；改完以後要有可靠的評價標準。最後，這個提升還得泛化到新任務，而不只是對原來的環境有效。「AIX財經」：模型把自己的代碼改了，benchmark分數也提高了，為什麼還不能證明它變強？周輝池：因為它可能只是越來越會“做這幾道題”。比如給AI三個任務A、B、C，讓它不斷修改自己，最後三個任務的成績都提高了。

但再拿D、E、F去測試，可能沒有提升，甚至掉點。這說明它只是越來越適應原來的測試環境。所以做self-improvement，一個重要問題就是度量衡：什麼叫真的進步，什麼只是overfitting（過度擬合）。這也是為什麼目前最容易做的還是coding，代碼有相對清楚的反饋。但coding變強，不代表科學研究、團隊協作等能力也會一起提高。02.RSI最難的一公里，在物理世界AI進入科研的路徑，正在從電腦裡的計算延伸到實驗臺上的操作。2025年2月，Google公佈AI co-scientist，嘗試圍繞科學家給定的目標生成研究假設和實驗方案。

2026年8月27日，Anthropic發佈Model Hardware Standard（MHS）研究預覽，為AI智能體操作物理設備提供統一接口。在展示的液體處理實驗中，Claude操作儀器、讀取測量結果，並調整流速，以改善轉移液體的準確性。但實驗範圍仍由專家設定，模型也會在需要物理直覺的環節遇到困難，例如識別氣泡造成的誤差。局部實驗已經能夠形成反饋循環。更難的問題是：這樣的循環能否長期穩定運行，並幫助機器發現值得研究的新問題？「AIX財經」：如果把一輪AI研發拆開——找問題、提出方案、寫代碼、跑實驗、判斷結果、決定下一步，現在AI已經能做到哪一步？

周輝池：寫代碼、跑實驗、分析結果，這幾步已經做得很好了。只要任務完全發生在計算機裡，AI進步都非常快。真正困難的恰恰在研發流程的兩頭：最前面是什麼問題值得研究？最後面是這一輪做完以後，下一步應該往哪裡走？這兩件事，現在AI都還不擅長。「AIX財經」：模型讀過的論文可能比一個研究員還多，為什麼仍然不擅長找問題？周輝池：因為知道得多，不等於有insight。現在讓模型想研究方向，它經常給出很多工程化方案：這裡加一個模塊，那裡換一種方法，更多是在已有框架裡縫縫補補。如果把所有可能的idea想象成一個正方形，裡面已經塞滿人類過去產生過的想法，今天的模型很擅長在已有的球之間找縫隙，再塞進去一個更小的球。

也就是說，它擅長incremental improvement（漸進式改進）。真正困難的是，怎麼走出這個正方形。我們做Large Discovery Model時，會把知識空間分成known knowns（已知的已知）、known unknowns（已知的未知）、unknown knowns（未知的已知）和unknown unknowns（未知的未知）。最難的是最後一種：AI不知道，人類也不知道，甚至問題和答案今天都還不存在。真正重要的新藥、新材料、新算法，很多時候恰恰來自這裡。「AIX財經」：機器怎麼去尋找一個連人類都不知道的東西？周輝池：這就是我們真正想解決的問題。

普通語言模型的訓練目標是預測下一個token，但做科學發現，不是預測下一個詞。你需要對世界本身建模，也需要對不確定性建模。比如做材料實驗，模型不能只沿著過去實驗最多的區域繼續搜索，還要知道哪些地方已經比較確定，哪些地方几乎沒有被探索；哪些區域雖然風險更高，卻值得嘗試。我們以前做合金實驗時就遇到過。按照傳統經驗，某種元素加進去可能不會有太好效果，但AI發現那一塊區域過去被探索得很少，所以建議我們嘗試，結果還真找到了當時性能最好的材料。最讓人興奮的，不是AI把80分做到82分，而是它帶你進入一個未知的地方。「AIX財經」：那出現什麼樣的成果，你才會覺得RSI真的有了比較大的進展？

周輝池：肯定不只是發論文。現在有些團隊會說自己的AI能夠生成很多論文，但裡面有多少真正的新想法、多少經過人工篩選和修繕，很難判斷。我更看重的是，它能不能真正和物理世界連接起來。比如把計算機裡的“幹實驗”和實驗室裡的“溼實驗”形成閉環：AI提出假設、設計實驗、操作設備、拿到現實世界的反饋，再根據反饋調整下一輪實驗，最後找到一種真正的新材料或者新藥。如果這個閉環能夠穩定跑起來，將會改變科學研究的範式，這是目前很多研究者追求的，也是我的理想，如果真的實現，可能我的工作也要被AI取代了。Anthropic也在嘗試把Claude和顯微鏡、機械臂、液體處理設備連接起來。

讓AI能夠操作儀器，是很重要的一步，但能操作儀器，和真正跑通科研閉環，還是兩回事。「AIX財經」：差別在哪裡？周輝池：關鍵在於，它能不能穩定地處理現實世界裡的意外。材料或者藥物發現裡，有一類問題可以先由人類框得比較清楚。比如十種金屬裡選五種，按照不同比例組合，找到性能最好的配方。它不要求AI回答“下一場科學革命是什麼”，只要求它在一個巨大的搜索空間裡，比人更聰明、更高效地試錯。這可能是短期內最容易出現的“機器科學家”。它未必像愛因斯坦一樣自由提出全新理論，而更像一個在人已經明確目標之後，可以自動完成成千上萬輪實驗的系統。

「AIX財經」：除了“找問題”和“決定下一步”，還有什麼會限制RSI繼續加速？周輝池：現實裡最核心的是三個因素：算力、數據和評估。算力比較好理解，大家都需要GPU。數據更麻煩。你想讓AI真正進入金融、生物、化學這些專業領域，就需要行業專家把自己的know-how變成AI可以學習和試錯的環境。評估也一樣重要。如果AI要持續改進，就必須有足夠密集的反饋告訴它哪裡做對了、哪裡做錯了、下一步應該往哪個方向走。所以數據和評估最後都可以歸到一個詞：環境。好的環境首先要足夠多樣，其次reward要足夠密集。數字世界比較容易構造這樣的環境，所以進步會很快。

真正困難的是把這種環境擴展到現實世界，這是最難的“最後一公里”。「AIX財經」：你覺得這一步還需要多久？周輝池：如果只是算力、數據、評估這些基礎條件，我覺得未來兩三年會有很明顯的改善。但如果說把數字世界和物理世界真正打通，讓AI穩定完成一個完整的科研閉環，我會更保守一些，可能要五年。如果RSI真的已經非常接近，AI公司理論上應該會大規模招各領域的人。因為接下來很重要的一件事，就是把各行業的know-how變成環境，讓AI進去訓練。現在確實能看到一些類似動作，比如有公司招藝術家，也有公司招STEM科學家。但至少從我看到的情況，大部分公司還沒有非常急迫地把每一個行業的知識系統性地“裝進”AI。

03.AI“失控風險”，被誇大了嗎？完整的遞歸自我改進尚未實現，研發崗位的分工卻已經發生變化。越來越多執行工作交給AI之後，人能夠嘗試更多方向，也必須判斷哪些結果值得繼續投入。OpenAI披露，截至2026年8月中旬，其研究組織每投入一個人類工作日，會調用按八小時折算的3.1個智能體工作日。這衡量的是運行時長，不能直接等同於研究效率提高3.1倍。公司仍表示，研究優先級、哪些結果值得繼續，以及是否擴大、暫停或部署系統，由人決定。Anthropic同期的內部測量顯示，Claude“主導”的工作佔其AI研發工作的26%。周輝池和同行們的研究生活也在變化。

至於大家頻繁討論的“AI失控”，他認為並非毫無風險，但現在離那一步還遠，AI還不具備自我意識。「AIX財經」：AI讓研發變快了，但很多研究員反而覺得自己更忙了，這是為什麼？周輝池：主要是寫代碼和跑實驗這兩步變快了。以前沒有AI的時候，一天裡很大一部分時間都花在復現代碼、寫測試腳本、debug上，很瑣碎。現在這些執行性工作變快了，你就可以同時研究更多問題、跑更多實驗、讀文獻、想問題，以及和同行討論。所以從工作量看，人反而可能更忙；但從精神狀態上說，我覺得舒服了一些。「AIX財經」：當越來越多執行性的工作可以交給AI，基模團隊的規模和分工會發生什麼變化？研究員自己的角色又會往哪裡轉？

你是否也在調整自己的工作重心？周輝池：這一兩年的基模團隊太瘋狂了，一直在不停招人、擴張，但其實訓練大模型並不需要太多人。現在很多核心算法框架已經比較成熟，新進去的人有相當一部分時間是在處理數據、搭環境、做實驗。現在缺的是infra。一個好的infra團隊，可以讓研究員很快啟動、同時運行很多組實驗。過去可能要幾個人手工完成的事情，有了更好的infra和AI以後，會越來越自動化。現在計算機領域原有的research體系都發生了很大變化。工具越來越方便，寫代碼、跑實驗、整理結果都變快了，發論文的門檻也比以前低。進入研究體系的人越來越多，甚至很多高中生都可以發論文。

論文基數不斷擴大，但頂級會議就是這些，接受比例也是一定的，未來競爭只會更激烈。所以我現在也在主動往更high-level的事情上走，比如管理、判斷方向、提出問題。很多時候想到一個有意思的點子，就交給別人或者AI去驗證。我覺得未來人很重要的位置是review和judge，所以思考能力很重要。如果每天做的事情99%都是AI已經可以完成的，而且自己也越來越依賴它，長期看，這部分能力一定會下降。「AIX財經」：現在AI公司越來越頻繁地談失控、對齊這些風險。以你接觸到的真實進展來看，這種擔憂已經到了多緊迫的程度？周輝池：未來AI可能真的會很強，甚至有失控的可能，但現在離那一步還比較遠。

有些安全擔憂也不是沒有道理。未來我們會把越來越多通訊軟件、賬戶和設備權限交給AI，如果有一天它擁有更強的自主性，甚至學會隱瞞信息，會帶來新的風險。但以現在的能力看，更現實的還是賬戶攻擊、隱私洩露這類數字世界裡的問題。它現在更像一個很強的執行器，還不是一個真正有自己想法的機器。「AIX財經」：如果RSI真的實現，是不是意味著AI也開始有了自己的意識？周輝池：這兩件事不能完全畫等號，但它們之間肯定會引出更多關於機器意識的問題。如果機器表現出越來越強的自主性，我們應該怎麼判斷它只是一個複雜的系統，還是出現了某種更接近意識的東西？但至少現在，我們還沒有看到有說服力的證據證明機器已經擁有意識。