當AI開始製造AI

15Bit2026.10.04 16:38 · 來自雲南全文3279字00:00 / 10:25當AI開始參與制造下一代AI，研發成果可能反過來加快研發，遞歸自我改進成為巨頭爭奪的新方向。但更快未必更好，誰定義進步，誰守住安全邊界？企業害怕落後的理由，也不能替代我們對這場加速是否值得的獨立判斷。文 | 15Bit劉慈欣在《鄉村教師》裡寫過一段對話。外星文明發現，人類沒有記憶遺傳，每一代都需要重新學習，卻依然發展出了能夠進入太空的文明。它們難以理解，這個物種怎樣積累知識。「他們沒有記憶遺傳，所有記憶都是後天取得的。」答案落在一種負責跨代傳遞知識的人身上。「他們叫教師。

」這個故事寫出了人類進步的一項成本。前人的知識能夠留下，後來的人還得花時間讀懂。論文可以複製，培養一個能夠繼續研究的人，要經過很多年。如果這個過程能夠被大幅縮短呢？如果參與研究的智能，可以幫助製造下一代更強的智能呢？今年9月29日，特朗普簽署行政命令，要求美國行政部門在法律允許的範圍內，將官方通信和非法律文件中的AI改稱SI，也就是超級智能。對照文件的定義可以看到，SI暫時仍覆蓋現有法律所定義的AI。改名已經發生，超級智能是否到來，需要另外的技術證據。相比名字的變化，我更在意AI公司正在嘗試的另一件事。讓今天的AI，參與制造明天的AI。無限自進化過去，模型開發主要由人來推動。

研究者提出方法，工程師把它寫成程序，再訓練、測試，根據結果決定下一次怎麼改。如今，AI開始接手其中的一部分工作。Google的AlphaEvolve用Gemini提出候選程序，運行並評價結果，再沿著表現較好的方案繼續修改。Google披露，它找到的一項優化讓Gemini中的關鍵計算核加速23%，對應整個訓練時間縮短約1%。支撐這套系統的模型，已經用到了它幫助發現的改進。這就出現了一種值得關注的反饋關係。模型參與改善訓練，改善後的訓練條件，又可能幫助開發後續模型。沿著這條關係繼續走，就是RSI，遞歸自我改進。理解它，可以先抓住一個問題。一次改進得到的能力，能不能讓下一次改進更容易發生？

如果每一輪都能提高研究效率，模型的進步速度也可能跟著變化。這也是RSI讓人不安的地方。我們習慣了一代代人接著研究。新人學習已有知識，再嘗試補上一點。AI若能承擔更多研發工作，知識轉化為下一項發現的過程，就可能少等一些人的成長。但這裡有一個很容易混淆的區別。ASI，也就是人工超級智能，描述的是一種能力目標，通常指在廣泛的重要領域超過人類的智能。RSI描述的是改進過程。一個系統可以在有限任務上自我改進，卻遠沒有達到超級智能；超級智能也未必只能通過RSI實現。把兩者連起來，能夠得到一種令人興奮、也令人恐懼的設想。足夠強的AI參與研發，研發得到更強的AI，再繼續提高研發能力。它能持續多久？

會不會越來越快？現在還沒有答案。Anthropic在討論這條路線時，也明確承認，完整RSI尚未實現，而且並非必然實現。AlphaEvolve的1%改善，已經有具體的工程用途。至於無限自進化，仍然是需要驗證的遠景。反覆修改同一段程序，也可能很快用盡容易改善的地方。公司要繼續往前走，還得解決比生成代碼更難的問題。新命題但“自我改進”這四個字裡，有一個問題很容易被忽略。憑什麼判斷，它改得更好了？我們平時問AI，已經見過這種情況。同一個問題，換一種問法，答案可能就變了。它可以把一件事解釋得很流暢，也可能把錯誤解釋得很流暢。回答更像那麼回事，和回答更接近事實，之間還有距離。

到了RSI，這個問題會進入研發過程。我們期待AI不斷改進自己，卻不能把“發生了改進”直接理解成“結果一定是好的”。這裡可以分開看兩件事。一種是改進自身的能力。例如，同樣的任務做得更快，原來解不出的題現在能解了。人先定好要求，再檢查它有沒有達到。另一種，是改進自己尋找改進的方法。它開始調整實驗怎麼做、方案怎麼選，讓下一次研發更有效率。人類交給它的工作，由完成一道題，逐漸擴大到研究怎樣才能更好地解題。方法可以變，判斷方法好壞的依據卻需要說清楚。一套方案省下了時間，但增加了錯誤，我們願不願意接受？它給出了更漂亮的結果，可別人無法重複驗證，這算不算進步？Klarna的一次實驗就遇到了這個問題。

據其工程團隊介紹，他們用AI尋找更快的訓練代碼，有些候選方案確實跑得很快，卻無法保證相同條件下得到可復現的結果。工程師後來把這項要求加入篩選條件，不能只看速度決定採用哪個方案。這個例子並不意味著AI已經失控。它說明了一件很具體的事，系統可以找到符合某項指標的好辦法，但那項指標未必涵蓋了我們對“好”的全部要求。漏掉的要求，仍然需要有人補上。如果未來連評估方法也交給AI改進，問題還會繼續往前走。它提出了一套新的測試，認為比舊測試更有效，誰來確認這套測試沒有放過原來能發現的問題？如果仍然只讓同一個系統證明自己正確，我們就需要警惕這種證明究竟有多可靠。

因此，我認為，自進化可以探索新的方法，但安全邊界不能僅憑系統自己的評價就被取消。允許它尋找更快的辦法，不等於允許它自行放寬原來的限制。即便評估工具由AI協助開發，也需要獨立檢查和實際驗證。這也關係到企業怎樣講述自己的進步。研發速度、模型分數都容易拿出來展示，可靠性和安全性則往往需要更長時間才能確認。開發者既從技術進步中獲益，又參與制定評價標準，它們的判斷值得聽，但不能成為唯一的判斷。我們需要關注的，因而不只是AI能不能自己研究AI。還要看哪些要求始終有效，誰有權修改這些要求，以及出了問題以後，誰能叫停。這些事情尚未解決，企業之間的競爭卻已經要求它們儘快拿出下一代模型。

賽博狂飆RSI還沒有完整實現，為什麼公司已經開始下注？因為它可能改變一家公司開發下一代AI的速度。過去，模型更強，主要可以用來吸引更多用戶。現在，更強的模型還能幫助自己的研究團隊寫程序、做實驗。倘若這些工作持續有效，公司就可能更早做出下一代模型，再用它繼續參與研發。今天的成果，有機會影響明天取得成果的速度。這讓等待變得難了。一家公司可以選擇晚一點投入，等技術成熟再跟進。但如果競爭者先找到了有效的方法，它等待的這段時間，可能讓對方積累起更好的研發條件。等到路線得到證明，再追趕就未必只差一次模型發佈。當然，提前投入也可能失敗。實驗需要花錢，做得更多，也不保證發現更多。

企業面對的是兩種都無法提前算清的代價，投入可能沒有回報，等待可能錯過機會。Anthropic公開討論過類似的困境。它認為，放慢研發能夠給社會更多準備時間；但如果只有部分公司放慢，其他競爭者繼續推進，結果可能只是換了一家領先的公司。擔心風險，與繼續研發，可以同時發生。一家公司的決定，只能約束自己。它停下來，無法保證競爭者也停下來。即使大家都知道這條路線還有很多問題，誰先等待、等待多久，仍然很難達成一致。我理解這些公司為什麼繼續投入。誰也不願意在下一次技術變化中被甩開。但我對這種競爭有一個擔憂。當企業越來越在意別人走得多快，它判斷一項技術值不值得推進的標準，也可能發生變化。

技術能夠解決什麼問題，需要承擔什麼代價，逐漸讓位於一個更急迫的問題，競爭者是不是已經開始了？競爭可以推動研究，也可能讓企業在路線尚未得到充分驗證時，就不斷追加投入。RSI尤其容易放大這種壓力。它承諾的收益，包含了更快取得下一次進步的可能。錯過一次，企業擔心的便不只是少賣一款產品，還有此後的研發差距。這種擔心可以解釋企業的選擇，卻不足以證明加速一定值得。我願意看到AI參與制造下一代AI。許多難題值得研究，也有許多人等不起漫長的研究過程。如果自我改進能夠讓新的發現更早出現，讓更多人用得上這些成果，我們有充分的理由期待它。《鄉村教師》裡的教師，把已有的知識交給下一代，讓後來的人有機會繼續向前。

到了AI參與研發的今天，我們有望縮短這段積累的時間。但怎樣使用新的能力，什麼風險可以接受，仍然需要人來判斷。我們希望製造出更強的智能，也應該對它提出更高的要求。下一代AI到來的時候，人應當擁有更多選擇，更有能力決定自己的生活。這樣的進步，值得我們加快腳步。