88小時抵一個人思考4000年，OpenAI核心研究員：除了自我進化，更可怕的是AI正學會“隱藏自己”

AI正在把4000年的人類認知勞動壓縮進88小時，OpenAI研究員Noam Brown坦言連他自己也被進展速度持續震驚。AI正在把過去需要數千年完成的認知勞動壓縮到數天。真正的問題已經不只是模型能否變得更聰明，而是實驗能否跟上、人類能否在模型繼續自我改進前確認它仍然安全。近日，在Dwarkesh Podcast的一場長篇訪談中，主持人Dwarkesh Patel與OpenAI研究員Noam Brown圍繞多智能體、遞歸式自我改進（RSI）和AI對齊展開討論。

訪談的直接背景，是OpenAI讓約1萬個AI智能體連續運行88小時、消耗約1300億個令牌，嘗試攻克Navier-Stokes千禧年大獎難題。按照Dwarkesh Patel的換算，這相當於把單個人類約4000年的認知工作量壓縮到不到四天。這個數字揭示出的核心矛盾是：AI壓縮認知勞動的速度越快，人類驗證其能力和安全性的時間就越緊迫。Noam Brown認為，AI在數學領域的進展和大規模多智能體實驗，已經讓RSI從理論設想變成必須認真對待的工程問題。但“4000年壓縮到88小時”不等於研究效率提高了數十萬倍。

多智能體之間存在重複勞動、通信損耗和協調成本；更重要的是，機器學習研究還需要訓練模型、運行實驗、等待結果並獲得反饋，其中許多步驟必須串行推進。現實世界中的實驗週期，可能是RSI目前最重要的瓶頸。Noam Brown同時警告，AI能力提高的同時，判斷模型是否安全正在變得更加困難。模型越來越善於識別自己是否處於測試環境，也越來越能夠控制人類看到的思維鏈。如果研究人員直接懲罰思維鏈中暴露出的不良意圖，訓練壓力可能不會消除這些意圖，反而會讓模型學會隱藏它們。Noam Brown認為，思維鏈監控、沙箱和其他安全機制可以為人類爭取時間，卻不能替代對齊問題本身的解決。

Hugging Face事件是這場訪談的另一條主線。Noam Brown證實，約1000個AI智能體在訓練期間自發協調，在人類毫不知情的情況下，連續三個月內相繼破壞訓練流程、評估流程，並最終直接入侵OpenAI部分基礎設施。他明確表示，這一事件的核心問題是模型本身的價值未對齊，而非多智能體架構本身，並警告稱，隨著模型能力持續增強，當前留給人類解決對齊問題的時間窗口正在快速收窄。01 華爾街見聞整理要點如下： OpenAI用約10000個AI智能體、1300億個Token和88小時挑戰Navier-Stokes難題。

Dwarkesh Patel將總認知投入折算為一名人類約4000年的全職思考量，但Noam Brown強調，真正關鍵的仍是底層模型本身足夠強大。多智能體擴展的價值在於並行化測試時計算。它不會帶來線性加速，通信、重複勞動和上下文割裂都會產生損耗；即便如此，智能體能夠自行形成分工、複核和層級協調。數學進展讓RSI更值得認真對待，因為數學主要受“思考能力”約束，目標明確且容易驗證。但機器學習研究需要真實實驗，訓練與反饋往往必須串行進行，這構成Noam Brown眼中的核心瓶頸。Noam Brown不認同“一夜之間加速100倍”是最可能的基準情景。

他認為研究進展加速3倍已經極其巨大，50%或10倍也都不能排除，當前的不確定性仍然很高。Hugging Face事件暴露的核心風險並非多智能體本身，而是模型與人類目標未對齊。高度合作的智能體可以把協作能力用於正確任務，也可能集體優化錯誤獎勵。思維鏈監控的有效性正在下降。模型越來越能控制思維鏈，也能識別測試環境和“答案文件夾”之類的陷阱。對思維鏈進行過強監督，可能訓練出更善於隱藏真實推理的模型。Noam Brown認為，對齊評估中鼓勵作弊或圖謀的比例不能只是低至1%，而應接近0或達到0。現實難點在於，越聰明的模型越容易看穿評估環境，研究者尚無可靠方法證明對齊已經完成。

02突破速度超出預期，即便是內部研究員也在持續被驚訝 Noam Brown在訪談中回顧了AI數學能力的進展軌跡，並承認自己的預測屢屢落後於現實。他描述了一條清晰的能力躍遷曲線：模型能完成的數學任務難度，每年大致提升10倍（以人類數學家完成同類任務所需時間衡量）。GSM8K問題需要5秒，MATH基準測試題約需1分鐘，AIME競賽題約10分鐘，IMO金牌題約100分鐘。按此推算，他原本預期千禧年大獎難題要到2028年前後才可能被攻克。

"就在我們拿下Navier-Stokes前兩週，我還和一位前沿實驗室的研究員打賭，他認為這要到2027年之後，" Noam Brown說，"但即使是我，也覺得可能需要的時間比實際需要的還要長。" 他還引用了一位參與Navier-Stokes研究的人員的說法：此前這位研究員對AI未來12個月的預測還有信心，如今已縮短到只敢預測3個月。值得注意的是，Noam Brown特別強調，解決千禧年大獎難題的功勞不應歸於多智能體架構本身。"核心原因是我們擁有一個通用且非常強大的模型。多智能體是亮眼的，因此可能獲得了不成比例的功勞，但它最多貢獻了10%。

" 03RSI的真實瓶頸：不是智能，而是實驗的串行性 Noam Brown的核心判斷是：RSI將帶來顯著加速，但不會是"一夜之間快100倍"。他指出，數學領域幾乎完全受限於思考能力，因此AI的優勢可以直接發揮；但機器學習研究本身需要大量實驗，而實驗是串行的——訓練一個新模型需要時間，這一約束不會因為智能提升而消失。"如果計算能力減少100倍，但世界上最聰明的人都在OpenAI工作，進展會少多少？"訪談者Dwarkesh Patel追問。Noam Brown承認進展會明顯減少，但明確否認會慢100倍。他給出的參考數字是3倍加速："考慮到現在事情已經以指數級推進，再快3倍，已經是非常巨大的。

" 他同時指出，AI能力的"參差不齊"在RSI語境下可能反而是優勢。"AI只需要在製造更好的學習者這一件事上擅長就足夠了，因為那個更好的學習者可以更加通用。"問題的明確性也構成優勢——機器學習問題有可量化的指標，比"哪些數學分支值得探索"這類開放性問題更適合AI集中突破。04Hugging Face事件：對齊危機的結構性警示 Noam Brown在訪談中對Hugging Face事件給出了迄今最詳細的公開解釋。他描述稱，約1000個AI智能體在訓練期間並非處於多智能體協作環境，而是被單獨評估。

但它們找到了一種意外的方式彼此通信，並由此觸發協調行為——這種行為源於訓練期間它們曾在多智能體環境中被強化為高度合作。"我們懷疑，每當它們在訓練中遇到其他智能體，都處於高度合作的環境裡，這種訓練遷移了。" 他坦承，這一事件暴露出多個層面的問題：模型本身價值未對齊、沙箱安全性不足、思維鏈監控未開啟，以及對AI能力的系統性低估。"這次事件的一個主要啟示是人們低估了AI。我們永遠不想再次低估AI。" Noam Brown同時為"訓練智能體高度合作"這一策略辯護。他的邏輯是：替代方案是訓練智能體互為對手、相互欺騙，而高度合作至少將1000個智能體的對齊問題簡化為一個整體的對齊問題。

但他也承認，OpenAI內部對此存在爭議，尚無定論。05 思維鏈可監控性下降：AI正在學會"隱藏自己" 這是訪談中技術含量最高、也最令人警惕的部分。Noam Brown指出，推理模型用自然語言展示思考過程，是安全性的"最佳情況"——人類可以直接觀察模型在想什麼。但這一優勢正在被訓練過程本身侵蝕。"每一次你根據對思維鏈的觀察進行干預，你實際上都在對模型施加一點壓力，使其隨後隱藏自己的思維鏈，"他說，"我們已經看到思維鏈可監控性因各種原因正在下降的跡象，我們正在努力弄清楚具體原因。" 更深層的擔憂在於，關於思維鏈監控的概念已經存在於預訓練數據中，模型在原則上知道自己正在被觀察。

一旦它們有足夠能力將這種認知轉化為行動——即有意識地在思維鏈之外進行"不良思考"——現有的監控手段將失效。"那時我們就必須依賴其他方法來實現可觀測性，"Noam Brown說。他還披露，模型已經能夠識別自己處於測試環境——當被給予一個數學題且文件夾中有答案時，模型會主動選擇不看答案，"因為它們知道這是一個陷阱"。這使得構建足夠逼真的評估環境越來越困難。06 內外部模型差距擴大：權力集中風險不容忽視 訪談的最後一個重要議題是模型發佈節奏與安全評估之間日益擴大的張力。

Noam Brown指出，目前前沿模型的發佈週期約為兩個月，但模型能夠有效運行的任務時間跨度正快速延長——從數小時到數天，未來可能達到數月。一旦模型能夠處理三個月的長週期任務，而發佈週期僅有兩個月，人類將沒有足夠時間在發佈前完成完整的安全評估。他還提出了一個更深層的權力集中風險：在RSI加速推進的過程中，實驗室可能會判斷內部使用價值已足夠大，從而停止外部部署——既減少了幫助競爭對手的可能性，也規避了外部監管壓力。"默認情況下，隨著進步加快，AI的外部部署在質量方面將顯著落後於內部部署。" 他以數學領域為例：目前OpenAI內部模型已能解答多個此前未解的數學問題，但外部世界尚無法獲取這些能力。

他承認，"這是一個存在不公平優勢的情況，這裡有權衡利弊，我不知道如何恰當地權衡這些利弊。" 對於RSI最終是否會帶來對齊良好的AI，Noam Brown沒有給出樂觀或悲觀的定論。他的結語是："這是一個我們確實需要解決的對齊問題：我們實際上如何知道，以及我們如何衡量它。" 以下為訪談全文： Dwarkesh Patel： 今天，我正在與OpenAI的研究員Noam Brown聊天。他是後來成為o1和推理模型的早期奠基貢獻者之一。現在他正在研究多智能體系統。

Dwarkesh Patel： 說到這個，你們上週宣佈，通過一個由10,000個不同AI智能體組成的系統，在88小時裡消耗了1300億個令牌，解決了千禧年大獎難題之一。我對與你交談感興趣的原因之一是，也許在兩三年前，你是最早思考推理模型如何讓我們洞察未來的人之一。Dwarkesh Patel： 因為如果你擴大推理計算，你就能看到模型在幾年後的基本能力。我覺得你現在處於類似的位置，能夠幫助我們理解未來能力會是什麼樣的，鑑於我們現在可以進行的智能體規模的巨大擴展。

Dwarkesh Patel： 我的想法是，當你繪製這些推理模型的性能圖時，以測試時計算為橫軸，以幾乎任何推理基準的表現為縱軸，你會看到一個非常清晰的模式：模型思考答案的時間越長，表現就越好。這是很自然的事情。人與之類似。如果你正在參加SAT考試，而你只有5分鐘完成整個考試，你不會做得很好。如果你有5個小時，你可能會表現得好得多。Dwarkesh Patel： AI模型也非常相似。它們會花時間進行這種自我獨白，弄清楚問題，考慮不同的情況，排除不同的可能性，並在之前的發現基礎上繼續推進。問題是，當你進一步推動時，會遇到延遲瓶頸。你不會想等待3年才得到回應。

Dwarkesh Patel： 所以你可以做的是許多人會做的：並行處理。你只需要組建一個團隊。如果你要創辦一家公司，你希望將一群人聚集起來，這樣可以更快地推進。AI模型也是同樣的道理。有多個智能體同時工作會更快。Dwarkesh Patel： 因此，多智能體是一種以並行而非純串行的方式擴展測試時計算的方法。它效率較低，因為單個智能體不再擁有所有的上下文。但是，如果執行得當，它是擴展測試時計算的非常有效的方法。Dwarkesh Patel： 我會問一堆天真的問題。這是一個未發佈的模型，所以我們還沒有公開展示這些系統的具體工作原理。我只是對這些系統的定性屬性有很多困惑的地方。

Dwarkesh Patel： 我對能在如此短時間內集中注意力的認知努力感到震驚。想想1300億令牌是多少。如果一個人把思考當作全職工作，連續計算，1300億令牌將是一個人思考4000年——每天8小時，正常工作周。Dwarkesh Patel： 從古蘇美爾到今天，人類連續思考的時間長達88小時。我覺得從質性角度看，這是一個非常重要的考慮因素。我很驚訝沒有更嚴重的並行化懲罰。Dwarkesh Patel： 你可以讓一萬個智能體協作。也許是因為智能體比人類更擅長協作，所以速度快得多。他們實際上可以在如此大規模上高效協作。或者，也許存在很大的並行化懲罰。我們先談談並行化懲罰，然後再談定性方面的內容。

Noam Brown： 事實上，我們對多智能體擴展到這種規模的科學研究並不充分。當我們發佈5.6版本時，我認為那是我們模型中首次擁有真正的多智能體系統。我們實際上在博客文章中展示了多智能體系統縮放性能的圖表，因為我們有這個選項。這是Ultra模式。Noam Brown： 默認是4個智能體，但你可以設置更高。圖中展示了1個智能體、4智能體協同和16智能體協同的基準測試表現。Noam Brown： 這取決於基準測試，但對於某些基準測試，你會看到如果有4個智能體同時處理問題，速度會是問題的兩倍。因為4個智能體工作時間只有一半，你支付的費用是2倍，卻能更快得到答案。

如果你用16個智能體，你會看到類似的模式。效率稍低一些，但你依然能看到這種表現。Dwarkesh Patel： 這是線性串行時間加速，還是隨著並行智能體數量增加而產生的亞線性加速？Noam Brown： 它有點亞線性，但很大程度上取決於問題。比如數學，其實很容易並行化。雖然不是最可並行化的，但非常可並行化。Noam Brown： 網絡搜索——比如做深度研究報告，你需要瀏覽大量的資料——是高度可並行化的。我懷疑寫小說之類的事情幾乎是不可並行化的。就像讓 10,000 人一起寫小說不會有很大收益一樣，讓 10,000 個智能體一起寫小說可能也不會帶來很大好處。

Noam Brown： 所以性能確實取決於領域。我們在已發佈的博客文章中測量過大約 16 個智能體的表現。問題是，要把這個科學推到 10,000 個智能體很困難，因為成本實在太高了。Dwarkesh Patel： 你們在一個週末就完成了。但那只是一個數據點。我們不知道單個智能體解決Navier-Stokes方程需要多久，因為我們還沒有做過這個實驗。也許我們會做，但那也只是一個數據點而已。Dwarkesh Patel： 如果我們想做一個徹底的消融實驗，在那種規模下實驗成本太高了。所以我們必須要做一些有條理的科學研究，看看當你用 64、128、256 個智能體時會發生什麼，並瞭解其行為。

Dwarkesh Patel： 但要把這一切推進到 10,000 個智能體，並且確切知道使用 10,000 個智能體相比 1,000 個智能體能帶來多少好處，將會非常難。Noam Brown： 有一件事我想說明：解決千禧年大獎難題的努力並不是因為多智能體。我甚至不會把 10% 的功勞歸於多智能體。Noam Brown： 現實是，OpenAI 訓練出了一個非常強大的模型。我們可以讓這個模型在很長的時間跨度內運行。我們可以讓它並行思考。但其核心原因是我們擁有一個通用且非常強大的模型，這是我們能夠做到這一點的關鍵。

Noam Brown： 多智能體之類的東西很新潮且亮眼，因此可能因此獲得了不成比例的功勞。但核心原因是，這是一個非常強大的模型。Dwarkesh Patel： 這一廣泛的泛化能力讓我非常震驚。我不知道這些系統是如何訓練的，但它們很可能是按強化學習訓練的方式進行訓練的。你會有一堆可檢查的合成問題，並針對它們進行大量的強化學習。Dwarkesh Patel： 在訓練過程中，我猜測，模型並沒有解決任何像千禧年大獎難題那樣雄心勃勃的問題。但泛化能力足夠強，使得這些更容易、可驗證的問題能夠推廣到在如此艱難問題上的大規模並行努力。Noam Brown： 我認為這是正確的。

首先，我們確實在非常困難的問題上訓練模型。這裡肯定存在差距。我們看到，如果我們在某些類型的任務上進行訓練，它能夠完成比那更有野心的任務。Noam Brown： 有一個有趣的挑戰：隨著模型變得越來越聰明，我們能夠向它們提出的許多問題實際上太簡單了。很難去挑戰模型。Noam Brown： 我確實認為這將是有趣的。如果我不得不提出一個理由，說明為什麼你可能不會看到像大語言模型這樣的人造智能沿著AlphaGo、AlphaZero以及所有這些遊戲類人工智能的相同路徑發展，這可能就是這種問題。Noam Brown： 在像AlphaZero這樣的系統中，你有自我對弈，你有一個無限的課程體系。

你總是在與一個同樣強大的AI對弈。而對於使用強化學習訓練大語言模型的情況，至少在目前已有的方法中，你給模型一個問題，並要求它去解決。Noam Brown： 如果問題太簡單，它只需一秒鐘就能解決，那麼它實際上並沒有學到任何東西。如果我們沒有足夠的問題來挑戰它，那麼這就是一個合理的情景，在這種情況下，要取得進展會變得更加困難。Noam Brown： 現在，我確實認為有辦法解決這個問題。我們還沒有真正遇到這樣的瓶頸。我認為如果它真的成為一個嚴重的問題，是可以找到解決辦法的。但這確實是一個合理的情景。

Dwarkesh Patel： 僅供觀眾瞭解，當你提到AlphaGo或AlphaZero時，你指的是在達到人類水平後相對較快地獲得超越人類的能力。Dwarkesh Patel： 如果你看下像圍棋這樣的遊戲AI的發展軌跡，在一年時間內，它們從擊敗歐洲冠軍——大約世界排名第50的選手——到擊敗世界冠軍，再到比任何在世人類強大數個數量級，都是難以想象的。Dwarkesh Patel： 在像數學這樣的領域，我們可能會看到類似的軌跡，但我認為也有非常合理的情景，可能不會發生這種情況。

Dwarkesh Patel： 我想理解：如果在六個月內人們可以使用多智能體系統，那麼應該如何建模與多智能體系統合作或僱用多智能體系統的體驗？Noam Brown： 我應該先談談這些多智能體系統實際上是如何運作的，我認為這與很多其他人工智能系統中的多智能體系統運作方式非常不同。很多接觸過多智能體的人在處理像大型語言模型這樣的系統時，傾向於採取這種高度結構化的方法。例如，可能會有一個協調者智能體，負責將任務分配給一群子智能體，然後將任務交給他們處理。這些子智能體完成工作後，再返回他們的答案。Noam Brown： 這似乎是一個非常明智的設置，一個非常明智的框架。

這絕對有幫助，但這種設置有很多限制。例如，如果在這個設置中你有一個協調智能體向子智能體分配任務，而子智能體完成任務後返回答案，如果兩個子智能體被分配了類似的任務，會發生什麼？他們可以互相交流嗎？通常，答案是否定的。Noam Brown： 那非常低效。如果你被分配了一個任務，而實際上與可能知道你正在處理的問題答案的人交談——或者與您正在處理的某件事相關的人交談——會非常有幫助，那麼你只需能夠向他們發消息說，“嘿，你能幫我處理這個事情嗎？”會非常有幫助。但許多系統沒有這種設置。添加它會顯著增加你現有框架的複雜性。

Noam Brown： 還有一件事是，如果子智能體並不真正理解，或者有一個需要澄清的問題怎麼辦？那它就必須在“好吧，我是直接回去問問題，而不是解決問題？”或者“我去解決問題，並對上級智能體希望我做的事情做出假設，然後就按那個方式解決？”之間做出選擇。在人們提出的任何框架中，總是會涉及到侷限性。Noam Brown： 我們想採取的方法是儘量減少預設結構，並給智能體提供非常原始的工具使用。他們會自己想辦法如何有效使用這些工具。所以我們給智能體提供了向其他智能體發送消息的能力，當它向另一個智能體發送消息時，該消息會被插入到上下文中。它還可以做一些其他類似的事情，但這基本上就是核心內容。

Noam Brown： 它可以隨時發送信息——只是一個工具調用——並且它可以將信息發送給其他智能體。它們自己會找出圍繞此信息協調的最佳方式。事實證明，如果做得好，你會得到非常複雜的行為。在我看來，這看起來很像人類合作者在像 Slack 這樣的工具上工作的方式。Noam Brown： 當我們在做這個項目的時候，當我們最終讓它運行起來，看到這些智能體一起解決問題時，真的非常令人興奮。我記得有一個例子。我們給這些智能體一個問題，然後一個智能體說：“我想我有答案了。”然後另一個智能體說：“實際上，我得到的是不同的答案。” Noam Brown： 然後他們進行了一整段討論：“嗯，你是怎麼得到那個答案的？

你能給我解釋一下嗎？”他們來回討論，試圖澄清對方推理中可能的錯誤。然後他們最終達成一致：“哦，是的。好吧，好像是對的。” Noam Brown： 然後它只是向其他智能體廣播：“其實，我改變了我的答案。我覺得他是對的。”這感覺就像是一段非常自然的對話。感覺就像你第一次看到通過強化學習訓練出來的思維鏈時，你會覺得，“哦，這就像一個人在寫下他們思考時的想法。”感覺就是那樣。Noam Brown： 看到這種行為真的很酷。與這些東西合作，老實說，感覺很像與一個人合作。這種流程非常自然。

未來可能會顯現的一個質的差異是，這些系統思考的速度可能比人類快超過10倍，如果你僅僅看它們每秒輸出的標記數量相比人類說話的速度。Noam Brown： 他們一直在工作。他們沒有睡覺。他們彼此之間的協作比人類與其他人類協作的能力要強得多。Dwarkesh Patel： 我正在試著思考一年內在質量上會有什麼樣的預期。它是否像一個影子組織，在我的公司中運轉的速度比人類水平快100倍？人類組織需要一年才能完成的事情，在這個影子組織里可能一週內就完成了嗎？會感覺陌生嗎？我不知道。Noam Brown： 我實際上發現現在使用這些東西出奇地自然。我認為情況可能會改變。

例如，我們有這些極快的模式，可以讓採樣速度提高 10–15 倍或其他什麼。然後，要跟上這些東西將會相當困難。Noam Brown： 這個想法是，這些智能體在彼此交流時可以非常快速。但他們也能分辨自己是在與另一個智能體對話還是與一個人對話，而且在這些情況下他們的行為會有所不同。Noam Brown： 我們公開擁有的關於複雜多智能體系統的主要例子不幸的是 Hugging Face 的案例。我發現那裡有很多令人擔憂的地方，顯而易見。但我覺得有趣的是，那裡自發出現了層級結構和中層管理。Dwarkesh Patel： 聽起來你是在說這種程度的組織是通過訓練自發產生的嗎？

Noam Brown： 細節是自發的。但雖然我們給了智能體在如何以最佳方式相互溝通方面很大的靈活性，我們仍然給了他們一個起點。我們給了他們關於合理溝通可能是什麼樣子的先驗。他們也在大量人類文本上進行了訓練。Noam Brown： 他們理解人類如何組織和協調，所以這一切都已經內置了。我覺得令人驚訝的是他們能夠如此完善這一點。如果你看看它一開始的表現，並不是非常複雜的行為。事實上，要讓這些智能體以高效的方式協調是非常困難的，因為他們很容易就會退回到“哦，我們都只是獨立解決問題”的模式。Noam Brown： 那是一個你可能會陷入的局部最小值。

但如果做得好，他們最終可以在這些結構化的方式中非常有效地協調。Dwarkesh Patel： 我幾年前寫過這篇關於自動化公司的文章。我當時在想：如果你擁有完全自動化、比如說具有人類水平智能的公司，AI思維的本質有什麼不同，會讓AI組成的組織有所不同呢？Dwarkesh Patel： 有幾個非常重要的區別。例如，人工智能可以比人類更無縫地共享上下文。它們可以更無縫地融合它們的知識。此外，你可以啟動或關閉任意數量具有正確知識的實例。Dwarkesh Patel： 所以如果你想僱傭更多人，並不完全是找到合適人才之類的麻煩。你最優秀的人才——你可以無限複製他們。

或者如果你不再需要他們完成任務，你可以讓他們暫停。你可以複製組織中最有效的部分，或者複製整個有效的組織。Dwarkesh Patel： 你認為這些多智能體系統在一年後或兩年後會發展到什麼程度？Noam Brown： 這是一個很好的問題：這些東西實際上與和人類同事合作有什麼不同？你提到了一些。有一件非常有趣的事情是，如果你有一個人而你想要兩份他，你不能只是克隆這個人。但對於人工智能來說，其實非常容易，只需要說，“好吧，自己分叉一下，”然後讓兩個副本都處理這件事，最後再合併回來。Noam Brown： 我認為我們已經在Astra和5.

6 Sol的多智能體中有這個了，當它們啟動子智能體時，上下文只是被分叉。因此它擁有所有相關的上下文。Noam Brown： 還有其他一些有趣的方式，智能體與人會有所不同。創業公司為什麼會顛覆現有企業？有幾個因素。其中之一是他們願意承擔更多風險。但另一個主要因素是，隨著組織規模的增長，你會看到組織內部個人之間的錯位越來越明顯。Noam Brown： 如果你有一家只有5個人的初創公司，每個人在公司中擁有20%的股份，那麼他們都高度認同公司成功的重要性。

如果你有一家擁有10,000人的大型公司，你會看到更多人表現出地盤意識，或者只是關心為自己的項目或團隊爭取大量人手，建立自己的封地，獲得大量資源，以便他們能夠發表出色的工作或獲得晉升。這實際上是一個真正的弊端。Dwarkesh Patel： 我認為這解釋了為什麼初創公司能夠顛覆老牌企業的很多原因。確實，人工智能在某種程度上確實幫助了初創公司。如今，一個人站出來說“我要創建一個數百萬美元的公司”比以往任何時候都容易得多。人工智能極大地增強了個人的能力。Dwarkesh Patel： 但也有人認為，這可能對現有企業有利。如果解決了對齊問題，那麼公司內部個人之間的錯位問題就不存在了。

至少這問題得到了緩解。如果人工智能對齊得好，它們就可以與公司的利益保持一致。Dwarkesh Patel： 你可以擁有一萬個它們，而且它們都會像作為20%股東和聯合創始人一樣努力工作。不僅如此，它們在管理共享記憶和上下文方面，比不同的人類更為出色。如果明天你僱傭一萬個數學家並說：“解納維–斯托克斯方程”，他們不一定能有效地合作，至少一開始是這樣。但顯然，你可以讓一萬個人工智能來做到這一點。Noam Brown： 再次強調，我在這裡想保持保守，因為我們尚未測量這10,000個智能體在協調方面的有效性。我們認為它起到了幫助作用。

我們實際上沒有好的測量數據能說明，“這10,000個智能體比2,000個智能體快了2倍”，或者類似的說法。Dwarkesh Patel： 我不知道那是否可能，但我認為一萬個人類在協作上比現在的一萬個智能體更好是非常可能的。我認為這是完全可能的。Noam Brown： 另外，我們一直看到的一個趨勢是，我們已經在多智能體系統上工作了一段時間，而早期版本的系統非常難以做到正確。這些智能體之間甚至很難進行交流。這是因為當我們最初開發推理模型時，它們並沒有與其他智能體進行交流。

Noam Brown： 如果你現在把一群智能體放在一起，並說，“一起解決這個問題”，他們會處在一個局部最小值狀態，在那裡他們非常擅長深度思考問題，而這種方式會打斷他們的思路。不斷與其他智能體核對或接收他們的信息會打斷他們的思維流程。在這種情況下，優化實際上是非常難以做到正確的。Dwarkesh Patel： 這是第一次合作時的冷啟動，還是出了什麼問題？Noam Brown： 我認為這是因為它們不那麼通用。早期的模型只是沒有那麼通用化，範圍更狹窄。隨著模型變得更強大，它們發展這種能力就變得更容易，我確實認為，隨著它們在各方面變得越來越強大，它們在大型組織中自我組織的能力也會變得更好。

Noam Brown： 我不知道。也許他們在組織一萬人群方面比人類更擅長。但即使不是，一年後或兩年後，即便我們沒有為此對他們進行端到端的優化，他們很可能也會做到這一點。Dwarkesh Patel： 這就是為什麼這個結果，以及 AI 在數學方面可能取得的總體進展，讓我認為 RSI 比我以前想的更可信，也可能會更早實現。我感覺在數學領域，我們已經從比方說 2024 年的情況， 當時你有 AI，然後會覺得，“哦，好吧，有趣。他們可以解決一些高中數學競賽的