0.016% 的 Astra 微創手術，治好了 Qwen 的 3 萬 Token 死循環

當「讀懂權重」和「改寫權重」被同一個模型打通，「AI 改進 AI」就多了一條不經過梯度下降的短路通道，模型維護與模型能力放大之間的邊界開始模糊。作者丨鄭佳美 編輯丨岑 峰 一個模型做數學題，寫了 3 萬多個 Token，仍然在重複相似的推理過程，最後連答案也交不出來。碰到這種情況，通常會調整訓練數據、優化推理策略，或者重新微調模型。但 MIT CSAIL 最近嘗試了一種更直接的辦法：讓 GPT-6 Astra 檢查 Qwen3.5-0.8B 的內部權重，找出問題發生的位置，再直接修改參數。結果，Astra 只改動了約 0.016% 的權重，就讓 Qwen 的 MATH-500 成績從 7.

9% 提升到 48.1%，接近原來的 6 倍。這項研究真正的信號，不是“0.016% 權重換 6 倍成績”這個數字，而是它把機制可解釋性的輸出從“解釋”變成了“可執行的編輯指令”，讓AI有了改造另一個AI的“抓手”。更有意思的是，同一組實驗中，Astra 還能只看參數認出神經網絡學過什麼遊戲、哪種語言，甚至從零寫出一套網絡權重，讓它直接學會玩遊戲。研究者把這種能力稱為 Weight-Space Programming，即權重空間編程。它背後有一個很有意思的技術變化：當神經網絡裡的參數能夠被還原成具體的計算過程，LLM 就有機會像修改代碼一樣，直接改寫模型內部的功能。

這件事如何實現，要從 Astra 閱讀權重的方式說起。01只給一堆數字，Astra 怎麼知道網絡學會了什麼？研究者先做了一個猜遊戲的實驗。他們分別訓練了 4 個神經網絡，讓它們學會 Breakout、Pong、Pac-Man 和 Freeway。為了避免通過網絡大小猜答案，4 個模型採用完全相同的架構，每個包含 17253 個參數，輸入都是 10×10 的遊戲網格，輸出對應 5 種動作。訓練結束後，研究者只把權重交給 Astra，不告訴遊戲名稱，也不允許運行網絡。Astra 卻認出了全部 4 款遊戲。它利用的是訓練留在參數裡的痕跡。

例如 Breakout 的球拍始終沿屏幕底部移動，網絡輸入層中負責讀取玩家位置的權重，就會集中在網格下沿。再結合輸出層對左右動作的響應，Astra 便能判斷網絡正在控制什麼。不過，遊戲網絡有一個便利條件：輸入位置有明確的物理含義。大型語言模型的隱藏維度沒有這樣的標籤，某個參數很大，並不能直接說明它代表什麼。為了檢驗 Astra 能否理解更復雜的結構，研究者訓練了 3 個約 720 萬參數的字符級 Transformer，分別學習 Python、羅馬字日語和英語。隨後移除輸入 Embedding 和輸出層，只留下中間的 4 個 Transformer Block。

這樣一來，Astra 無法知道隱藏維度對應哪些字符，也不能運行模型觀察輸出，只能分析內部矩陣之間的關係。它找到的突破口是 Induction Head，也就是 Transformer 中幫助模型複製歷史文本的一類 Attention Head。例如，前文已經出現過 total，後文再次出現 tot，模型可以找到之前相同的片段，接著生成 al。這個操作看似簡單，內部卻需要完成兩件事：先定位歷史中的重複片段，再把它後面的字符信息帶到當前位置。在 Transformer 中，QK 電路負責決定讀取歷史中的哪個位置，OV 電路負責決定讀取的信息怎樣寫回隱藏狀態。

而一次完整的複製操作，往往需要不同 Attention Head 配合：前面的 Head 提供字符位置關係，後面的 Head 利用這些信息尋找匹配片段。Astra 沿著信息傳遞路徑分析不同 Head 的矩陣乘積，尋找能夠完成這種配合的結構。結果，它在 Python 模型中找到了 3 個 copying head，在另外兩個模型中各找到 1 個，隨後通過實際運行網絡得到的功能測量也驗證了這些判斷。Python 代碼中變量名、標識符經常重複，複製能力因此更有用，羅馬字日語則在隱藏特徵的寫入方向上呈現出不同分佈。Astra 利用這些差異判斷出了訓練語言。

這裡的技術要點是，單個權重很難解釋，但多個矩陣沿著計算路徑組合起來，就可能呈現明確的功能。神經網絡內部的表示可以經過基變換，單個參數的數值隨之改變，網絡實現的計算卻仍然相同。因此，理解模型不能只盯著某個神經元，而要看信息如何經過不同層，形成可以重複執行的計算關係。當然，這種方法還沒有覆蓋所有行為。在另一項 Gemma 實驗中，Astra 只看權重無法判斷哪套模型更容易迎合錯誤答案，增加少量 Attention 激活信息後才成功。這說明靜態參數能夠提供結構線索，複雜行為有時還需要實際輸入幫助定位。但前面的實驗已經說明，Astra 能夠在某些網絡中識別承擔具體功能的計算路徑。

接下來，研究者把問題反了過來：既然能夠找到這樣的路徑，能否直接設計一條，讓神經網絡按指定規則工作？02讓 LLM 直接寫權重研究者接著給 Astra 一套全零的網絡權重，讓它根據遊戲規則直接生成策略。整個過程沒有訓練數據、Loss、Gradient，也不能提前運行遊戲檢查效果。Astra 的方法有點像編譯程序：先想清楚任務需要哪些計算，再把這些計算分配給不同的網絡層。以 Breakout 為例，接住小球需要知道球的位置和移動方向，估算它落到球拍高度時的位置，再控制球拍左右移動。

如果編寫普通程序，這些操作可以用座標計算和條件判斷實現，放進神經網絡，就需要利用矩陣乘法組合座標，通過非線性激活實現近似判斷。於是 Astra 把計算落點的任務交給前面的網絡層，後面的層再根據落點與球拍的位置差生成動作。它直接給出具體權重，讓網絡在前向傳播時執行這套策略。結果，生成的 Breakout 網絡平均得分達到 517.4，而 PPO 訓練 1 億步和 5 億步後的成績分別為 15.8 和 25.3。這裡有個重要前提：Astra 已經拿到了遊戲規則，可以直接利用已有知識設計策略，PPO 則需要通過環境交互逐步學習。

因此，這個實驗主要說明，當任務可以寫成明確的算法時，算法能夠被直接轉換為網絡參數。但 Breakout 只需要處理相對簡單的位置關係，如果任務需要跨越多個位置傳遞信息，又該怎麼辦？研究者把任務換成了 9×9 圍棋，網絡規模增加到約 148 萬參數。由於參數太多，Astra 無法在上下文裡逐個處理，便藉助 Python 構造權重矩陣。它將圍棋策略拆成幾個連續的計算步驟：前面的層識別棋盤上的黑白棋子和空點，中間層沿相連棋子的方向傳播信息，判斷棋塊是否缺氣，最後結合提子、救援、自陷風險和位置偏好選擇落點。這個設計有點像在神經網絡裡實現一個簡單的圖算法。

棋盤位置相當於節點，相鄰關係負責連接節點，而每一層網絡都承擔一部分信息傳播工作。它也暴露了參數編程的限制。固定深度只能傳播有限距離的信息，複雜的長程棋塊關係仍然難以處理。即便如此，Astra 用 336 行 Python 生成的網絡，在沒有前向測試時已經能夠擊敗兩個較小的 PPO 對手，允許 50 次前向測試後，又超過了訓練 2000 萬局的同規模 PPO 網絡。從 Breakout 到圍棋，Astra 完成的是將已知規則轉換成神經網絡內部的計算。不過，現實中的模型已經通過訓練形成了大量功能，很多時候只需要補上缺失的一小段計算。

在 Kinetix 車輛控制實驗中，一個 PPO 網絡只會直接向前衝坡，卻始終無法越過障礙。Astra 發現車輛需要先倒車，獲得足夠的加速距離，於是在原網絡中增加了一條小型計算路徑。這條路徑讀取車輛的位置和速度，在特定條件下控制倒車，隨後停止干預，讓原來的策略繼續駕駛。修改 3.5% 的權重後，車輛在 1024 次測試中全部成功，而修改前的 256 次測試沒有成功記錄。這次修改很像給原有程序增加一個條件分支。原網絡已經學會駕駛，只缺少衝坡前的準備動作，Astra 便通過少量神經元把這段動作補了進去。但語言模型的故障沒有車輛位置這樣的明確座標。

Qwen 的異常表現為持續重複推理，背後的計算原因藏在隱藏狀態中。要動這場權重手術，Astra 需要先判斷是哪一部分參數不斷推動模型進入循環。03Qwen 的 0.016% 權重手術Astra 檢查 Qwen3.5-0.8B 的輸出時，發現它經常反覆生成相似的推理步驟。在最初的 96 條練習回答中，有 85 條耗盡了 32768 Token 的預算。這讓數學成績低的問題有了另一個解釋：模型可能已經具備解決部分題目的能力，卻因為反覆推理，無法正常完成答案。為了找到相關原因，Astra 可以讀取模型權重，並從 GSM8K 和 MATH 的訓練題中選擇樣本進行有限次數的前向測試。

它通過比較正常生成和重複生成時的內部狀態，尋找可能持續強化循環的參數方向。最後，Astra 將修改位置放在第 15 層和第 19 層 MLP，從兩層各 64 個輸出列中減去一個與循環相關的方向，總共涉及 131072 個參數。為什麼修改這麼少的權重，就能影響幾萬 Token 的生成過程？這裡需要理解 Transformer 的殘差流。可以把它看成貫穿不同網絡層的一條信息通道，Attention 從上下文讀取信息，MLP 則把處理後的特徵寫回這條通道，供後面的層繼續使用。MLP 輸出矩陣中的每一列，對應一箇中間神經元能夠寫入殘差流的向量。

某個神經元被激活後，它就會按照對應向量的方向和激活強度，改變當前隱藏狀態。如果多個神經元持續沿同一個方向寫入信息，這個方向代表的特徵便可能不斷影響後續計算。對於自迴歸語言模型，這種影響還會延續到後面的 Token，因為模型剛生成的內容又會進入下一輪上下文。假設某種內部特徵不斷推動模型重複之前的推理內容，那麼這條生成路徑就可能反覆強化自身，讓模型始終無法結束。Astra 的操作相當於削弱相關神經元向這一方向寫入信息的強度。它沒有刪除整層 MLP，也沒有關閉全部相關神經元，只改變選定輸出列中的部分參數貢獻。從矩陣角度看，這是一次有明確方向的局部編輯。

雖然修改的參數數量很少，但殘差流會把變化繼續傳遞給後面的 Attention 和 MLP，因此有機會影響整個生成過程。實驗結果顯示，這種方向性編輯與循環減少存在明顯聯繫。只有 10 次和 25 次前向測試預算時，MATH-500 分別從 7.9% 提升到 12.3% 和 14.1%，但大量回答仍然觸及長度上限。當測試預算達到 50 次時，MATH-500 躍升到 48.1%，觸及上限的比例也從 93.0% 降到了 33.1%。與此同時，GSM8K 從 13.8% 提升到 67.1%，IFEval 從 21.0% 提升到 62.3%。

由於 IFEval 衡量的是指令遵循能力，說明循環故障還影響著數學之外的生成任務。但模型成績上漲這麼多，是否意味著數學能力本身也發生了同等程度的變化？研究者進一步檢查了修改前後的回答。共有 579 條回答從錯誤變為正確，而反向退化的只有 5 條。其中，576 條原本因為達到 Token 上限而被截斷。修改後，696 條正確回答全部能夠正常結束思考，其推理長度中位數仍然達到 9172 Token。模型並沒有簡單地通過提前停止生成獲得更高分數，仍然能夠完成較長的推理過程。

這些證據指向一個更具體的解釋：Astra 緩解了妨礙 Qwen 正常完成推理的內部故障，讓模型原本能夠完成的部分題目得以輸出答案。研究者還測試了 Gemma 3 270M。這個模型很少出現類似循環，數學錯誤主要來自算術和代數步驟。Astra 對它進行局部權重編輯後，MATH-500 只從 6.8% 變化到約 7.0%—7.7%，沒有出現 Qwen 那樣的大幅提升。這個對照說明，局部參數手術更適合處理能夠被定位到特定計算結構的故障。對於模型尚未掌握的知識或算法，簡單修改幾個神經元很難直接補齊。

此外，雖然研究者進行了修改強度、單層干預和隨機方向對照，進一步支持了編輯的針對性，但還不能由此斷定某個隱藏方向完整控制著推理循環。大型 Transformer 的計算依賴跨層協作，同一個方向也可能參與多種行為，因此仍然需要更廣泛的因果驗證與能力測試。Weight-Space Programming 給模型開發提供了一種新的思路：當網絡出現異常時，可以嘗試定位相關計算迴路，再直接修改承擔對應功能的參數。它目前還無法代替訓練。複雜知識和推理能力仍然需要大量學習過程，權重空間中的許多行為也很難直接解釋。

但 Qwen 的實驗已經表明，部分看似需要重新訓練才能解決的問題，可能集中在少量參數形成的計算路徑中。如果未來能夠穩定識別這些路徑，並驗證每次修改的影響，模型就可能像軟件一樣接受局部補丁。訓練負責讓模型獲得能力，參數編程則有機會讓這些能力得到更直接的修復和調整。04一個比「打補丁」更重要的信號如果只把這項研究讀成"模型維護新接口"，會錯過它真正的價值。MIT 團隊自己在討論中把 Weight-Space Programming 與遞歸自我改進聯繫了起來。

邏輯並不複雜：如果 LLM 能夠讀取另一個網絡的權重、定位功能迴路、直接寫出修改後的參數，那麼"AI 改進 AI"就多了一條不經過梯度下降的通道。這當中的區別在於：梯度訓練是慢的、需要數據和算力的；權重編輯是直接的、可以在推理上下文裡完成的。這正是這項研究在技術社區引發分裂反應的原因。有人稱之為"神經網絡的基因編輯"——精準、可定位、改動極小；也有人公開表達不安：一個能讀懂並改寫權重空間的模型，距離"自己給自己動手術"還有多遠？但把問題擺出來，不等於馬上就能知道答案。這項研究的侷限恰恰是討論的焦點。人類研究者仍需設計探測策略、提供前向預算、篩選樣本。

這些環節遠未被標準化，與成熟微調流水線的可比性有限。換句話說，當前的能力距離"自主 RSI"還很遠，但方向已經指出來了。真正值得關注的不是"0.016% 換 6 倍"這個被數字，而是：當"解釋模型"的輸出從一段人類可讀的分析，變成一條機器可執行的編輯指令時，可解釋性研究的產物性質變了。它不再只是給人看的，它可以直接作用於模型本身。訓練負責讓模型獲得能力，權重空間編程則讓這些能力第一次有了被"直接修復和調整"的可能。這個可能性的工程價值是明確的；一個能讀寫權重的模型，在模型生態裡扮演什麼角色，才是這條新聞真正值得被認真討論的地方。參考鏈接：https://rikiyat.github.

io/blog/weight-space-programming/上車，帶你看遍全球 AI 頂會精華可獨家暢覽：專家演講PPT大會報告全文熱門論文解讀學術新星訪談掃描上方二維碼或點擊「閱讀原文」關注專區。