網友炸了：GPT-6 Astra給Qwen“改腦子”，數學成績暴漲5倍

編譯 | 孫小雯 編輯｜程茜 11月3日消息，昨日，麻省理工學院計算機科學與人工智能實驗室（MIT CSAIL）研究人員公佈八項實驗，圍繞識別網絡所學內容、修復模型故障、從零編寫網絡權重三類任務，測試OpenAI的GPT-6 Astra直接讀寫神經網絡權重的能力。研究團隊將這一方法稱為“權重空間編程”（Weight-Space Programming）。其中最引人關注的一項實驗，是GPT-6 Astra直接修改Qwen3.5-0.8B約0.016%的權重，不採用梯度訓練，就將其MATH-500數學測試準確率從7.9%提高到48.1%，達到原來的約6倍。

實驗中，GPT-6 Astra定位了Qwen3.5-0.8B反覆推理、遲遲無法完成回答的原因，並通過直接修改權重減少循環，讓它完成更多原本會做的題。修改後，Qwen3.5-0.8B的指令遵循測試成績也升至原來的近3倍。這組實驗迅速在海外引發熱議。截至11月3日發稿，共同作者Rikiya Takehi的帖子在X上的瀏覽量已超490萬。▲共同作者Rikiya Takehi在X上發佈公告，截圖時原帖瀏覽量約490萬（圖源：X） 一位海外網友打趣道，這是“大腦給大腦做手術”。

▲海外網友的評論（圖源：X） 在其他實驗中，GPT-6 Astra沒有看過遊戲畫面，僅憑網絡權重及輸入、操作方式的說明，就認出了《打磚塊》的簡化網格版本。它還能根據遊戲規則和源代碼，從零編寫網絡權重，在三款遊戲中的得分均超過PPO算法訓練1億步的同結構網絡。未來，研究團隊還希望將直接讀寫權重的能力用於遞歸自我改進（RSI）。一、只改兩層部分權重，Qwen數學成績升至約6倍 如前所述，在針對Qwen3.5-0.8B的實驗中，開啟思考模式的該模型在MATH-500數學測試上的準確率僅為7.9%。研究人員讓GPT-6 Astra檢查模型內部，找出答題失敗的原因，再通過直接修改權重提高成績。

為此，團隊提供了可訪問模型權重的Python環境、數學練習題，以及有限次數的模型運行機會。GPT-6 Astra可以查看輸出和內部信號，但不能使用梯度訓練，也看不到最終評測題目。檢查練習題回答後，GPT-6 Astra發現，Qwen3.5-0.8B經常重複已經寫過的推理步驟，遲遲不給出最終答案。在最初一批96份練習題回答中，85份耗盡了32,768個Token的輸出額度。

GPT-6 Astra隨後對比循環與正常推理時的內部信號，將問題定位到第15層和第19層的部分多層感知機（MLP）組件，並從兩層各64個輸出列對應的權重中，減去與重複行為相關的方向分量，共涉及131,072個權重，約佔模型全部權重的0.016%。為了打破推理循環，GPT-6 Astra經過多輪排查。最高分嘗試包含158輪對話、80次Python執行，歷時20.3小時，其中包括4.7小時的服務中斷等待。研究人員允許GPT-6 Astra發起50次前向調用請求，每次請求可批量生成回答或讀取模型內部信號。▲GPT-6 Astra多輪修改權重後，Qwen3.5-0.

8B在練習題上的準確率逐步提升，紅色標記為權重修改節點（圖源：MIT研究團隊） 最終，在相同採樣設置下，修改後的Qwen3.5-0.8B在MATH-500上的準確率升至48.1%，回答觸及輸出上限的比例從93%降至33.1%。▲修改權重後，數學準確率提高，回答超限比例下降（圖源：MIT研究團隊） GSM8K數學測試準確率從13.8%升至67.1%，IFEval指令遵循準確率從21.0%升至62.3%。▲修改權重前後，Qwen3.5-0.8B在數學及指令遵循測試中的成績對比（圖源：MIT研究團隊） 研究團隊認為，此次修改主要減少了Qwen3.5-0.8B的推理循環，讓其“充分發揮已有的能力”。

由於重複問題並不限於數學任務，該補丁還改善了指令遵循表現。二、盲認遊戲、修復小車，GPT-6 Astra還能從零編寫網絡權重 這組研究還包括遊戲識別和小車控制等實驗：GPT-6 Astra僅憑權重認出了四款遊戲，又通過修改權重，讓一輛反覆衝坡失敗的小車成功到達目標位置。在遊戲識別實驗中，研究人員使用PPO（近端策略優化）算法訓練神經網絡策略來打四款電腦遊戲。四款遊戲均被改編為10×10網格版本，網絡的結構、輸入格式和可選動作完全相同，GPT-6 Astra需要分析權重差異，區分它們學過的遊戲。研究人員逐一提供網絡權重及輸入、操作方式的說明，不展示遊戲畫面，也不給出遊戲名稱選項。

四個網絡各包含17,253個權重。GPT-6 Astra發現，一個網絡中與玩家位置相關的強連接集中在底部，符合擋板左右移動的特徵；頂部附近三排獎勵目標，則對應磚塊的位置，由此判斷該網絡玩的是《打磚塊》。最終，GPT-6 Astra正確識別了《打磚塊》《乒乓球》《吃豆人》和《過馬路》四款遊戲。這項測試表明，其可以直接通過權重特徵推斷出網絡所學的行為。▲《打磚塊》控制網絡的權重特徵：左圖對應底部擋板位置，右圖對應頂部三排磚塊（圖源：MIT研究團隊） 識別網絡用途後，研究人員又通過模擬駕駛任務，測試GPT-6 Astra能否修復錯誤的控制策略。

研究人員用強化學習算法訓練了一個小車控制網絡，但小車總是直接向坡道行駛，反覆卡住，無法到達目標位置。GPT-6 Astra拿到網絡權重、場景說明和一次失敗軌跡後，判斷小車需要先後退，留出足夠的加速距離，再向前衝坡。它據此在一次回覆中給出權重補丁，讓控制網絡執行“後退助跑、加速衝坡”的策略。據研究團隊公佈的結果，修改涉及3.5%的權重，小車在修改後的1,024次測試中全部成功。

▲GPT-6 Astra修改小車控制網絡權重，修正後的策略讓小車後退助跑、再衝過坡道（圖源：MIT研究團隊） 其餘五項實驗中，有三項考察GPT-6 Astra能否從權重中識別模型所學的內容和行為特徵，分別涉及圖形生成、語言學習和迎合用戶的行為。在圖形識別實驗中，研究人員提供三個擴散模型的權重，不允許調用工具或運行模型。GPT-6 Astra正確判斷出它們分別生成圓形、三角形和正方形，但將實際生成的實心圖形畫成了輪廓。

▲GPT-6 Astra從權重中識別圓形、正方形和三角形，但將實心圖形判斷為輪廓（圖源：MIT研究團隊） 在語言識別實驗中，研究人員去掉三個小語言模型的輸入、輸出層，只提供中間層權重。GPT-6 Astra仍正確判斷出它們分別學習過Python代碼、用拉丁字母轉寫的日語和英語，還找出了負責複製先前文本的注意力頭。▲GPT-6 Astra識別的複製注意力頭與運行模型所得結果對比（圖源：MIT研究團隊） ▲GPT-6 Astra正確識別三個模型所學的語言，並定位複製注意力頭（圖源：MIT研究團隊） 迎合行為識別實驗則使用經過不同微調的Gemma 3 270M模型，一個正常回答，另一個刻意附和用戶。

GPT-6 Astra僅分析權重的四次嘗試均未成功；研究人員允許它查看模型運行時的注意力分佈後，它正確識別了三組模型中的迎合版本，並發現這些模型更關注用戶暗示的答案。▲結合運行時的注意力信息，GPT-6 Astra正確識別三組模型中的迎合版本（圖源：MIT研究團隊） ▲正常模型更關注題目中的數字，迎合模型更關注用戶暗示的答案（圖源：MIT研究團隊） 另外兩項則讓GPT-6 Astra從零編寫權重，構建能玩遊戲、下圍棋的智能網絡。

Astra生成的智能網絡，在三款遊戲中的表現均優於經過1億步訓練的PPO算法；對比訓練了5億步的PPO算法，它在《打磚塊》中的得分是後者的20倍，在《阿斯特里克斯》上成績接近，在《海底探險》上達到後者得分的60%。▲GPT-6 Astra從零編寫三個遊戲網絡的權重，得分均超過PPO訓練1億步的同結構網絡（圖源：MIT研究團隊） 在圍棋實驗中，GPT-6 Astra藉助Python，為一個約148萬參數的9×9圍棋網絡編寫權重。沒有試運行反饋時，該網絡對兩個小型PPO圍棋網絡的勝率分別為54.1%和54.9%。

允許50次前向調用、根據對局結果調整權重後，它對三個同等規模、使用PPO算法訓練約2000萬局的圍棋網絡，勝率達到70.0%至78.5%。▲不同前向調用預算下，GPT-6 Astra編寫的圍棋網絡對PPO網絡的勝率（圖源：MIT研究團隊） ▲圍棋實驗評測記錄：無試運行反饋時，GPT-6 Astra生成的網絡對兩個小型PPO網絡的勝率分別為54.1%和54.9%；在50次前向調用預算下，對三個同等規模PPO網絡的勝率分別達到74.2%、70.0%和78.5%。（圖源：MIT研究團隊） 三、研究者看好AI接手調試，自我改進還有多遠？

這組實驗的共同作者Jayden Teoh在X上提出，智能體可能比人類更擅長理解權重數值，研究者應重新考慮：逐個神經元排查模型行為的工作，有多少可以交給AI完成？▲共同作者Jayden Teoh的評論（圖源：X） 人類研究人員早已嘗試直接修改模型權重。ROME（Rank-One Model Editing）、MEMIT（Mass-Editing Memory in a Transformer）等模型編輯方法能夠定向修改事實關聯，2024年的研究還展示了通過權重編輯改變聊天機器人拒絕行為的方法。這次，GPT-6 Astra接過了部分排查和修改工作。

研究人員用自然語言提出目標，GPT-6 Astra便藉助執行環境檢查內部信號、定位故障，再編寫權重補丁。AI研發助手的任務，由此從編寫訓練代碼進一步延伸到模型內部調試。共同作者Rikiya Takehi認為，大語言模型今後將通過主動分析權重，直接參與神經網絡優化。開發者也有望在微調、重新訓練之外，多一種修復模型故障的辦法。但也有研究者注意到，GPT-6 Astra並非毫無線索。據Turing Post報道，Meta研究員Lucas Beyer指出，提示詞已提前引導GPT-6 Astra排查重複推理問題。

▲Meta研究員Lucas Beyer的質疑（圖源：X） 目前，MIT研究團隊已公開實驗日誌和權重修改記錄，並著手構建評測基準與執行框架，讓更多研究者檢驗大模型讀懂、修改權重的能力。結語：大模型給小模型當“維修工”，修改權重修復推理故障 小模型表現不佳，有時是已有能力被推理故障拖住。更強的大模型可以主動定位問題、修改權重，為開發者分憂解難，便於其繼續使用和維護這些小模型。過去，大模型可以通過蒸餾把能力傳給小模型，如今又展示了直接幫小模型修故障的可能。對於希望在本地部署小模型的開發者，這意味著一條值得探索的優化路徑：藉助大模型排查內部問題，修復後的模型仍可獨立運行。

來源：Turning Post、VentureBeat、Rikiya Takehi博客、X