RSI，田淵棟交卷了！40B本地編程模型開源，MacBook Pro可跑

作者 | 黃菲 編輯 | 江宇 10月22日報道，昨夜，前Meta FAIR研究總監田淵棟參與創辦的AI初創公司Recursive Superintelligence（以下簡稱Recursive）推出首款本地編程模型Flint，該模型主打高速推理，在英偉達RTX Spark上的生成速度超過150 Token/秒，在搭載蘋果M4 Pro芯片的MacBook Pro上超過125 Token/秒，最高可達同類模型的2倍。▲Recursive官宣推出Flint模型，圖源：X 田淵棟隨後在X平臺轉發了這一消息，並介紹了Flint的四大亮點。

▲田淵棟發文Flint亮相，圖源：X 性能方面，Flint在Terminal-Bench 2.1、SWE-Bench Pro v2和SWE-Bench Verified三項Agent編程基準測試中，分別取得了54.9%、89.7%和74.2%的成績，表現領先於總參數量低於500億的其他MoE模型。▲Flint在Terminal-Bench 2.1、SWE-Bench Pro v2和SWE-Bench Verified的表現，圖源：Recursive 訓練方面，Flint完全從零構建，經歷了分詞器開發、預訓練、中期訓練、監督微調（SFT）和強化學習（RL）等環節。

推理速度方面，Flint最高生成速度可達同類模型的2倍。值得一提的是，Recursive僅用了4個月，就完成了Flint整套模型訓練流程的搭建。有網友在體驗Flint後稱，模型能夠很好地完成自己交給它的任務，但執行時間比預期更長。此外，該網友還反饋，即使關閉思考模式，模型的回答依然過於冗長。另一位網友則稱，Flint每Token僅激活25億參數這一點最吸引他。他目前在一臺配備48GB內存的M5 Pro設備上運行約50個Agent，系統往往會因內存壓力提前終止部分進程，算力反而還沒成為瓶頸。

因此，他希望Flint能夠常駐本地內存、隨時調用，接手部分原本由Qwen處理的日常任務，並考慮將其加入自己的模型調度系統。Flint的亮相，也讓其背後的AI初創公司Recursive再次受到關注。今年5月，Recursive正式公開亮相，並宣佈獲得6.5億美元融資（約合人民幣43.68億元），公司估值達到46.5億美元（約合人民幣312.46億元）。彼時，田淵棟在官宣加入Recursive時就曾提到，其將遞歸自我改進（Recursive Self-Improvement，RSI）作為核心研究方向，希望讓AI系統自主開展實驗、持續改進自身，進而推動科學研究自動化。

時隔約5個月，Recursive交出了首款模型Flint。Recursive聯合創始人、首席執行官、“提示工程之父”理查德·索赫爾（Richard Socher）也在社交平臺X上稱，其團隊藉助自動化研究系統Eureka Machine，從零開發了Flint。Flint可以直接在用戶自己的設備上運行，幫助開發者分析代碼庫、修復程序錯誤、實現新功能和編寫測試。▲Recursive聯合創始人兼首席執行官理查德·索赫爾，圖源：X 目前，Flint已採用Apache 2.0許可證開源。開發者可以通過Hugging Face獲取模型權重，並藉助兼容的推理工具在本地部署運行。

開源地址： GitHub： https://github.com/recursive-oss/rec Hugging Face： https://huggingface.co/stepfun-ai/Step-3.5-Flash 一、編程基準表現領先，挑戰同規模MoE模型 Flint採用僅解碼器的混合專家（Mixture of Experts，MoE）架構，總參數量為398億，每Token處理時約激活25億參數。與每次推理都需要調用全部模型參數的稠密模型相比，MoE架構可以根據輸入選擇部分專家參與計算，從而減少單次推理需要激活的參數量。在Terminal-Bench 2.

1、SWE-bench Pro v2、SWE-bench Verified、LiveCodeBench v6、IFBench和IFEval這6項基準測試中，Flint BF16版本的平均得分為80.6分，僅次於Qwen3.8的84.7分，高於Muse Glimmer的74.8分、Qwen3.6的71.7分和Qwen3.5的68.9分。具體來看，Qwen 3.8在Terminal-Bench 2.1和LiveCodeBench v6上分別領先Flint 18.1和10個百分點；Flint則在IFBench和IFEval兩項指令遵循測試中領先其他對比模型。

Flint的NVFP4量化版本在6項測試中的平均得分為80.0分，比BF16版本低0.6分；在LiveCodeBench v6測試中，其得分則比BF16版本高0.5個百分點。▲Flint在編程基準測試中的表現，圖源：Recursive 總體來看，Flint的編程表現可以媲美總參數量為250億至400億的稠密模型，生成速度則是這些模型的5倍。在上下文長度方面，Flint最高支持約51.2萬Token的上下文，並建議開發者將實際使用長度控制在25.6萬Token以內，以獲得更好的編程效果。不過，與參數規模更大的閉源編程模型相比，Flint在處理複雜任務時可能需要更明確的指令。

Recursive建議開發者將複雜任務拆分為較小的子任務，以提高執行效果。二、適配本地設備運行，推理速度最高超150 Token/秒 在推理速度方面，Recursive公佈的測試數據顯示，在配備48GiB內存的蘋果M4 Pro設備上，Flint 40B A2B使用MLX推理框架時，短上下文場景下的生成速度達到131.22 Token/秒，約為Qwen3.6 35B A3B（65.55 Token/秒）的2倍、Nemotron 3.5 Lightning 30B A3B（58.00 Token/秒）的2.3倍，也明顯快於Muse Glimmer 30B（14.54 Token/秒）。

在英偉達RTX Spark上，Flint NVFP4版本的生成速度達到155.82 Token/秒。▲Recursive公佈的Flint推理速度，圖源：Recursive 針對不同硬件，Recursive還優化了專用計算內核。這些優化使Flint在RTX Spark上的生成速度提升55%，且無需修改模型權重。Recursive還推出了自研推理引擎rec，用於在本地運行其語言模型。官方測試顯示，在配備48GB內存的蘋果M4 Pro設備上，使用4 bit量化模型時，rec的Token生成速度達到llama.cpp的1.4至2.6倍。

該測試覆蓋了1K至252K Token的不同輸入長度，每次生成1024 Token，各組測試均重複運行5次，統計結果不包含提示詞預填充階段的耗時。▲推理引擎rec與llama.cpp在蘋果M4 Pro上的Token生成吞吐量對比，圖源：GitHub 在部署方面，Flint支持通過SGLang、Ollama和LM Studio等工具在本地運行。模型支持離線使用，開發者可以根據自身硬件條件選擇合適的運行方式，減少對遠程服務的依賴。三、自動化系統參與研發，優化模型架構與推理效率 Recursive在Flint的開發過程中，通過持續實驗、評估和迭代優化，不斷提高模型訓練和推理效率。

該公司自研的自動化研究系統Eureka Machine能夠自動提出研究方案、編寫實現代碼並開展實驗，再根據實驗結果決定下一步嘗試方向。該系統還可以並行探索多條技術路線，利用此前實驗結果調整後續方案，並組合不同方案中的有效改進。其團隊藉助自動化研究系統Eureka Machine，在不到4個月的時間內從零開發了Flint。在研發過程中，Eureka Machine還參與了訓練數據處理、優化器選擇和訓練方案設計，並對模型基礎設施與推理性能進行優化。模型架構調整就是一個例子。Recursive最初測試的基準方案總參數量為350億，每Token激活30億參數。

隨後，該自動化研究系統Eureka Machine探索了不同的專家配置和網絡寬度，最終選出總參數量約400億、每Token激活約25億參數的架構。Recursive認為，這一方案在其測試過的配置中，更好地兼顧了運行速度與編程能力。模型訓練完成後，該系統又繼續優化模型佔用的內存和推理效率。在量化環節，Eureka Machine嘗試將模型輸出層的參數精度壓縮至4位，並加入離線蒸餾步驟，以彌補低精度處理可能造成的性能損失。最終採用NVFP4格式的模型，在其基準測試中的得分與16位精度版本相差不到0.7分。Recursive的模型訓練時間優化實驗經歷了6輪迭代，訓練耗時從最初的141.

5秒逐步降至77.5秒，整體縮短約45%。最後一輪採用遞歸優化方案，將訓練耗時進一步壓縮至77.5秒，較此前紀錄快2.2秒，創下該組實驗的新低。▲Eureka Machine優化模型訓練耗時的實驗結果，圖源：Recursive Recursive希望將這種研發方式延伸至後續模型開發，讓每一代模型的研發成果反過來提高Eureka Machine的研究能力，進而加快下一代模型的開發。四、八位AI大牛聯手創業，三位華人坐鎮創始團隊 Recursive於2026年5月結束隱身，辦公地位於美國舊金山和英國倫敦，其研究方向涉及自動化算法、模型訓練和能夠自我改進的編程Agent。

該公司團隊已有25人以上，其不少成員曾在Salesforce、Uber、OpenAI、谷歌DeepMind、谷歌Brain和Meta等企業及研究機構任職。Recursive的聯合創始人團隊共有8人，包括聯合創始人兼首席執行官理查德·索赫爾（Richard Socher）、田淵棟（Yuandong Tian）、蒂姆·羅克特舍爾（Tim Rocktäschel）、施天麟（Tim Shi）、喬什·託賓（Josh Tobin）、熊才明（Caiming Xiong）、傑夫·克魯恩（Jeff Clune）和阿列克謝·多索維茨基（Alexey Dosovitskiy）。

▲Recursive Superintelligence八位聯合創始人，圖源：Recursive Recursive聯合創始人兼首席執行官理查德·索赫爾（Richard Socher）是AI領域的知名研究者和連續創業者。他曾師從斯坦福大學教授、AI研究者吳恩達，研究方向包括自然語言處理和深度學習，參與過ImageNet、GloVe等相關研究，谷歌學術引用量超過24萬次。他也是早期推動神經網絡應用於自然語言處理的研究者之一，並因較早系統研究提示工程而被稱為“提示工程之父”。索赫爾曾創辦AI初創公司MetaMind，該公司於2016年被企業軟件公司Salesforce收購。

此後，他創辦了AI搜索公司You.com，並曾擔任Salesforce首席科學家兼執行副總裁。值得一提的是，Recursive創始團隊中有三位華人。田淵棟曾擔任Meta基礎AI研究團隊（FAIR）的研究科學家總監，研究方向涉及強化學習、規劃與效率，以及大型語言模型的理論研究。他本科及碩士畢業於上海交通大學，2013年獲美國卡內基梅隆大學機器人研究所博士學位。博士畢業後，田淵棟於2013年至2014年在谷歌自動駕駛汽車團隊擔任軟件工程師，隨後加入Meta FAIR從事AI研究近十年，並於2025年離開Meta。

▲Recursive聯合創始人田淵棟，圖源：田淵棟個人官網 熊才明曾任企業軟件公司Salesforce AI研究高級副總裁，長期從事AI研究與模型開發。加入Salesforce之前，他曾在MetaMind擔任高級研究員，與索赫爾有過共事經歷。他本科及碩士畢業於華中科技大學，後於紐約州立大學布法羅分校取得計算機科學與工程博士學位，並在加州大學洛杉磯分校完成統計學博士後研究。▲Recursive聯合創始人熊才明（Caiming Xiong），圖源：熊才明個人網站 施天麟（Tim Shi）是清華大學姚班校友，曾在斯坦福大學人工智能實驗室攻讀博士學位，研究方向涉及機器學習與AI系統。

2017年，他加入OpenAI，參與早期AI Agent研究。隨後，他聯合創辦企業AI公司Cresta，並擔任聯合創始人兼首席技術官，推動AI技術在企業銷售和客服場景中的應用。此後，他參與創辦Recursive Superintelligence。▲Recursive聯合創始人施天麟（Tim Shi），圖源：施天麟個人網站 其他聯合創始人也擁有不同的研究和創業經歷。蒂姆·羅克特舍爾是倫敦大學學院教授，曾在谷歌DeepMind從事AI研究；傑夫·克魯恩長期研究開放式算法和自我改進AI。

結語：速度與實用性兼得，本地編程模型研發提速 Flint的推出體現了本地編程模型在代碼生成能力之外，對運行效率與部署體驗的重視。模型在本地運行，可以減少對雲端算力的依賴，也有助於降低代碼和數據向遠程服務器傳輸的需求，也讓開發者擁有更靈活的使用方式。Recursive將混合專家架構與自動化研發系統Eureka Machine結合，既優化了模型的本地運行效率，也探索了以自動化系統加快模型研發的新路徑。來源：Recursive