無問芯穹聯合清華、上交正式開源具身端側推理引擎APXInf,Pi 0.5性能SOTA

2026年9月15日 18:47
無問芯穹聯合清華、上交正式開源具身端側推理引擎APXInf,Pi 0.5性能SOTA
站內 AI 整理稿

卡位具身智能規模化落地“最後一公里”!今天的具身模型,已經能夠看懂環境、理解指令,並把看到的、聽到的信息轉化為機器人該怎麼動的決策。但機器人最終還是要在物理世界裡連續幹活——從“眼睛看到”到“大腦決策”再到“手腳動起來”,整套流程都需要在極短的時間內完成閉環,這也是具身智能從 Demo 走向規模化應用,繞不開的核心關卡。而當一個在雲端運行良好的具身模型,放到機器人本體上,首先要面對的問題往往不是“模型夠不夠聰明”,而是推理系統本身: 模型部署到機器人上,能不能開機秒加載?機器人本體的算力資源有限,能不能榨乾端側每一分算力?每一次推理的延遲,能不能低到不拖後腿的程度?

開發環境裡跑得好好的模型,到了機器人本體上,能不能穩定不翻車?對於雲端的聊天機器人而言,幾百毫秒的延遲或許只是體驗上的細微差異;但對於需要持續感知、連續決策和實時控制的機器人而言,幾百毫秒帶來的可能是動作遲滯、軌跡不連貫,甚至多次任務的失敗。而當機器人走向規模化落地,還會疊加另一筆更加現實的“經濟賬”:算力成本、功耗,以及有限硬件資源的利用率。因此,具身智能規模化落地需要的,並不是簡單地把雲端推理框架“搬”到機器人本體,而是一套真正面向端側場景設計的推理系統:在有限的算力、功耗和成本約束下,兼顧小 Batch、低延遲與持續實時交互,並充分挖掘硬件的性能上限。

今天,無問芯穹聯合清華大學、上海交通大學,正式開源具身智能端側推理引擎——APXInf,超前卡位具身智能從模型能力走向規模化落地的核心環節。APXInf 支持 RTX 4090、Jetson Orin、Jetson Thor 等主流計算平臺,覆蓋從模型開發、效果驗證到機器人本體部署的完整鏈路。它關注的不只是讓具身模型在真實機器人上能夠“跑起來”,更希望可以在有限資源下“跑得夠快、夠穩,也足夠容易接入拓展和持續迭代”。目前,APXInf 已實現: PI 0.5 FP8在Jetson Thor上實現端到端推理延遲從 278ms 降低至 26 ms 以內 在 FP8下達到 38.

46Hz 推理頻率,完全滿足機器人多場景下實時控制對推理頻率和響應延遲的要求。通過針對機器人端側場景的系統性推理優化,APXInf 希望能夠進一步縮短具身智能從 POC 走向規模化落地的那“最後一公里”。開源地址: GitHub:https://github.com/RLinf/APXinf-robo Quick Start:https://github.

com/RLinf/APXinf-robo#quick-start 01 讓具身模型在機器人本體上跑得更快、更穩、更敏捷 當下具身智能的規模化落地,實際上同時面臨兩類需求: 一端,是機器人本體對推理系統提出的嚴苛要求:極致性能、低延遲、低功耗與高穩定性; 另一端,是開發者越來越強烈的工程訴求:模型能夠快速接入、能力能夠敏捷驗證、系統能夠持續擴展。但現實是,性能與工程效率往往很難同時兼顧。

現有的一些方案能夠跑得快,卻需要大量複雜的底層適配與工程集成;有的方案運行穩定,卻難以滿足機器人實時控制所需要的低延遲;還有一些方案雖然接口簡單,但面對不同模型、不同硬件和不斷變化的 VLA 架構時,擴展成本依然很高。APXInf 則罕見地同時兼顧了性能與工程效率,讓具身模型在機器人本體跑得“更快、更穩、更敏捷”。1.更“快”:端到端優化推理性能SOTA,讓實時控制成為可能 APXInf 的“快”,並不是單純追求某一個模型算子的峰值性能,而是圍繞機器人真實執行鏈路進行端到端優化。通過Pipeline、Graph、Kernel及量化等多層優化,降低具身模型端到端推理延遲。

同時通過冗餘特性的系統設計,為模型進行定製化的運行時,在更加輕量化的同時實現極致的性能挖掘,搭配上 Agent4Kernel 技術進行極限優化的融合算子,實現性能SOTA: 在 Thor 上,APXInf 將 PI 0.5 FP8 的端到端推理延遲從 278ms 降至 26 ms 以內,頻率可達 38.46 Hz,為機器人實時感知與控制提供更充足的響應空間。10.7 倍的推理延遲下降,對機器人而言,意味著更快的“感知-決策-動作”閉環,也意味著具身模型有機會在真實機器人上進入更加實時的工作狀態。2.更“穩”:可靠原生框架,面向長期持續穩定運行 機器人端側推理並不是“一次跑通”就結束了。

它面對的是長時間運行、連續感知與控制、有限計算資源,以及感知、推理、控制等多個模塊同時運行的複雜環境。對於機器人而言,真正難以接受的並不是偶爾“慢一點”,而是在持續運行過程中出現抖動、異常、中斷,甚至因為內存、併發或資源管理問題導致整個系統失穩。因此,APXInf 的“穩”,強調的是真實部署環境中的可預測性和持續運行能力。

創新架構:使用 Rust 系統語言構建的極簡運行時 + Python 易用接口 利用冗餘特性設計,打造極簡化運行時,降低運行開銷的同時做到可核查、可驗證 利用 Rust 語言提供的內存安全特性,進一步提升引擎穩定性、降低易錯面,從源頭規避內存風險 通過 Python 接口封裝,保留開發者熟悉的調用方式,兼顧底層硬核與上層易用。這也是 APXInf 面向真實機器人部署所做的架構選擇:既追求端側性能,也關注系統長期運行的穩定性,同時儘可能降低開發者的使用門檻。3.

更“敏捷”:降低接入與優化成本,面向 Agentic Native 演進的推理系統新範式 如果說前面的努力解決了“跑得夠不夠快”和“能不能長期穩定地跑”這兩道題,那麼 APXInf 進一步關注的問題是:面對日益豐富的具身模型和越來越複雜的具身系統,模型究竟應該如何更快、更敏捷地接入,並持續迭代優化?傳統的推理引擎多使用編譯技術或降低開發難度來解決新模型接入的問題,但往往很難兼顧極致的性能和模型接入效率。

如今,大模型能力日新月異,我們得以在保持對模型極致優化的同時,利用 Agentic Engineering 快速實現新模型的適配與接入——這一能力不僅可以加速我們自身的研發迭代,還會開放給 APXInf 的開發者,讓用戶自研模型的接入與優化變得簡單和敏捷。為此,APXInf 從設計之初就以適配 Agentic Engineering 研發流程為出發點,重新思考推理引擎的系統設計,通過冗餘特性、功能隔離、工具箱模型等方法,顯著提升 APXInf 與 Agentic Engineering 的適配度,降低研發門檻,使得 Token 可以更便利高效地轉化為生產力。

APXInf 也將面向 Agentic Native 持續探索和迭代。我們希望 APXInf 帶來的並不只是降低某一個模型的部署門檻,而是去探索一種全新的面向 Agentic Engineering 時代的推理系統構建範式:讓推理引擎不再只是一個被動執行模型的 Runtime,而是連接模型、硬件、機器人與開發者,推動 Agentic Infra 持續演進。02 開源清單 APXInf 本次首發支持兩款具身模型: PI 0.5、WALL-OSS 。硬件支持 Jetson Orin、Jetson Thor 及 RTX 4090,並提供統一的模型接入方式。

Roadmap 支持更多的模型,VLA、VLM、世界模型等(已在適配中模型:Qwen、Groot) 持續優化重點開源模型,擴充SOTA模型列表 極致的 nvfp4 性能優化 持續拓展國產化生態支持,支持國產芯片算力後端,支持國產機器人操作系統 適配AMD等行業主流芯片 03 RLinf × APXInf:一條工程鏈路上的前後端 對於具身智能而言,模型訓練與本體推理從來不是彼此割裂的兩個環節,而是同一條工程鏈路上的前後端。2025 年 9 月,無問芯穹聯合清華大學等團隊開源了全球首個面向具身智能的大規模強化學習訓練開源框架,專為通過強化學習對具身大模型進行後訓練而設計。

當訓練完成的具身模型真正進入機器人本體並開啟規模化應用後,下一步需要解決的,正是端側推理與部署:在有限算力和功耗約束下,以小Batch的工作負載實現更低延遲、更高吞吐和更穩定的實時運行。APXInf 銜接的正是這一環。它將 RLinf 的能力從模型訓練與評測進一步延伸至機器人端側推理與部署。此次開源,APXInf 也將作為 RLinf 開源生態中的端側推理項目首發,讓開發者能夠沿著同一套具身智能技術生態,完成從模型訓練、效果驗證,到本體部署與真實機器人運行的完整流程。

從訓練,到推理;從雲端,到本體;從“模型會做什麼”,到“機器人真正做出來”——APXInf 正在補上具身智能規模化落地的關鍵一環。04 開源招募 APXInf第一版只是一個起點。無問芯穹希望的,是與具身模型開發者、機器人團隊和端側系統開發者一起,把模型接入、運行優化和本體部署沉澱為更加標準、可複用,也更適合代碼 Agent 參與的開發流程。如果你: 正在嘗試把 π0.

5 等具身模型部署到機器人本體; 正在基於 RTX 4090、Jetson Thor或Orin等硬件進行項目開發; 正在為新的具身模型尋找端側推理引擎; 希望參與具身模型接入Skill和Agentic部署流程的建設; 歡迎體驗 APXInf、提交 Issue 或貢獻 PR。GitHub:https://github.com/RLinf/APXinf-robo Quick Start:https://github.com/RLinf/APXinf-robo#quick-start

Related

相關文章

國內首個半導體工藝保護流體材料重大突破

本文作者: 徐咪 2026-11-03 17:41 導語:上海凱銳恩將持續加大研發與產業化驗證投入,深化與國內半導體設備企業的協同合作,將半導體工藝保護流體成型技術推向全球市場。歷時近七年自主攻關,上海凱銳恩半導體科技有限公司成功開發出應用於晶圓級工藝保護的流體成型材料及配套熱壓成型設備,建立起完整的知識產權體系,實現“材料+設備+工藝”三位一體。

2 小時前

預售24.98萬起,全系搭載寧德電池,LS8 NEO能否撬動25萬級市場?

25萬級SUV的市場正在呈現鮮明的對比:增程賽道的競爭日漸旺盛,而純電市場回暖增長。在4月發佈的LS8增程版本基礎上,智己順勢推出了LS8 NEO,卡位純電競爭。預售權益價為24.98萬起,新車定於11月5日正式上市。在這臺25萬級的SUV上,全系標配了寧德時代電池、全線控靈蜥底盤、後輪轉向和800V高壓平臺。

3 小時前

xTool 的「快」與「難」:硬門檻、多線程研發與生態擴張

一個女孩在生成器裡輸入了第一次約會的日期和城市。那天是農曆十六,他們在海邊,月亮又大又圓。系統調取 NASA 的真實月相數據,還原了當晚月亮的樣子。她把它雕刻出來,做成一盞可以捧在手裡的月亮燈。這輪月亮,在任何一個模型網站上都找不到。因為那是隻屬於她的月亮。

3 小時前

阿里達摩院玄鐵 C950 榮獲“中國芯”年度重大創新突破產品獎

11月2日,以“智啟芯途 協同共生”為主題的 2026年“中國芯”集成電路產業促進大會暨第二十一屆“中國芯”優秀產品徵集結果發佈儀式在珠海橫琴舉行。大會匯聚集成電路領域院士、專家與產業代表,共同交流技術創新與產業協同發展的新路徑。本屆大會上,阿里巴巴達摩院旗下玄鐵 C950 榮獲“年度重大創新突破產品獎”,表彰玄鐵 C950 在高性能 RISC-V 處理器領域取得的實質性技術創新突破。

7 小時前

速賣通雙11開門紅!品牌成交同比大漲200%

海外雙11於11月1日正式開賣,記者從阿里旗下跨境電商平臺速賣通獲悉,開賣首日,速賣通Brand+品牌生意火爆,和去年11月1日大促相比,成交大漲超200%,滲透率突破50%。 在稅改、監管變動的大背景下,速賣通搶先佈局品牌化+本地化,成為品牌出海全新主場。多個國家市場的品牌成交均實現三位數增長,其中歐盟逆勢大漲181%,美國、韓國增長超4倍,巴西也實現翻倍增長。 海外雙11首日還湧現出一批新的百萬美金商家。除手機品牌小米、POCO、榮耀外,儲能品牌Oukitel、電氣設備品牌Zendure、清潔家電品牌Laresar等,首日成交額均突破100萬美元。 (多個速賣通品牌商家表示雙11銷量超預期) “銷量超預期!”“賣得最快的一次!”是速賣通品牌商家們對這次雙11的普遍感受。在Brand+計劃的護航之下,速賣通多個品類在多個國家市場實現全面開花。 電氣設備品牌EcoFlow橫掃歐美。今年9月,EcoFlow在柏林國際消費電子展上與速賣通Brand+達成合作,隨後即在雙11大促中迎來相比日銷150倍的爆發,拿下德國市場家裝類目單品Top1。 家居體脂秤品牌沃萊合作速賣通網紅帶貨,“平均1分鐘出3單!”雙11首日銷售額相當於近一個月總和的3倍。 清潔電器品牌Uwant聯合Brand+在韓國新品首發集塵站吸塵器V600,首日銷售額超10萬美金;1200臺除蟎儀40分鐘售罄;品牌銷量首日同比去年增長218%。 咖啡用具品牌1ZPRESSO,通過Brand+提前鎖定價格和庫存,強勢綁定韓國網紅測評及團購資源,爆款單品的首日銷量追平8月大促全週期。 騎行運動品牌RAMYPOCKET及ELITEWHEELS也雙雙在歐洲“拿到大結果”。通過提前在速賣通歐洲官方倉備貨超萬臺,跑步機品牌RAMYPOCKET首日賣出近2000臺跑步機,自行車輪組品牌ELITEWHEELS銷售額同比增長超300%。

9 小時前

中國市場賣爆了,蘋果年淨利8800億!新CEO回應iPhone Duo裂屏

作者 | 楊京麗 編輯 | 雲鵬 11月3日報道,今天凌晨,蘋果公佈2026財年第四季度(對應自然年2026年第三季度)及全年財務數據。財報發佈後,新任CEO約翰·特努斯(John Ternus)首次主持蘋果財報電話會。 本季度,蘋果營收達到1144.77億美元(約合人民幣7611億元),同比增長11.7%;淨利潤達到307.11億美元(約合人民幣2042億元),同比增長11.8%;攤薄後每股收益為2.10美元(約合人民幣13.96元),同比增長約14%。

9 小時前