IJCAI 2026 專訪:動作指揮計算,VLA 加速不降準 | GAIR Paper 125
將動作從輸出端搬到調度端,推理速度提升1.79倍。作者丨鄧哲敏 編輯丨齊鋮湧 機器人想要真正走進千行百業、千家萬戶,有一道繞不開的坎:它得足夠快。不說快到能打羽毛球那,至少得快到讓人覺得這玩意兒能用。一個機械臂每動一下都要停頓兩三秒,哪怕成功率再高,在工業場景裡算下來的投入產出比也很難說服人。VLA 模型是當前具身智能領域最受關注的技術路線之一。它把視覺感知、語言理解和動作生成整合進一套模型,讓機器人能夠依據語言指令完成複雜操作任務。但 VLA 模型有一個部署層面的老大難問題:推理太慢。
每個控制時刻,模型都要把一個龐大的視覺語言骨幹網絡跑一遍,計算量極大,導致延遲居高不下,實時控制頻率難以保證。這個問題並不新鮮,學界已經有不少人在嘗試解決。今年 IJCAI 收錄的一篇論文認為,現有的大多數方案都走偏了一步。AI科技評論(公眾號)聯繫到一作於聞達,圍繞高效 VLA 方法進行交流。論文原文:https://arxiv.org/abs/2601.1963401大家都在剪視覺,但問題真的在這兒嗎現有的高效 VLA 方法,主流路線是在視覺側做文章,剪掉“不重要”的視覺 token,跳過一些 Transformer 層,或者直接複用上一幀的計算結果。
邏輯上聽起來合理:視覺信息最佔計算,減掉多餘的視覺計算,自然就快了。但這裡有一個被忽視的矛盾。在機械臂執行任務的過程中,視覺上的複雜程度和操作上需要的精度,並不總是同步的。機械臂接近目標的階段,畫面可能非常簡單,但這時候恰好需要全力計算,因為精細的夾取動作容不得誤差;反過來,大幅移動階段畫面變化激烈,但其實不需要太多計算資源。換句話說,視覺複雜度不等於控制難度。以視覺信號來決定這一幀算多少,天然就抓錯了對象。
AC²-VLA 一作於聞達告訴AI科技評論(公眾號),團隊在調研文獻時發現了這個矛盾,並意識到 VLA 模型閉環控制過程中,真正能反映當前時刻需要多少計算的,是機器人的動作狀態,而不是視覺畫面。這個判斷很直觀,和 VLA 的邏輯也很吻合——V是視覺,L是語言,A是動作,既然VLA的最終產出是動作序列,那用動作來指導計算分配,才是真正貼近這類模型本質的做法。基於這個出發點,他們提出了 AC²-VLA,全稱是Action-Context-Aware Adaptive Computation for VLA models,即動作上下文感知的自適應計算框架。
兩個 AC,一個代表Action Context(動作上下文),一個代表Adaptive Computation(自適應計算),名字裡藏著雙關。02讓動作來“拍板”AC²-VLA 的框架主圖展示了整體架構:視覺觀測經過視覺編碼器,語言指令經過 embedding,加上上一時刻的動作信息,三者共同構成一個動作先驗條件向量,輸入進一個統一的路由器(router)。這個 router 的輸出,決定了當前時刻的計算策略。
具體來說,router控制三件事:▎一、cognition caching(認知緩存複用)如果當前動作狀態比較穩定,router 認為可以嘗試複用上一步的 VLM 骨幹網絡輸出,就會發起復用請求。但這個請求不等於直接複用,還需要看緩存是否能命中,綜合判斷運動狀態是否連續、視覺狀態是否匹配。兩個條件都滿足,才會跳過整個 VLM 骨幹的計算,直接將緩存中的特徵向量送入 action head 生成動作序列。▎二、token pruning(視覺token剪枝)router 會為每個視覺 token 打分,判斷它與當前操作階段的相關程度。不相關的 token 被直接丟掉,縮短序列長度,減少計算量。
這一步的依據同樣來自動作上下文,機械臂正在接近夾取目標時,夾爪附近區域的 token 更重要;大範圍移動時,這些區域的權重會相對下降。▎三、layer skipping(層跳過)並非每一層 Transformer 都需要每次執行。router 根據動作上下文判斷當前需要多深的計算,對不需要的層直接跳過。有意思的是,不同任務階段跳過的不一定是同樣的層,同樣保留28層,接觸階段和移動階段調用的層序號可能完全不同,模型學會了在不同階段調用最合適的網絡深度。這三個機制由同一個 router 統一調度,而不是各自用不同的啟發式規則來判斷。
這也是 AC²-VLA 和此前工作最核心的區別之一,之前的方法即使有類似的機制,也往往相互獨立,沒有統一的訓練過的路由來智能分配。03自蒸餾,一個很關鍵的訓練設計Router 的訓練方式值得單獨解釋。自然會有人想到,為什麼不直接用任務成功率來監督 router 的學習?讓它學會成功率高的時候可以少算,成功率低的時候多算?問題在於,任務成功率是一個非常稀疏、非常離散的信號,而且只有完整跑完任務才能知道結果,沒有辦法實時反饋到每個時間步的計算決策上。更重要的是,如果以成功率為優化目標,框架的泛化性就會受損,換一個 backbone,成功率分佈完全不同,原來學到的計算策略就失效了。
AC²-VLA 的解法是自蒸餾(self-distillation):用稠密策略(dense policy,即原始未稀疏化的模型)作為teacher,讓稀疏化之後的 student 模型去模仿 teacher 的動作輸出和骨幹網絡特徵表示。稠密模型已經在 Open X-Embodiment 數據集上訓練過,對這些任務有一定的成功能力,用它作為 teacher,就能在儘量少算的約束下,讓稀疏策略保持接近稠密策略的表現。這個設計讓 AC²-VLA 的高效框架有了可遷移性,換一個 VLA 骨幹,只需要重新走一遍蒸餾流程,不需要為每個任務單獨調參。
04推理速度快了多少AC²-VLA 基於 CogACT 構建,在 SIMPLER 仿真基準上進行了評測。SIMPLER 是當前具身智能領域常用的高保真仿真基準,旨在縮小真實世界與仿真的遷移差距。在 Google Robot 的 Visual Matching 設定下,AC²-VLA 在四個任務上的平均成功率達到 76.8%,超過稠密基線 CogACT 的 74.8%,也超過了 RT-2-X 的 46.3%。其中 Drawer Opening 任務的成功率從 71.8% 提升到 80.6%,幅度最為明顯。效率數據更直觀:計算量降低到原始模型的29.4%(FLOPs),實際推理速度提升 1.
79 倍。這個 1.79 倍,在論文發表時是同類方法中的當前最優水平。值得注意的是,這個加速並沒有帶來成功率的下降,反而略有提升。論文的解釋是,被去掉的那部分計算大量對應於干擾項和冗餘特徵,移除它們反而讓模型的決策更穩定。FLOPs 降到 29.4% 而實際速度只提升 1.79 倍,兩者之間的差距,於聞達解釋為理論計算量與實際運行之間不可避免的開銷:router 本身的運算、token 剪枝時的內存移動、緩存的查詢和命中過程,這些都不完全體現在 FLOPs 裡,但在實際運行時都會佔用時間。因此,實際端到端加速才是更真實的參考指標。消融實驗進一步驗證了三個組件各自的必要性。
去掉緩存複用,成功率下降到 70.5%,速度也從 1.79 倍降到 1.66 倍;去掉層跳過,成功率跌至 67.4%;去掉 token 剪枝,速度降至 1.52 倍。三軸同時啟用,才能達到最優的速度-精度平衡。還有一個有趣的發現:在合適的緩存閾值設定下(τcache = 0.2),緩存複用不僅帶來速度提升,還把成功率推到了 87.1%,超過稠密基線 12.3 個百分點。論文將這個意外收益歸因於時間一致性——逐幀推理容易放大高頻視覺噪聲,導致動作抖動;而在動作上下文穩定時複用特徵,相當於給決策過程加了一層平滑,反而讓控制更穩。
05這套框架的意義從論文本身看,AC²-VLA 解決的是一個具體的工程問題:讓 VLA 模型在不大幅犧牲成功率的前提下,快到可以用。但它背後有一個更值得關注的思路轉變——把動作從“模型輸出”變成“模型計算的調度信號”。之前的高效 VLA 工作,把動作當做需要被輸出的結果;AC²-VLA 第一次嘗試讓動作反過來指導模型該看哪裡、該想多少、哪些東西可以複用。於聞達提到,這個思路其實和 VLA 模型自身的邏輯一脈相承——既然動作是終點,那用動作上下文來規劃通往終點的路徑,順理成章。
團隊後續還有一篇工作(Actfovea,尚未發表)沿著相同的邏輯延伸,把動作作為先驗信號,往安全性和魯棒性的方向探索:如果動作序列和視覺狀態之間出現了不一致,這種不一致本身就可以用來判斷當前的觀測和動作是否可信,以及是否需要回退重計算。從落地的角度看,這類工作的現實意義更直接。當前 VLA 模型的部署難點,並不總是模型不夠強,更多時候是模型太慢、太重,跑不起來。邊緣設備沒有足夠的顯存,機器人沒有足夠的算力,工廠裡的機器臂不能等上三秒才動。把一個 7B 量級的 VLA 模型壓縮到可以在端側穩定運行,是讓它從實驗室走向車間的必要一步。IJCAI 2026 要來了,你還在單打獨鬥?
為了方便大家抱團交流、互通會議消息,我們專門建了 IJCAI 2026 參會群!進群你會解鎖這些「福利」?會議情報站:投稿 DDL、格式規範、評審進度……關鍵節點第一時間送達,再也不怕錯過 deadline,投稿準備穩穩的。同行茶話會:天南海北的同行都在群裡,聊心得、碰思路、攢人脈,科研路上我們同行。前沿補給站:最新研究成果、熱點方向實時同步,結合會議主題幫你捋清投稿脈絡,給論文靈感加滿油。
現場後援團:(會議期間專屬開啟):到了會場也不用慌——路線導航:場館分佈、報告廳怎麼走,群裡隨時問;議題共讀:熱門 session、Keynote 現場探討,錯過也能追;Poster 彙編:現場海報精華整理,一鍵收藏不遺漏;約局廣場:約飯局、採訪局、交流局……想嘮嗑、想合作、想面基,群裡發起就成。?進群傳送門: 掃碼進群或添加微信Qvv0909777,備註:IJCAI + 單位/學校+姓名+方向。搞科研/搞技術,信息差很重要。來,一起快人一步!上車,帶你看遍全球 AI 頂會精華可獨家暢覽:專家演講PPT大會報告全文熱門論文解讀學術新星訪談掃描上方二維碼或點擊「閱讀原文」關注專區。
Related
相關文章
全球首發:萬拿NOVA21靈巧手,拓展靈巧操作研究邊界
10月15日,在2026香港秋季電子產品展上,萬拿機器人全球首發NOVA21靈巧手。面向機器人科研與開發團隊,萬拿NOVA21採用21自由度全主動旋轉直驅設計,集靈巧、力量、精準與觸覺感知於一體,為多指協同、物品姿態調整與複雜操作策略研究提供執行與感知能力。21自由度全主動旋轉直驅,支持多指協同NOVA21採用擬人化佈局,整手尺寸為195×105×71mm,接近人手大小。拇指擁有5個主動自由度,其餘四指各擁有4個主動自由度。NOVA21的21個主動自由度均採用旋轉直驅,支持全手各指的主動控制與姿態調整。
首款韜定律邏輯摺疊芯片量產,麒麟9050讓華為旗艦手機玩出什麼新花樣?
電路折起來,旗艦手機的創新空間也被打開。三年前,麒麟芯片迴歸。三年後,問題已經變成回來之後,還能走多遠?全新基於韜定律的麒麟9050系列給出了一個新的工程答案。作為華為首款採用邏輯摺疊技術的麒麟芯片,麒麟9050 Pro通過跨層重新設計電路,縮短數據傳輸距離,尋找芯片持續升級的空間,也為搭載韜定律芯片的華為手機提供了更強大的算力基礎。
賓大茅佳源:從單次演示到 83% 真機泛化,破解具身智能數據困局|IROS 2026
剖析視覺與動作脫節,引入 TR 指標與自適應引導,重構具身泛化機制。作者丨張璐 編輯丨岑峰 在機械臂的實機測試中,不少團隊都遇到過類似的困擾:為了讓機器人學會抓取某個馬克杯,往往需要人類抓著機械臂錄入上百條示範軌跡。然而只要把杯子換成未見過的款式,或者稍微改變物體的擺放位置,策略的成功率就會急劇下降。
蘋果訴 OpenAI 竊密案突破:法院準其調取招聘材料,劍指硬件爭奪
具體而言,法院準許其查閱與"OpenAI 在面試前接觸蘋果員工"有關的文件——這批應聘者瞄準的是 OpenAI 消費硬件與機器人部門崗位,時間點恰在傳聞中 OpenAI 首款硬件設備發佈之前。相關文檔可能涵蓋面試清單、指引、腳本、技術演示及能印證"面試中提及蘋果技術或零部件"的記錄。
AFCE把未來物理效果當成預測目標
Computer Science > Robotics arXiv:2610.13212 (cs) [Submitted on 9 Oct 2026 (v1), last revised 12 Oct 2026 (this version, v2)] Title:Beyond Actions: Learning Future Operation Targets for Vision-Language-Action Models Auth。
45分鐘小定8000臺,智己LS6這次成了?
這一次,智己能走出「叫好不叫座」嗎?作者 | 王瑞昊編輯 | 李雨晨9月10日,全新一代智己LS6正式開啟預售,預售價20.99萬元起,並將於9月23日正式上市。預售開啟45分鐘,小訂突破8000臺。這是智己“Next·2028戰略”下的首款20萬級純電SUV,也是LS6迭代到第四代的產品。