自進化WAM來了!清華AIR聯手域變換提出具身In-Context Causal Learning

2026年9月1日 13:14
自進化WAM來了!清華AIR聯手域變換提出具身In-Context Causal Learning
站內 AI 整理稿

參數凍結,能力暴漲 Zeva團隊 投稿 | 公眾號 QbitAI 模型不更新,能力卻持續增長。這是Zeva最反直覺的地方,也是清華AIR與域變換聯手給出的新答案。在多個典型具身基準任務上,將凍結模型的累計成功率從26%提升到73%;在真實化學實驗室,機械臂在多次嘗試中越用越穩。更關鍵的是,一次人類演示就能讓模型“學會”一個新操作。Zeva是首個實現In-Context Causal Learning(ICCL)的具身WAM。它讓模型可以在不更新權重的情況下,從自己的交互經驗中持續學習。當這種能力逐步成熟,具身智能將迎來屬於自己的“GPT時刻”。

項目信息 項目名稱:Zeva 發佈機構:清華AIR、域變換 論文題目:Zeva: In-Context Causal Learning for Generalizable Embodied Manipulation 項目主頁:https://air-embodied-brain.github.io/Zeva/ 具身模型的自進化,為什麼過去很難?具身智能的真正瓶頸,是“模型到了現場能不能越做越好”。傳統思路里,想讓機器人適應新環境,通常要重新採集數據、微調模型或做test-time training。但這些方法依賴梯度更新,速度慢、成本高,還可能在適應新任務時破壞已有能力。

另一類in-context learning方法可以讓模型根據演示或任務描述調整行為,但主要解決“任務理解”,並沒有讓模型從自己的動作後果中學習物理因果。從“任務泛化”到“因果遷移” 過去我們談跨域,更多是sim-to-real、跨本體遷移、跨任務泛化。這些方法大多依賴數據對齊或表徵對齊,本質上是在不同域之間搬運“任務經驗”。Zeva更進一步:它遷移的是“動作與狀態變化之間的因果關係”。同一個模型,在仿真裡學到的物理因果,可以被帶到真實機械臂;在一次嘗試裡積累的失敗經驗,可以指導另一個相似物理過程的嘗試;人類的一次演示,也可以直接變成機器人的因果上下文。這種跨域遷移通過上下文完成。

模型在上下文中推斷環境因果結構,並把因果知識用於下一次動作生成。這就是Zeva所定義的In-Context Causal Learning。示例一:從放置稱量紙的誤操作中提取因果關係,完成上下文內學習,提升任務精度。示例二:從稱取試劑至稱量紙的誤操作中提取因果關係,完成上下文內學習,提升任務精度。示例三:從一次人類演示中完成上下文內因果學習。Zeva:把“因果學習”裝進模型上下文 △Zeva總體框架。

模型通過Causal Interaction Extraction、Dual-timescale Causal Memory、In-Context Policy Injection,在不更新權重的情況下實現部署中自進化。圖片來源:論文 Zeva是一個模型。它的Causal Transition Encoder、Dual-timescale Causal Memory、In-Context Policy Injection,都屬於模型推理鏈路的一部分。在每個環境步,Zeva提取三類信號:視覺狀態、動作編碼、觀察到的狀態變化。

它們被遞歸編碼為Causal Interaction State,並進一步投影為Phase Token和Causal Interaction Signal。這些因果信號被組織成雙時標上下文:Brief Interaction Trace負責當前嘗試內的連貫執行,Persistent Interaction Memory跨嘗試累積可複用經驗。決策時,Zeva檢索與當前任務階段匹配的交互證據,構造Causal Prompt,注入凍結的Cosmos3動作生成模型。整個過程零梯度更新。

技術拆解:Zeva如何“以小博大” 亮點一:Causal Transition Encoder,讓模型看見“動作→結果”。模型顯式學習動作引起的狀態變化。訓練目標包括因果效果預測、任務聚類和階段進度,讓Causal Interaction Signal真正攜帶物理因果信息。亮點二:雙時標因果記憶,讓模型可以跨嘗試自我進化。BIT保證當前執行的連貫性,PIM把一次失敗、一次修正、一次成功沉澱為後續可檢索的上下文。同一個模型在repeated attempts中越用越強。亮點三:In-Context Policy Injection,讓凍結模型直接消費因果上下文。

通過Causal Prompt把任務、階段和交互證據注入生成模型,不加額外噪聲、不參與flow loss,只作為條件影響後續動作。這是“不調權重也能進化”的關鍵設計。和傳統Test-Time Training相比,Zeva的差異很直接: 數據說話:自進化+One-Shot人類演示增強 在RoboCasa365-Atomic5上,Zeva平均成功率76.8%,效果最優。更重要的是部署後的self-evolution曲線:累計成功率從Evolve 1的26%提升到Evolve 4的73%。

真實化學實驗室ChemLab-Evo上,三個原子任務同樣呈現單調增長:Pick Up Test Tube從65%到100%,Place Beaker從25%到70%,Pour Water從30%到80%。Zeva還支持one-shot human demonstration enhancement:一次人類演示初始化PIM後,模型無需微調即可復現關鍵操作。量化結果顯示,人類warm-up在Place Beaker上最高帶來20個百分點的提升,在Pour Water上帶來15個百分點的提升。

△RoboCasa365上,Zeva在模型權重完全凍結的情況下,累計成功率從Evolve 1的26%提升到Evolve 4的73%。圖片來源:論文 △真實化學實驗室中,三個原子任務累計成功率隨嘗試里程碑提升。模型參數未更新。圖片來源:論文 △One-shot人類演示warm-up對三個原子任務的影響。虛線為有人類演示初始化,實線為純自進化。圖片來源:論文 為什麼Zeva是一個新範式?Zeva的深層意義,是把具身模型的scaling從“參數空間”延伸到“上下文空間”。傳統scaling通過擴大數據、參數、算力來提升模型能力。

Zeva展示的另一種scaling是:在部署過程中不斷增加可供模型消費的因果上下文。每一次嘗試都會產生新的interaction evidence,這些證據被壓縮為Causal Interaction Signal並進入雙時標記憶。模型每多一次交互,就多一次對當前物理環境的“隱式系統辨識”。這裡的理論基礎是:模型可以把每個新場景的環境屬性作為隱變量,在推理時從過去的動作-效果證據中推斷出來。物體質量、關節約束、接觸特性、摩擦條件,都可以通過交互信號被隱式估計。凍結策略因此可以在不改變參數的情況下,不斷逼近當前物理系統的真實動態。

更進一步,Zeva的Causal Interaction Signal是一個效應空間中的緊湊表示,直接編碼物理效應信息。跨任務effect retrieval實驗顯示,不同物體、視角和任務指令下的等價物理效應,會在該空間中彼此靠近。這意味著模型學到的是“這類物理效應如何產生”,同時也覆蓋具體任務的做法。這種表示天然支持跨域遷移,也讓“域變換”成為一個可計算、可檢索、可複用的技術概念。如果把VLA看作“任務理解與動作生成”的基礎設施,世界模型看作“經驗想象”的基礎設施,那麼Zeva定義的ICCL就是“現場因果學習”的基礎設施。

它把部署從“能力消耗”變成“能力積累”,把每一次失敗從噪聲變成可檢索的因果證據。如果ICCL成立,具身智能的scaling將多出一條獨立於參數規模的曲線:交互次數越多,因果上下文越豐富,模型對當前物理域的辨識越準,任務成功率越高。這才是“域變換”作為新範式的真正含義。結語 清華AIR與域變換聯手發佈的Zeva,重新定義了具身模型的自進化: 不調權重,也能越用越強;不重新訓練,也能從一次人類演示中學會新操作。域變換開啟的,可能是一條新的scaling路徑:讓機器人在真實物理世界中,自己學會因果,自己完成進化。

參考鏈接: [1]論文:Zeva: In-Context Causal Interaction Memory for Embodied Action Generalization [2]項目主頁:https://air-embodied-brain.github.io/Zeva/ 關於清華AIR與域變換 清華AIR(Institute for AI Industry Research, Tsinghua University)是清華大學面向第四次工業革命的國際化、智能化、產業化的研究機構,被視為中國AI產學研結合的第一梯隊。

域變換是清華AIR面向物理智能自進化時代孵化的公司,由劉雲新教授和曹婷教授發起,本次發佈的Zeva是清華AIR在具身智能方向從前沿研究走向產業落地的重要標誌。劉雲新 清華大學智能產業研究院副院長、博導、萬國數據冠名教授、首席研究員,國家級高層次人才、IEEE Fellow 前微軟亞洲研究院首席研究主管,長期從事AIoT、端側智能研究 獲得了MobiCom、MobiSys、SenSys等多個國際頂級學術會議獎勵,以及CCF科技進步一等獎等獎項。

曹婷 清華大學教授,北京市高層次引進人才 前微軟亞洲研究院首席研究主管,研究方向為邊緣智能、具身智能等 獲頂級會議最佳論文獎四次,工作入選ACM/Microsoft研究亮點等,其中ACM研究亮點由圖靈獎獲得者David Patterson親自撰文推薦。*本文系獲授權刊載,觀點僅為原作者所有。版權所有,未經授權不得以任何形式轉載及使用,違者必究。

Related

相關文章

MarkTechPost AI生成式AI

認識 Voxel51 3.0:為實體 AI 打造的統一多模態資料平臺

Voxel51 已發布 Voxel51 3.0,這是其資料平臺的一次重大更新。Voxel51 3.0 是一個端對端的多模態資料平臺,將搜尋、篩選、標註和評估整合於單一系統中。該平臺鎖定針對機器人、車輛和工廠感測器資料進行模型訓練的團隊。此次發布新增了 Voxel51 Agent、資料溯源層及免費的自助式存取。重點摘要:規模:Voxel51 Agent 內建超過 45 個 MCP 工具、80 多個運算子及 18 個開源技能。執行環境:可於 app.voxel51.com 使用託管網頁應用程式,或於雲端、混合、地端及隔離環境中自行部署。未揭露本機 GPU 需求。效能:未發布產品基準測試。Voxel51 引用其自身調查數據作為依據。最佳亮點:免費方案包含 Voxel51 Agent、每月 30,000 次推論請求及 30 個運算小時。

20 小時前
何夕2077生成式AI

下一概念建模把文本生成提速最高31倍

斯坦福等聯合提出全新文本生成範式 NCM,生成速度狂飆 31 倍AIbase基地發佈於AI新聞資訊 · 1 分鐘閱讀 · Oct 16, 202633人工智能領域的文本生成技術迎來顛覆性創新。斯坦福大學與 Together AI 的研究人員近日聯手推出了一種截然不同於傳統自迴歸和擴散模型的全新文本生成範式——Next-Concept Modeling(簡稱 NCM,即“下一概念建模”)。該方法巧妙借鑑了圖像生成領域中“下一尺度預測”的思路,有望為未來的文本生成技術開闢全新的發展路線。在技術實現路徑上,NCM 模擬了人類“先構思宏觀大綱、再動筆填充細節”的寫作邏輯。整個系統通過兩階段訓練來完成:首先訓練多尺度殘差 VQ-VAE,從而得到能夠逐層補充信息的多層離散文本編碼;隨後凍結該系統,訓練 Transformer 模塊去預測下一層的編碼。在生成文本時,模型會先並行生成概念層面的宏觀大綱,接著逐層並行填充具體細節,最終組合成完整的文本內容。在實際測試表現中,NCM 交出了令人矚目的成績單。實驗數據顯示,在保持相近甚至更優生成質量的前提下,NCM 相對傳統的擴散語言模型實現了10到31倍的生成速度飛躍,並且在訓練過程中所需消耗的 token 數量也大幅減少。此外,在數獨等複雜推理任務上,它的表現也明顯優於傳統的自迴歸和擴散基線模型,同時還支持通過多生成候選挑選機制來進一步優化最終輸出效果。儘管目前該研究所使用的模型參數規模依然相對有限,其在擴大模型規模後的表現、精確文本以及長篇內容的生成能力仍有待後續驗證,但這一創新思路無疑打破了長期以來的技術慣性,為人工智能高效生成文本提供了充滿想象力的全新解法。本文來自AIbase日報掃碼查看歡迎來到【AI日報】欄目!這裡是你每天探索人工智能世界的指南,每天我們為你呈現AI領域的熱點內容,聚焦開發者,助你洞悉技術趨勢、瞭解創新AI產品應用。

1 天前
雷峰網生成式AI

12.88萬起、華為電驅+L4同源智駕,Ray7能成為埃安年輕化的答卷嗎?

12.88萬起、華為電驅+L4同源智駕,Ray7能成為埃安年輕化的答卷嗎? 本文作者: 倪萍 2026-10-17 22:42 導語:10月17日,埃安轎跑Ray7正式開啟預售,預售價12.88 萬起。新車車長4.9米,軸距2.9米,車頭部分搭配3.25米的超長雙環燈帶,是埃安10年煥新的家族 10月17日,埃安轎跑Ray7正式開啟預售,預售價12.88 萬起。新車車長4.9米,軸距2.9米,車頭部分搭配3.25米的超長雙環燈帶,是埃安10年煥新的家族式標識。 新車採用寧德時代電池以及廣汽自研的彈匣電池2.0技術,能夠在充分釋放續航能力的同時,監控電池健康狀態。提供45.58kWh和62.98kWh兩種規格,續航可達702公里,整車風阻係數 Cd 低至 0.22。Ray7搭載華為DriveONE多合一電驅,以及華為DriveONE芯片級驅制融合架構,百公里制動僅為32.8米。底盤方面,Ray7搭載高性能前後穩定杆和後五連桿懸架,過彎極限更高,濾振更乾淨。智能化上, Ray7搭載27顆車規級全視角傳感器,採用文遠知行L4級Robotaxi同源大模型。這幫助新車能夠複用 L4 積累的海量場景經驗,在城區掉頭、繞行等複雜場景中可順利通行。自2025年廣汽推進“番禺行動”以來,昊鉑埃安BU的研發、生產、銷售等環節效率不斷提升,產品迭代和新車投放節奏明顯加快。作為埃安全新Ray車系的首款新車,Ray7是埃安開啟年輕化序列的關鍵落子,也是廣汽切入20萬級市場的重要佈局。這一細分市場競爭並不輕鬆:小鵬P7、極氪007等車型已經提前卡位。Ray7想在年輕人心中佔位,不能只堆參數,更要把智能座艙與輔助駕駛、三電安全、補能效率、用車成本和價格權益上的差異,變成用戶可感、可信、可持續的體驗,這才是埃安年輕化的分水嶺。(雷峰網(公眾號:雷峰網)) 雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知。

1 天前
智東西生成式AI

梁聖又掀桌了!DeepSeek新模型斬殺GPT-6,許願式編程時代降臨

作者 | 楊京麗 編輯 | 李水青 10月17日報道,剛剛,DeepSeek V4.1 Flash更新至V4.1-Flash-1017版本,官方網頁端、App與API已同步更新至新模型,模型權重也已在HuggingFace和ModelScope開放下載。DeepSeek還向公眾開放自研搜索引擎的Search(搜索)與Fetch(抓取)API,兩個接口均定價為5元/千次。 此次更新距離該模型發佈僅過去一個多月。9月10日,DeepSeek正式推出V4.1-Flash,在性能上超越了DeepSeek-V4-Pro。

1 天前