理想世界模型交卷:可以預測觸覺,評測拿下多個第一

2026年9月21日 18:59
站內 AI 整理稿

機器人前瞻(公眾號:robot_pro) 作者 | 鍾宸 編輯 | 漠影 機器人前瞻9月22日報道,昨日,理想Foundation Model團隊正式發佈世界動作觸覺模型ME-Dex-1.0(MachEmbodied-Dex-1.0)。該團隊稱,其在仿真與真機平臺上評測ME-Dex-1.0,RoboTwin Clean-only Avg.成功率為78.9%,領先最強對比基線7.6個百分點,11項聯合訓練任務的總體成功率為65.3%,比DECO高8.9個百分點。ManiFeel平均成功率為70.0%,比官方基線高15.0個百分點。ME-Dex-1.

0將觸覺從輔助條件提升為未來世界中需要預測的組成部分,統一觸覺表徵負責對齊異構傳感器,三專家架構把預期視覺變化和接觸動態連接到動作生成,數據引擎則通過規模化提供同步監督。理想團隊指出,這些組件共同為更具接觸感知能力的機器人操作提供了一條可行路徑。一、展示仿真與現實環境任務能力,實現觸覺可視化 理想通過相機觀測與觸覺圖共同展示了執行過程中接觸位置和受力模式的變化,視頻覆蓋DexJoCo、RoboTwin仿真環境中的夾爪與靈巧手,以及LeRobot SO-101 PX、Xynova Flex2兩套真機系統。

在RoboTwin仿真環境中,夾爪緩緩下放,夾住了一個長方形盒子,隨即右側的觸覺圖發生了明顯變化。而在DexJoCo仿真環境中,靈巧手完成了拿起物品放入籃子、拿起木棍插入洞中的操作,但是為五倍速播放,整體用時可能比視頻展現的時間更長。而在真機環境下,搭載ME-DEX-1.0的Xynova Flex2靈巧手先是將手腕扭向下方,按壓抽紙的一側使其翹起,再執行抓起的操作,並最終將抽紙“扔”進方盒中,旁邊的觸覺圖也換成了類似人手的形狀,每一個區域還會隨著操作不同出現具體數值的變化。理想也展示了搭載該模型的LeRobot SO-101 PX夾爪夾取藥瓶的視頻。

從視頻來看,整個停頓較多,雖然經計算,整個流程僅有13秒鐘,但視頻右上角同樣標註為五倍速播放,可能實際總耗時已達一分鐘。二、使用仿真數據訓練,採用三專家架構 那麼,這一模型是如何實現這一切的?理想透露,ME-Dex-1.0不只把觸覺作為當前條件輸入,而是將其與視頻共同視為需要預測的未來世界狀態。給定任務指令、當前圖像、本體狀態和觸覺觀測,該模型會聯合去噪未來視頻latent、未來觸覺latent與動作序列。理想表示,這一設計將場景變化和接觸動態直接連接到機器人控制,同時還能夠保留各模態的專屬表達。

理想也承認目前觸覺數據十分稀缺,因此,該公司以自主式觸覺數據引擎(Agentic Tactile Data Engine)擴展RoboTwin與DexJoCo的數據,通過以下兩種方式進行: 回放已有示範動作,讓仿真力傳感器補錄對齊的觸覺信號; 生成並執行新軌跡,擴大任務與接觸模式的覆蓋範圍。理想表示,生成的數據窗口包含同步的當前觀測,以及未來視頻、觸覺與動作目標,可直接用於聯合學習。而因為觸覺數據來自於異構夾爪、靈巧手,理想稱,ME-Dex-1.

0將來自真實與仿真環境的夾爪、靈巧手觸覺數據,映射到受人手結構啟發的雙手34區域模板,並通過區域掩碼(mask)區分“該區域不可觀測”和“已觀測但未接觸”,避免混淆缺失值與零受力。此後,該公司通過共享編碼器提取局部力模式,將其匯聚為標準區域token,並通過masked Transformer交換信息,解碼器則用於重建力場與接觸概率。在訓練中,理想會結合使用力、接觸、時序變化和latent正則損失,從而在緊湊的latent空間中保留力大小、接觸的支撐與過渡(force magnitude, contact support and contact transitions)。

模型架構上,理想採用了三專家模型的架構,通過視覺專家建模未來場景變化,觸覺專家用於預測具有空間結構的接觸動態,動作專家則生成可執行的動作序列。其透露,三個Transformer均採用條件Flow Matching優化,同時保留獨立參數與隱藏維度。該公司還採用H-Bridge共享注意力的結構技巧。跨模態交互會集中發生在選定的中間層,視覺、觸覺與動作token會被投影到兼容的注意力空間完成信息交換,再返回各自的專家模型,淺層和深層則保持模態專屬處理,在控制計算量的同時建立有效協同。同時,通過聯合訓練與推理,未來視頻、觸覺和動作目標會分別加入噪聲並聯合去噪。

推理時,三類輸出從高斯噪聲出發,在當前觀測條件下同步演化。最終動作序列則用於機器人控制,視覺與觸覺解碼器則恢復對應的未來觀測。三、評測領先基線,11項任務7項排第一 理想還在仿真平臺上評測了ME-Dex-1.0。RoboTwin使用覆蓋50項聯合訓練任務的27,500條Clean與Random軌跡,並額外以2,500條Clean軌跡評估跨配置泛化;DexJoCo包含6 項單臂、5項雙臂任務共1,100條示範;ManiFeel則通過四項插入任務評估三維觸覺力建模。真機部署評測則覆蓋了LeRobot SO-101 PX夾爪與Xynova Flex2靈巧手的任務執行。

結果顯示,在混合訓練設置下,RoboTwin加入當前觸覺條件後,Random成功率由86.90%提升至89.54%;進一步加入預測未來觸覺(future tactile prediction)後,成功率達到90.60%,H-Bridge共享注意力的加入最終將成功率提升至91.92%。將當前觸覺輸入置零時,完整模型仍在Clean/Random上取得91.70%/91.74%的成績,理想指出,這說明增益也來自觸覺監督與未來觸覺預測,而非僅依賴當前觸覺的觀測。ME-Dex-1.0在DexJoCo的11項任務中,有7項排名第一,五項雙臂任務平均成功率達到48.8%,高於DECO與DECO.p的39.

6%。在ManiFeel上,相比官方基線,該模型在四項任務中的三項實現領先,其中電源插頭插入的成功率由58.0%提升至88.0%。理想還進行了定性分析,稱該模型相比對比模型效果更好。在RoboTwin中,ME-DEX-1.0可以在兩個基線模型失敗的情況下,完成抽屜放置和物體掃描的任務。而在DexJoCo中,理想稱,ME-Dex-1.0在插銷裝配和iPad密碼輸入任務上,展現出了更有效的雙手協同。理想還展示了下一階段將聚焦的研究與目標: 擴大觸覺預訓練:後續將擴展跨平臺觸覺數據,並評估模型對未知傳感佈局與機器人本體的泛化能力。

更快的接觸反饋:未來將研究觸覺驅動的局部反饋控制,通過在執行過程中進行高頻修正,提升精細操作的響應速度與準確性。結語:觸覺不止於標配,或將成為模型預測的一部分 過去兩年,VLA模型讓機器人”看懂”了世界,但操作的成敗往往藏在指尖。ME-Dex-1.0的思路是:未來視頻可以預測,未來觸覺同樣可以預測,而且預測的不是抽象數值,而是接觸動態如何連接到下一步動作。結果驗證了這條路,這一模型在評測結果上展現了領先水平。但是,這並不代表世界模型解決了觸覺預訓練規模、跨平臺泛化、真機實時性等問題,具身大模型的競爭,正從眼睛和大腦卷向“指尖的觸覺”。

讓模型主動預測接觸而非被動接收觸覺,很可能成為下一代世界-動作模型的標配。arXiv論文鏈接:https://arxiv.org/pdf/2609.21449 技術博客鏈接:https://machembodied.com/ME-Dex/ME-Dex1.0.html#model GitHub鏈接:https://github.com/MachEmbodied/ME-Dex-1.0

Related

相關文章

4.7 萬條假名人內容被清:網信辦給 AI 換臉帶貨踩剎車

通報點名的四類典型,幾乎都奔著"變現"去:一是未經授權用 AI 仿名人肖像聲音、甚至盜用其家屬照片帶貨引流;二是盜肖像配 AI 特效編造"患病"等謠言誤導公眾;三是以第一人稱冒充名人發表觀點、情感話術誘人關注;四是生成名人跳低俗舞蹈、親密互動的畫面吸粉牟利,涉及微信、抖音、小紅書、B 站、快手等多平臺。

9 小時前7300
雷峰網模型更新

申通快遞和千問辦公達成戰略合作,推動物流服務智能化升級

今日消息,申通快遞與千問辦公正式達成戰略合作。雙方將圍繞快遞核心場景打造 AI 辦公體系,以Agent能力支撐申通快遞全國網點的增長戰略落地,推動AI從總部管理向末端網點規模化輸出,加速物流服務智能化升級。申通快遞總裁韓永彥與千問辦公CEO陳宇森等共同見證簽約。 圖示 申通快遞和千問辦公戰略合作簽約現場 申通快遞作為中國頭部快遞企業,擁有覆蓋全國的轉運、網點及末端派送網絡,聚焦快遞主業,為超過40個行業提供定製化解決方案,搭建一體化倉配供應鏈服務體系,網絡覆蓋廣、區域佈局縱深、網點多級協同運營,沉澱了深厚的快遞場景經驗與運營積澱。 面對鏈路長、協同要求高的物流場景,申通快遞對高效率、可落地、安全可控的企業級 AI 生產力工具存在深層次需求。千問辦公本次和申通快遞合作,將把 Agent 套件能力與申通快遞的行業經驗深度融合,共同打造快遞行業 Agent 規模化落地標杆,沉澱出可供整個物流行業持續複用的數字資產。 此前,千問辦公已在申通快遞安全管理、人力資源、行政運營等場景率先落地。以安全管理為例,過去員工的安全諮詢與預警動態均依賴人工處理;如今依託千問辦公,常見安全問題能由Agent自動響應,預警信息每日定時推送。此外,安全團隊還藉助千問辦公搭建管理後臺,將事件監控、實時臺賬與趨勢分析匯成統一視圖,推動安全管理從“被動響應”轉向“主動管理”。這一變化,也與申通快遞推動網點運營從“經驗驅動”向“數據驅動”轉型的方向一致。 未來,申通快遞將在全國網點推進千問辦公落地,重點提升網點管理與運營效率,並在電商場景共同打造智慧物流,幫助商家增強運營和服務能力,提升消費者購物體驗。 據公開資料,千問辦公是阿里旗下企業級通用Agent產品,是AI辦公賽道增長最快的產品之一,目前行業頭部企業均已接入千問辦公。

9 小時前
雷峰網模型更新

解讀丨王騰創業一年,正把小米模式搬進臥室

手機行業過去的最強“話題製造機”,這次沒聊手機。作者丨陳玘凡編輯丨吳優2026年10月29日,北京嘉瑞文化中心二樓。王騰站在臺上,手裡拿著一枚戒指。這一天,距離他正式離開小米,剛過去一年零五十天。手機行業曾經最會製造話題的市場操盤手之一,這次沒有講手機,而是以今日宜休之名發佈了兩個最"安靜"的產品:一枚智能戒指,一張以床笠形態加裝在床上的溫控系統。但問題是:在智能戒指已經殺成紅海、智能床罩由Eight Sleep佔據先機的賽道里,這兩款售價1799元起的戒指和9999元起的床笠,到底有什麼不一樣?

12 小時前
雷峰網模型更新

獨家解讀 | 大疆老兵研發運動硬件,如何一年做出兩款產品?

成立兩年發佈兩款產品,累計融資千萬美元。作者丨陳玘凡 編輯丨吳優侯昊翔、曹曦、張津劍,三位 85 後頂流投資人的名字,出現在同一份股東名單上,本身就是一件值得琢磨的事。侯昊翔,厚雪資本創始合夥人兼總裁,福布斯 2024 創投人 100 榜上榜者,主導過壁仞科技等明星項目;曹曦創辦礪思資本(Monolith),投出了月之暗面、DeepSeek;張津劍與綠洲資本投出過MiniMax、逐際動力。把三位聯繫在一起的,是一家成立僅兩年半的運動科技公司皓翊星辰(LUMISTAR)。01造過 200 萬臺無人機的人,來造網球機皓翊星辰由厚雪資本孵化,日常經營交給專業團隊獨立運轉,核心成員來自大疆、字節、小紅書等公司。公司目前約80人,產研人員超過一半。網球發球機看似只是"一臺會發球的機器",實際是一門重結構的硬件生意。高速發球對機身強度、供球機構的可靠性、整機重量都提出了苛刻要求,任何一塊短板都有可能變成用戶手裡的故障。行業從業者告訴雷峰網·鯨犀,發球機殼體壁厚低於 2mm、被 70-80 公里/小時的球速擊打,很容易損壞,有網球發球機器人產品為追求便攜犧牲了結構強度,曾在體驗活動中被用戶打出的球擊破外殼。(想了解更多網球機器人行業內幕,歡迎添加作者微信 IvarQFC 交流)做網球發球機,需要一個結構能力過硬的研發負責人。皓翊星辰的硬件負責人正是結構工程師出身,擁有多年消費電子經驗。他曾參與研發 Mavic Mini 一代,這是大疆首個銷量破 200 萬臺的產品;還參與Insta360 GO系列拇指相機、雲鯨掃地機等產品。懂硬件的人來做網球機,落在產品上是一連串明確的取捨。公司此前有面向B端測試機,系統複雜且不可靠。團隊覆盤後轉向C端,核心洞察是“物理阻力”的問題。個人用戶買網球機,除去價格,最大的障礙就是把幾十公斤的機器從家搬到球場。誰把機器做得便攜、可靠、好用,誰就能打開C端市場。

13 小時前