科學家成功重釋世界模型
重點摘要
科學家成功重釋世界模型 人工智慧領域長期以來追尋能像人類一樣推測未來、理解因果關係的「世界模型」，其中聯合嵌入預測架構（JEPA）被視為實現潛在世界模型的主流技術路線。然而，JEPA 的訓練目標大多依靠實驗表現來調整，缺乏統一的理論基礎。近日，一支研究團隊在預印本平台 arXiv 發表論文，從活性推論（Active Inference）的角度為 JEPA 世界模型提供了嚴謹的變分自由能解釋，並指出一項名為 SIGReg 的正則化機制能讓模型趨近理論最佳解。
科學家成功重釋世界模型
人工智慧領域長期以來追尋能像人類一樣推測未來、理解因果關係的「世界模型」，其中聯合嵌入預測架構（JEPA）被視為實現潛在世界模型的主流技術路線。然而，JEPA 的訓練目標大多依靠實驗表現來調整，缺乏統一的理論基礎。近日，一支研究團隊在預印本平台 arXiv 發表論文，從活性推論（Active Inference）的角度為 JEPA 世界模型提供了嚴謹的變分自由能解釋，並指出一項名為 SIGReg 的正則化機制能讓模型趨近理論最佳解。 研究人員 Fabio Arnez 與 Alexandra Gomez-Villa 在論文中指出，JEPA 的訓練目標由預測損失加上加權的嵌入正則化項組成，這個目標是否能視為活性推論框架下的變分自由能，關鍵在於反坍縮正則化器的選擇。活性推論是認知科學與計算神經科學中的重要理論，主張智慧系統透過最小化「自由能」來感知與行動，而 JEPA 世界模型一直被認為與此概念有潛在聯繫，卻未曾被嚴格證明。 團隊系統性地比較了四種非對比式正則化器：VICReg、LogDet、PairDist 與 SIGReg，並將它們組織成一個按照先驗校準差距（prior-miscalibration gap）排序的熵估計器層級。這個差距的符號——究竟是對潛在熵給出上界還是下界——決定了活性推論中的 surprise bound 能否被保留。結果顯示，VICReg 與 LogDet 屬於不安全的上界估計，PairDist 則是安全的下界，唯有 SIGReg 能徹底消除差距，使目標函數與活性推論自由能完全對應。 進一步的對應定理證明，在標準常數噪聲編碼器模型且 SIGReg 成功運作（即產生等向性高斯嵌入）的條件下，先驗校準差距消失，訓練目標轉變為精確的資訊瓶頸（information bottleneck）。此時 surprise bound 被完整保留，而潛在目標成本（latent goal cost）成為活性推論中實用價值（pragmatic value）的精確代理。相較之下，若使用 VICReg 則會留下無法消除的二階各向異性項，破壞理論對應。 研究團隊還將這套對應關係擴展至多步期望自由能、集成認知價值（ensemble epistemic value）以及學習策略機制，並明確指出當前所有 JEPA 世界模型都缺少一項活性推論中的關鍵成分：狀態認知價值（state-epistemic value），這是一種未來狀態覆蓋信號，對探索與資訊蒐集至關重要。 這篇論文共 28 頁，包含 4 張圖表，於 2026 年 7 月 15 日提交。作者強調這是一篇純理論研究，所有預測的差異屬於種類層級而非程度差異，相關的實證驗證將留待後續獨立工作進行。不過，論文中的核心代數結果已透過 Lean 4 定理證明器完成機械驗證，為理論奠定了堅實基礎。 這項成果不僅為 JEPA 世界模型提供了缺失的理論支柱，也為後續設計更接近生物認知的 AI 架構指出了明確方向。未來研究者可依據 SIGReg 的理論優勢開發更穩健的世界模型，並補上狀態認知價值這塊拼圖，讓人工智慧真正學會主動推測未知情境，而不僅是被動預測已知模式。
Related
相關文章
四足機器人實現野外疾行
四足機器人實現野外疾行。 四足機器人實現了複雜地形疾行。越野步態控制研究論文采用單策略.車載感知 ��� 能夠適應野生環境。真機測試 (★^O^★) 最高速度達六米。樓梯與亂石等障礙物均輕鬆越過。
矩陣分解技術助力壓縮
矩陣分解技術助力壓縮。 矩陣分解技術助力模型壓縮研究。三值矩陣量化技術說明公開了算法.內秩調整 ��� 可以無限逼近高精度。轉換後的 (＾▽＾) 困惑度表現優秀.小幅增加顯存換來更高精度的控制。
一位失憶患者，揭開了AI記憶的誤區
< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400"> 一位失憶患者，揭開了AI記憶的誤區 聞樂 2026-07-16 15:34:14 來源：量子位 記憶能夠獨立成層 聞樂 發自 凹非寺 量子位 | 公眾號 QbitAI 1953年，亨利·莫萊森（簡稱H.M.）走進了一間實驗室。 彼時的他不會想到，往後自己會成為神經科學發展史上標誌性的案例。 為根治從小反覆發作的癲癇，醫生切除了他大腦內側顳葉的部分組織。 手術成功控制住了癲癇，但也帶來了無法逆轉的副作用：他再也無法形成長期的全新記憶。 童年的往事、舊日的住所他記憶猶新；可幾分鐘前剛聊過的人和事，轉瞬便會徹底清零。 科研人員短暫離開再折返回來，H.M.總會像初次見面一樣，禮貌地重新問候眼前這個人。 不過，真正顛覆學界認知的並不是他失憶這件事，而是鏡像描畫實驗帶來的發現。 記住，不等於想起來 研究人員安排他看著鏡子臨摹複雜圖案。 雖然他完全不記得自己練習過這項任務，但日復一日下來，他的手法越來越熟練。 身體記住了經驗，可他的意識對此一無所知。 這件事讓科學家明白：存儲經歷和主動回想是兩套各自獨立的過程。 信息可以被保留，卻不一定能被調取。 如果H.M.代表記憶缺失的極端，俄羅斯記者所羅門·舍雷舍夫斯基則站在了另一個極端。 他可以長久記住海量文字、數字和細碎畫面，可超強記憶反倒成了枷鎖—— 他沒法過濾無用細節，氣味、畫面、零碎往事隨時隨地湧上腦海，繁雜信息擠佔了思考空間，導致他很難從具體畫面中提煉出抽象理解。 兩個案例印證了同一個核心道理：遺忘並不是記憶的漏洞，它本就是記憶自帶的能力。 高效的記憶，是篩選關鍵內容、捨棄瑣碎細節，後續再結合現實重新理解過往。
小米語音首席科學家 Daniel Povey 當選 2026 ISCA Fellow，全球僅 100 餘人獲此殊榮
小米語音首席科學家Daniel Povey當選2026年ISCA Fellow，該獎項為國際語音通信協會最高學術榮譽，全球僅百餘人獲得。他因語音識別聲學建模、開源工具Kaldi等貢獻入選，繼2023年IEEE Fellow後再獲殊榮。加入小米後，他帶領團隊推出新一代Kaldi及多項語音技術，包括Zipformer編碼器和支援600多種語言的OmniVoice語音合成模型。
Nature重磅，下一代AI系統雛形？MIT團隊：從推理100+新遊戲開始
MIT團隊在《Nature》雜誌發表重磅研究，提出「直覺玩家模型」作為下一代AI系統的雛形。該模型透過推理超過100種新遊戲來發展直覺能力，為AI學習與推理開闢新途徑。
ICML 2026 的 AI4S 現場：工具、合著者，還是創始人？
進群傳送門： 掃碼進群或添加微信Vin_Vivid，備註：論文群 + 關注的 AI 方向。搞科研/搞技術，信息差很重要。來，一起快人一步！掃描上方二維碼或點擊「閱讀原文」關注專區。