科學家成功重釋世界模型

科學家成功重釋世界模型

人工智慧領域長期以來追尋能像人類一樣推測未來、理解因果關係的「世界模型」，其中聯合嵌入預測架構（JEPA）被視為實現潛在世界模型的主流技術路線。然而，JEPA 的訓練目標大多依靠實驗表現來調整，缺乏統一的理論基礎。近日，一支研究團隊在預印本平台 arXiv 發表論文，從活性推論（Active Inference）的角度為 JEPA 世界模型提供了嚴謹的變分自由能解釋，並指出一項名為 SIGReg 的正則化機制能讓模型趨近理論最佳解。

研究人員 Fabio Arnez 與 Alexandra Gomez-Villa 在論文中指出，JEPA 的訓練目標由預測損失加上加權的嵌入正則化項組成，這個目標是否能視為活性推論框架下的變分自由能，關鍵在於反坍縮正則化器的選擇。活性推論是認知科學與計算神經科學中的重要理論，主張智慧系統透過最小化「自由能」來感知與行動，而 JEPA 世界模型一直被認為與此概念有潛在聯繫，卻未曾被嚴格證明。

團隊系統性地比較了四種非對比式正則化器：VICReg、LogDet、PairDist 與 SIGReg，並將它們組織成一個按照先驗校準差距（prior-miscalibration gap）排序的熵估計器層級。這個差距的符號——究竟是對潛在熵給出上界還是下界——決定了活性推論中的 surprise bound 能否被保留。結果顯示，VICReg 與 LogDet 屬於不安全的上界估計，PairDist 則是安全的下界，唯有 SIGReg 能徹底消除差距，使目標函數與活性推論自由能完全對應。

進一步的對應定理證明，在標準常數噪聲編碼器模型且 SIGReg 成功運作（即產生等向性高斯嵌入）的條件下，先驗校準差距消失，訓練目標轉變為精確的資訊瓶頸（information bottleneck）。此時 surprise bound 被完整保留，而潛在目標成本（latent goal cost）成為活性推論中實用價值（pragmatic value）的精確代理。相較之下，若使用 VICReg 則會留下無法消除的二階各向異性項，破壞理論對應。

研究團隊還將這套對應關係擴展至多步期望自由能、集成認知價值（ensemble epistemic value）以及學習策略機制，並明確指出當前所有 JEPA 世界模型都缺少一項活性推論中的關鍵成分：狀態認知價值（state-epistemic value），這是一種未來狀態覆蓋信號，對探索與資訊蒐集至關重要。這篇論文共 28 頁，包含 4 張圖表，於 2026 年 7 月 15 日提交。作者強調這是一篇純理論研究，所有預測的差異屬於種類層級而非程度差異，相關的實證驗證將留待後續獨立工作進行。不過，論文中的核心代數結果已透過 Lean 4 定理證明器完成機械驗證，為理論奠定了堅實基礎。

這項成果不僅為 JEPA 世界模型提供了缺失的理論支柱，也為後續設計更接近生物認知的 AI 架構指出了明確方向。未來研究者可依據 SIGReg 的理論優勢開發更穩健的世界模型，並補上狀態認知價值這塊拼圖，讓人工智慧真正學會主動推測未知情境，而不僅是被動預測已知模式。