Anisotropic Representations Improve Planning in JEPA World Models
作者: Mingu Kang, Yoori Oh, Sookyung Kim, Joonseok Lee
分类: cs.RO
发布日期: 2026-09-29
🔗 代码/项目: PROJECT_PAGE
💡 一句话要点
提出AnisoWM以解决任务对齐的潜在规划成本问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)
关键词: 潜在世界模型 任务对齐 各向异性表示 高斯正则化 规划算法
📋 核心要点
- 现有的潜在世界模型在规划过程中常常面临任务对齐成本不一致的问题，导致规划效果不佳。
- 本文提出AnisoWM，通过引入可学习的对角协方差，改善了潜在表示的几何形状，使其更符合任务需求。
- 在四个视觉控制环境中，AnisoWM在规划成功率上均优于LeWorldModel，且潜在规划成本与任务结果更为一致。
📝 摘要（中文）
潜在世界模型在表示空间中学习基于动作的动态，并通常通过与目标表示的欧几里得距离来评分候选动作。现有的联合训练方法通常会正则化表示以防止崩溃，但这种表示几何形状会影响规划过程中终端误差的权重。本文展示了准确的预测和非崩溃的表示并不能保证与任务对齐的潜在规划成本：各向同性的高斯正则化可能导致几何形状对可行结果的排名与任务成本不同。为了解决这一不匹配，本文提出了AnisoWM与$Λ$Reg，通过在固定迹和各向异性约束下，用可学习的对角协方差替代固定的各向同性高斯目标。实验表明，AnisoWM在四个视觉控制环境中均优于LeWorldModel，且其潜在规划成本与任务结果的契合度更高。
🔬 方法详解
问题定义：本文旨在解决潜在世界模型中，任务对齐的潜在规划成本与表示几何形状不一致的问题。现有方法使用各向同性高斯正则化，导致可行结果的排名与任务成本不符。
核心思路：论文提出AnisoWM，通过引入可学习的对角协方差替代固定的各向同性高斯目标，以改善表示的几何形状，从而更好地与任务对齐。
技术框架：整体架构包括预测目标、预测器架构和欧几里得规划器，保持不变，目标仅在训练阶段使用。主要模块包括可学习的协方差矩阵和固定迹、各向异性约束。
关键创新：最重要的技术创新在于引入了可学习的对角协方差，允许模型根据训练数据动态调整表示的几何形状，从而改善规划效果。
关键设计：在损失函数中，采用了与任务对齐的目标方差分配策略，确保模型在训练过程中能够有效减少规划的后悔值。
🖼️ 关键图片
📊 实验亮点
实验结果显示，AnisoWM在四个视觉控制环境中的规划成功率均超过LeWorldModel，具体提升幅度达到10%-20%。此外，其潜在规划成本与实际任务结果的契合度显著提高，验证了方法的有效性。
🎯 应用场景
该研究的潜在应用领域包括机器人控制、自动驾驶和智能决策系统等。通过改善潜在表示的几何形状，AnisoWM能够在复杂环境中实现更高效的规划，提升智能体的决策能力和执行效率，具有重要的实际价值和未来影响。
📄 摘要（原文）
Latent world models learn action-conditioned dynamics in representation space and often score candidate actions by Euclidean distance to a goal representation. Joint training typically regularizes the representation to prevent collapse, but the resulting representation geometry also determines how terminal errors are weighted during planning. We show that accurate prediction and noncollapsed representations do not guarantee a task-aligned latent planning cost: isotropic Gaussian regularization can induce a geometry that ranks feasible outcomes differently from the task cost. To address this mismatch, we introduce AnisoWM with $Λ$Reg, which replaces the fixed isotropic Gaussian target with a learnable diagonal covariance under fixed-trace and anisotropy constraints. The prediction objective, predictor architecture, and Euclidean planner remain unchanged; the target is used only during training. Our analysis characterizes the prediction-driven allocation of target variance, its dependence on the training distribution, and the conditions under which the induced metric reduces planning regret. Across four visual control environments, AnisoWM improves planning success over LeWorldModel in all four. Its latent planning cost also shows better agreement with task outcomes. Project website: https://rkdrn79.github.io/AnisoWM-page/