Learning Commute-Time-Preserving World Models for Planning

📄 arXiv: 2610.01373v1 📥 PDF

作者: Michael Hauri, Peter Buttaroni, Fabian A. Mikulasch, Friedemann Zenke

分类: cs.LG

发布日期: 2026-10-01


💡 一句话要点

提出通勤时间保持的世界模型以优化规划问题

🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture)

关键词: 世界模型 通勤时间 自监督学习 潜在表示 规划优化 机器人导航 动态环境

📋 核心要点

  1. 现有方法在大规模连续环境中实例化图拉普拉斯时面临计算不可行性,导致通勤时间表示不准确。
  2. 论文提出的CTWM通过结合潜在位移预测器和正则化器,能够有效保持通勤时间的正确缩放,避免表示崩溃。
  3. 在数值仿真中,CTWM在多个复杂目标达成基准测试中表现优于任务无关的基线LeWM,且参数使用量减少一半。

📝 摘要(中文)

世界模型允许智能体在潜在空间中规划,通过选择一系列动作来最小化与目标状态的距离。本文提出的通勤时间保持世界模型(CTWM)结合了潜在位移预测器和对数行列式正则化器,能够在可逆确定性动态下恢复正确缩放的拉普拉斯表示。通过自监督学习,CTWM在复杂的连续目标达成基准测试中表现优异,参数使用量仅为基线的一半。

🔬 方法详解

问题定义:本文旨在解决现有方法在大规模连续环境中实例化图拉普拉斯的不可行性,导致通勤时间表示不准确的问题。现有自监督学习方法鼓励各向同性表示,反而削弱了正确的特征缩放。

核心思路:CTWM的核心思路是结合潜在位移预测器和对数行列式正则化器,确保在可逆动态下恢复正确缩放的拉普拉斯表示,从而保持通勤时间的准确性。

技术框架:CTWM的整体架构包括潜在位移预测器、正则化模块和损失函数设计。潜在位移预测器负责预测状态间的位移,而正则化模块则防止表示崩溃。

关键创新:CTWM的关键创新在于其设计的正则化器能够有效保持通勤时间的正确缩放,与现有方法相比,CTWM在处理动态环境时表现出更高的准确性和稳定性。

关键设计:CTWM采用了特定的损失函数来平衡预测精度和正则化效果,确保在训练过程中能够有效地恢复拉普拉斯表示。网络结构上,CTWM使用了较少的参数,优化了计算效率。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

CTWM在多个复杂的连续目标达成基准测试中表现出色,能够与任务无关的基线LeWM相媲美或超越,同时参数使用量减少至一半,显示出显著的性能提升。

🎯 应用场景

该研究的潜在应用领域包括机器人导航、智能交通系统和自动化规划等。通过提高规划的准确性和效率,CTWM能够在复杂环境中实现更智能的决策,具有重要的实际价值和未来影响。

📄 摘要(原文)

World models allow agents to plan in latent space by choosing a sequence of actions that most reduces the distance to a given goal state. Thus, planning can benefit from latent representations whose distances mirror commute-times in the environment. The spectral embedding space of the graph Laplacian provides such a representation, if it obeys a specific eigenvalue-dependent scaling. Unfortunately, instantiating the graph Laplacian is intractable in large, continuous environments. Self-supervised learning offers a natural route to such commute-time-preserving embeddings at scale. However, here we show that existing methods, which commonly encourage isotropic representations to prevent representational collapse, tend to degrade the "correct" eigenvalue-dependent scaling, leading to an inaccurate representation of commute times. To address this problem, we introduce Commute-Time-Preserving World Models (CTWMs), combining a latent displacement predictor and a log-determinant regularizer that prevents collapse, which provably recover the correctly scaled Laplacian representation under reversible deterministic dynamics and at the predictor's fixed point. In numerical simulations, CTWM matches or outperforms LeWM, a task-agnostic baseline, on several complex, continuous goal-reaching benchmarks, while using half the parameters.