DreamTrue: Action-Faithful Robot World Model with Counterfactual Post-Training

📄 arXiv: 2610.12468v1 📥 PDF

作者: Junyan Li, Ruizhi Li, Yu Liu, Xiangshuo Liu, Mingchao Sun, Hongyu Pan, Mu Xu, Lue Fan, Zhaoxiang Zhang

分类: cs.RO, cs.CV

发布日期: 2026-10-08

备注: project page: https://brave-eai.github.io/DreamTrue; code: https://github.com/brave-eai/DreamTrue

🔗 代码/项目: PROJECT_PAGE

💡 一句话要点

提出DreamTrue以解决机器人世界模型的动作跟随与交互覆盖问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱四：生成式动作 (Generative Motion) 支柱七：动作重定向 (Motion Retargeting)

关键词: 机器人世界模型 动作跟随 反事实训练 视频预测 几何校准 强化学习 交互覆盖

📋 核心要点

  1. 现有方法在机器人世界模型的训练中面临动作跟随不准确和交互覆盖不足的问题。
  2. 论文提出通过图像空间条件渲染和离线几何校准来改善动作跟随，并引入反事实后训练以扩展交互覆盖。
  3. 在AgiBot平台上，DreamTrue实现了最先进的动作跟随性能，显著降低了交互缺陷率。

📝 摘要（中文）

我们提出了DreamTrue，一个多视角、跨体现的机器人世界模型，旨在实现动作忠实和物理合理的视频预测。现有机器人数据集的训练面临两个障碍：不精确的校准会影响动作跟随，而有限的失败交互覆盖会使预测偏向成功结果。为改善跨体现的动作跟随，我们将动作轨迹渲染为图像空间条件，并引入离线几何校准以对齐这些条件与目标视频。为扩大交互覆盖，我们引入了反事实后训练，修改记录的动作轨迹并在更广泛的动作和接触配置下生成未来视频。通过构建一个涵盖机器人、物体和交互缺陷的人类标注视频数据集，我们训练了一个具身视频奖励模型，以指导强化学习后训练，朝向更物理合理的交互结果。在AgiBot上，DreamTrue实现了最先进的动作跟随，同时将人类评估的交互缺陷率从48.12%降低到6.25%。

🔬 方法详解

问题定义：本论文旨在解决现有机器人世界模型在动作跟随和交互覆盖方面的不足。现有方法由于不精确的校准和有限的失败交互数据，导致预测结果偏向于成功的交互。

核心思路：论文的核心思路是通过将动作轨迹渲染为图像空间条件，并结合离线几何校准，来提高动作跟随的准确性。同时，通过反事实后训练，生成多样化的未来视频，以增强模型的交互覆盖能力。

技术框架：整体架构包括两个主要模块：首先是动作轨迹的图像空间渲染和几何校准，其次是反事实后训练模块，通过修改动作轨迹生成多样化的视频数据。

关键创新：最重要的技术创新在于引入了反事实后训练方法，使得模型能够在更广泛的动作和接触配置下进行训练，从而提高了模型的泛化能力和交互效果。

关键设计：在模型设计中，采用了特定的损失函数来优化动作跟随的准确性，并通过人类标注的视频数据集来训练奖励模型，以指导后续的强化学习过程。具体的网络结构和参数设置在论文中详细描述。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在AgiBot平台上，DreamTrue实现了最先进的动作跟随性能，交互缺陷率从48.12%降低到6.25%。此外，该模型在AgiBot世界挑战赛2026的世界模型赛道中排名第一，展示了其卓越的性能和创新能力。

🎯 应用场景

该研究的潜在应用领域包括自主机器人、智能制造和人机交互等。通过提高机器人在复杂环境中的动作跟随能力和交互效果，DreamTrue能够显著提升机器人在实际应用中的表现，推动智能机器人技术的进步与普及。

📄 摘要（原文）

We present DreamTrue, a multi-view, cross-embodiment robot world model for action-faithful and physically plausible video prediction. Training such a model on existing robot datasets faces two obstacles: imprecise calibration can impair action following, while limited coverage of unsuccessful interactions can bias predictions toward successful outcomes. To improve action following across embodiments, we render action trajectories into image-space conditions and introduce offline geometric calibration to align these conditions with the target videos. To broaden interaction coverage, we introduce counterfactual post-training, modifying recorded action trajectories and generating future videos under a wider range of actions and contact configurations. To provide feedback on these predictions without paired ground-truth futures, we construct a human-annotated video dataset covering robot, object, and interaction defects and use it to train an embodied video reward model. Its scores guide reinforcement-learning post-training toward more physically plausible interaction outcomes. On AgiBot, DreamTrue attains state-of-the-art action following, while reducing the human-assessed interaction defect rate from from 48.12% to 6.25%. Notably, our model ranks first in the world model track of the AgiBot World Challenge 2026. The project page can be found at https://brave-eai.github.io/DreamTrue.