RoboTALES: Learning Reasoning-Guided Robot Policies via Task-Aligned Simulated Futures

📄 arXiv: 2607.06018v1 📥 PDF

作者: Hanan Gani, Tejal Kulkarni, Madhoolika Chodavarapu, Nicklas Hansen, Manmohan Chandraker

分类: cs.RO

发布日期: 2026-07-07

备注: Accepted at ECCV 2026

🔗 代码/项目: GITHUB

💡 一句话要点

提出RoboTALES以解决机器人政策学习中的任务对齐问题

🎯 匹配领域: 支柱一：机器人控制 (Robot Control)

关键词: 机器人政策学习 视频生成模型 任务对齐 层次化规划 视觉语言模型 长时间任务 智能机器人

📋 核心要点

  1. 现有的预训练视频生成模型在任务意图的对齐和动作条件性方面存在不足，导致规划和政策提取困难。
  2. RoboTALES通过引入层次化规划器和视觉语言模型评论家，学习任务对齐的模拟未来，从而改善机器人政策的训练。
  3. 在RoboCasa和LIBERO10的多样化操作任务中，RoboTALES的表现优于现有方法，尤其在长时间任务中提升明显。

📝 摘要（中文）

预训练的视频生成模型在视觉运动控制中展现出良好的潜力，但其生成的未来场景往往偏离任务意图，且缺乏可靠的动作条件性。因此，这些模型在规划或政策提取中存在困难。为了解决这些局限性，本文提出了RoboTALES，一个单阶段框架，通过学习任务对齐的模拟未来来训练机器人政策。该方法引入了两个关键创新：一是基于层次化大语言模型的规划器，将复杂任务分解为一系列子目标，以指导模型的想象；二是基于视觉语言模型的评论家，评估这些“想象”的未来，并使用基于奖励的反馈来保持模型内部表示的目标聚焦。通过将视频生成器锚定在抽象推理上，我们生成了时间一致的回放和更连贯的动作。我们在RoboCasa和LIBERO10的多样化操作任务上评估了RoboTALES，结果表明该方法在长时间任务中显著优于现有方法。

🔬 方法详解

问题定义：本文旨在解决现有视频生成模型在任务对齐和动作条件性方面的不足，导致其在机器人政策学习中的应用受限。

核心思路：RoboTALES通过引入层次化的规划器和视觉语言模型评论家，确保生成的未来场景与任务目标一致，从而提高政策学习的有效性。

技术框架：该框架分为两个主要模块：层次化规划器负责将复杂任务分解为子目标，视觉语言模型评论家则对生成的未来进行评估并提供反馈。

关键创新：RoboTALES的核心创新在于将视频生成与抽象推理相结合，生成时间一致的回放和连贯的动作，这一设计显著区别于传统方法。

关键设计：在模型设计中，采用了层次化的任务分解策略和基于奖励的反馈机制，确保模型在训练过程中始终聚焦于任务目标。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在实验中，RoboTALES在RoboCasa和LIBERO10的多样化操作任务中表现优异，尤其在长时间任务中，性能提升幅度超过了现有方法，展示了其在复杂任务处理中的优势。

🎯 应用场景

RoboTALES的研究成果具有广泛的应用潜力，特别是在复杂机器人操作、自动化制造和智能家居等领域。通过提高机器人在动态环境中的决策能力，该方法能够显著提升机器人在实际应用中的表现和效率，推动智能机器人技术的发展。

📄 摘要（原文）

Pretrained video generative models are promising backbones for visuomotor control, but their imagined futures often drift from task intent and are not reliably action-conditional. As a result, these models can be difficult to use for planning or policy extraction. To address these limitations, we propose RoboTALES, a single-stage framework that learns task-aligned simulated futures and uses them to train robot policies. Our approach introduces two key innovations: (1) a hierarchical LLM-based planner that breaks complex tasks into a sequence of subgoals to guide the model's imagination; and (2) a VLM-based critic that evaluates these ``imagined'' futures and uses reward-based feedback to keep the model's internal representations focused on the goal. By anchoring the video generator in abstract reasoning, we produce temporally consistent rollouts and more coherent actions. We evaluate RoboTALES on diverse manipulation tasks from RoboCasa and LIBERO10, and show that our method consistently outperforms existing methods, especially in long-horizon tasks. Our code and models are publicly available at https://github.com/hananshafi/RoboTALES.