Staircase Policy: Streaming Inference for World-Action Models with Large Action Chunks
作者: Guoheng Sun, Chen Chen, Jin Wang, Ang Li, Teresa Lv
分类: cs.RO, cs.AI, cs.CV
发布日期: 2026-09-29
💡 一句话要点
提出阶梯策略以解决世界-动作模型的推理效率问题
🎯 匹配领域: 支柱一:机器人控制 (Robot Control) 支柱二:RL算法与架构 (RL & Architecture) 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 世界-动作模型 流式推理 动作分块 机器人操作 推理效率 长时间执行 性能优化
📋 核心要点
- 现有的世界-动作模型在长时间执行中面临性能下降的问题,尤其是后续动作依赖于过时的观察数据。
- 本文提出的阶梯策略通过流式推理和分块设计,优化了动作生成过程,允许近端动作快速执行,同时持续优化后续动作。
- 实验表明,S-WAM在LIBERO和LIBERO-Plus上分别达到了97.7%和87.9%的性能,执行速度达到每秒292.7个动作,显著提升了推理效率。
📝 摘要(中文)
世界-动作模型(WAMs)通过基于预测的未来观察来改善机器人操作,但未来预测增加了迭代动作生成的推理开销。动作分块可以将这一成本摊销到多个动作上,但在长执行时间内性能会下降。本文提出了阶梯策略(STAIRCASE POLICY),一种流式推理和训练框架,将流匹配的VLA转变为JEPA风格的WAM,并在错开的去噪阶段将大动作块划分为子块。近端动作在可用时立即执行,而后续动作则继续优化。在每个子块边界,未来潜变量从最新观察中重新预测,并用于更新所有未执行的动作,从而实现长时间执行而无需重复完整的策略推理。实验结果表明,S-WAM在LIBERO和LIBERO-Plus上分别达到了97.7%和87.9%的性能,并在多个策略骨干和真实机器人任务中提升了性能。
🔬 方法详解
问题定义:本文旨在解决世界-动作模型在长时间执行中因依赖过时观察而导致的性能下降问题。现有方法在迭代动作生成时,未来预测增加了推理开销,影响了效率。
核心思路:提出的阶梯策略通过流式推理和分块设计,将大动作块划分为子块,允许近端动作快速执行,同时对后续动作进行持续优化,从而提高整体执行效率。
技术框架:整体架构包括流匹配的VLA和JEPA风格的WAM,分为多个阶段:首先进行动作分块,然后在每个子块边界进行未来潜变量的重新预测,最后更新未执行的动作。
关键创新:最重要的创新在于将流式推理与动作分块相结合,允许在不重复完整策略推理的情况下,实现长时间的动作执行。这一设计显著提高了推理效率和执行速度。
关键设计:关键设计包括在每个子块边界重新预测未来潜变量的机制,以及在不同阶段的去噪处理。这些设计确保了未执行动作的及时更新,提升了整体性能。
🖼️ 关键图片
📊 实验亮点
实验结果显示,S-WAM在LIBERO和LIBERO-Plus上分别达到了97.7%和87.9%的性能,执行速度达到每秒292.7个动作,是传统执行的3.62倍,同时将首次动作的响应时间从123.6毫秒减少到73.3毫秒。经过进一步的推理优化,吞吐量提升至每秒642.9个动作。
🎯 应用场景
该研究的潜在应用领域包括机器人操作、自动化制造和智能家居等场景。通过提高机器人在复杂环境中的操作效率,阶梯策略能够显著提升机器人在实际任务中的表现,具有广泛的实际价值和未来影响。
📄 摘要(原文)
World-Action Models (WAMs) improve robotic manipulation by conditioning action generation on predicted future observations, but future prediction adds further inference overhead to already expensive iterative action generation. Action chunking can amortize this cost over multiple actions, yet performance degrades over long execution horizons because later actions remain conditioned on stale observations. We introduce STAIRCASE POLICY, a streaming inference and training framework that turns a flow-matching VLA into a JEPA-style WAM and partitions a large action chunk into sub-chunks at staggered denoising stages. Near-term actions are executed as soon as they become available, while later actions continue to be refined. At each sub-chunk boundary, the future latent is re-predicted from the latest observation and used to update all unexecuted actions, enabling long-horizon execution without repeated full policy inference. The resulting future-prediction error can further serve as a signal for adaptive chunking. S-WAM achieves 97.7% on LIBERO and 87.9% on LIBERO-Plus, and improves performance across multiple policy backbones and real-robot tasks. It reaches 292.7 executed actions per second, $3.62\times$ the throughput of conventional execution at comparable accuracy, while reducing time-to-first-action from 123.6 to 73.3 ms. With additional inference optimizations, throughput further increases to 642.9 actions per second.