Discrete Forcing: Infusing Discrete Guidance into Continuous Denoising for Few-Step Action Experts

📄 arXiv: 2609.39526v1 📥 PDF

作者: Jingbo Wang, Wenxuan Song, Wenhao Yu, Han Zhao, Xi Wang, Jiayi Chen, Donglin Wang, Yan Wang, Haoang Li

分类: cs.RO

发布日期: 2026-09-30


💡 一句话要点

提出离散强制方法以解决视觉-语言-动作模型的高效动作生成问题

🎯 匹配领域: 支柱一:机器人控制 (Robot Control) 支柱二:RL算法与架构 (RL & Architecture) 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 视觉-语言-动作 离散强制 动作生成 高效推理 深度学习

📋 核心要点

  1. 现有的视觉-语言-动作模型在动作生成中面临精度与效率之间的权衡,难以同时满足粗略结构和细节的需求。
  2. 本文提出的离散强制方法通过离散动作标记建立粗略结构,再利用这些标记指导连续动作的细化,从而实现高效生成。
  3. 实验结果表明,该方法在多个基准测试中表现优越,推理速度更快,且在高精度任务中取得了显著提升。

📝 摘要(中文)

在视觉-语言-动作(VLA)模型中,高效的动作生成需要同时捕捉粗略的动作结构和细致的细节。离散动作标记提供了紧凑的结构表示,但牺牲了精度;而连续动作标记则提供了高精度,但通常需要多个去噪步骤。本文提出了离散强制(Discrete Forcing)框架,通过显式的粗到细生成过程结合这两种表示。该方法首先预测离散动作标记以建立粗略的动作结构,然后利用这些标记指导连续动作的细化。离散和连续组件共享一个通用的扩散变换器主干,具有专门的分支,保持了与传统单分支模型相当的参数数量,同时每个分支仅需一次前向传播。多项基准测试的广泛评估显示出相较于参数匹配的连续动作专家的性能提升和更快的推理速度,且随着模型容量的增加,性能提升保持一致。实际实验进一步证明了在高精度和动态操作任务上的改进。

🔬 方法详解

问题定义:本文旨在解决视觉-语言-动作模型中动作生成的效率与精度问题。现有方法在使用离散或连续动作标记时,往往面临结构紧凑性与细节精度之间的矛盾。

核心思路:离散强制方法通过引入离散动作标记来建立粗略的动作结构,然后利用这些标记指导连续动作的细化,旨在实现高效且精确的动作生成。

技术框架:该方法采用了一个流匹配框架,包含离散和连续两个分支,均共享一个扩散变换器主干。首先,模型预测离散动作标记,接着利用这些标记进行连续动作的细化,整个过程仅需一次前向传播。

关键创新:离散强制方法的创新在于将离散和连续动作表示有效结合,通过显式的粗到细生成过程,克服了传统方法的局限性,提升了生成效率和精度。

关键设计:该方法在参数设置上保持与传统单分支模型相当,损失函数设计上考虑了离散与连续标记的协同优化,网络结构上则采用了共享主干和专门分支的设计,确保了模型的高效性与灵活性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在多个基准测试中,离散强制方法相较于参数匹配的连续动作专家表现出显著的性能提升,推理速度更快,且随着模型容量的增加,性能提升保持一致。实际应用中,在高精度和动态操作任务上也取得了显著改进。

🎯 应用场景

该研究的潜在应用领域包括机器人操作、自动驾驶、智能家居等需要高效且精确动作生成的场景。通过提升视觉-语言-动作模型的性能,未来可以在复杂环境中实现更为智能的交互与操作,推动相关领域的技术进步。

📄 摘要(原文)

Efficient action generation in vision-language-action (VLA) models requires capturing both coarse action structure and fine-grained details. Discrete action tokens provide compact structural representations but sacrifice precision, while continuous action tokens offer high precision but often require multiple denoising steps. We introduce Discrete Forcing, a flow-matching framework that combines these representations through an explicit coarse-to-fine generation process. It first predicts discrete action tokens to establish a coarse action structure, then uses them to guide continuous action refinement. The discrete and continuous components share a common diffusion transformer backbone with specialized branches, maintaining a parameter count comparable to a conventional single-branch model while requiring only one forward pass per branch. Extensive evaluations across multiple benchmarks demonstrate improved performance and faster inference over a parameter-matched continuous action expert, with consistent performance gains as model capacity increases. Real-world experiments further demonstrate improvements on high-precision and dynamic manipulation tasks.