Rethinking Causal Action Tokenization with Conditional Annealing in Flow Matching

📄 arXiv: 2609.35469v1 📥 PDF

作者: Chenyu Zhang, Yuhang Cao, Daru Du, Yingxi Lu, Jing Shao, Ruoqu Chen, Jiajun Liu, Liu Cao, Yicheng Liu, Hang Zhao, Mengdi Xu

分类: cs.RO, cs.AI, cs.LG

发布日期: 2026-09-28

💡 一句话要点

提出CATok以解决现有动作标记不一致问题

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 因果动作标记 条件退火 流匹配 多模态扩散变换器 机器人学习 自回归模型 动作生成

📋 核心要点

  1. 现有的动作标记方法将标记化视为压缩问题，导致生成的表示与自回归模型语义不一致，影响机器人学习效果。
  2. CATok通过将标记化视为因果结构的生成过程，引入条件退火机制，逐步提取动作标记，确保生成语义与自回归建模一致。
  3. 在三个仿真基准和真实世界的机器人操作任务中，CATok在重建保真度和推理效率上均优于现有方法，提升了任务成功率。

📝 摘要（中文）

自回归视觉-语言-动作（VLA）模型为机器人学习提供了一条可扩展的路径，但现有的动作标记方法将标记化视为压缩问题，导致生成的表示与自回归模型不一致。本文提出了CATok，一种因果动作标记器，将标记化重新构建为一个因果结构的生成过程。CATok引入了一种条件退火机制，通过逐步退火的流匹配过程提取动作标记：每个标记都依赖于所有前面的标记，并在特定噪声水平下编码残余重建信号，从而建立一个粗到细的因果标记空间，其生成语义与自回归建模结构一致。基于多模态扩散变换器（MMDiT）的标记条件流匹配解码器从这些离散标记中重建连续的动作块，具有混合扩散头架构的精度。大量评估表明，CATok在重建保真度-压缩权衡和推理效率上均优于现有标记化方法，同时提高了VLA任务的成功率和训练效率，为纯自回归VLA系统奠定了高性能、可扩展的基础。

🔬 方法详解

问题定义：现有的动作标记方法将标记化视为压缩问题，导致生成的表示在语义上与自回归模型不一致，从而影响了机器人学习的效果和效率。

核心思路：CATok通过将标记化重新构建为因果结构的生成过程，引入条件退火机制，使每个标记依赖于前面的标记，从而确保生成的语义与自回归建模结构一致。

技术框架：CATok的整体架构包括一个条件退火机制和一个基于多模态扩散变换器的标记条件流匹配解码器。该框架通过逐步退火的流匹配过程提取动作标记，并重建连续的动作块。

关键创新：CATok的主要创新在于其因果动作标记的设计，通过条件退火机制和流匹配过程，确保了生成语义的结构一致性，与现有方法相比，提供了更高的重建保真度和推理效率。

关键设计：CATok的设计包括特定的噪声水平设置，以编码残余重建信号，并采用混合扩散头架构来提高解码器的重建精度，确保高层语义推理与低层运动执行的有效隔离。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，CATok在重建保真度与压缩权衡方面显著优于现有标记化方法，推理效率提升了XX%，VLA任务成功率提高了YY%。这些结果表明CATok为自回归VLA系统提供了高性能的基础。

🎯 应用场景

该研究的潜在应用领域包括机器人操作、自动化系统和人机交互等。CATok的设计能够提升机器人在复杂任务中的学习效率和成功率，具有重要的实际价值和未来影响，尤其是在需要高精度动作生成的场景中。

📄 摘要（原文）

Autoregressive Vision-Language-Action (VLA) models offer a scalable path to robot learning, yet existing action tokenizers treat tokenization as a compression problem, producing representations that are semantically misaligned with the autoregressive backbone. We propose CATok, a causal action tokenizer that reframes tokenization as a causally structured generative process. CATok introduces a conditional annealing mechanism that extracts action tokens by progressively annealing a flow-matching process: each token is conditioned on all preceding tokens and encodes the residual reconstruction signal at a specific noise level, establishing a coarse-to-fine causal token space whose generative semantics are structurally aligned with autoregressive modeling. A token-conditioned flow-matching decoder built on Multimodal Diffusion Transformer (MMDiT) reconstructs continuous action chunks from these discrete tokens with the precision of hybrid diffusion-head architectures. This discrete bottleneck enforces knowledge insulation by design, cleanly separating high-level semantic reasoning from low-level motor execution without requiring explicit attention masking. Extensive evaluations across three simulation benchmarks and real-world robotic manipulation tasks demonstrate that CATok consistently surpasses existing tokenization methods in both reconstruction fidelity-compression tradeoff and inference efficiency, while improving VLA task success rate and training efficiency, establishing a high-performance, scalable foundation for purely autoregressive VLA systems.