Quantile Head for Vision-Language-Action Models

📄 arXiv: 2609.34061v1 📥 PDF

作者: Xuan Wang, Yinan Wu, Haoran Duan, Jungong Han

分类: cs.RO, cs.CV

发布日期: 2026-09-28

🔗 代码/项目: GITHUB

💡 一句话要点

提出量化头以解决视觉-语言-动作模型的动作估计问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉-语言-动作 机器人控制 量化头 动作估计 多模态融合

📋 核心要点

  1. 现有的动作头在动作分布估计上存在局限，点回归只能提供单一的点估计，流匹配方法则需多次迭代采样，效率低下。
  2. 本文提出了一种量化头，通过统一回归和流匹配，设计出量化目标，能够在一次前向传播中生成有序的动作量化。
  3. 实验结果显示，所提出的中位数策略在LIBERO及真实机器人任务中取得了最高的成功率和最短的平均回合时间，优于其他对比方法。

📝 摘要（中文）

视觉-语言-动作（VLA）模型将预训练的视觉-语言模型（VLM）与动作头结合用于机器人控制。现有的动作头存在局限性：点回归仅提供动作分布的点估计，而标准流匹配采样器需要昂贵的迭代采样。为了解决这些问题，本文统一了回归与流匹配，并扩展至量化目标。量化头通过一次前向传播预测中位数和正间隔，从而形成有序的边际动作量化。这些量化支持多种采样策略且无需重新训练，并共同监督以训练默认的中位数策略。实验表明，该策略在多个基准测试中取得了最高的成功率和最短的平均回合时间。

🔬 方法详解

问题定义：本文旨在解决视觉-语言-动作模型中动作估计的不足，现有方法无法有效捕捉动作分布的多样性，导致性能受限。

核心思路：通过统一回归与流匹配，提出量化目标，设计量化头以预测中位数和正间隔，从而形成有序的动作量化，支持多种采样策略。

技术框架：整体架构包括预训练的视觉-语言模型与量化头，量化头负责生成动作量化，采用联合监督策略训练中位数策略，确保高效性与准确性。

关键创新：量化头的设计是本研究的核心创新，通过一次前向传播生成多个动作量化，显著提高了动作估计的效率和准确性，区别于传统的点回归和流匹配方法。

关键设计：在量化头中，设置了固定的间隔和校准的邻近量化，损失函数设计为联合监督，确保中位数更新的方差更低，提升了模型的稳定性和性能。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，所提出的联合监督中位数策略在LIBERO、LIBERO-Plus、LIBERO-Pro及两个真实机器人任务中，成功率最高，且在匹配的LIBERO基线中平均回合时间最短，显示出显著的性能提升。

🎯 应用场景

该研究的潜在应用领域包括机器人控制、自动驾驶、智能家居等多模态交互场景。通过提高动作估计的准确性和效率，能够显著提升机器人在复杂环境中的自主决策能力，推动智能系统的实际应用与发展。

📄 摘要（原文）

Vision-Language-Action (VLA) models integrate pretrained Vision-Language Models (VLMs) with action heads for robot control. Common action heads have distinct limitations: point regression provides only a point estimate of the action distribution, while standard flow-matching samplers require costly iterative sampling. To address these limitations, we unify regression and flow matching under a shared objective and extend it to derive a quantile objective. This quantile objective guides the design of our Quantile Head, which predicts a median and positive gaps to form ordered marginal action quantiles in one forward pass. These quantiles support multiple sampling strategies without retraining and are jointly supervised to train the default median policy. Our local analysis of this joint supervision shows that, with calibrated nearby quantiles, fixed gaps, and matched correction speed, direct median updates have lower variance than under median-only supervision. Experiments show that this jointly supervised median policy achieves the highest average success rates among the compared methods on LIBERO, LIBERO-Plus, LIBERO-Pro, and two real-robot tasks, together with the shortest mean episode time among matched LIBERO baselines; code is available at https://github.com/xwangrs/Quantile-Head-for-VLA.