What Matters in Quality-Aware VLA Pretraining: A Benchmark and Empirical Study

📄 arXiv: 2610.18869v1 📥 PDF

作者: Mingxuan Yan, Litian Gong, Dihong Huang, Zhixu Li, Tianyu Zhang, Wenqian Zhang, Hefeifei Jiang, Peihao Li, Jian Zhang, Mengfei Zhao, Yikai Tang, Hai Zhai, Zehao Wang, Ruijian Liang, Yanjia Huang, Lin Shao, Changliu Liu, Kaiyu Hang, Zhiwen Fan, Masayoshi Tomizuka, Jianfei Yang, Jiachen Li

分类: cs.RO, cs.AI, cs.LG

发布日期: 2026-10-13

备注: Project Website: https://axis-bench.github.io/

🔗 代码/项目: PROJECT_PAGE

💡 一句话要点

提出AXIS-Bench以优化视觉-语言-动作预训练中的示范质量利用

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉-语言-动作 示范质量 预训练 微调 AXIS-Bench 多模态学习 机器人控制

📋 核心要点

  1. 现有的视觉-语言-动作预训练方法在利用示范质量时存在不足，影响了目标任务的微调效果。
  2. 论文提出通过加权、过滤和条件化等方法，优化示范质量在VLA预训练中的使用，以提升后续任务性能。
  3. 实验结果显示，模拟预训练成功率从9.6%提升至31.7%，验证了所提方法的有效性和实用性。

📝 摘要（中文）

本研究探讨如何在视觉-语言-动作（VLA）预训练中有效利用示范质量，以提升目标任务微调后的性能。通过对5000个自然次优人类示范和24个目标任务的比较，研究了加权、过滤和条件化等方法。结果表明，基于情境的episode条件化在平均成功率上优于简单的行为克隆；条件化和过滤分别在episode和chunk标签上表现出优势，且模型依赖性导致结果反转。此外，常量标签微调在条件化预训练后，无论是带标签还是不带标签的推理，均能提高平均成功率。研究还引入了AXIS-Bench，以支持这些受控比较，并通过众包的模拟示范提供了可重放的轨迹，提升了实际应用中的成功率。

🔬 方法详解

问题定义：本研究旨在解决在视觉-语言-动作（VLA）预训练中如何有效利用示范质量的问题。现有方法在处理自然次优示范时，未能充分考虑示范质量对目标任务微调的影响，导致性能提升有限。

核心思路：论文提出通过加权、过滤和条件化等策略，系统性地评估和利用示范质量，以提高微调后的任务性能。通过对示范进行精细化处理，能够更好地匹配训练预算和示范质量，从而优化学习效果。

技术框架：整体架构包括数据收集、示范质量标注、预训练、微调和推理五个主要模块。首先，通过AXIS-Bench收集众包的模拟示范，并对其进行质量标注。然后，利用这些标注数据进行VLA的预训练，最后在目标任务上进行微调和推理。

关键创新：最重要的技术创新在于引入了AXIS-Bench平台，支持对示范质量的系统性比较和分析。该平台提供了可重放的轨迹和质量标签的重新计算，显著提升了实验的可控性和结果的可靠性。

关键设计：在实验中，采用了不同的加权和过滤策略，针对episode和chunk标签进行了优化。此外，设计了常量标签微调策略，以确保在条件化预训练后，模型在推理阶段的表现得到提升。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，模拟预训练成功率从9.6%提升至31.7%，验证了所提方法在提升任务性能方面的有效性。此外，基于情境的episode条件化在平均成功率上优于简单的行为克隆，展示了方法的优势。

🎯 应用场景

该研究的潜在应用领域包括机器人控制、自动驾驶、智能助手等多模态交互场景。通过优化示范质量的利用，可以显著提升系统在复杂任务中的表现，推动智能系统的实际应用和发展。

📄 摘要（原文）

How should demonstration quality be used during vision-language-action (VLA) pretraining to improve performance after target-task fine-tuning? We compare weighting, filtering, and conditioning across reward definitions and label granularities using 5,000 naturally suboptimal human demonstrations and 24 target tasks. Within each VLA, we match demonstrations and training budgets. Additional comparisons examine pretraining data size and the roles of quality tags during fine-tuning and inference. Across three VLAs, we find that approach-aware episode conditioning improves mean success over plain behavioral cloning; conditioning and filtering favor episode and chunk labels, respectively, on average, with model-dependent reversals; and constant-tag fine-tuning improves mean success after conditioned pretraining with either tagged or untagged inference. We introduce AXIS-Bench to support these controlled comparisons. Built on crowdsourced simulation demonstrations, it provides recorded object and contact states for recomputing quality labels on shared trajectories. Replayable trajectories support workspace-aligned rendering and user-defined real-world target tasks. In our real-world experiment, simulation pretraining raises success from 9.6\% to 31.7\%. Project page: https://axis-bench.github.io/.