VLA-ACL: Action-Consistent Visual Token Pruning for Efficient Vision-Language-Action Models

📄 arXiv: 2610.08133v1 📥 PDF

作者: Owen Du, Yang Yue, Jie Zhang, Jiaqi Pi, Chi Bene Chen, Gao Huang

分类: cs.RO, cs.CV

发布日期: 2026-10-06

🔗 代码/项目: GITHUB

💡 一句话要点

提出VLA-ACL以解决视觉语言动作模型的高计算成本问题

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉语言动作 剪枝策略 动作一致性学习 机器人操控 计算效率 多模态学习 实时部署

📋 核心要点

  1. 现有的视觉标记剪枝方法要么依赖于无训练的启发式方法，要么需要对基础VLA模型进行昂贵的微调，导致效率低下。
  2. VLA-ACL通过动作级监督学习剪枝策略，保持基础模型不变，直接将标记选择与下游控制输出的效果联系起来。
  3. 实验结果显示，VLA-ACL能够剪枝87.5%的视觉标记，计算量减少75%，推理速度提升1.5倍，显著提高了性能与效率的平衡。

📝 摘要（中文）

视觉语言动作（VLA）模型在机器人操控中表现出色，但由于在每个控制步骤中处理长序列的高计算成本，限制了其实时部署。视觉标记剪枝是直接解决方案，但现有方法依赖于间接的无训练启发式方法或需要昂贵的微调。本文提出VLA-ACL（动作一致性学习），通过动作级监督学习轻量级视觉标记剪枝策略，同时保持基础VLA模型完全冻结。训练目标鼓励从剪枝视觉上下文中产生的动作与完整上下文教师保持一致，并以真实动作作为辅助监督。实验表明，VLA-ACL能够剪枝高达87.5%的视觉标记，同时保持竞争性能，计算量减少高达75%，推理速度提升1.5倍。

🔬 方法详解

问题定义：本文旨在解决视觉语言动作模型在每个控制步骤中处理长序列所带来的高计算成本问题。现有方法通常依赖于无训练的启发式方法或需要昂贵的微调，导致效率低下。

核心思路：VLA-ACL通过动作级监督学习来实现轻量级的视觉标记剪枝策略，保持基础VLA模型的冻结状态。这种设计使得剪枝过程能够直接与下游控制输出的效果相关联，从而提高了剪枝的有效性。

技术框架：VLA-ACL的整体架构包括三个主要模块：首先是视觉上下文的输入处理，其次是基于动作一致性的剪枝策略学习，最后是通过教师模型提供的真实动作进行监督。

关键创新：VLA-ACL的主要创新在于引入了动作级监督来指导视觉标记的选择，这与现有方法的间接剪枝策略形成了鲜明对比，显著提高了剪枝的有效性和效率。

关键设计：在设计上，VLA-ACL采用了特定的损失函数来鼓励剪枝后的动作与完整上下文的动作保持一致，同时通过冻结基础模型来减少训练成本。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，VLA-ACL能够剪枝高达87.5%的视觉标记，同时保持与完整模型相当的性能，计算量减少高达75%，推理速度提升1.5倍。这些结果表明VLA-ACL在性能与效率之间建立了更强的平衡。

🎯 应用场景

该研究在机器人操控、智能家居和自动化工业等领域具有广泛的应用潜力。通过提高视觉语言动作模型的效率，VLA-ACL能够支持实时决策和操作，推动智能系统的实际部署和应用。

📄 摘要（原文）

Vision-Language-Action (VLA) models achieve strong robotic manipulation performance but incur high computational costs from processing long token sequences at every control step, limiting real-time deployment. Visual token pruning offers a direct solution, as visual patches dominate the input sequence and contain considerable redundancy. Existing approaches, however, either rely on indirect training-free heuristics, such as attention scores and motion thresholds, or require costly fine-tuning of the base VLA model. We introduce VLA-ACL (Action Consistency Learning), which learns a lightweight visual token pruning policy through action-level supervision while keeping the base VLA model entirely frozen. The training objective encourages actions produced from pruned visual contexts to remain consistent with the full-context teacher, with ground-truth actions as auxiliary supervision. This directly ties token selection to its effect on the downstream control output. Experiments on LIBERO and real-world manipulation tasks show that VLA-ACL prunes up to 87.5% of visual tokens while retaining competitive performance, reduces computation by up to 75%, and achieves a 1.5x inference speedup. These results establish a stronger performance-efficiency trade-off than existing frozen-VLA pruning methods and demonstrate the value of action-level supervision for visual token selection. Code is available at https://github.com/du-owen/VLA-ACL.