FastOPD: On-Policy Distillation for Lightweight VLA Deployment

📄 arXiv: 2610.02832v1 📥 PDF

作者: Yoojin Oh, Jeongsol Kim, Yeonwoo Seo, Jangho Park, Seonghyun Jin, Sunwoo Park, Youngmin Kim, Youngjun Jun, Kyumin Choi, Jong Chul Ye

分类: cs.RO, cs.AI, cs.CV, cs.LG

发布日期: 2026-10-02

备注: Project page: https://fastopd.github.io/

💡 一句话要点

提出FastOPD以解决VLA模型部署中的计算成本问题

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉-语言-动作 在线蒸馏 轻量级模型 机器人操作 自一致性目标

📋 核心要点

  1. 现有的VLA模型在规模扩大时面临高计算成本，导致实际部署困难。
  2. FastOPD通过在线蒸馏技术，将大规模VLA模型转化为轻量级模型，提升部署效率。
  3. 在LIBERO上，FastOPD在仅两步推理下保留了84%的性能，推理延迟减少了78.1%。

📝 摘要（中文）

视觉-语言-动作（VLA）基础模型在提升操作性能和泛化能力方面迅速发展，但其规模的扩大带来了高昂的计算成本，使得实际部署变得愈加困难。现有方法通常通过设计更小的架构或减少基于流的策略中的迭代去噪步骤来缓解这一问题。本文提出了FastOPD，一个基础到轻量级的VLA框架，通过高效的在线蒸馏实现大规模VLA的实际部署。具体而言，FastOPD为单状态教师监督适配流图，并结合自一致性目标构建一个紧凑的学生模型，从而学习教师的动态。此外，我们理论上证明了最小化该目标可以使蒸馏后的学生恢复与理想的少步教师模型相当的分布。我们在模拟和真实世界实验中评估了FastOPD的性能。

🔬 方法详解

问题定义：本文旨在解决视觉-语言-动作（VLA）模型在实际部署中面临的高计算成本问题。现有方法通常通过缩小模型架构或减少迭代步骤来应对，但仍存在性能损失和效率低下的挑战。

核心思路：FastOPD的核心思路是通过高效的在线蒸馏，将大规模的VLA模型转化为轻量级模型。具体而言，采用流图进行单状态教师监督，并结合自一致性目标，以构建一个能够学习教师动态的紧凑学生模型。

技术框架：FastOPD的整体架构包括教师模型和学生模型的协同工作。教师模型提供指导，学生模型则通过在线蒸馏学习教师的动态。整个过程包括流图适配、自一致性目标的优化以及最终的模型蒸馏。

关键创新：FastOPD的主要创新在于其在线蒸馏方法，通过自一致性目标的引入，使得蒸馏后的学生模型能够恢复与理想教师模型相当的分布。这一方法与传统的蒸馏技术相比，显著提高了模型的效率和性能。

关键设计：在设计上，FastOPD采用了特定的损失函数来优化自一致性目标，同时在网络结构上进行了紧凑化设计，以确保学生模型在推理时的高效性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在实验中，FastOPD在LIBERO数据集上仅用两步推理保留了84%的性能，推理延迟减少了78.1%。在RoboTwin 2.0上，使用LingBot-VLA作为教师，FastOPD使单步成功率提高了15.9个百分点，超越了现有的少步蒸馏基线。

🎯 应用场景

该研究的潜在应用领域包括机器人操作、自动化系统和智能助手等。通过实现轻量级的VLA模型，FastOPD能够在资源受限的环境中有效部署，提升实际应用的灵活性和响应速度，具有重要的实际价值和未来影响。

📄 摘要（原文）

Vision-Language-Action (VLA) foundation models have scaled rapidly to enhance manipulation performance and generalizability, but this scaling incurs high computational costs that render real-world deployment increasingly challenging. Existing approaches typically mitigate this issue by designing smaller architectures or reducing the iterative denoising steps in flow-based policies. In this work, we propose FastOPD, a foundation-to-lightweight VLA framework that enables the practical deployment of large-scale VLAs through efficient on-policy distillation. Specifically, FastOPD adapts a flow map for single-state teacher supervision and combines it with a self-consistency objective to construct a compact student that learns the teacher dynamics. Furthermore, we theoretically demonstrate that minimizing this objective allows the distilled student to recover a distribution on par with that induced by an ideal few-step teacher model. We evaluate FastOPD across diverse foundation policies in simulation and real-world experiments. On LIBERO, FastOPD retains 84% of the performance of $π_{0.5}$ with only two inference steps, reducing inference latency by 78.1% while outperforming existing few-step distillation baselines in average success rate. With LingBot-VLA as the teacher, FastOPD improves the single-step success rate over the base student by 15.9 percentage points on RoboTwin 2.0. We further demonstrate its applicability to a World Action Model (WAM) and deploy a compact student distilled from MolmoAct2 on a real robot.