Recovering Aggressively Pruned Vision-Language-Action Models with Offline Hidden-State Distillation
作者: Chiyoung Kim, Sanghyuk Roy Choi, Minhyeok Lee
分类: cs.RO
发布日期: 2026-09-17
备注: Preprint
💡 一句话要点
提出离线隐状态蒸馏以恢复大幅剪枝的视觉-语言-动作模型
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 视觉-语言-动作 模型剪枝 隐状态蒸馏 机器人学习 深度学习
📋 核心要点
- 现有的视觉-语言-动作模型在机器人硬件上运行受限于其庞大的语言骨干网络，导致性能大幅下降。
- 本文提出通过离线隐状态蒸馏的方法，利用宽度剪枝保持隐状态形状一致，从而实现高效的模型恢复。
- 实验结果显示，使用该方法的学生模型在成功率上显著优于传统的监督恢复，且在资源消耗上更为高效。
📝 摘要（中文）
视觉-语言-动作（VLA）模型使机器人能够遵循语言指令，但其数十亿参数的语言骨干网络使其在机器人硬件上运行面临挑战。结构化剪枝减少了该骨干网络，去除63%后，OpenVLA-OFT的成功率从93.2%降至0.8%。本文提出一种方法，通过离线隐状态蒸馏恢复大部分失去的成功率，避免了在线回放和大量GPU计算。宽度剪枝保持残差流的原始大小，使教师和学生的隐状态形状相同，直接匹配。通过在一次教师传递中构建的缓存进行训练，使得63%剪枝的学生在约8个GPU小时内成功率提升至接近教师。实验表明，隐状态蒸馏在63%至87%剪枝之间显著提升了成功率。
🔬 方法详解
问题定义：本文旨在解决视觉-语言-动作模型在机器人硬件上运行时，由于语言骨干网络参数过多而导致的性能下降问题。现有方法依赖在线回放和大量GPU计算，效率低下。
核心思路：提出一种离线隐状态蒸馏的方法，通过宽度剪枝保持教师和学生模型的隐状态形状一致，避免了复杂的投影过程，从而实现高效的模型恢复。
技术框架：整体流程包括：首先进行结构化剪枝以减少模型参数；然后通过教师模型生成隐状态缓存；最后利用该缓存进行学生模型的离线训练，逐步恢复性能。
关键创新：最重要的创新在于提出了离线隐状态蒸馏的概念，显著降低了对在线计算资源的依赖，与传统的监督恢复方法相比，能够在更少的时间和资源下实现更高的成功率。
关键设计：在训练过程中，采用了宽度剪枝技术，确保隐状态的形状一致性；同时，设计了针对不同剪枝比例的训练策略，以优化模型恢复效果。
🖼️ 关键图片
📊 实验亮点
实验结果显示，经过离线隐状态蒸馏的学生模型在63%剪枝时成功率提升至77.5%，相比于传统监督恢复的59.5%有显著提高。此外，在相同压缩率下，宽度剪枝模型的成功率更高，且延迟更低，展示了该方法的有效性。
🎯 应用场景
该研究的潜在应用领域包括自主机器人、智能家居和工业自动化等场景，能够使机器人在资源受限的环境中更高效地执行复杂任务。未来，该方法可能推动更小型、低功耗的智能设备的开发，使其能够处理更复杂的语言指令和任务。
📄 摘要（原文）
Vision-language-action (VLA) models let robots follow language instructions, but their language backbones of several billion parameters are the main obstacle to running them on robot hardware. Structured pruning reduces that backbone, and removing 63% of it from OpenVLA-OFT drops LIBERO-Long success from 93.2% to 0.8%. A recent approach restores such a model with supervised fine-tuning followed by reinforcement learning, which needs online rollouts and hundreds of GPU-hours. We recover most of the lost success entirely offline. Width pruning narrows the blocks but keeps the residual stream at its original size, so teacher and student hidden states have the same shape and are matched directly, without a projector. Training against a cache built in one teacher pass lifts the 63%-reduced student to within 3.5 points of the teacher in about 8 GPU-hours. A sweep over nine ratios locates where the recovery objective starts to matter. Up to 45% reduction the two do not differ significantly on OpenVLA-OFT. Hidden-state distillation then adds +2.1 to +4.5 points there between 63% and 87%, and +9.4 to +22.1 points on CogACT from 63% onward. At 81% on CogACT, a tripled recovery budget narrows the distilled student's gap to the teacher to 3.9 points on average, while supervised recovery stays more than 20 points below. At matched compression, width pruning yields higher success and depth pruning lower latency. On a 6-DoF manipulator, the distilled student at 72% reduction reaches 77.5% success against 59.5% for supervised recovery, runs 2.23x faster on-board than the teacher, and uses 62% less memory.