Towards Efficient Robotic Manipulation Models with Self-Recursive Pruning
作者: Zijia Chen, Yuenan Hou, Yu Li, Weijie Li, Li Liu
分类: cs.RO
发布日期: 2026-10-06
💡 一句话要点
提出LCAM修剪方法以提高机器人操作模型的效率
🎯 匹配领域: 支柱一:机器人控制 (Robot Control) 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 网络修剪 机器人操作 无训练方法 激活时刻 自递归机制 性能优化 非结构化修剪
📋 核心要点
- 现有的网络修剪方法主要针对图像识别任务,难以有效应用于机器人操作,导致性能不佳。
- 本文提出的LCAM修剪方法通过无训练的方式,结合权重贡献和激活时刻,对机器人策略进行有效的非结构化修剪。
- 在多个实验中,LCAM在不同的修剪比率下均表现出色,尤其在LIBERO-Object任务中取得了84.0%的成功率。
📝 摘要(中文)
网络修剪可以减少机器人策略中的参数冗余。然而,现有的修剪标准主要针对图像识别任务,通常设计为保留权重大小、局部重构或语言模型的可能性,而非闭环动作行为。直接将这些修剪算法应用于机器人任务的效果不佳。本文提出了一种无训练的Loss-Conditioned Activation-Moment (LCAM)修剪方法,专注于对预训练的机器人操作策略进行非结构化修剪。我们首先通过行归一化的权重贡献、在校准演示中测量的激活时刻以及输出方向对动作预测损失的敏感性来对连接进行排序。接着,我们设计了一种自递归的粗到细过程:在每个嵌套的粗修剪阶段后重新校准重要性,并在稀疏性拐点后利用离线动作失真指导细粒度预算分配。我们的算法无需在修剪后进行昂贵的恢复训练和模拟器回放。实验结果表明,LCAM在多个修剪比率下表现出竞争力,尤其在LIBERO-Object上以50%的非结构化修剪实现了84.0%的成功率,保留了超过90%密集策略的成功率。
🔬 方法详解
问题定义:本文旨在解决现有网络修剪方法在机器人操作任务中应用不佳的问题。现有方法多针对图像识别,无法有效保留闭环动作行为的性能。
核心思路:提出的LCAM修剪方法通过无训练的方式,利用权重贡献、激活时刻和输出方向的敏感性来进行非结构化修剪,旨在提高修剪后的策略性能。
技术框架:该方法包括三个主要模块:首先对连接进行排序,其次进行自递归的粗到细修剪,最后在每个阶段后重新校准重要性,并利用离线动作失真进行细粒度的预算分配。
关键创新:LCAM的最大创新在于其无训练的修剪方式和自递归的调整机制,使得修剪后的策略能够在不进行恢复训练的情况下保持高性能。
关键设计:在设计中,使用了行归一化的权重贡献、激活时刻的测量以及对动作预测损失的敏感性分析,确保修剪过程的有效性和精确性。通过这些设计,LCAM能够在不同的稀疏性条件下优化策略性能。
🖼️ 关键图片
📊 实验亮点
在LIBERO-Object任务中,LCAM在50%的非结构化修剪下实现了84.0%的成功率,且保留了超过90%密集策略的成功率。此外,实验证明该方法在真实世界的乒乓球机器人任务中同样表现出色,展示了其广泛的适用性。
🎯 应用场景
该研究的潜在应用领域包括机器人操作、自动化制造和智能家居等场景。通过提高机器人策略的效率,LCAM修剪方法能够降低计算资源的消耗,提升机器人在复杂环境中的适应能力,具有重要的实际价值和广泛的应用前景。
📄 摘要(原文)
Network pruning can reduce parameter redundancy in robotic policies. However, generic pruning criteria are tailored for image recognition tasks and commonly designed to preserve weight magnitude, local reconstruction, or language-model likelihood rather than closed-loop action behavior. Directly applying these pruning algorithms to robotic tasks yields unsatisfactory performance. In this paper, we propose Loss-Conditioned Activation-Moment (LCAM) pruning, a training-free method for unstructured pruning of pre-trained robotic manipulation policies. Specifically, we first rank connections using row-normalized weight contribution, activation moments measured on calibration demonstrations, and the sensitivity of output directions to the action-prediction loss. We further design a self-recursive coarse-to-fine procedure: importance is recalibrated after each nested coarse pruning stage, while held-out offline action distortion guides fine-grained budget allocation after a sparsity knee. Our algorithm is free from costly recovery training and simulator rollouts after pruning. Experiments on three LIBERO suites with competitive robotic policies, together with evaluations on OpenVLA, show that LCAM attains competitive performance across a broad range of pruning ratios. Notably, on LIBERO-Object with OpenVLA, our LCAM achieves 84.0% success at 50% unstructured pruning, retaining over 90% of the dense policy's success rate. Promising results on real-world robotic ping pong further demonstrate the effectiveness of our pruning algorithm.