ExoStart: Efficient learning for dexterous manipulation with sensorized exoskeleton demonstrations

📄 arXiv: 2506.11775v3 📥 PDF

作者: Zilin Si, Jose Enrique Chen, M. Emre Karagozler, Antonia Bronars, Jonathan Hutchinson, Thomas Lampe, Nimrod Gileadi, Taylor Howell, Stefano Saliceti, Lukasz Barczyk, Ilan Olivarez Correa, Tom Erez, Mohit Shridhar, Murilo Fernandes Martins, Konstantinos Bousmalis, Nicolas Heess, Francesco Nori, Maria Bauza

分类: cs.RO

发布日期: 2025-06-13 (更新: 2025-09-24)

💡 一句话要点

提出ExoStart以解决机器人手灵巧操作的挑战

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱二：RL算法与架构 (RL & Architecture)

关键词: 机器人手 灵巧操作 遥操作 强化学习 动态过滤器 外骨骼 数据收集 人机交互

📋 核心要点

  1. 现有的遥操作方法在机器人手的灵巧操作上仍存在显著挑战，尤其是在高自由度和复杂接触动态下。
  2. ExoStart通过使用传感器化的外骨骼收集人类手的示范数据，利用这些数据提升机器人手的控制能力。
  3. 实验结果表明，ExoStart在多项复杂任务中实现了超过50%的成功率，展示了其在真实环境中的有效性。

📝 摘要（中文）

近年来，遥操作系统的进步使得机器人操作器的数据收集质量显著提升，尤其是在大规模学习操作方面。然而，遥操作机器人手仍面临高自由度和复杂动态的挑战。本文提出ExoStart，一个通用且可扩展的学习框架，通过传感器化的低成本可穿戴外骨骼收集高质量示范数据，捕捉人类手的丰富行为。我们还提出了一种基于仿真的动态过滤器，从收集的示范中生成动态可行的轨迹，并利用这些轨迹引导仅依赖简单稀疏奖励的自适应强化学习方法。ExoStart能够生成灵巧的现实世界手部技能，在多项复杂任务中成功率超过50%。

🔬 方法详解

问题定义：本研究旨在解决机器人手在灵巧操作中的控制问题，现有方法在高自由度和复杂动态环境下表现不佳，难以实现人类级别的灵巧性。

核心思路：ExoStart框架通过收集人类的直接操作示范，利用传感器化的外骨骼捕捉人类手的丰富行为，从而提升机器人的操作能力。

技术框架：ExoStart的整体流程包括数据收集、动态过滤器生成轨迹和自适应强化学习三个主要模块。首先，通过外骨骼收集人类示范数据；然后，使用动态过滤器生成可行轨迹；最后，应用强化学习方法进行策略优化。

关键创新：ExoStart的主要创新在于其使用低成本的可穿戴设备收集高质量示范数据，并通过动态过滤器生成可行轨迹，显著提升了学习效率和策略的鲁棒性。

关键设计：在设计中，使用了简单的稀疏奖励机制来引导强化学习过程，确保了学习的高效性。此外，动态过滤器的设计使得生成的轨迹在物理上可行，增强了策略的实用性。

📊 实验亮点

ExoStart在多项复杂任务中表现出色，成功率超过50%，例如打开AirPods盒子和在锁中插入并转动钥匙。这一成果显著优于现有方法，展示了其在真实环境中的有效性和应用前景。

🎯 应用场景

ExoStart的研究成果在多个领域具有广泛的应用潜力，包括服务机器人、医疗辅助设备和工业自动化等。通过提升机器人手的灵巧性，该技术能够在复杂任务中实现更高的效率和准确性，推动机器人技术的进一步发展。

📄 摘要（原文）

Recent advancements in teleoperation systems have enabled high-quality data collection for robotic manipulators, showing impressive results in learning manipulation at scale. This progress suggests that extending these capabilities to robotic hands could unlock an even broader range of manipulation skills, especially if we could achieve the same level of dexterity that human hands exhibit. However, teleoperating robotic hands is far from a solved problem, as it presents a significant challenge due to the high degrees of freedom of robotic hands and the complex dynamics occurring during contact-rich settings. In this work, we present ExoStart, a general and scalable learning framework that leverages human dexterity to improve robotic hand control. In particular, we obtain high-quality data by collecting direct demonstrations without a robot in the loop using a sensorized low-cost wearable exoskeleton, capturing the rich behaviors that humans can demonstrate with their own hands. We also propose a simulation-based dynamics filter that generates dynamically feasible trajectories from the collected demonstrations and use the generated trajectories to bootstrap an auto-curriculum reinforcement learning method that relies only on simple sparse rewards. The ExoStart pipeline is generalizable and yields robust policies that transfer zero-shot to the real robot. Our results demonstrate that ExoStart can generate dexterous real-world hand skills, achieving a success rate above 50% on a wide range of complex tasks such as opening an AirPods case or inserting and turning a key in a lock. More details and videos can be found in https://sites.google.com/view/exostart.