ScrewMimic: Bimanual Imitation from Human Videos with Screw Space Projection
作者: Arpit Bahety, Priyanka Mandikal, Ben Abbatematteo, Roberto Martín-Martín
分类: cs.RO, cs.AI
发布日期: 2024-05-06
备注: 16 pages
💡 一句话要点
ScrewMimic：基于螺旋空间投影的人体视频双臂模仿学习框架
🎯 匹配领域: 支柱一：机器人控制 (Robot Control)
关键词: 双臂操作 模仿学习 螺旋理论 机器人学习 动作空间表示
📋 核心要点
- 双臂操作自由度高，时空同步要求严格，机器人难以有效学习。
- 提出ScrewMimic框架，将双手交互建模为螺旋运动，定义新的螺旋动作空间。
- 实验证明，ScrewMimic能从少量演示中学习复杂双臂行为，性能优于基线。
📝 摘要（中文）
双臂操作是机器人领域一个长期存在的挑战，因为它需要大量的自由度以及严格的空间和时间同步才能产生有意义的行为。人类通过观察他人并不断练习来学习双臂操作技能。本文旨在使机器人能够从人类视频演示中学习双臂操作行为，并通过交互进行微调。受到心理学和生物力学领域开创性工作的启发，我们提出将双手之间的交互建模为串行运动链——特别是螺旋运动，并使用它来定义双臂操作的新动作空间：螺旋动作。我们介绍了一个名为ScrewMimic的框架，该框架利用这种新颖的动作表示来促进从人类演示中学习和自监督策略微调。实验表明，ScrewMimic能够从单个人类视频演示中学习几种复杂的双臂行为，并且优于直接在双臂原始运动空间中解释演示和进行微调的基线方法。
🔬 方法详解
问题定义：论文旨在解决机器人双臂操作学习问题，特别是如何从少量的人类视频演示中学习复杂的双臂协调动作。现有方法通常直接在机器人的关节空间或笛卡尔空间进行模仿学习，忽略了双臂之间的内在联系，导致学习效率低，泛化能力差。此外，缺乏有效的动作空间表示使得难以进行策略微调。
核心思路：论文的核心思路是将双臂之间的交互建模为螺旋运动，利用螺旋理论将双臂的相对运动表示为一个紧凑的螺旋动作空间。这种表示方法能够捕捉双臂之间的空间和时间关系，从而简化学习过程，提高学习效率和泛化能力。通过将复杂的双臂运动分解为一系列螺旋动作，机器人可以更容易地理解和模仿人类的动作。
技术框架：ScrewMimic框架主要包含以下几个阶段：1) 视频数据处理：从人类视频演示中提取双臂的运动轨迹。2) 螺旋动作空间投影：将双臂的运动轨迹投影到螺旋动作空间，得到一系列螺旋动作。3) 模仿学习：使用模仿学习算法，例如行为克隆或动态运动原语，从螺旋动作序列中学习策略。4) 策略微调：使用自监督学习或强化学习方法，在真实机器人环境中对学习到的策略进行微调。
关键创新：论文最重要的技术创新点在于提出了基于螺旋理论的双臂动作空间表示。与传统的关节空间或笛卡尔空间表示相比，螺旋动作空间能够更有效地捕捉双臂之间的相对运动关系，从而简化了学习过程，提高了学习效率和泛化能力。此外，该方法还提出了一种将人类视频演示投影到螺旋动作空间的方法，使得机器人能够从少量的人类演示中学习复杂的双臂动作。
关键设计：论文的关键设计包括：1) 螺旋轴的参数化：使用Plücker坐标对螺旋轴进行参数化，从而能够表示任意方向和位置的螺旋轴。2) 螺旋节距的计算：根据双臂的运动轨迹计算螺旋节距，从而能够表示不同类型的螺旋运动。3) 损失函数的设计：设计合适的损失函数，例如基于螺旋动作的均方误差损失函数，用于训练模仿学习模型。4) 策略微调方法：采用自监督学习方法，例如预测下一个螺旋动作，用于在真实机器人环境中对学习到的策略进行微调。
🖼️ 关键图片
📊 实验亮点
实验结果表明，ScrewMimic能够从单个人类视频演示中学习几种复杂的双臂行为，例如拧螺丝、组装零件等。与直接在双臂原始运动空间中进行模仿学习的基线方法相比，ScrewMimic在学习效率和泛化能力方面均有显著提升。具体而言，ScrewMimic能够更快地收敛到最优策略，并且能够更好地适应新的环境和任务。
🎯 应用场景
ScrewMimic框架可应用于各种需要双臂协调操作的机器人任务，例如装配、操作工具、医疗手术等。该研究成果有助于提高机器人在复杂环境中的操作能力和自主性，降低对大量训练数据的依赖，加速机器人技术的实际应用。未来，该方法可以扩展到更多自由度的机器人系统，例如人形机器人，从而实现更复杂的人机协作任务。
📄 摘要（原文）
Bimanual manipulation is a longstanding challenge in robotics due to the large number of degrees of freedom and the strict spatial and temporal synchronization required to generate meaningful behavior. Humans learn bimanual manipulation skills by watching other humans and by refining their abilities through play. In this work, we aim to enable robots to learn bimanual manipulation behaviors from human video demonstrations and fine-tune them through interaction. Inspired by seminal work in psychology and biomechanics, we propose modeling the interaction between two hands as a serial kinematic linkage -- as a screw motion, in particular, that we use to define a new action space for bimanual manipulation: screw actions. We introduce ScrewMimic, a framework that leverages this novel action representation to facilitate learning from human demonstration and self-supervised policy fine-tuning. Our experiments demonstrate that ScrewMimic is able to learn several complex bimanual behaviors from a single human video demonstration, and that it outperforms baselines that interpret demonstrations and fine-tune directly in the original space of motion of both arms. For more information and video results, https://robin-lab.cs.utexas.edu/ScrewMimic/