Spatial-Temporal Graph Diffusion Policy with Kinematic Modeling for Bimanual Robotic Manipulation
作者: Qi Lv, Hao Li, Xiang Deng, Rui Shao, Yinchuan Li, Jianye Hao, Longxiang Gao, Michael Yu Wang, Liqiang Nie
分类: cs.RO, cs.LG, stat.ML
发布日期: 2025-03-13
备注: Accepted by CVPR 2025
💡 一句话要点
提出KStar Diffuser，解决双臂机器人操作中物理结构约束和运动学一致性问题
🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱二：RL算法与架构 (RL & Architecture)
关键词: 双臂机器人 机器人操作 模仿学习 扩散模型 运动学约束
📋 核心要点
- 现有双臂机器人操作方法忽略物理结构约束，易导致自碰撞和干涉。
- KStar Diffuser构建动态时空图，将机器人物理结构信息融入动作预测。
- 引入可微分运动学，使预测的末端执行器姿态符合运动学约束，提升可靠性。
📝 摘要（中文）
本文针对模仿学习在双臂机器人操作中的挑战，提出了一种名为运动学增强的时空图扩散器（KStar Diffuser）。现有方法主要预测下一个最佳末端执行器姿态（NBP），然后使用逆运动学计算关节旋转角度，但很少考虑物理机器人结构，可能导致自碰撞或干涉，并且忽略运动学约束，导致预测的姿态不符合机器人关节的实际限制。KStar Diffuser通过维护一个动态时空图来整合物理机器人结构信息到动作预测中，该图根据连续时间步长的双臂关节运动构建，作为动作去噪的机器人结构条件。此外，引入可微分运动学为优化提供参考，使NBP学习目标与运动学一致，从而正则化策略，预测更可靠和运动学感知的末端执行器姿态。实验结果表明，该方法有效地利用了物理结构信息，并在仿真和真实世界中生成了运动学感知的动作。
🔬 方法详解
问题定义：双臂机器人操作任务中，模仿学习方法通常预测下一个最佳末端执行器姿态（NBP），然后通过逆运动学计算关节角度。然而，这些方法忽略了机器人的物理结构，可能导致自碰撞或干涉。同时，忽略运动学约束会导致预测的姿态超出机器人关节的实际限制，使得动作无法执行。
核心思路：KStar Diffuser的核心思路是将机器人的物理结构信息和运动学约束显式地融入到动作预测过程中。通过构建动态时空图来表示机器人的物理结构，并利用可微分运动学来指导NBP的学习，从而生成更安全、更可行的动作。
技术框架：KStar Diffuser包含两个主要模块：动态时空图构建模块和可微分运动学模块。动态时空图构建模块根据机器人的物理结构和关节运动，构建一个动态更新的图结构，用于表示机器人各部分之间的空间关系和时间依赖性。可微分运动学模块则提供了一个可微分的运动学模型，用于计算给定关节角度下的末端执行器姿态，并将其作为优化目标的一部分，引导NBP的学习。整体流程是，首先利用动态时空图对动作进行去噪，然后利用可微分运动学模块对预测的NBP进行正则化，最终得到符合运动学约束的动作。
关键创新：KStar Diffuser的关键创新在于将物理结构信息和运动学约束融入到扩散模型中。传统的扩散模型通常只关注动作的生成，而忽略了机器人的物理特性。KStar Diffuser通过引入动态时空图和可微分运动学，使得扩散模型能够感知机器人的物理结构和运动学约束，从而生成更安全、更可行的动作。与现有方法的本质区别在于，KStar Diffuser不仅仅是学习一个动作策略，而是学习一个符合机器人物理特性的动作策略。
关键设计：动态时空图的节点表示机器人的各个关节，边表示关节之间的物理连接关系。边的权重可以根据关节之间的距离和运动关系进行调整。可微分运动学模块采用标准的机器人运动学模型，并使用自动微分技术实现可微分性。损失函数包括动作预测损失、运动学约束损失和碰撞惩罚项。动作预测损失用于衡量预测动作与目标动作之间的差距。运动学约束损失用于衡量预测的NBP与可微分运动学模型计算出的姿态之间的差距。碰撞惩罚项用于惩罚可能导致碰撞的动作。
🖼️ 关键图片
📊 实验亮点
实验结果表明，KStar Diffuser在仿真和真实世界中都取得了显著的性能提升。与现有方法相比，KStar Diffuser能够生成更安全、更可行的动作，并显著降低碰撞率。具体性能数据未知，但论文强调了在仿真和真实环境中的有效性。
🎯 应用场景
该研究成果可应用于各种双臂机器人操作任务，例如装配、搬运、协作等。通过考虑机器人的物理结构和运动学约束，可以提高操作的安全性、可靠性和效率。未来，该方法可以扩展到更复杂的机器人系统和任务中，例如多机器人协作、人机协作等，具有广阔的应用前景。
📄 摘要（原文）
Despite the significant success of imitation learning in robotic manipulation, its application to bimanual tasks remains highly challenging. Existing approaches mainly learn a policy to predict a distant next-best end-effector pose (NBP) and then compute the corresponding joint rotation angles for motion using inverse kinematics. However, they suffer from two important issues: (1) rarely considering the physical robotic structure, which may cause self-collisions or interferences, and (2) overlooking the kinematics constraint, which may result in the predicted poses not conforming to the actual limitations of the robot joints. In this paper, we propose Kinematics enhanced Spatial-TemporAl gRaph Diffuser (KStar Diffuser). Specifically, (1) to incorporate the physical robot structure information into action prediction, KStar Diffuser maintains a dynamic spatial-temporal graph according to the physical bimanual joint motions at continuous timesteps. This dynamic graph serves as the robot-structure condition for denoising the actions; (2) to make the NBP learning objective consistent with kinematics, we introduce the differentiable kinematics to provide the reference for optimizing KStar Diffuser. This module regularizes the policy to predict more reliable and kinematics-aware next end-effector poses. Experimental results show that our method effectively leverages the physical structural information and generates kinematics-aware actions in both simulation and real-world