Bringing the RT-1-X Foundation Model to a SCARA robot

📄 arXiv: 2409.03299v1 📥 PDF

作者: Jonathan Salzer, Arnoud Visser

分类: cs.RO, cs.LG

发布日期: 2024-09-05

备注: 14 pages, submitted to the joint Artificial Intelligence & Machine Learning conference for Belgium, Netherlands & Luxembourg (BNAIC/BeNeLearn)

💡 一句话要点

RT-1-X迁移至SCARA机器人：通过微调实现技能迁移，但对象知识迁移受限

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 机器人学习 迁移学习 基础模型 SCARA机器人 RT-1-X 泛化能力 机器人控制

📋 核心要点

  1. 现有机器人系统难以跨任务、环境和机器人形态泛化，需要大量特定数据训练。
  2. 该研究探索了RT-1-X模型在全新SCARA机器人上的泛化能力，通过微调实现技能迁移。
  3. 实验表明，RT-1-X零样本泛化能力有限，但微调后可迁移技能，对象知识迁移效果不佳。

📝 摘要（中文）

传统机器人系统需要针对每个任务、环境和机器人形态进行特定的数据训练。虽然机器学习的最新进展使得模型能够泛化到新的任务和环境，但将这些模型适应到全新的设置中的挑战在很大程度上仍未被探索。本研究通过调查RT-1-X机器人基础模型对一种训练期间未见过的机器人类型（UMI-RTX的SCARA机器人）的泛化能力来解决这个问题。初步实验表明，RT-1-X无法零样本泛化到这种未见过的机器人类型。然而，通过演示对RT-1-X模型进行微调，机器人能够学习一个取物任务，该任务是基础模型的一部分（但针对另一种机器人类型学习）。当机器人遇到一个包含在基础模型中但未包含在微调数据集中的对象时，实验表明只有技能，而不是特定于对象的知识，得到了迁移。

🔬 方法详解

问题定义：论文旨在解决机器人基础模型在不同机器人形态之间的泛化问题。现有机器人学习方法通常针对特定机器人和任务进行训练，难以迁移到新的机器人类型上。RT-1-X虽然具备一定的泛化能力，但其在训练时并未见过SCARA机器人，因此直接应用可能效果不佳。论文关注的是如何将RT-1-X的知识迁移到SCARA机器人上，并分析其迁移能力的局限性。

核心思路：论文的核心思路是通过微调RT-1-X模型，使其适应SCARA机器人的运动学和控制特性。微调使用少量SCARA机器人的演示数据，目标是让SCARA机器人能够执行RT-1-X已经掌握的任务。通过对比微调前后以及不同对象上的表现，分析RT-1-X的技能迁移和对象知识迁移能力。

技术框架：该研究的技术框架主要包括以下几个部分：1) 使用RT-1-X作为预训练模型；2) 收集SCARA机器人的演示数据，用于微调RT-1-X；3) 在SCARA机器人上进行实验，评估RT-1-X的性能。实验包括零样本测试、微调后的测试，以及对不同对象的测试。通过对比这些测试结果，分析RT-1-X的泛化能力。

关键创新：该研究的关键创新在于探索了机器人基础模型在完全不同的机器人形态上的迁移学习能力。以往的研究主要集中在相似机器人之间的迁移，或者在同一机器人上进行不同任务的迁移。该研究首次将RT-1-X应用于SCARA机器人，并分析了其技能迁移和对象知识迁移的差异。

关键设计：微调过程使用了SCARA机器人的少量演示数据，目标是让机器人学习一个取物任务。实验中使用了不同的对象，包括RT-1-X训练集中包含的对象和未包含的对象。通过对比不同对象上的表现，分析RT-1-X的对象知识迁移能力。具体的参数设置和损失函数等技术细节在论文中可能没有详细描述，属于RT-1-X模型本身的固有设置。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，RT-1-X无法直接零样本泛化到SCARA机器人。然而，通过少量演示数据的微调，SCARA机器人能够学习RT-1-X已经掌握的取物技能。进一步的实验表明，只有技能得到了迁移，而特定于对象的知识并没有完全迁移。当机器人遇到一个包含在基础模型中但未包含在微调数据集中的对象时，其表现不佳，说明对象知识的迁移仍然是一个挑战。

🎯 应用场景

该研究成果可应用于机器人自动化领域，尤其是在需要快速部署新机器人或新任务的场景中。通过将预训练的机器人基础模型迁移到新的机器人平台上，可以大大减少训练时间和数据需求。此外，该研究也为机器人基础模型的进一步发展提供了指导，例如如何提高模型在不同机器人形态之间的泛化能力，以及如何更好地迁移对象知识。

📄 摘要（原文）

Traditional robotic systems require specific training data for each task, environment, and robot form. While recent advancements in machine learning have enabled models to generalize across new tasks and environments, the challenge of adapting these models to entirely new settings remains largely unexplored. This study addresses this by investigating the generalization capabilities of the RT-1-X robotic foundation model to a type of robot unseen during its training: a SCARA robot from UMI-RTX. Initial experiments reveal that RT-1-X does not generalize zero-shot to the unseen type of robot. However, fine-tuning of the RT-1-X model by demonstration allows the robot to learn a pickup task which was part of the foundation model (but learned for another type of robot). When the robot is presented with an object that is included in the foundation model but not in the fine-tuning dataset, it demonstrates that only the skill, but not the object-specific knowledge, has been transferred.