Generalized Locomotion in Out-of-distribution Conditions with Robust Transformer

📄 arXiv: 2507.04039v1 📥 PDF

作者: Lingxiao Guo, Yue Gao

分类: cs.RO

发布日期: 2025-07-05

💡 一句话要点

提出ROLT，通过Transformer变体提升腿式机器人在分布外环境下的鲁棒运动能力

🎯 匹配领域: 支柱一：机器人控制 (Robot Control)

关键词: 腿式机器人 鲁棒运动 Transformer 分布外泛化 身体Token化

📋 核心要点

  1. 现有腿式机器人方法在分布外场景泛化性不足，通常依赖复杂的训练和自适应策略。
  2. ROLT通过身体Token化实现肢体间知识共享，并采用一致性Dropout增强对感知噪声的鲁棒性。
  3. 实验表明，ROLT在四足和六足机器人上，对未见过的动态条件和感知噪声表现出更强的鲁棒性。

📝 摘要（中文）

为了在真实世界中取得成功，机器人必须能够处理与训练数据不同的情况。对于腿式机器人来说，这些分布外情况主要包括具有挑战性的动态间隙和感知间隙。本文研究了在这种新情况下实现鲁棒运动的问题。以往的方法通常依赖于设计精巧的训练和自适应技术，而本文从网络模型的角度来解决这个问题。本文提出了一种鲁棒运动Transformer（ROLT），它是Transformer的一种变体，可以在各种未见过的条件下实现鲁棒性。ROLT引入了两个关键设计：身体Token化和一致性Dropout。身体Token化支持不同肢体之间的知识共享，从而提高网络的泛化能力。同时，一种新颖的Dropout策略增强了策略对未见过的感知噪声的鲁棒性。在四足和六足机器人上进行了大量的实验。结果表明，ROLT比现有方法更鲁棒。尽管仅在少数动态设置中进行训练，但学习到的策略可以很好地泛化到多个未见过的动态条件。此外，尽管使用干净的观测数据进行训练，该模型也能在测试期间处理具有挑战性的损坏噪声。

🔬 方法详解

问题定义：论文旨在解决腿式机器人在分布外（Out-of-Distribution, OOD）环境中运动控制的鲁棒性问题。现有方法通常依赖于针对特定环境的精细化训练或在线自适应，难以泛化到未知的动态间隙（如不同的地形）和感知噪声（如传感器损坏）等OOD情况。这些方法缺乏对不同肢体运动模式的通用理解，且容易受到感知误差的影响。

核心思路：论文的核心思路是通过改进Transformer网络结构，使其能够更好地学习腿式机器人的运动控制策略，并提高对OOD情况的适应能力。具体来说，通过身体Token化实现不同肢体间的知识共享，从而提升泛化能力；通过一致性Dropout增强策略对感知噪声的鲁棒性。这种方法旨在从模型结构层面提升鲁棒性，而非依赖于复杂的训练技巧。

技术框架：ROLT的整体框架基于Transformer结构。输入包括机器人的状态信息（如关节角度、速度等）和环境感知信息。首先，通过身体Token化将机器人的身体划分为多个Token，每个Token代表一个或一组肢体。然后，这些Token被输入到Transformer编码器中进行处理，学习肢体间的依赖关系和运动模式。最后，Transformer解码器根据编码器的输出生成控制指令，驱动机器人运动。一致性Dropout被应用于Transformer的各个层，以增强模型的鲁棒性。

关键创新：ROLT的关键创新在于身体Token化和一致性Dropout。身体Token化允许网络学习不同肢体之间的通用运动模式，从而提高泛化能力。一致性Dropout则通过在训练过程中随机丢弃部分神经元，迫使网络学习更加鲁棒的特征表示，从而提高对感知噪声的抵抗能力。与传统方法相比，ROLT不依赖于特定的环境建模或自适应算法，而是通过网络结构本身来提升鲁棒性。

关键设计：身体Token化的具体实现方式是将机器人的关节角度、速度等状态信息划分为多个组，每组对应一个Token。Token的数量和分组方式可以根据机器人的结构进行调整。一致性Dropout的实现方式是在Transformer的每个注意力层和前馈网络层应用Dropout，Dropout的概率是一个超参数，需要根据具体任务进行调整。损失函数通常包括运动轨迹的误差、能量消耗等，可以使用强化学习或监督学习的方法进行训练。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，ROLT在四足和六足机器人上都优于现有的方法。在未见过的动态条件下，ROLT能够成功穿越具有挑战性的间隙，而其他方法则经常失败。在存在感知噪声的情况下，ROLT的性能下降幅度明显小于其他方法，表明其具有更强的鲁棒性。例如，在添加高斯噪声的情况下，ROLT的成功率仅下降了5%，而其他方法的成功率下降了20%以上。

🎯 应用场景

该研究成果可应用于各种腿式机器人，例如四足机器人Spot和六足机器人。通过提高机器人在复杂和未知环境中的运动鲁棒性，可以扩展腿式机器人的应用范围，包括搜救、巡检、物流和探索等领域。该方法还有潜力应用于其他类型的机器人，例如人形机器人和蛇形机器人。

📄 摘要（原文）

To succeed in the real world, robots must deal with situations that differ from those seen during training. Those out-of-distribution situations for legged robot mainly include challenging dynamic gaps and perceptual gaps. Here we study the problem of robust locomotion in such novel situations. While previous methods usually rely on designing elaborate training and adaptation techniques, we approach the problem from a network model perspective. Our approach, RObust Locomotion Transformer(ROLT),a variation of transformer,could achieve robustness in a variety of unseen conditions. ROLT introduces two key designs: body tokenization and consistent dropout. Body tokenization supports knowledge share across different limbs, which boosts generalization ability of the network. Meanwhile, a novel dropout strategy enhances the policy's robustness to unseen perceptual noise. We conduct extensive experiments both on quadruped and hexapod robots. Results demonstrate that ROLT is more robust than existing methods. Although trained in only a few dynamic settings, the learned policy generalizes well to multiple unseen dynamic conditions. Additionally, despite training with clean observations, the model handles challenging corruption noise during testing.