Transporting Unsecured Stacked Payloads with a Quadrupedal Robot via Multi-Objective Reinforcement Learning

📄 arXiv: 2610.05819v1 📥 PDF

作者: Nobuo Namura, Masayuki Hiromoto, Kento Uemura, Hironobu Sasaki, Kanata Suzuki

分类: cs.RO, cs.LG

发布日期: 2026-10-05

备注: 8 pages, 6 figures


💡 一句话要点

提出PAMORT以解决四足机器人运输不稳定负载问题

🎯 匹配领域: 支柱一:机器人控制 (Robot Control) 支柱二:RL算法与架构 (RL & Architecture) 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 四足机器人 多目标强化学习 负载运输 本体感知 不稳定负载 仿真实验 在线适应 机器人技术

📋 核心要点

  1. 现有方法在四足机器人运输不稳定负载时,难以平衡运动性能与负载稳定性,导致负载易于失稳。
  2. 本文提出负载自适应多目标强化学习(PAMORT),通过在线调整运动与负载稳定性之间的权衡,提升运输效果。
  3. 实验结果显示,PAMORT在不同负载配置下的运输成功率优于单目标基线,且在实际环境中实现了零样本迁移。

📝 摘要(中文)

在不平坦地形上,四足机器人运输不稳定负载需要平衡运动性能与负载稳定性。本文研究了在无专用负载传感器或主动承载机制的情况下,四足机器人如何在无边缘的躯干安装板上运输不稳定的堆叠箱体。为了解决这一权衡问题,提出了负载自适应多目标强化学习(PAMORT)。PAMORT训练一个多目标基础策略,该策略基于权重向量对运动和负载稳定性奖励进行加权,并在冻结的策略上训练一个权重调整器,以便根据本体感知在线调整该偏好。在仿真中,PAMORT在不同负载配置下的整体运输成功率与相应的单目标基线相当或更好,尽管仅用两个箱体进行训练。实际实验表明,PAMORT在超出训练难度的坡道和台阶上实现了零样本迁移,八项任务的平均成功率为0.850,而基线为0.675。这些结果展示了通过本体感知信息在线调整运动与负载之间的权衡,实现了稳健的无固定负载运输。

🔬 方法详解

问题定义:本文旨在解决四足机器人在不平坦地形上运输不稳定堆叠负载时,运动性能与负载稳定性之间的权衡问题。现有方法缺乏有效的负载感知和适应机制,导致负载在运输过程中易于失稳。

核心思路:论文提出的PAMORT通过训练一个多目标强化学习策略,结合本体感知信息在线调整运动与负载稳定性之间的权衡,从而实现更稳健的运输。该方法允许机器人在不同负载配置下灵活适应,提升运输成功率。

技术框架:PAMORT的整体架构包括两个主要模块:首先是多目标基础策略的训练,该策略根据偏好向量对运动和负载稳定性进行加权;其次是权重调整器的训练,该模块在冻结的基础策略上进行在线调整,以适应实时的本体感知信息。

关键创新:PAMORT的主要创新在于其负载自适应机制,通过在线调整策略权重,显著提升了四足机器人在复杂环境中的运输能力。这一方法与传统的单目标强化学习方法相比,能够更好地应对动态变化的负载条件。

关键设计:在PAMORT中,关键设计包括偏好向量的动态调整机制,以及基于本体感知信息的权重调整策略。此外,损失函数的设计也考虑了运动与负载稳定性的平衡,确保机器人在不同任务中的适应性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示,PAMORT在八项任务中的平均成功率为0.850,而基线方法的成功率为0.675,表明PAMORT在运输不稳定负载方面具有显著优势。此外,PAMORT在未见的三箱堆叠配置中也表现出色,展示了其良好的泛化能力。

🎯 应用场景

该研究的潜在应用领域包括物流运输、仓储管理以及救援任务等场景,尤其是在不平坦或复杂环境中,四足机器人能够有效运输不稳定负载。未来,该技术有望提升机器人在现实世界中的自主性和适应能力,推动智能物流和自动化领域的发展。

📄 摘要(原文)

Transporting unsecured payloads with legged robots over uneven terrain requires balancing locomotion performance and payload stability, since aggressive motion can destabilize the payload even when the robot remains stable. We study quadrupedal transportation of unsecured stacked boxes on an edgeless torso-mounted board without dedicated payload sensors or active carrier mechanisms. To address this trade-off, we propose Payload-Adaptive Multi-Objective Reinforcement learning for Transportation (PAMORT). PAMORT trains a multi-objective base policy conditioned on a preference vector that weights locomotion and payload-stability reward groups, then trains a weight adjuster on the frozen policy to adapt this preference online from proprioception. In simulation, PAMORT achieves comparable or better overall transportation success than a corresponding single-objective baseline across different payload configurations, including an unseen three-box stack, despite training only with two boxes. Real-world experiments on a Unitree Go2 demonstrate zero-shot transfer to slopes and steps at or beyond the training difficulty, with mean success rates of 0.850 for PAMORT and 0.675 for the baseline across eight tasks. These results demonstrate robust unsecured-payload transportation with online adaptation of the locomotion--payload trade-off from proprioceptive information.