Learning to Evaluate Autonomous Behaviour in Human-Robot Interaction

📄 arXiv: 2507.06404v1 📥 PDF

作者: Matteo Tiezzi, Tommaso Apicella, Carlos Cardenas-Perez, Giovanni Fregonese, Stefano Dafarra, Pietro Morerio, Daniele Pucci, Alessio Del Bue

分类: cs.RO, cs.CV, cs.LG

发布日期: 2025-07-08

💡 一句话要点

提出NeME，用于评估人机交互中自主行为的模仿学习策略优劣。

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 人机交互 机器人评估 模仿学习 深度学习 元学习

📋 核心要点

  1. 现有机器人评估指标难以复现，且忽略了人机交互中机器人轨迹的复杂性。
  2. 提出神经元Meta评估器(NeME)，通过学习评估机器人轨迹，无需人工干预。
  3. 实验表明，NeME评估结果与机器人实际成功率更吻合，优于基线方法。

📝 摘要（中文）

评估和比较自主人形机器人的性能极具挑战性，因为成功率指标难以复现，且无法捕捉机器人运动轨迹的复杂性，这在人机交互与协作(HRIC)中至关重要。为了应对这些挑战，我们提出了一个通用的评估框架，通过关注轨迹性能来衡量模仿学习(IL)方法的质量。我们设计了神经元Meta评估器(NeME)，这是一个深度学习模型，经过训练可以对机器人关节轨迹中的动作进行分类。NeME作为一个meta评估器，可以比较机器人控制策略的性能，从而在无需人工参与的情况下进行策略评估。我们使用遥操作数据在ergoCub人形机器人上验证了我们的框架，并比较了为可用平台量身定制的IL方法。实验结果表明，与基线方法相比，我们的方法更符合机器人的成功率，为比较复杂HRI任务中多模态模仿学习方法的性能提供了一种可复现、系统化和有见地的手段。

🔬 方法详解

问题定义：现有的人形机器人自主行为评估方法，特别是针对人机交互场景，存在两个主要问题。一是成功率等指标难以复现，不同实验设置下的结果缺乏可比性。二是这些指标往往过于简单，无法捕捉机器人运动轨迹的细微差别，而这些差别对于人机交互的流畅性和安全性至关重要。因此，需要一种更全面、可复现的评估方法，能够反映机器人行为的质量。

核心思路：论文的核心思路是利用深度学习模型学习一个“元评估器”（Meta Evaluator），该评估器能够根据机器人的运动轨迹来判断其行为的质量。这个元评估器不需要人工参与，而是通过学习大量机器人行为数据来自动评估。通过这种方式，可以避免人工评估的主观性和不一致性，并能够更全面地捕捉机器人行为的复杂性。

技术框架：整体框架包含以下几个主要步骤：1) 收集机器人运动轨迹数据，例如通过遥操作或仿真。2) 使用这些数据训练NeME模型，使其能够根据轨迹预测行为的质量。3) 使用训练好的NeME模型来评估不同的机器人控制策略。4) 将NeME的评估结果与实际的机器人性能进行比较，验证NeME的有效性。NeME模型本身是一个深度学习模型，输入是机器人关节轨迹，输出是行为质量的评估。

关键创新：该论文的关键创新在于提出了NeME，一个基于深度学习的元评估器，用于自动评估机器人行为的质量。与传统的评估方法相比，NeME不需要人工参与，可以更全面地捕捉机器人行为的复杂性，并且具有更好的可复现性。此外，NeME还可以用于比较不同的机器人控制策略，从而帮助研究人员选择最佳的策略。

关键设计：NeME模型的具体结构未知，但可以推测其可能采用循环神经网络（RNN）或Transformer等结构，以处理时序数据。损失函数的设计至关重要，可能采用分类损失或回归损失，具体取决于行为质量的表示方式。此外，训练数据的质量和数量也会对NeME的性能产生重要影响。论文中提到使用了遥操作数据进行训练，这表明需要仔细设计遥操作界面，以保证数据的质量。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果表明，NeME的评估结果与机器人的实际成功率更吻合，优于基线方法。这表明NeME能够更准确地捕捉机器人行为的质量，并为比较不同的机器人控制策略提供更可靠的依据。具体的性能数据和提升幅度在论文中未明确给出，但整体趋势表明NeME具有显著的优势。

🎯 应用场景

该研究成果可广泛应用于人形机器人、服务机器人等领域，尤其是在人机协作场景下。通过NeME，可以更高效地评估和优化机器人的控制策略，提高人机交互的流畅性和安全性。此外，该方法还可以用于机器人技能学习和强化学习等领域，为机器人自主行为的开发提供更有效的评估工具。未来，该技术有望促进机器人更广泛的应用，例如在医疗、教育、家庭服务等领域。

📄 摘要（原文）

Evaluating and comparing the performance of autonomous Humanoid Robots is challenging, as success rate metrics are difficult to reproduce and fail to capture the complexity of robot movement trajectories, critical in Human-Robot Interaction and Collaboration (HRIC). To address these challenges, we propose a general evaluation framework that measures the quality of Imitation Learning (IL) methods by focusing on trajectory performance. We devise the Neural Meta Evaluator (NeME), a deep learning model trained to classify actions from robot joint trajectories. NeME serves as a meta-evaluator to compare the performance of robot control policies, enabling policy evaluation without requiring human involvement in the loop. We validate our framework on ergoCub, a humanoid robot, using teleoperation data and comparing IL methods tailored to the available platform. The experimental results indicate that our method is more aligned with the success rate obtained on the robot than baselines, offering a reproducible, systematic, and insightful means for comparing the performance of multimodal imitation learning approaches in complex HRI tasks.