The ATTUNE model for Artificial Trust Towards Human Operators

📄 arXiv: 2411.19580v1 📥 PDF

作者: Giannis Petousakis, Angelo Cangelosi, Rustam Stolkin, Manolis Chiou

分类: cs.RO

发布日期: 2024-11-29

备注: Published in IEEE SMC 2024

期刊: Published in IEEE SMC 2024

💡 一句话要点

提出ATTUNE模型，用于量化人机交互中机器人对人类操作员的人工信任。

🎯 匹配领域: 支柱一：机器人控制 (Robot Control)

关键词: 人机交互 人工信任 心智理论 机器人控制 信任模型

📋 核心要点

  1. 现有HRI系统缺乏对机器人信任人类操作员程度的有效量化方法，限制了人机协作的效率和安全性。
  2. ATTUNE模型基于心智理论，通过分析人类操作员的状态、行为和意图，实时估计机器人对人类的信任程度。
  3. 通过在模拟灾难响应场景数据集上的实验，验证了ATTUNE模型的可行性，并为后续研究提供了改进方向。

📝 摘要（中文）

本文提出了一种量化人机交互（HRI）中信任的新方法。它提出了一个HRI框架，用于在狭窄且指定的任务上下文中估计机器人对人类的信任。该框架实时估计AI代理对与移动遥操作机器人交互的人类伙伴的人工信任。该框架的方法基于心智理论的原则，包括关于人类状态、行为和意图的信息。该框架创建了ATTUNE模型，用于衡量对人类操作员的人工信任。该模型使用操作员的注意力状态、导航意图、行为和性能的指标来量化对他们的信任。该模型在一个预先存在的数据集上进行了测试，该数据集包括在模拟灾难响应场景中进行的人体试验的记录（ROSbags）。通过定性和定量分析评估了ATTUNE的性能。分析结果为研究的下一阶段提供了见解，并有助于完善所提出的方法。

🔬 方法详解

问题定义：现有的人机交互系统中，机器人难以准确评估人类操作员的能力和可靠性，从而无法建立适当的信任关系。缺乏对人类操作员信任的量化方法，使得机器人难以根据人类操作员的表现动态调整协作策略，影响了人机协作的效率和安全性。

核心思路：本文的核心思路是借鉴心智理论，让机器人能够像人类一样，通过观察和分析人类操作员的行为、状态和意图，来推断其能力和可靠性，从而建立起对人类操作员的信任感。这种信任感是动态变化的，会随着人类操作员的表现而调整。

技术框架：ATTUNE模型的整体框架包括以下几个主要模块：1) 人类状态感知模块：负责感知人类操作员的注意力状态（如眼动追踪数据）。2) 导航意图识别模块：分析人类操作员的导航指令，预测其意图。3) 行为分析模块：评估人类操作员的操作行为，如操作的准确性和效率。4) 信任评估模块：综合以上信息，使用特定的信任模型（具体模型未知）计算机器人对人类操作员的信任度。

关键创新：该方法的关键创新在于将心智理论应用于人机交互领域，使得机器人能够像人类一样理解和评估人类操作员。通过综合考虑人类操作员的状态、行为和意图，ATTUNE模型能够更准确地量化机器人对人类操作员的信任程度。

关键设计：论文中没有详细说明具体的参数设置、损失函数或网络结构等技术细节。但是，可以推断，人类状态感知模块可能需要使用深度学习模型来处理眼动追踪数据或其他传感器数据。信任评估模块可能需要设计一个合适的信任模型，该模型能够将人类操作员的状态、行为和意图信息映射到信任度上。具体的设计细节未知。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

该研究通过在模拟灾难响应场景数据集上进行实验，验证了ATTUNE模型的可行性。实验结果表明，ATTUNE模型能够根据人类操作员的表现动态调整机器人对人类的信任程度。虽然论文中没有提供具体的性能数据和对比基线，但定性和定量分析结果表明，ATTUNE模型为后续研究提供了有价值的见解和改进方向。

🎯 应用场景

该研究成果可应用于各种人机协作场景，例如远程机器人控制、自动驾驶、医疗辅助机器人等。通过量化机器人对人类操作员的信任，可以实现更安全、高效的人机协作，提高工作效率，降低事故风险。未来，该技术有望应用于更广泛的领域，例如智能家居、教育等。

📄 摘要（原文）

This paper presents a novel method to quantify Trust in HRI. It proposes an HRI framework for estimating the Robot Trust towards the Human in the context of a narrow and specified task. The framework produces a real-time estimation of an AI agent's Artificial Trust towards a Human partner interacting with a mobile teleoperation robot. The approach for the framework is based on principles drawn from Theory of Mind, including information about the human state, action, and intent. The framework creates the ATTUNE model for Artificial Trust Towards Human Operators. The model uses metrics on the operator's state of attention, navigational intent, actions, and performance to quantify the Trust towards them. The model is tested on a pre-existing dataset that includes recordings (ROSbags) of a human trial in a simulated disaster response scenario. The performance of ATTUNE is evaluated through a qualitative and quantitative analysis. The results of the analyses provide insight into the next stages of the research and help refine the proposed approach.