What Is My Robot Thinking? Design Considerations for Transparent and Trustworthy Shared Autonomy
作者: Atharv Belsare, Zohre Karimi, Connor Mattson, Rushiil Nakka, Daniel S. Brown
分类: cs.RO
发布日期: 2026-06-05
备注: 9 pages, 5 Figures, Code and videos are available at https://sites.google.com/view/design-t2-sa/home. Under review at IROS 2026
💡 一句话要点
提出透明共享自主系统设计以增强用户信任与协调
🎯 匹配领域: 支柱一：机器人控制 (Robot Control)
关键词: 共享自主 人机协作 透明度设计 用户信任 反馈机制 信息丰富度 辅助机器人
📋 核心要点
- 现有共享自主机器人系统在用户控制与机器人自主性之间存在协调性和信任感不足的问题。
- 本文提出通过界面透明度设计，优化反馈方式和信息丰富度，以提高用户与机器人之间的协作效率。
- 实验结果显示，提供反馈显著提高了意图对齐，视觉反馈更受欢迎，而信息丰富度的偏好与任务复杂性相关。
📝 摘要（中文）
在共享自主的辅助机器人中，必须平衡用户控制与自主协助。由于机器人行为依赖于内部意图推断，这种不可直接观察的特性可能导致推断目标与用户意图之间的不匹配，从而削弱协调性和信任感。本文研究了界面透明度如何影响视觉基础的共享自主系统中的交互，特别是反馈方式（视觉与听觉）和信息丰富度（稀疏与丰富）。通过对25名参与者的用户研究，评估了这些设计对协调性和信任的影响。结果表明，提供反馈显著改善了意图对齐并减少了纠正干预，表明使推断目标清晰化加速了共享控制的收敛。参与者更偏好视觉反馈，而对稀疏与丰富信息的偏好则依赖于任务复杂性。研究还发现，揭示完整的信念分布并未始终改善对齐或信任。基于这些发现，本文提出了设计透明共享自主系统的指导原则。
🔬 方法详解
问题定义：本文旨在解决共享自主机器人中用户与机器人之间的意图对齐问题，现有方法在透明度和反馈机制上存在不足，导致信任感降低。
核心思路：通过设计界面透明度，特别是反馈方式和信息丰富度，来增强用户对机器人意图的理解，从而提高协调性和信任感。
技术框架：研究采用视觉基础的共享自主系统，主要模块包括用户界面设计、反馈机制和信息展示，用户通过这些模块与机器人进行交互。
关键创新：本研究的创新在于系统性地评估不同反馈方式和信息丰富度对用户信任和协调性的影响，提出了以意图清晰化为核心的设计原则。
关键设计：在反馈机制中，采用视觉反馈优于听觉反馈的设计，信息丰富度的选择则根据任务复杂性进行调整，以实现最佳的用户体验。
🖼️ 关键图片
📊 实验亮点
实验结果表明，提供反馈显著提高了意图对齐，减少了纠正干预，视觉反馈的偏好明显，且在复杂任务中，信息丰富度的选择影响用户体验。具体而言，意图对齐的提升幅度未量化，但反馈机制的有效性得到了验证。
🎯 应用场景
该研究的潜在应用领域包括医疗辅助机器人、家庭服务机器人以及工业自动化等场景。通过提高用户对机器人意图的理解，能够增强人机协作的效率和安全性，未来可能推动更广泛的智能机器人应用。
📄 摘要（原文）
Assistive robots operating under shared autonomy must balance user control with autonomous assistance. Because robot actions depend on internal intent inference that is not directly observable, mismatches between inferred and intended goals can undermine coordination and trust. We investigate how interface-level transparency, including feedback modality (visual vs. auditory) and information richness (sparse vs. rich), shapes interaction in a vision-based shared autonomy system. In a user study with N=25 participants across two assistive manipulation tasks, we evaluate how these designs influence coordination and trust. Providing feedback significantly improves intent alignment and reduces corrective intervention, indicating that making the inferred goal legible accelerates convergence in shared control. Participants preferred visual over auditory feedback, while preferences for sparse versus rich information depended on task complexity. We also found that revealing the full belief distribution did not consistently improve alignment or trust. Together, these findings indicate that effective transparency enhances coordination primarily through goal legibility, while trust depends on task-appropriate information exposure rather than maximal disclosure. Based on these results, we outline guidelines for designing transparent shared autonomy systems.