Responsible Personalisation: The Double-Edged Sword of Personalisation in Human-Robot Interaction
作者: Antonio Andriella, Jauwairia Nasir, Andrea Rezzani, Alyssa Kubota, Dimitri Lacroix, Tamlin Love, Aniol Civit, Vicky Charisi, Elisabeth Andre, Wing-Yue Geoffrey Louie
分类: cs.RO, cs.AI, cs.HC
发布日期: 2026-07-07
备注: 36 pages, 3 figures
💡 一句话要点
提出基于生命周期的框架以解决人机交互中的个性化伦理风险问题
🎯 匹配领域: 支柱一：机器人控制 (Robot Control)
关键词: 人机交互 个性化 伦理风险 生命周期框架 社交机器人 用户建模 隐私保护
📋 核心要点
- 现有文献对人机交互中的个性化伦理风险缺乏系统性理解，导致风险管理不足。
- 提出基于生命周期的框架，结合个性化过程与交互特征，系统分析伦理风险的产生与演变。
- 通过对关键伦理风险的分析，提供了可操作的设计建议，促进个性化HRI的伦理发展。
📝 摘要（中文）
随着个性化成为人机交互（HRI）的重要能力，现有关于负责任个性化的文献仍显得零散，缺乏对伦理风险在不同交互情境中如何产生的系统理解。本文提出了一种基于生命周期和情境敏感的个性化HRI框架，结合个性化过程的各个阶段与交互特征，系统分析风险的产生与演变。通过对自主性侵蚀、用户建模偏见、操控、非人化及隐私侵犯等关键伦理风险的综合分析，本文提供了可操作的设计建议，并指出了未来研究挑战。这项工作为个性化机器人行为的系统性、透明性和伦理基础提供了基础。
🔬 方法详解
问题定义：本文旨在解决人机交互中个性化带来的伦理风险，现有方法未能系统性地分析这些风险如何在不同交互情境中产生与演变。
核心思路：提出一种基于生命周期的框架，关注个性化过程的各个阶段与交互特征的结合，以便更好地理解和管理伦理风险。
技术框架：框架包括个性化过程的多个阶段（如短期与长期、开放领域与封闭领域），并结合这些阶段的交互特征，形成系统分析的基础。
关键创新：最重要的创新在于将个性化过程与伦理风险的分析结合起来，提供了一个结构化的视角，区别于以往孤立的风险分析方法。
关键设计：框架中考虑了不同交互情境下的伦理风险，如自主性侵蚀和隐私侵犯等，并提出了相应的设计建议，以指导未来的研究与实践。
🖼️ 关键图片
📊 实验亮点
通过对个性化HRI中的伦理风险进行系统分析，研究提出的框架能够有效识别和管理风险，促进机器人行为的伦理设计，提升用户对机器人的信任度和接受度。
🎯 应用场景
该研究的潜在应用领域包括社交机器人、服务机器人和教育机器人等，能够帮助设计更具伦理意识的个性化机器人行为，提升用户体验和信任度。未来可能影响机器人设计标准和伦理规范的制定。
📄 摘要（原文）
While personalisation is becoming a defining capability in human-robot interaction (HRI), the existing literature on responsible personalisation remains fragmented, offering isolated accounts of ethical risks without a structured understanding of how they emerge across interaction contexts. This gap is particularly critical in HRI, where robots' embodiment and social presence can amplify and reshape such risks or generate new types of risks. We present a lifecycle-based and context-sensitive framework for personalised HRI, grounded in an embodiment-aware perspective. The framework combines stages of the personalisation process with interaction characteristics (short-term vs. long-term, open-domain vs. closed-domain), enabling systematic analysis of how risks arise and evolve. Building on this, we conduct an integrative analysis of key ethical risks, including autonomy erosion, biased user modelling, manipulation, dehumanisation, and privacy violations, and examine how they manifest across contexts. We translate these insights into actionable design recommendations and outline open research challenges. By structuring both the design space and risk landscape of personalised HRI, this work provides a foundation for more systematic, transparent, and ethically grounded approaches to personalised robot behaviour.