An Empirical Design Justice Approach to Identifying Ethical Considerations in the Intersection of Large Language Models and Social Robotics
作者: Alva Markelius
分类: cs.RO, cs.AI
发布日期: 2024-06-10 (更新: 2024-06-12)
备注: This is a preprint
💡 一句话要点
采用设计正义方法，识别大语言模型与社交机器人结合中的伦理考量
🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 社交机器人 大型语言模型 伦理考量 设计正义 人机交互
📋 核心要点
- 现有方法在将大型语言模型应用于社交机器人时，未能充分解决由此产生的伦理风险和社会影响，例如错误信息和偏见。
- 本研究采用基于经验的设计正义方法，通过协同设计和交互研究，识别并评估在LLM社交机器人设计中出现的伦理考量。
- 研究结果映射了交互、协同设计、服务条款和关系四个维度中的伦理考量，并验证了设计正义方法在该领域的适用性。
📝 摘要（中文）
本研究旨在识别大型语言模型（LLM）与社交机器人结合时产生的伦理挑战和社会影响。将LLM应用于社交机器人可以带来诸多益处，例如实现自然语言开放域对话。然而，这两种技术的结合也引发了与错误信息、非语言线索、情绪干扰和偏见相关的伦理问题。机器人的物理社交体现增加了复杂性，因为与基于LLM的社交AI相关的伦理风险，如幻觉和错误信息，可能会因物理体现对社会感知和交流的影响而加剧。为了应对这些挑战，本研究采用了一种基于经验设计正义的方法，侧重于通过定性协同设计和交互研究来识别社会技术伦理考量。本研究旨在识别与LLM的人形社交机器人协同设计和交互过程相关的伦理考量，并评估设计正义方法如何应用于基于LLM的社交机器人设计。研究结果揭示了在交互、协同设计、服务条款和关系四个概念维度中出现的伦理考量，并评估了设计正义方法如何在LLM和社交机器人的交叉领域中得到经验性应用。
🔬 方法详解
问题定义：论文旨在解决将大型语言模型（LLM）集成到社交机器人中时出现的伦理问题。现有方法未能充分考虑到机器人物理体现对社会感知和交流的影响，以及由此可能加剧的LLM固有风险，如幻觉和错误信息。此外，缺乏对协同设计过程中的伦理考量以及服务条款和人机关系等更广泛社会影响的关注。
核心思路：论文的核心思路是采用设计正义方法，通过实际的协同设计和交互研究，从用户的角度出发，识别并评估LLM社交机器人设计中的伦理考量。设计正义强调公平、包容和参与性，旨在确保技术发展不会加剧现有的社会不平等。
技术框架：研究采用定性研究方法，包括：1）协同设计工作坊，邀请用户参与LLM社交机器人的设计过程；2）人机交互实验，观察用户与机器人的互动，收集用户反馈；3）伦理分析，基于收集到的数据，识别并分类伦理考量。研究将伦理考量分为四个概念维度：交互、协同设计、服务条款和关系。
关键创新：论文的关键创新在于将设计正义方法应用于LLM社交机器人领域，强调用户参与和伦理考量在设计过程中的重要性。与传统的技术驱动方法不同，该研究从社会和伦理的角度出发，探索技术发展的潜在风险和影响。
关键设计：研究的关键设计包括：1）选择合适的人形社交机器人作为LLM的接口；2）设计具有代表性的交互场景，模拟真实的应用环境；3）制定详细的访谈和观察方案，收集用户对伦理问题的看法和体验；4）采用结构化的伦理分析框架，对收集到的数据进行分类和评估。具体参数设置和网络结构未知。
🖼️ 关键图片
📊 实验亮点
该研究通过实证研究，揭示了LLM社交机器人设计中四个关键维度的伦理考量：交互、协同设计、服务条款和关系。研究结果表明，设计正义方法可以有效地识别和评估这些伦理问题，为未来的LLM社交机器人设计提供指导。具体的性能数据未知。
🎯 应用场景
该研究成果可应用于社交机器人的设计和开发，尤其是在医疗、教育和养老等领域。通过在设计过程中融入伦理考量，可以减少潜在的社会风险，提高用户满意度，并促进负责任的技术创新。未来的研究可以进一步探索不同文化背景下的伦理差异，并开发更有效的伦理评估工具。
📄 摘要（原文）
The integration of Large Language Models (LLMs) in social robotics presents a unique set of ethical challenges and social impacts. This research is set out to identify ethical considerations that arise in the design and development of these two technologies in combination. Using LLMs for social robotics may provide benefits, such as enabling natural language open-domain dialogues. However, the intersection of these two technologies also gives rise to ethical concerns related to misinformation, non-verbal cues, emotional disruption, and biases. The robot's physical social embodiment adds complexity, as ethical hazards associated with LLM-based Social AI, such as hallucinations and misinformation, can be exacerbated due to the effects of physical embodiment on social perception and communication. To address these challenges, this study employs an empirical design justice-based methodology, focusing on identifying socio-technical ethical considerations through a qualitative co-design and interaction study. The purpose of the study is to identify ethical considerations relevant to the process of co-design of, and interaction with a humanoid social robot as the interface of a LLM, and to evaluate how a design justice methodology can be used in the context of designing LLMs-based social robotics. The findings reveal a mapping of ethical considerations arising in four conceptual dimensions: interaction, co-design, terms of service and relationship and evaluates how a design justice approach can be used empirically in the intersection of LLMs and social robotics.