Human-AI Interactions: Cognitive, Behavioral, and Emotional Impacts
作者: Celeste Riley, Omar Al-Refai, Yadira Colunga Reyes, Eman Hammad
分类: cs.HC, cs.AI, cs.CY
发布日期: 2025-10-20 (更新: 2025-10-21)
备注: 13 pages, 1 figure. Submitted to IEEE Transactions on Technology and Society. Preprint also available on TechRxiv
💡 一句话要点
综述人机交互对认知、行为和情感的潜在风险与益处
🎯 匹配领域: 支柱一：机器人控制 (Robot Control)
关键词: 人机交互 认知影响 行为影响 情感影响 AI伦理 心理学 人本设计
📋 核心要点
- 人机交互的普及带来潜在风险，如过度依赖和认知能力下降，需要深入研究其对人类的影响。
- 本文从认知、行为和情感三个维度，分析人机交互的积极作用和潜在负面影响，强调平衡发展。
- 研究揭示AI在增强能力的同时，也可能导致批判性思维减弱和情感依赖，呼吁负责任的AI设计。
📝 摘要（中文）
随着人机交互的新闻和研究不断涌现，其挑战也日益突出，包括过度依赖、认知卸载、社会和情感操纵以及人类能动性和判断力微妙退化的潜在风险。本文从心理学的三要素：认知、行为和情感的角度，调研了近期关于这些问题的研究。观察表明，虽然人工智能可以显著增强记忆力、创造力和参与度，但也带来了诸如批判性思维减弱、技能退化和焦虑增加等风险。情感方面也喜忧参半，人工智能系统在支持和减轻压力方面显示出潜力，但也引发了对依赖性、不适当依恋和伦理监督的担忧。本文旨在强调负责任且具有上下文感知的人工智能设计的必要性，并强调了纵向研究和基于实际的评估框架的差距，以平衡收益与新兴的以人为本的风险。
🔬 方法详解
问题定义：论文旨在探讨人机交互对人类认知、行为和情感的复杂影响。现有方法往往侧重于技术层面，忽略了人机交互可能带来的心理和社会风险，例如过度依赖、技能退化和情感操纵。这些风险可能削弱人类的能动性和判断力，需要更深入的研究和评估框架。
核心思路：论文的核心思路是从心理学的角度，特别是认知、行为和情感这三个维度，来分析人机交互的影响。通过对现有研究的综述，论文旨在揭示人机交互的潜在益处和风险，并强调负责任的AI设计的重要性。这种以人为本的视角有助于更全面地理解人机交互的复杂性。
技术框架：本文并非提出一种新的技术框架，而是一种综述性的研究。其框架主要包括：1) 收集和整理近期关于人机交互的研究文献；2) 从认知、行为和情感三个维度对这些研究进行分类和分析；3) 识别出人机交互的潜在益处和风险；4) 强调负责任的AI设计和未来研究方向。
关键创新：论文的关键创新在于其研究视角，即从心理学的角度来审视人机交互。与以往侧重技术层面的研究不同，本文关注人机交互对人类认知、行为和情感的潜在影响，并强调了以人为本的设计理念。这种视角有助于更全面地理解人机交互的复杂性，并为未来的研究和实践提供了新的方向。
关键设计：本文属于综述类文章，没有涉及具体的技术设计。但文章强调了未来研究的关键设计方向，包括：1) 开展纵向研究，以评估人机交互的长期影响；2) 开发基于实际的评估框架，以衡量人机交互的益处和风险；3) 探索负责任的AI设计方法，以最大限度地发挥人机交互的积极作用，同时降低潜在风险。
📊 实验亮点
该综述性研究亮点在于系统性地总结了人机交互在认知、行为和情感三个维度上的影响。研究指出，AI虽然能增强记忆和创造力，但也可能削弱批判性思维，增加焦虑。情感方面，AI既能提供支持，也可能导致依赖和不当依恋。这些发现强调了负责任AI设计的重要性，并为未来的研究指明了方向。
🎯 应用场景
该研究成果可应用于指导人机交互系统的设计与评估，尤其是在教育、医疗、养老等领域。通过深入理解人机交互对认知、行为和情感的影响，可以设计出更符合人类需求、更安全可靠的AI系统，从而提升用户体验，促进社会福祉。未来的研究可以进一步探索个性化人机交互策略，以适应不同人群的需求。
📄 摘要（原文）
As stories of human-AI interactions continue to be highlighted in the news and research platforms, the challenges are becoming more pronounced, including potential risks of overreliance, cognitive offloading, social and emotional manipulation, and the nuanced degradation of human agency and judgment. This paper surveys recent research on these issues through the lens of the psychological triad: cognition, behavior, and emotion. Observations seem to suggest that while AI can substantially enhance memory, creativity, and engagement, it also introduces risks such as diminished critical thinking, skill erosion, and increased anxiety. Emotional outcomes are similarly mixed, with AI systems showing promise for support and stress reduction, but raising concerns about dependency, inappropriate attachments, and ethical oversight. This paper aims to underscore the need for responsible and context-aware AI design, highlighting gaps for longitudinal research and grounded evaluation frameworks to balance benefits with emerging human-centric risks.