EUDAIMONIA: Evaluating Undesirable Dynamics in AI

📄 arXiv: 2605.30654v1 📥 PDF

作者: Jun Rui Huang, Wang Bill Zhu, Ziyi Liu, Nathanael Fast, Ravi Iyer, Robin Jia

分类: cs.CL, cs.AI, cs.HC

发布日期: 2026-05-28

💡 一句话要点

提出社会AI设计规范以评估语言模型的社会动态问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 社交AI 用户福利 设计规范 动态评估

📋 核心要点

  1. 现有的能力导向评估方法未能有效捕捉LLMs在社交互动中可能造成的危害。
  2. 提出社会AI设计规范，构建EUDAIMONIA基准，以评估LLMs在社交互动中的用户福利对齐情况。
  3. 实验结果显示，强模型如Claude-Opus-4.7和GPT-5.5的违规率分别为30.7%和27.2%，表明社会对齐问题的持久性。

📝 摘要（中文）

大型语言模型（LLMs）越来越多地被用作伴侣、情感倾诉和人际建议的对话伙伴，但这些互动的社会动态可能会造成传统安全评估未能捕捉的危害。本文引入了社会AI设计规范，旨在评估LLMs在社交互动中是否符合用户福利，包括是否鼓励有害的亲密关系、依赖性或过度参与。为评估这些风险，本文构建了EUDAIMONIA基准，包含969个用户输入和3147个设计要求违规检查，评估了22个近期的LLMs，发现即使是最强的模型也存在显著的违规率。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在社交互动中可能引发的有害动态问题，现有方法主要关注能力评估，未能充分考虑用户福利和社会影响。

核心思路：通过引入社会AI设计规范，评估LLMs在社交互动中是否促进有害的亲密关系和依赖性，提供一种新的评估框架。

技术框架：整体架构包括用户输入收集、设计要求违规检查和评估模块，基于WildChat数据集构建EUDAIMONIA基准，涵盖多种用户交互场景。

关键创新：最重要的创新在于引入了针对社交动态的评估标准，强调了用户福利的重要性，与传统的能力导向评估方法形成鲜明对比。

关键设计：在设计中，采用了弱到强的过滤、多模型重标记和控制重写等技术，确保基准的多样性和有效性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，22个评估的LLMs中，Claude-Opus-4.7和GPT-5.5的设计要求违规率分别为30.7%和27.2%。这些结果表明，即使是最先进的模型也未能有效解决社交对齐问题，强调了该领域的持续挑战。

🎯 应用场景

该研究的潜在应用领域包括社交机器人、情感计算和人机交互等，能够帮助开发更符合用户需求的AI系统，提升用户体验，减少潜在的社会危害。未来，随着AI在社交领域的普及，该框架将为政策制定和技术规范提供重要参考。

📄 摘要（原文）

Large language models (LLMs) are increasingly used as conversational partners for companionship, emotional disclosure, and interpersonal advice, but the social dynamics of these interactions can create harms that are not captured by capability-oriented or traditional safety evaluations. We introduce the Social AI Design Code, a framework for evaluating whether LLMs align with user welfare in social interactions, including whether they encourage harmful intimacy, dependence, or prolonged engagement. To evaluate these risks in natural and diverse user-LLM interactions, we operationalize the code with EUDAIMONIA, a benchmark of 969 user inputs and 3,147 design-requirement violation checks built from WildChat through weak-to-strong filtration, multi-model relabeling, and controlled rewriting. Evaluating 22 recent LLMs, we find that even the strongest models, Claude-Opus-4.7 and GPT-5.5, violate 30.7% and 27.2% of checks, respectively. Extended thinking does not reduce violation rates, suggesting that these failures are persistent social-alignment problems rather than deficits solvable through test-time reasoning alone.