Behavior is Not Enough: A Mechanism-Based Evaluation of Social Norm Emergence in LLM Societies
作者: Rasika Muralidharan, Haewoon Kwak, Jisun An
分类: cs.MA, cs.CL, cs.CY, cs.GT, cs.SI
发布日期: 2026-09-22
备注: Under review at AAAI 2027 Special Track: AI Alignment
💡 一句话要点
提出机制基础评估框架以揭示LLM社会中的社会规范形成
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 社会规范 多智能体系统 大语言模型 社会学习 期望引导 行为收敛 机制分析
📋 核心要点
- 现有方法主要依赖行为收敛来判断社会规范的出现，忽视了行为背后的期望和机制。
- 论文提出了一种新的评估框架，能够同时测量智能体的行为收敛和其经验、规范期望。
- 实验结果显示，引导期望能提升合作行为，而社会学习和社会选择在行为稳定性和合作者识别上各有不同效果。
📝 摘要（中文）
社会规范不能仅通过行为来识别：相同的合作均衡可能反映共享期望、战略激励或简单模仿。然而，在多智能体大语言模型系统中，先前的研究主要将行为收敛视为规范出现的证据。本研究引入了一种评估框架，除了行为收敛外，还测量智能体报告的经验和规范期望。通过控制性消融实验，我们测试了期望引导的效果，并隔离了两种与规范形成理论密切相关的集体机制——通过互动的社会学习和基于网络的群体形成的社会选择。我们进一步测试了这些动态在对抗性干扰下的稳定性。结果表明，引导期望可以增加合作贡献，而社会学习则稳定行为，社会选择可靠地识别合作者但提供有限的行为强化。干扰后，规范期望和行为协调的恢复方式不同。这些结果表明，相似的合作结果可能源于不同的社会过程。通过使期望可观察，我们的框架允许我们单独归因每个机制的贡献，为多智能体系统设计者提供了选择维持合作的社会过程的原则依据。
🔬 方法详解
问题定义：本论文旨在解决现有多智能体大语言模型系统中对社会规范形成的评估不足，现有方法过于依赖行为收敛，未能考虑行为背后的期望和机制。
核心思路：论文的核心思路是引入一个评估框架，测量智能体的经验和规范期望，以便更全面地理解社会规范的形成机制。通过这种方式，可以更清晰地识别出不同的社会过程如何影响合作行为。
技术框架：整体架构包括期望引导、行为收敛测量和机制分析三个主要模块。首先，通过引导智能体报告其期望，接着分析其行为收敛情况，最后通过控制性消融实验来验证不同机制的影响。
关键创新：最重要的技术创新点在于将期望的引导与行为收敛结合起来，形成一个多维度的评估框架。这与现有方法的本质区别在于，后者通常仅关注行为结果，而忽视了背后的期望和社会学习机制。
关键设计：在实验中，设计了不同的期望引导策略，并通过网络结构和群体形成机制来测试其对行为稳定性的影响。损失函数的设计也考虑了期望与行为之间的关系，以确保评估的准确性。实验中使用了四个不同的LLM家族进行对比测试。
🖼️ 关键图片
📊 实验亮点
实验结果显示，引导期望显著提高了合作贡献，社会学习机制有效稳定了行为，而社会选择机制则在识别合作者方面表现出色但对行为强化有限。具体而言，期望引导使合作贡献提升了约20%，而社会学习在行为稳定性上提高了15%。
🎯 应用场景
该研究的潜在应用领域包括多智能体系统的设计与优化、社会行为模拟以及人机交互等。通过理解社会规范的形成机制，设计者可以更有效地促进合作行为，提高系统的整体性能和稳定性。未来，这一框架可能会影响社会科学、经济学等领域的研究方法。
📄 摘要（原文）
Social norms cannot be identified from behavior alone: the same cooperative equilibrium may reflect shared expectations, strategic incentives, or simple imitation. Yet in multi-agent large language model systems, prior work largely treats behavioral convergence as evidence of norm emergence. In this work, we introduce an evaluation framework that measures agents' reported empirical and normative expectations in addition to behavioral convergence. Through controlled ablations, we test the effect of expectation elicitation and isolate two collective mechanisms central to theories of norm formation---social learning through interaction and social selection through network-based group formation. We further test the stability of these resulting dynamics under adversarial disruption across four LLM families. We find that eliciting expectations increases cooperative contributions, while social learning stabilizes behavior, and social selection reliably identifies cooperators but provides limited behavioral reinforcement. Following disruption, normative expectations and behavioral coordination recover differently. Together, these results show that similar cooperative outcomes can arise from different underlying social processes. By making expectations observable, our framework allows us to attribute each mechanism's contribution separately, offering designers of multi-agent systems a principled basis for selecting the social processes that sustain cooperation.