The Butterfly Defects: Tracing Cooperation in LLM Agent Networks
作者: Maria Sampani, Maria Lymperaiou, Angeliki Dimitriou, Giorgos Filandrianos, Chrysoula Zerva, Giorgos Stamou
分类: physics.soc-ph, cs.CL
发布日期: 2026-10-23
💡 一句话要点
探讨LLM代理网络中的合作机制及其影响因素
🎯 匹配领域: 支柱五：交互与反应 (Interaction & Reaction) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 合作机制 迭代囚徒困境 网络结构 不确定性提示 智能代理 多智能体系统
📋 核心要点
- 核心问题：现有研究未能充分探讨大型语言模型在复杂网络中的合作机制及其影响因素。
- 方法要点：通过迭代囚徒困境模型，分析同质与异质网络中LLMs的合作行为及其敏感性。
- 实验或效果：研究表明，模型的合作行为受网络组成和语言提示的显著影响，合作并非稳定属性。
📝 摘要（中文）
随着大型语言模型（LLMs）作为互联代理的日益普及，一个基本问题浮现：个体合作是否能转化为集体合作？我们通过迭代囚徒困境（IPD）研究这一问题，分析了开放权重LLMs在同质和异质网络中的表现。研究发现，合作对模型组成和微小语言变化高度敏感。在同类模型中合作的模型在混合群体中可能转向背叛。简单的不确定性提示可以增加或减少合作，重新分配成本，并影响数跳之外的未暴露代理。甚至反转动作标签顺序也能显著改变行为，不确定性框架有时会放大这种敏感性。这些发现挑战了合作作为稳定模型级属性的观念，揭示了战略行为如何依赖于互动伙伴、网络位置和决策语言的框架。
🔬 方法详解
问题定义：本论文旨在探讨大型语言模型（LLMs）在互联代理网络中的合作机制。现有方法未能充分理解合作行为在不同网络结构和语言框架下的变化，导致对合作的理解存在局限性。
核心思路：论文通过迭代囚徒困境（IPD）模型，分析LLMs在同质和异质网络中的合作行为，揭示个体与集体合作之间的关系。通过引入不确定性提示，研究模型在不同环境下的反应和适应能力。
技术框架：整体架构包括模型的构建、网络的设计以及实验的实施。首先，构建开放权重的LLMs，然后设计同质和异质网络，最后通过迭代囚徒困境进行实验，观察模型的合作行为。
关键创新：本研究的主要创新在于揭示了合作行为对模型组成和语言提示的高度敏感性，挑战了合作作为稳定属性的传统观念。与现有方法相比，强调了网络位置和互动伙伴对合作行为的影响。
关键设计：在实验中，设置了不同的网络结构和语言提示，采用了多种不确定性提示来观察其对合作行为的影响。模型的损失函数和参数设置经过精心设计，以确保实验结果的有效性和可靠性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，模型在同质网络中表现出较高的合作率，但在混合网络中，合作率显著下降，甚至出现背叛行为。简单的不确定性提示能够使合作率变化高达30%，而反转动作标签顺序则能引发行为的剧烈变化，这些结果强调了合作行为的脆弱性和复杂性。
🎯 应用场景
该研究的潜在应用领域包括多智能体系统、自动化决策支持和人机协作等。通过深入理解LLMs在合作中的行为，可以为设计更高效的智能代理系统提供理论基础，推动智能体之间的协作与互动。未来，这一研究可能对社会网络、经济模型等领域产生深远影响。
📄 摘要（原文）
As large language models (LLMs) increasingly operate as interconnected agents, a fundamental question emerges: does individual cooperation translate into collective cooperation? We investigate this question through the Iterated Prisoner's Dilemma (IPD), moving from dyadic interactions to homogeneous and heterogeneous networks of open-weight LLMs. Our findings reveal that cooperation is highly sensitive to model composition and seemingly minor linguistic changes. Models that cooperate with identical peers can shift toward defection in mixed populations. A simple uncertainty cue can increase or decrease cooperation, redistribute costs, and affect unexposed agents several hops away. Even reversing action-label order can dramatically alter behavior, with uncertainty framing sometimes amplifying this sensitivity. Together, these findings challenge the notion of cooperation as a stable model-level property, revealing how strategic behavior depends on interaction partners, network positions, and the language used to frame decisions.