Network topology shapes consensus and vulnerability in LLM populations
作者: Roberto Passaro, Ariel Flint, Romualdo Pastor-Satorras, Andrea Baronchelli, Luca Maria Aiello
分类: physics.soc-ph, cs.AI, cs.CY
发布日期: 2026-10-22
💡 一句话要点
探讨网络拓扑对大语言模型共识与脆弱性的影响
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大语言模型 网络拓扑 共识形成 脆弱性分析 多代理系统
📋 核心要点
- 现有研究主要集中在均匀混合交互中，忽视了网络拓扑对LLM集体行为的影响。
- 本文通过在不同网络拓扑中测试LLM策略，揭示了网络结构如何影响共识形成和脆弱性。
- 实验结果显示，稀疏网络在某些情况下能够恢复共识，而网络化人群更容易受到攻击。
📝 摘要（中文）
随着大语言模型（LLMs）在交互人群中的应用，其集体行为不仅依赖于模型本身，还取决于交互网络的结构。本文研究了在完全连接、随机规则和异质网络中，四种LLM提取的策略在命名游戏中的表现。研究发现，网络拓扑影响共识的形成速度，甚至在某些情况下决定了哪种约定会胜出。稀疏网络的共识形成速度比其他网络慢多达十二倍，但在某些情况下，它们能够恢复在均匀混合交互中无法收敛的共识。此外，网络结构还影响对抗攻击的脆弱性，研究了推翻既定约定所需的关键代理数量，结果表明网络化人群比均匀混合人群更容易被影响。
🔬 方法详解
问题定义：本文旨在探讨网络拓扑如何影响大语言模型（LLMs）在人群中的共识形成与脆弱性。现有方法主要集中在均匀混合交互，未能充分考虑网络结构的影响。
核心思路：通过将四种LLM提取的策略应用于不同类型的网络（完全连接、随机规则和异质网络），分析网络拓扑对共识形成速度和脆弱性的影响。
技术框架：研究设计包括三个主要阶段：首先，构建不同拓扑的网络；其次，在这些网络中实施命名游戏；最后，测量共识形成的速度和对抗攻击的脆弱性。
关键创新：本研究的创新点在于首次系统性地分析了网络拓扑对LLM集体行为的影响，揭示了稀疏网络在某些情况下能够恢复共识的能力。
关键设计：在实验中，设置了不同的网络参数，如节点度数和连接方式，使用了标准的命名游戏模型，并测量了共识形成的时间和关键代理的数量。实验结果表明，网络化人群的脆弱性高于均匀混合人群。
🖼️ 关键图片
📊 实验亮点
实验结果显示，在最异质的网络中，推翻既定约定所需的关键代理数量分别为3%、16%和35%。针对网络中心节点的攻击所需的代理数量仅为随机分布的六分之一，表明网络化人群比均匀混合人群更容易受到影响。
🎯 应用场景
该研究为多代理人工智能系统的安全性评估提供了新的视角，强调了理解交互网络结构的重要性。未来，研究成果可应用于优化大语言模型的部署策略，提升其在实际应用中的鲁棒性与安全性。
📄 摘要（原文）
As large language models (LLMs) are deployed in interacting populations, their collective behaviour depends not only on the models but also on who interacts with whom. Studies of convention formation in LLM populations have mainly tested well-mixed interactions. We place policies extracted from four LLMs on fully connected, random regular, and heterogeneous networks, with $10^3$ to $10^5$ agents playing the naming game. Topology affects how quickly consensus emerges, sometimes whether it emerges at all, and, in rare cases, which convention wins. Sparsest networks slow consensus up to twelvefold. Yet, by preserving correlations between persistent neighbours, they restore consensus in some cases that fail to converge under well-mixed interactions. Networks also govern vulnerability to adversarial attack. We measure the critical mass of committed agents needed to overturn an established convention. Tipping thresholds follow the same ordering across models and conditions: hubs $\leq$ random $\leq$ low-degree nodes. On the most heterogeneous topology, median critical masses are 3%, 16%, and 35%, respectively; targeting hubs requires one-sixth as many committed agents as random placement. For most models, networked populations are easier to tip than well-mixed ones, so well-mixed estimates can overstate robustness. Assessing the safety of multi-agent AI requires mapping who interacts with whom.