Bias Amplification in Multi-Agent Network: How Biased Agents Shape Opinions and Rhetoric
作者: Omran Berjawi, Giuseppe Fenza, Rida Khatoun
分类: cs.LG
发布日期: 2026-09-16
备注: Accepted at the 6th Workshop on Bias and Fairness in AI (BIAS 2026), ECML PKDD 2026, Naples, Italy
💡 一句话要点
研究偏见在多智能体网络中的传播机制
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 偏见传播 多智能体系统 大型语言模型 文本交互 意见动态 语义分析 修辞一致性
📋 核心要点
- 现有研究对多智能体系统中偏见传播的机制了解不足，尤其是在文本交互环境下的影响。
- 论文提出通过分析LLMs中偏见代理的影响，探讨其如何通过文本交互改变其他代理的观点。
- 研究结果表明，少量偏见代理会迅速影响非偏见代理的意见，且Llama 3.2模型的反应速度更快。
📝 摘要（中文）
随着大型语言模型（LLMs）在多智能体系统中的应用日益增多，偏见传播的过程仍然是一个挑战。本研究探讨了在LLMs环境中，少数持有极端意见的代理如何通过文本交互影响其他代理的观点。研究发现，即使少量偏见代理的存在，也会显著改变非偏见代理的意见。此外，与经典的Friedkin-Johnsen模型相比，Llama 3.2模型在相同比例的偏见代理下，意见变化更为迅速。语义分析表明，文本解释中的修辞一致性随着偏见暴露的增加而系统性增强，且与数值收敛部分解耦。该研究有助于理解偏见与语言在多智能体语言模型生态系统中的共同发展。
🔬 方法详解
问题定义：本研究旨在解决多智能体系统中偏见传播的机制，现有方法未能充分揭示偏见代理如何影响其他代理的观点变化。
核心思路：通过构建一个包含偏见代理和非偏见代理的文本交互模型，研究偏见如何在代理之间传播，并分析其对意见变化的影响。
技术框架：整体架构包括偏见代理和非偏见代理的交互模块，文本生成模块，以及意见更新模块，形成一个闭环反馈系统。
关键创新：本研究的创新在于揭示了偏见代理在多智能体系统中对非偏见代理的快速影响，尤其是通过Llama 3.2模型的表现，展示了与传统模型的显著差异。
关键设计：在模型设计中，采用了特定的文本生成策略和语义分析方法，以确保偏见的有效传播，并通过实验验证了模型的有效性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，少量偏见代理的存在会导致非偏见代理的意见显著变化，Llama 3.2模型在相同偏见比例下的反应速度比经典Friedkin-Johnsen模型快，表明其在处理偏见传播方面的优势。
🎯 应用场景
该研究的潜在应用领域包括社交媒体内容审核、舆情分析以及智能决策支持系统。通过理解偏见传播机制，可以更好地设计防范措施，减少偏见对决策的负面影响，提升多智能体系统的公正性和透明度。
📄 摘要（原文）
Large language models (LLMs) are increasingly deployed in applications involving interaction between agents, where their output plays a role in collective reasoning and decision-making processes. Despite significant research into the functioning of LLMs in such multi-agent systems, the processes of bias propagation in such systems are still a challenge. This work studies how biased opinions are propagated in the form of textual interaction in an environment of LLMs, in which a minority of agents maintain persistent extreme opinions, while the remaining agents iteratively update their beliefs through structured textual interactions. The findings show that even the presence of a small percentage of biased agents in such a system leads to significant shifts in the opinions of non-biased agents. It suggests that for the same percentage of biased agents, the shifts occur more quickly for the Llama~3.2 model when compared to a classical Friedkin-Johnsen (FJ) model. Further semantic analysis demonstrates that rhetorical consistency in textual explanations increases systematically with biased exposure and, importantly, is partially decoupled from numerical convergenumericalutral agents adopt the vocabulary employed by the biased agents even in configurations where their numerical opinion shifts remain moderate. The research helps explain how bias and language develop together in multi-agent language model ecosystems.