Bias Control and Injection for Multi-Agent Aggregation
作者: Sungjae Lee, Soheil Abbasloo, Jabin Koo, Jungseul Ok
分类: cs.AI, cs.CL, cs.MA
发布日期: 2026-10-15
💡 一句话要点
提出多代理聚合框架以解决决策偏见问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 多代理系统 决策偏见 聚合框架 大型语言模型 智能决策支持
📋 核心要点
- 现有方法在多代理决策中面临偏见问题，导致决策质量下降，尤其是在代理意见不一致时。
- 论文提出了一种新的聚合框架，通过偏见控制和偏见注入来改善决策过程，增强决策的可靠性。
- 实验结果表明，该框架在多个基准测试中表现优异，平均准确性和令牌效率均超过了现有方法。
📝 摘要（中文）
多代理推理与大型语言模型（LLMs）结合时，面临一个核心问题：当代理之间存在分歧时，应该信任谁的决策？由于代理的决策易受非语义偏见的影响，例如多数压力和反应风格偏好，这使得解决分歧变得困难。我们的分析表明，偏见可以被减轻或利用：偏见控制改善初始答案选择，而偏见注入则引发决策不稳定性，作为可靠性信号。基于这些发现，我们提出了一种测试时聚合框架，该框架不需要验证数据或相对模型强度的先验知识。该框架通过为每个不同答案呈现一个风格标准化的推理轨迹来实现偏见控制，并通过将每个聚合代理最初选择的答案置于少数来实现偏见注入。总体而言，我们的框架在三个数学推理基准和四种异构LLM组合中，达到了比竞争的非神谕聚合方法更高的平均准确性和更好的令牌效率。它在应用于多代理辩论和混合代理时，也提高了最终答案的准确性，而无需修改它们的交互或综合过程。
🔬 方法详解
问题定义：本论文旨在解决多代理决策中存在的偏见问题，尤其是在代理意见不一致时，现有方法难以有效处理这些非语义偏见，导致决策质量下降。
核心思路：论文的核心思路是通过引入偏见控制和偏见注入机制，改善代理的初始答案选择，并通过制造决策不稳定性来提供可靠性信号。这样的设计旨在提高聚合决策的质量和效率。
技术框架：整体架构包括两个主要模块：偏见控制模块和偏见注入模块。偏见控制模块通过风格标准化的推理轨迹来优化答案选择，而偏见注入模块则将每个聚合代理的初始选择置于少数，以引导决策过程。
关键创新：最重要的技术创新在于提出了一种无需验证数据或相对模型强度的聚合框架，能够有效地控制和注入偏见，从而提升决策的准确性和可靠性。与现有方法相比，该框架在处理决策不一致时表现出更高的灵活性和适应性。
关键设计：在参数设置上，框架设计了风格标准化的推理轨迹，并通过调整聚合代理的初始选择位置来实现偏见注入。损失函数和网络结构的具体细节在论文中进行了详细讨论，以确保模型的高效性和准确性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，该框架在三个数学推理基准测试中，平均准确性提高了显著幅度，并且在令牌效率上优于现有的非神谕聚合方法。此外，在多代理辩论和混合代理应用中，最终答案的准确性也得到了提升，证明了其有效性。
🎯 应用场景
该研究的潜在应用领域包括多代理系统、智能决策支持系统以及人机协作等场景。通过改善代理之间的决策一致性和可靠性，该框架可以在复杂环境中提升决策质量，具有广泛的实际价值和未来影响。
📄 摘要（原文）
Multi-agent reasoning with large language models (LLMs) raises a central question for collective decision-making: when agents disagree, whose decision should be trusted? Resolving such disagreements is difficult because agents' decisions are susceptible to non-semantic biases such as majority pressure and response-style preferences, which can obscure the quality of the underlying reasoning. Our analysis shows how bias can be both mitigated and exploited: bias control improves initial answer selection, while bias injection elicits decision instability that serves as a reliability signal. Building on these findings, we introduce a test-time aggregation framework that requires neither validation data nor prior knowledge of relative model strength. The framework implements bias control by presenting one style-normalized reasoning trace per distinct answer, and bias injection by placing each aggregating agent's initially selected answer in the minority. Overall, our framework achieves higher average accuracy and better token efficiency than competing non-oracle aggregation methods across three mathematical reasoning benchmarks and four heterogeneous LLM combinations. It also improves final-answer accuracy when applied to multi-agent debate and Mixture-of-Agents, without modifying their interaction or synthesis processes.