S$^2$-MAD: Breaking the Token Barrier to Enhance Multi-Agent Debate Efficiency

📄 arXiv: 2502.04790v2 📥 PDF

作者: Yuting Zeng, Weizhe Huang, Lei Jiang, Tongxuan Liu, Xitai Jin, Chen Tianying Tiana, Jing Li, Xiaohua Xu

分类: cs.CL, cs.AI

发布日期: 2025-02-07 (更新: 2025-04-10)

备注: Accepted to NAACL 2025 Main

💡 一句话要点

S$^2$-MAD：突破Token限制，提升多智能体辩论效率

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多智能体辩论 大型语言模型 token成本 稀疏化策略 推理效率

📋 核心要点

  1. 多智能体辩论（MAD）能有效提升LLM推理能力，但高昂的token成本限制了其应用。
  2. 论文提出一种稀疏化策略S$^2$-MAD，旨在减少智能体间无效交流，降低token成本。
  3. 实验表明，S$^2$-MAD在性能损失很小的情况下，可显著降低高达94.5%的token成本。

📝 摘要（中文）

大型语言模型（LLMs）在各种自然语言处理（NLP）场景中表现出卓越的能力，但在处理复杂的算术和逻辑推理任务时仍然面临挑战。链式思考（CoT）推理、自洽性（SC）和自我纠正策略试图引导模型进行顺序、多步骤推理，而多智能体辩论（MAD）已成为增强LLMs推理能力的可行方法。通过增加智能体的数量和辩论的频率，LLMs的性能显著提高。然而，这种策略导致token成本显著增加，从而限制了可扩展性。为了应对这一挑战，我们引入了一种新颖的稀疏化策略，旨在降低MAD中的token成本。该方法最大限度地减少了智能体之间无效的信息交换和无成效的讨论，从而提高了辩论过程的整体效率。我们在多个数据集和各种模型上进行了对比实验，结果表明，我们的方法在很大程度上显著降低了MAD中的token成本。具体而言，与MAD相比，我们的方法在性能下降低于2.0%的情况下，实现了高达94.5%的token成本降低。

🔬 方法详解

问题定义：多智能体辩论（MAD）通过增加智能体数量和辩论频率来提升LLM的推理能力，但由此带来的token成本急剧增加，成为MAD方法大规模应用的主要瓶颈。现有方法缺乏对智能体间信息交换效率的考量，导致大量无效或低效的讨论，浪费了宝贵的token资源。

核心思路：论文的核心思路是通过稀疏化策略，减少智能体之间不必要的交流，从而降低token成本。具体而言，该方法旨在识别并过滤掉对最终结果贡献较小的信息交换和讨论，保留关键性的推理步骤和观点碰撞。这样既能保证辩论的质量，又能显著降低token消耗。

技术框架：S$^2$-MAD的核心在于其稀疏化策略，该策略嵌入在标准的多智能体辩论框架中。具体流程包括：1) 智能体生成初始观点；2) 智能体之间进行多轮辩论，每轮辩论中，智能体会根据其他智能体的观点更新自己的立场；3) 在每一轮辩论后，S$^2$-MAD会评估每个智能体发言的价值，并根据价值大小决定是否保留该发言用于后续的辩论；4) 最终，所有智能体基于保留的发言进行最终决策。

关键创新：S$^2$-MAD的关键创新在于其稀疏化策略，该策略能够动态地评估和过滤智能体之间的信息交换。与传统的MAD方法相比，S$^2$-MAD不是简单地让所有智能体进行充分的辩论，而是有选择性地保留有价值的发言，从而避免了无效的讨论和信息冗余。这种稀疏化策略能够显著降低token成本，同时保证辩论的质量。

关键设计：论文中没有明确给出关键参数设置、损失函数或网络结构的细节。评估智能体发言价值的具体方法（例如，基于信息熵、梯度变化等）以及稀疏化的阈值选择是影响S$^2$-MAD性能的关键设计因素，但论文中未详细描述。这些细节可能在补充材料或后续研究中给出。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，S$^2$-MAD在多个数据集和模型上均能显著降低token成本。与传统的MAD方法相比，S$^2$-MAD能够在性能损失低于2.0%的情况下，实现高达94.5%的token成本降低。这一结果表明，S$^2$-MAD是一种有效的降低多智能体辩论token成本的方法，为LLM在复杂推理任务中的应用提供了新的思路。

🎯 应用场景

S$^2$-MAD方法可以广泛应用于需要复杂推理和决策的场景，例如智能客服、金融风险评估、医疗诊断等。通过降低多智能体辩论的token成本，该方法使得LLM能够以更经济高效的方式解决复杂问题，加速LLM在实际应用中的落地。未来，该方法可以进一步扩展到其他多智能体协作场景，例如机器人协同任务、自动驾驶等。

📄 摘要（原文）

Large language models (LLMs) have demonstrated remarkable capabilities across various natural language processing (NLP) scenarios, but they still face challenges when handling complex arithmetic and logical reasoning tasks. While Chain-Of-Thought (CoT) reasoning, self-consistency (SC) and self-correction strategies have attempted to guide models in sequential, multi-step reasoning, Multi-agent Debate (MAD) has emerged as a viable approach for enhancing the reasoning capabilities of LLMs. By increasing both the number of agents and the frequency of debates, the performance of LLMs improves significantly. However, this strategy results in a significant increase in token costs, presenting a barrier to scalability. To address this challenge, we introduce a novel sparsification strategy designed to reduce token costs within MAD. This approach minimizes ineffective exchanges of information and unproductive discussions among agents, thereby enhancing the overall efficiency of the debate process. We conduct comparative experiments on multiple datasets across various models, demonstrating that our approach significantly reduces the token costs in MAD to a considerable extent. Specifically, compared to MAD, our approach achieves an impressive reduction of up to 94.5\% in token costs while maintaining performance degradation below 2.0\%.