The Truth Becomes Clearer Through Debate! Multi-Agent Systems with Large Language Models Unmask Fake News
作者: Yuhan Liu, Yuxuan Liu, Xiaoqing Zhang, Xiuying Chen, Rui Yan
分类: cs.SI, cs.AI
发布日期: 2025-05-13
备注: SIGIR 2025
💡 一句话要点
提出TruEDebate，利用多智能体辩论系统与大语言模型提升假新闻检测的解释性和有效性
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 假新闻检测 多智能体系统 大语言模型 辩论框架 可解释性 推理能力 自然语言处理
📋 核心要点
- 现有假新闻检测方法可解释性差、泛化能力有限，或未能充分利用大语言模型的推理能力。
- TruEDebate通过模拟正式辩论，构建多智能体系统，让智能体针对新闻真伪进行辩论，从而更全面地评估新闻内容。
- 该方法引入DebateFlow和InsightFlow两种智能体，前者负责辩论流程，后者负责辩论总结和最终判断。
📝 摘要（中文）
在当今的数字环境中，假新闻通过社交网络的快速传播带来了严峻的社会挑战。现有检测方法要么采用传统分类模型，这些模型缺乏可解释性和泛化能力；要么为大语言模型（LLMs）设计特定提示，直接生成解释和结果，未能充分利用LLMs的推理能力。受“真理越辩越明”的启发，本研究提出了一种新颖的基于LLMs的多智能体系统TruEDebate（TED），以提高假新闻检测的可解释性和有效性。TED采用受正式辩论环境启发的严格辩论过程。该方法的核心是两个创新组件：DebateFlow Agents和InsightFlow Agents。DebateFlow Agents将智能体组织成两个团队，一个支持新闻的真实性，另一个挑战新闻的真实性。这些智能体参与开场陈述、交叉询问、反驳和总结陈述，模拟类似人类话语分析的严格辩论过程，从而能够全面评估新闻内容。同时，InsightFlow Agents由两个专门的子智能体组成：Synthesis Agent和Analysis Agent。Synthesis Agent总结辩论并提供总体观点，确保连贯和全面的评估。Analysis Agent包括一个角色感知编码器和一个辩论图，它整合了角色嵌入，并使用注意力机制对辩论角色和论点之间的交互进行建模，从而提供最终判断。
🔬 方法详解
问题定义：论文旨在解决假新闻检测中现有方法可解释性差、泛化能力不足以及未能充分利用大语言模型推理能力的问题。现有方法要么依赖于传统分类模型，可解释性低，泛化能力有限；要么直接使用prompt让LLM进行判断，无法充分发挥LLM的推理能力。
核心思路：论文的核心思路是模拟人类辩论过程，通过构建多智能体系统，让不同的智能体针对新闻的真伪进行辩论，从而更全面、深入地分析新闻内容，提高检测的准确性和可解释性。这种辩论式的框架能够激发LLM的推理能力，并提供更丰富的证据链。
技术框架：TruEDebate系统包含DebateFlow Agents和InsightFlow Agents两个主要模块。DebateFlow Agents负责组织辩论流程，将智能体分为正反两方，进行开场陈述、交叉询问、反驳和总结陈述等环节。InsightFlow Agents则负责总结辩论内容，并进行最终的判断。InsightFlow Agents包含Synthesis Agent和Analysis Agent，前者负责总结辩论，后者负责分析辩论过程中的交互信息。
关键创新：该方法最重要的创新点在于将多智能体系统与辩论框架相结合，模拟人类的辩论过程，从而更有效地利用大语言模型的推理能力。与现有方法相比，TruEDebate不仅能够提供最终的判断结果，还能提供详细的辩论过程和证据链，从而提高可解释性。此外，角色感知编码器和辩论图的设计能够更好地建模辩论参与者之间的交互关系。
关键设计：Analysis Agent中使用了角色感知编码器，将每个智能体的角色信息嵌入到其表示中。辩论图则用于建模辩论参与者之间的交互关系，通过注意力机制学习不同论点之间的关联。损失函数的设计未知。
🖼️ 关键图片
📊 实验亮点
论文通过实验验证了TruEDebate的有效性，但具体的性能数据、对比基线和提升幅度未知。摘要中没有提供具体的实验结果，需要查阅论文全文才能了解详细的实验设置和结果。
🎯 应用场景
该研究成果可应用于社交媒体平台、新闻聚合网站等，帮助用户识别和过滤虚假信息，提高信息的可信度。此外，该方法还可以扩展到其他需要推理和论证的领域，例如法律咨询、医疗诊断等，为决策提供更可靠的依据。未来，该技术有望在维护社会稳定、促进信息健康发展方面发挥重要作用。
📄 摘要（原文）
In today's digital environment, the rapid propagation of fake news via social networks poses significant social challenges. Most existing detection methods either employ traditional classification models, which suffer from low interpretability and limited generalization capabilities, or craft specific prompts for large language models (LLMs) to produce explanations and results directly, failing to leverage LLMs' reasoning abilities fully. Inspired by the saying that "truth becomes clearer through debate," our study introduces a novel multi-agent system with LLMs named TruEDebate (TED) to enhance the interpretability and effectiveness of fake news detection. TED employs a rigorous debate process inspired by formal debate settings. Central to our approach are two innovative components: the DebateFlow Agents and the InsightFlow Agents. The DebateFlow Agents organize agents into two teams, where one supports and the other challenges the truth of the news. These agents engage in opening statements, cross-examination, rebuttal, and closing statements, simulating a rigorous debate process akin to human discourse analysis, allowing for a thorough evaluation of news content. Concurrently, the InsightFlow Agents consist of two specialized sub-agents: the Synthesis Agent and the Analysis Agent. The Synthesis Agent summarizes the debates and provides an overarching viewpoint, ensuring a coherent and comprehensive evaluation. The Analysis Agent, which includes a role-aware encoder and a debate graph, integrates role embeddings and models the interactions between debate roles and arguments using an attention mechanism, providing the final judgment.