Critic-Guided Heterogeneous Multi-Agent Reasoning for Reliable Mathematical Problem Solving

📄 arXiv: 2606.05704v1 📥 PDF

作者: Muhammad Talha Sharif, Abdul Rehman

分类: cs.AI, cs.LG

发布日期: 2026-06-04

备注: 6 pages

💡 一句话要点

提出基于评论指导的异构多智能体方法以提高数学问题求解的可靠性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 数学推理 多智能体系统 评论驱动 自适应学习 错误修正 模型可靠性

📋 核心要点

  1. 现有大型语言模型在复杂数学推理中存在幻觉和推理错误，导致结果不可靠。
  2. 提出了一种基于评论的异构多智能体方法，通过多种专业智能体和评论驱动的反馈系统提升推理可靠性。
  3. 在GSM8K基准测试中，所提方法相比传统模型准确率提高了13%，且小模型表现出色。

📝 摘要（中文）

近年来，大型语言模型（LLMs）在推理能力上表现出色，但在复杂数学推理问题中仍容易出现幻觉、中间推理错误和不可靠的推理结果。本研究提出了一种基于评论的异构多智能体方法，以提高数学推理的可靠性。该框架结合了多种专业的LLM智能体，并采用评论驱动的自适应学习系统，根据中间反馈评估和指导推理过程。系统采用生成-验证器框架，验证器不仅判断正确性，还提供批评以指导解决方案的再生成。这种方法允许自适应的错误修正，防止错误级联。实验结果表明，该方法在GSM8K基准测试中相比单次和非评论模型的准确率提高了多达13%。

🔬 方法详解

问题定义：本论文旨在解决大型语言模型在复杂数学推理中出现的幻觉和推理错误，导致结果不可靠的问题。现有方法在处理复杂问题时，往往无法有效纠正错误，造成推理结果的级联失效。

核心思路：论文提出了一种基于评论的异构多智能体方法，通过结合不同专业的LLM智能体和评论驱动的自适应学习系统，来提升数学推理的可靠性。通过中间反馈，系统能够实时评估推理过程并进行指导，从而实现自适应的错误修正。

技术框架：整体架构采用生成-验证器框架，包含多个异构LLM智能体作为生成器和一个评论者作为验证器。生成器负责产生初步解答，而验证器则评估解答的正确性并提供反馈，指导生成器进行再生成。

关键创新：最重要的技术创新在于引入了评论驱动的反馈循环，使得系统能够在推理过程中进行动态调整，显著减少了对大型模型的依赖，允许小型模型也能达到较高的推理性能。

关键设计：在设计中，采用了多种专业的LLM智能体，设置了适应性学习率和损失函数，以优化评论反馈的有效性。同时，验证器的设计确保了不仅能判断正确性，还能提供有价值的批评，促进生成器的改进。

📊 实验亮点

实验结果显示，所提出的方法在GSM8K基准测试中相比单次和非评论模型的准确率提高了多达13%。此外，研究表明，异构性和评论机制显著降低了对大型模型的需求，使得小型模型也能表现出色，验证了评论反馈循环的有效性。

🎯 应用场景

该研究的潜在应用领域包括教育、自动化数学求解、智能辅导系统等。通过提升数学推理的可靠性，该方法能够为学生提供更准确的解题指导，并在复杂问题求解中减少错误，具有重要的实际价值和未来影响。

📄 摘要（原文）

Recent Large Language Models (LLMs) have shown impressive reasoning abilities; but they are still susceptible to hallucinations, intermediate reasoning mistakes, and unreliable reasoning results in complex mathematical reasoning problems. In this study, we introduce a critic-based heterogeneous multi-agent approach to improve the dependability of mathematical reasoning. This framework incorporates several LLM agents of different specialties and employs a critic-driven adaptive learning system to assess and guide the reasoning process based on intermediate feedback. The system adopts a generator-validator framework, with the validator not only determining correctness but also offering critiques to guide regeneration of solutions. This allows for adaptive error correction and prevents error cascading. Our experiments on the GSM8K benchmark show that the proposed method achieves up to 13% accuracy improvement over single-shot and non-critic models. Additionally, findings suggest that heterogeneity and critique reduce the need for large models, allowing smaller models to perform on par. Ablation studies reveal the main performance gains are due to the critic-based feedback loop and not model size. In summary, the proposed approach showcases the benefits of combining heterogeneous multi-agent collaboration and critique to obtain reliable and interpretable reasoning systems.