A Hashgraph-Inspired Consensus Mechanism for Reliable Multi-Model Reasoning

📄 arXiv: 2505.03553v1 📥 PDF

作者: Kolawole E. Ogunsina, Morayo A. Ogunsina

分类: cs.AI, cs.DC

发布日期: 2025-05-06

备注: 15 pages

💡 一句话要点

提出Hashgraph启发的共识机制，提升多模型推理的可靠性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多模型推理 共识机制 Hashgraph 分布式账本技术 大型语言模型 模型集成 可靠性

📋 核心要点

  1. 大型语言模型推理结果不一致和幻觉问题严重阻碍了可靠AI系统的构建。
  2. 借鉴Hashgraph算法，通过模型间的信息交换和虚拟投票实现共识，提升结果准确性。
  3. 设计原型系统架构，模型迭代更新答案，利用多轮信息提高准确性和置信度。

📝 摘要（中文）

大型语言模型（LLMs）输出的不一致性和幻觉是构建可靠AI系统的主要障碍。当不同的专有推理模型（RMs），如OpenAI、Google、Anthropic、DeepSeek和xAI的模型，被赋予相同的复杂请求时，由于训练和推理的差异，它们经常产生不同的结果。本文提出了一种受分布式账本技术启发的共识机制，用于验证和融合这些输出，将每个RM视为一个黑盒对等体。基于Hashgraph共识算法，我们的方法采用gossip-about-gossip通信和虚拟投票，以在RM集合中达成一致。我们提出了一个原型系统的架构设计，其中RM迭代地交换和更新它们的答案，使用来自每一轮的信息来提高后续轮次的准确性和置信度。这种方法超越了简单的多数投票，它结合了每个模型的知识和交叉验证内容。我们证明了这种Hashgraph启发的共识对于AI集成的可行性，并概述了其在减少非事实性输出方面优于传统集成技术的优势。讨论了实施的初步考虑、收敛和准确性的评估标准以及潜在的挑战。所提出的机制展示了多智能体AI系统自我验证并在复杂任务中提供高保真响应的一个有希望的方向。

🔬 方法详解

问题定义：论文旨在解决大型语言模型在复杂推理任务中，由于训练数据和推理方式的差异，导致不同模型产生不一致甚至错误结果的问题。现有方法如简单多数投票无法充分利用各模型的知识，容易受到噪声模型的影响。

核心思路：论文的核心思路是借鉴分布式账本技术中的Hashgraph共识算法，将不同的推理模型视为网络中的节点，通过节点间的信息交换（gossip-about-gossip）和虚拟投票机制，使模型群体能够达成共识，从而提高推理结果的可靠性和准确性。

技术框架：该方法构建了一个多智能体系统，包含以下主要模块：1) 推理模型集合：由多个不同的LLM推理模型组成。2) Gossip协议模块：负责模型间的信息交换，每个模型将其答案和对其他模型答案的看法传播给其他模型。3) 虚拟投票模块：基于接收到的信息，每个模型进行虚拟投票，决定最终的共识结果。4) 迭代更新模块：模型根据共识结果更新自己的答案，并在下一轮迭代中继续进行信息交换和投票。

关键创新：该方法最重要的创新点在于将分布式共识算法应用于多模型推理领域，通过模型间的相互验证和信息共享，有效减少了幻觉和错误信息，提高了推理结果的可靠性。与传统的模型集成方法相比，该方法能够更好地利用每个模型的知识，并对噪声模型具有更强的鲁棒性。

关键设计：关键设计包括：1) Gossip协议的具体实现方式，例如信息传播的频率和范围。2) 虚拟投票的规则，例如如何根据接收到的信息计算投票权重。3) 迭代更新的策略，例如如何根据共识结果调整模型的答案。4) 收敛性判断标准，用于确定何时停止迭代。

🖼️ 关键图片

img_0
img_1

📊 实验亮点

论文提出了Hashgraph启发的共识机制，并设计了原型系统架构。虽然没有提供具体的实验数据，但论文强调该方法能够超越简单的多数投票，结合每个模型的知识和交叉验证内容，从而在减少非事实性输出方面优于传统集成技术。初步的理论分析和可行性论证表明了该方法在多智能体AI系统中的应用潜力。

🎯 应用场景

该研究成果可应用于需要高可靠性AI推理的场景，如金融风险评估、医疗诊断、法律咨询等。通过整合多个模型的知识，可以提供更准确、更可靠的决策支持，降低错误决策带来的风险。未来，该方法有望扩展到更广泛的多智能体系统，实现更智能、更可靠的AI服务。

📄 摘要（原文）

Inconsistent outputs and hallucinations from large language models (LLMs) are major obstacles to reliable AI systems. When different proprietary reasoning models (RMs), such as those by OpenAI, Google, Anthropic, DeepSeek, and xAI, are given the same complex request, they often produce divergent results due to variations in training and inference. This paper proposes a novel consensus mechanism, inspired by distributed ledger technology, to validate and converge these outputs, treating each RM as a black-box peer. Building on the Hashgraph consensus algorithm, our approach employs gossip-about-gossip communication and virtual voting to achieve agreement among an ensemble of RMs. We present an architectural design for a prototype system in which RMs iteratively exchange and update their answers, using information from each round to improve accuracy and confidence in subsequent rounds. This approach goes beyond simple majority voting by incorporating the knowledge and cross-verification content of every model. We justify the feasibility of this Hashgraph-inspired consensus for AI ensembles and outline its advantages over traditional ensembling techniques in reducing nonfactual outputs. Preliminary considerations for implementation, evaluation criteria for convergence and accuracy, and potential challenges are discussed. The proposed mechanism demonstrates a promising direction for multi-agent AI systems to self-validate and deliver high-fidelity responses in complex tasks.