MOC: Multi-Order Communication in LLM-based Multi-Agent Systems

📄 arXiv: 2606.02359v1 📥 PDF

作者: Yao Guan, Lin Wang, Zhihu Lu, Ziyi Wang, Wenzhu Yan, Qiang Duan

分类: cs.AI

发布日期: 2026-06-01

🔗 代码/项目: GITHUB


💡 一句话要点

提出MOC多阶通信方案,提升LLM多智能体系统中的信息传递效率与任务性能。

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 多智能体系统 大型语言模型 通信机制 多阶通信 信息传递 语义拓扑合并 证据感受野

📋 核心要点

  1. 现有LLM多智能体系统通信方案依赖一阶邻居响应,限制了证据感受野,导致关键信息稀释。
  2. MOC方案通过构建多阶证据流,并采用语义-拓扑合并算法,优化智能体间信息传递。
  3. 实验结果表明,MOC在多个数据集和不同规模LLM上,均能提升任务性能并降低通信成本。

📝 摘要(中文)

本文针对基于大型语言模型(LLM)的多智能体系统中的通信问题,指出现有方法主要依赖于一阶邻居响应的直接连接,导致证据感受野受限以及关键信息在多跳路径上的稀释。为了解决这些局限性,我们提出了多阶通信(MOC)方案,该方案重构了智能体间的通信,以捕获多跳依赖关系,并结合了一种结构化的消息整合策略以确保效率。具体而言,我们将通信机制形式化,构建结构化的多阶证据流,并设计了一种语义-拓扑合并算法,以在token约束内优化语义保真度。在六个不同的数据集和不同参数规模的LLM骨干网络上进行的大量实验表明,MOC始终能够提高任务性能并降低通信成本。代码已在https://github.com/yao-guan/MOC上发布。

🔬 方法详解

问题定义:现有基于LLM的多智能体系统在通信方面存在瓶颈。传统的通信方式通常只考虑一阶邻居的信息,即每个智能体只接收直接相连的智能体发送的消息。这种方式限制了智能体对全局信息的感知,尤其是在需要多跳推理的任务中,关键信息容易在传递过程中被稀释或丢失。此外,直接连接所有一阶邻居的回复可能导致信息冗余,增加通信成本。

核心思路:MOC的核心思路是构建多阶通信机制,使每个智能体能够感知更远距离的智能体的信息,从而扩大证据感受野。同时,为了避免信息冗余和通信成本过高,MOC采用结构化的消息整合策略,对多阶信息进行筛选和提炼,只保留关键信息。通过这种方式,MOC旨在提高智能体之间的信息传递效率和质量,从而提升整个多智能体系统的任务性能。

技术框架:MOC的技术框架主要包含两个阶段:多阶证据流构建和语义-拓扑合并。首先,MOC形式化了智能体之间的通信机制,构建一个结构化的多阶证据流,该证据流包含了来自不同跳数的智能体的信息。然后,MOC设计了一种语义-拓扑合并算法,该算法根据语义相关性和拓扑结构,对多阶证据流中的信息进行筛选和合并,以在token约束内优化语义保真度。整个框架旨在实现高效且高质量的智能体间通信。

关键创新:MOC的关键创新在于其多阶通信机制和语义-拓扑合并算法。与传统的只考虑一阶邻居信息的通信方式不同,MOC能够捕获多跳依赖关系,使智能体能够感知更全局的信息。语义-拓扑合并算法则能够有效地筛选和提炼多阶信息,避免信息冗余和通信成本过高。这种创新使得MOC能够在保证信息质量的同时,提高通信效率。

关键设计:在多阶证据流构建方面,MOC需要确定最大跳数,以及如何有效地表示和存储来自不同跳数的智能体的信息。在语义-拓扑合并算法方面,MOC需要设计合适的语义相似度度量方法和拓扑结构分析方法,以准确地筛选和合并信息。此外,MOC还需要考虑如何在token约束下优化语义保真度,避免信息丢失或失真。具体的参数设置、损失函数和网络结构等技术细节在论文中应该有更详细的描述(未知)。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明,MOC在六个不同的数据集和不同参数规模的LLM骨干网络上,均能显著提高任务性能并降低通信成本。具体的性能提升幅度和通信成本降低比例在论文中应该有更详细的描述(未知)。这些实验结果验证了MOC方案的有效性和通用性。

🎯 应用场景

MOC方案可应用于各种需要多智能体协作的场景,例如:协同决策、分布式控制、智能交通、社交网络分析等。通过提高智能体之间的信息传递效率和质量,MOC能够提升多智能体系统的整体性能,使其能够更好地完成复杂任务。未来,MOC有望在更广泛的领域得到应用,并推动多智能体技术的发展。

📄 摘要(原文)

Despite the remarkable progress of Large Language Model (LLM) based Multi-Agent Systems, most research focuses on optimizing coordination topology while largely underexploring the equally critical problem: how to transmit and optimize messages among agents effectively? Current communication schemes typically rely on the direct concatenation of first-order neighbor responses, which induces a restricted evidence receptive field and leads to the dilution of crucial insights over multi-hop paths. To address these limitations, we propose the Multi-Order Communication (MOC) scheme, which reconstructs the inter-agent communication to capture multi-hop dependencies and incorporates a structural message consolidation strategy to ensure efficiency. Specifically, we formalize the communication mechanism to construct a structured multi-order evidence stream, and subsequently design a Semantic-Topological Merging algorithm to optimize semantic fidelity within token constraints. Extensive experiments across six diverse datasets and LLM backbones of varying parameter scales demonstrate that MOC consistently improves task performance and reduces communication costs. The code is available at https://github.com/yao-guan/MOC.