Attention-based Hierarchical Variational Information Bottleneck for Robust Multi-Agent Communication under Variable Bandwidth

📄 arXiv: 2609.34860v1 📥 PDF

作者: Lukas Koch Vindbjerg, Qi Zhang, Yury Brodskiy, Lukas Esterle

分类: cs.LG, cs.AI

发布日期: 2026-09-28

备注: 8 pages, 6 figures

💡 一句话要点

提出AH-VIB以解决有限带宽下多智能体通信问题

🎯 匹配领域: 支柱三：空间感知与语义 (Perception & Semantics)

关键词: 多智能体通信 变分信息瓶颈 注意力机制 自回归模型 鲁棒性损失 带宽限制 协作任务

📋 核心要点

  1. 现有方法在有限带宽下的多智能体通信中，难以有效处理信息传递的结构化和部分传输的有效性。
  2. 本文提出的AH-VIB模型通过结合变分信息瓶颈与自回归生成，优化了消息的传递与结构。
  3. 实验结果表明，AH-VIB在带宽受限的情况下，性能可靠性显著提升，且与多种基线方法相比，表现出竞争力的平均回报。

📝 摘要（中文）

在有限带宽下的基于学习的多智能体通信不仅需要决定传递什么信息，还需结构化消息以确保部分传输仍然有用。本文研究了前缀截断下的这一问题，提出了一种注意力机制的自回归变分通信模型AH-VIB，该模型结合了变分信息瓶颈（VIB）与顺序消息生成及层次鲁棒性损失。通过在自定义的合作物体检查和占用映射任务中评估AH-VIB，结果显示其在带宽受限条件下的性能可靠性显著提高，且在与其他基线方法的比较中表现出竞争力的平均回报。

🔬 方法详解

问题定义：本文旨在解决在有限带宽条件下多智能体之间的有效通信问题。现有方法在信息传递的结构化和部分信息传输的有效性方面存在不足，导致在带宽受限时性能下降。

核心思路：AH-VIB模型通过引入注意力机制和变分信息瓶颈，优化了信息的选择与传递方式，使得即使在带宽受限的情况下，传递的信息仍然具有较高的有效性和可靠性。

技术框架：AH-VIB的整体架构包括信息选择模块、消息生成模块和鲁棒性损失模块。信息选择模块利用注意力机制决定传递哪些信息，消息生成模块则负责生成可传递的消息，而鲁棒性损失模块确保在带宽变化时的性能稳定。

关键创新：AH-VIB的主要创新在于将变分信息瓶颈与自回归生成相结合，形成了一种新的通信模型，显著提升了在带宽限制下的通信效率和可靠性。与现有方法相比，AH-VIB能够更好地处理部分信息传输的有效性问题。

关键设计：模型中采用了层次鲁棒性损失函数，以增强在不同带宽条件下的性能稳定性。此外，网络结构设计上，使用了自回归的生成方式，使得信息传递更加灵活和高效。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

在实验中，AH-VIB在带宽受限条件下的平均回报表现出竞争力，尤其在最受限的带宽条件下，其性能可靠性显著提高。与基线方法如MADDPG和CommNet相比，AH-VIB在性能稳定性和有效性上均有明显提升，展示了其在实际应用中的优势。

🎯 应用场景

该研究的潜在应用领域包括多智能体系统中的协作任务，如无人机编队、自动驾驶车辆的通信和机器人团队协作等。通过提升在带宽受限环境下的通信效率，AH-VIB能够在实际应用中显著提高系统的整体性能和可靠性，具有重要的实际价值和未来影响。

📄 摘要（原文）

Learning-based multi-agent communication under limited bandwidth does not only require deciding what to communicate, but also structuring messages so that partial transmissions remain useful. We study this problem under prefix truncation, where only the first part of each message is received. To address it, we propose \textbf{AH-VIB}, an attention-based autoregressive variational communication model that combines a variational information bottleneck (VIB) with sequential message generation and a hierarchical robustness loss. We evaluate AH-VIB on a custom cooperative object-inspection and occupancy-mapping task, where agents equipped with a limited field-of-view sensor coordinate to scan inspection objects in an occupancy-grid world, under variable and fixed bandwidth conditions, and compare it against MADDPG, CommNet, a flat VIB baseline, and an autoregressive MLP ablation. AH-VIB achieves competitive mean return while improving performance reliability under the most constrained bandwidth conditions. These results indicate that AH-VIB improves the reliability and graceful degradation of learned communication under bandwidth constraints.