AgentShield: Make MAS more secure and efficient

📄 arXiv: 2511.22924v1 📥 PDF

作者: Kaixiang Wang, Zhaojiacheng Zhou, Bunyod Suvonov, Jiong Lou, Jie LI

分类: cs.MA, cs.AI, cs.CR

发布日期: 2025-11-28

💡 一句话要点

AgentShield：一种高效安全的分布式框架，用于保护基于LLM的多智能体系统

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多智能体系统 对抗攻击 分布式审计 LLM 安全 效率 拓扑分析

📋 核心要点

  1. 现有的多智能体系统防御方法存在单点故障风险或效率低下问题，难以兼顾鲁棒性和效率。
  2. AgentShield通过三层防御机制，包括关键节点审计、轻量级令牌审计和两轮共识审计，实现高效的去中心化审计。
  3. 实验结果表明，AgentShield在恢复率和审计开销方面均优于现有方法，并在多种场景下保持高协作准确性。

📝 摘要（中文）

基于大型语言模型(LLM)的多智能体系统(MAS)提供了强大的协同推理能力，但仍然容易受到对抗攻击的影响，其中受损的智能体可能会破坏系统的整体性能。现有的防御方法要么依赖于单一的可信审计者，造成单点故障，要么牺牲效率来换取鲁棒性。为了解决这个矛盾，我们提出了AgentShield，一个用于高效、去中心化审计的分布式框架。AgentShield引入了一种新颖的三层防御机制：(i)关键节点审计，通过拓扑分析优先考虑高影响力智能体；(ii)轻量级令牌审计，使用轻量级哨兵模型实现级联协议，用于快速判别验证；(iii)两轮共识审计，仅在不确定时触发重量级仲裁者，以确保全局一致性。这种原则性设计优化了鲁棒性与效率之间的权衡。实验表明，AgentShield实现了92.5%的恢复率，并将审计开销降低了70%以上，同时在不同的MAS拓扑和对抗场景中保持了较高的协作准确性。

🔬 方法详解

问题定义：论文旨在解决基于LLM的多智能体系统易受对抗攻击，现有防御方法（如依赖单一审计者或牺牲效率）无法有效保护系统的问题。现有方法的痛点在于单点故障风险和效率低下，难以在鲁棒性和效率之间取得平衡。

核心思路：AgentShield的核心思路是构建一个分布式的、多层次的审计框架，通过优先审计关键节点、快速验证和共识仲裁，在保证系统安全性的同时，最大限度地降低审计开销。这种分层设计旨在优化鲁棒性与效率之间的权衡。

技术框架：AgentShield包含三个主要模块：(1) 关键节点审计：通过拓扑分析识别对系统影响最大的关键智能体，优先对其进行审计。(2) 轻量级令牌审计：使用轻量级哨兵模型进行快速的级联验证，快速排除可信智能体，减少审计负担。(3) 两轮共识审计：仅当轻量级审计无法确定时，才触发重量级仲裁者进行全局共识，确保最终决策的准确性。

关键创新：AgentShield的关键创新在于其分布式、分层的审计架构，以及针对不同智能体和不同验证阶段采用不同审计策略。与传统的集中式审计或一刀切的审计方法相比，AgentShield能够更有效地利用资源，在保证安全性的前提下提高系统效率。

关键设计：论文中可能涉及的关键设计包括：(1) 拓扑分析算法的选择，用于识别关键节点；(2) 轻量级哨兵模型的选择和训练，需要平衡模型的准确性和计算复杂度；(3) 两轮共识审计中仲裁者的选择和共识机制的设计，需要保证决策的公平性和效率；(4) 各个阶段的阈值设置，用于控制审计的严格程度和频率。具体的参数设置、损失函数和网络结构等技术细节未知，需要参考论文原文。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，AgentShield实现了92.5%的恢复率，显著优于现有方法。同时，AgentShield将审计开销降低了70%以上，表明其在保证安全性的同时，显著提高了系统效率。这些结果验证了AgentShield在不同MAS拓扑和对抗场景下的有效性。

🎯 应用场景

AgentShield可应用于各种基于LLM的多智能体系统，例如协同决策、任务分配、信息共享等场景。该研究成果有助于提高多智能体系统的安全性和可靠性，降低对抗攻击带来的风险，促进多智能体技术在实际应用中的推广。

📄 摘要（原文）

Large Language Model (LLM)-based Multi-Agent Systems (MAS) offer powerful cooperative reasoning but remain vulnerable to adversarial attacks, where compromised agents can undermine the system's overall performance. Existing defenses either depend on single trusted auditors, creating single points of failure, or sacrifice efficiency for robustness. To resolve this tension, we propose \textbf{AgentShield}, a distributed framework for efficient, decentralized auditing. AgentShield introduces a novel three-layer defense: \textbf{(i) Critical Node Auditing} prioritizes high-influence agents via topological analysis; \textbf{(ii) Light Token Auditing} implements a cascade protocol using lightweight sentry models for rapid discriminative verification; and \textbf{(iii) Two-Round Consensus Auditing} triggers heavyweight arbiters only upon uncertainty to ensure global agreement. This principled design optimizes the robustness-efficiency trade-off. Experiments demonstrate that AgentShield achieves a 92.5\% recovery rate and reduces auditing overhead by over 70\% compared to existing methods, maintaining high collaborative accuracy across diverse MAS topologies and adversarial scenarios.