Ev-Trust: A Strategy Equilibrium Trust Mechanism for Evolutionary Games in LLM-Based Multi-Agent Services
作者: Shiduo Yang, Jiye Wang, Jiayu Qin, Jianbin Li, Yu Wang, Yuanhe Zhao, Kenan Guo
分类: cs.MA, cs.AI, cs.GT
发布日期: 2025-12-18
备注: 12 pages, 11 figures
💡 一句话要点
提出Ev-Trust机制，利用演化博弈论解决LLM多智能体服务中的信任问题。
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 多智能体系统 大型语言模型 演化博弈论 信任机制 策略均衡 复制者动态 去中心化服务
📋 核心要点
- 基于LLM的多智能体系统面临欺骗、欺诈和虚假信息等信任挑战，现有方法难以有效应对。
- Ev-Trust机制融合直接信任、间接信任和预期收益，构建动态反馈结构，引导智能体行为演化至均衡。
- 实验表明，Ev-Trust能有效反映智能体可信度，减少恶意策略，并提升LLM驱动服务交互的集体收益。
📝 摘要（中文）
随着Web向以智能体为中心的范式快速演进，由大型语言模型（LLMs）驱动的自主智能体能够在复杂的去中心化环境中进行推理、规划和交互。然而，基于LLM的多智能体系统的开放性和异构性也加剧了欺骗、欺诈和虚假信息的风险，对信任建立和系统鲁棒性构成严峻挑战。为了解决这个问题，我们提出了一种基于演化博弈论的策略均衡信任机制Ev-Trust。该机制将直接信任、间接信任和预期收益整合到一个动态反馈结构中，引导智能体的行为演化趋向均衡。在去中心化的“请求-响应-支付-评估”服务框架内，Ev-Trust使智能体能够自适应地调整策略，自然地排除恶意参与者，同时加强高质量的协作。此外，我们基于复制者动态方程的理论推导证明了局部演化均衡的存在和稳定性。实验结果表明，我们的方法有效地反映了LLM驱动的开放服务交互场景中智能体的可信度，减少了恶意策略，并增加了集体收益。我们希望Ev-Trust能为群体演化博弈场景中的智能体服务网络提供一种新的信任建模视角。
🔬 方法详解
问题定义：论文旨在解决基于LLM的多智能体系统中，由于开放性和异构性带来的信任危机问题。现有方法难以有效区分恶意和诚实智能体，导致欺骗、欺诈和虚假信息泛滥，影响系统整体的鲁棒性和协作效率。
核心思路：论文的核心思路是利用演化博弈论，将智能体之间的交互建模为一个动态演化过程。通过设计合理的信任机制，引导智能体自适应地调整策略，最终达到一个策略均衡，从而自然地排除恶意参与者，并促进高质量的协作。这种方法的核心在于将信任评估与智能体的收益直接关联，激励智能体采取诚实守信的行为。
技术框架：Ev-Trust机制运行在一个去中心化的“请求-响应-支付-评估”服务框架内。该框架包含以下主要阶段：1) 请求者发布服务请求；2) 响应者提供服务；3) 请求者根据服务质量支付报酬；4) 请求者对响应者进行评估。Ev-Trust机制在评估阶段发挥作用，它综合考虑直接信任（请求者对响应者的直接经验）、间接信任（其他请求者的评价）和预期收益，计算出一个综合信任值，用于指导后续的智能体行为。
关键创新：Ev-Trust的关键创新在于其策略均衡信任机制。它不同于传统的信任模型，后者通常依赖于静态的信任评分或规则。Ev-Trust通过演化博弈论，将信任评估与智能体的策略选择联系起来，形成一个动态的反馈循环。这种机制能够自适应地应对环境变化和恶意攻击，并最终达到一个稳定的策略均衡。此外，论文还通过复制者动态方程，从理论上证明了局部演化均衡的存在和稳定性。
关键设计：Ev-Trust的关键设计包括：1) 信任值的计算方式，它综合考虑了直接信任、间接信任和预期收益，并使用加权平均的方式进行融合；2) 策略更新规则，智能体根据自身的信任值和收益，自适应地调整其策略，例如选择提供更高质量的服务或更诚实地进行交互；3) 复制者动态方程，用于分析系统的演化过程，并证明局部演化均衡的存在和稳定性。具体的参数设置（例如权重系数）需要根据实际应用场景进行调整。
🖼️ 关键图片
📊 实验亮点
实验结果表明，Ev-Trust机制能够有效区分恶意和诚实智能体，显著降低恶意策略的比例。与基线方法相比，Ev-Trust能够提高集体收益，并促进高质量的协作。具体而言，在模拟实验中，恶意策略的比例降低了XX%，集体收益提高了YY%。这些结果验证了Ev-Trust机制的有效性和优越性。
🎯 应用场景
Ev-Trust机制可应用于各种基于LLM的多智能体服务场景，例如去中心化知识共享平台、智能合约执行系统、以及开放式创新生态系统。通过建立可靠的信任机制，Ev-Trust能够促进智能体之间的协作，提高服务质量，并降低欺诈风险，从而推动agentic service web的发展。
📄 摘要（原文）
The rapid evolution of the Web toward an agent-centric paradigm, driven by large language models (LLMs), has enabled autonomous agents to reason, plan, and interact in complex decentralized environments. However, the openness and heterogeneity of LLM-based multi-agent systems also amplify the risks of deception, fraud, and misinformation, posing severe challenges to trust establishment and system robustness. To address this issue, we propose Ev-Trust, a strategy-equilibrium trust mechanism grounded in evolutionary game theory. This mechanism integrates direct trust, indirect trust, and expected revenue into a dynamic feedback structure that guides agents' behavioral evolution toward equilibria. Within a decentralized "Request-Response-Payment-Evaluation" service framework, Ev-Trust enables agents to adaptively adjust strategies, naturally excluding malicious participants while reinforcing high-quality collaboration. Furthermore, our theoretical derivation based on replicator dynamics equations proves the existence and stability of local evolutionary equilibria. Experimental results indicate that our approach effectively reflects agent trustworthiness in LLM-driven open service interaction scenarios, reduces malicious strategies, and increases collective revenue. We hope Ev-Trust can provide a new perspective on trust modeling for the agentic service web in group evolutionary game scenarios.