Knowing Whom to Trust is not Enough: The Trust--Agreement Gap in Repeated Multi-Party LLM Negotiation

📄 arXiv: 2610.31971v1 📥 PDF

作者: Amit Sarker, Moumita Choudhury, Saaduddin Mahmud, Shlomo Zilberstein

分类: cs.AI, cs.CL, cs.MA

发布日期: 2026-10-22

💡 一句话要点

提出信任评估模型以解决多方LLM谈判中的信任与协议差距问题

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 信任评估 多方谈判 大型语言模型 协议达成 代理系统 动态决策 机器学习

📋 核心要点

  1. 现有的LLM谈判研究未能有效利用信任评估，导致在多方互动中容易受到操控。
  2. 本文提出了一种重复的多方多议题谈判框架，允许代理在多轮游戏中评估彼此的信任。
  3. 实验结果表明，信任意识代理在识别对手方面表现出色，但信任的有效利用依赖于明确的指导。

📝 摘要（中文）

大型语言模型（LLM）代理日益参与代表个人和组织进行的谈判，但在重复的多方互动中仍然容易受到操控。传统的多代理系统通过明确的信任和声誉模型来应对这一挑战，而现有的LLM谈判研究则主要将信任视为一种自发现象。本文探讨LLM代理是否能够从先前的互动中形成有用的信任评估，并利用这些评估改善未来的谈判结果。我们引入了一个重复的多方多议题谈判框架，其中参与者在一系列谈判游戏中进行互动，而一名参与者则秘密试图阻止达成协议。研究结果揭示了信任与协议之间的差距：信任意识代理能够在几轮游戏中识别出对手，但准确的信任评估并不总能转化为更好的协议。信任在代理决策中的明确指导下可以将协议达成率提高多达23个百分点。

🔬 方法详解

问题定义：本文旨在解决在重复多方LLM谈判中，信任评估不足导致的协议达成困难。现有方法未能有效利用信任信息，导致代理在谈判中容易受到操控。

核心思路：论文提出了一种新的谈判框架，使LLM代理能够在多轮谈判中评估彼此的信任，并利用这些评估来改善未来的谈判结果。通过引入信任意识的决策机制，代理可以更好地识别潜在的对手。

技术框架：整体架构包括多个阶段：首先，代理在每轮谈判中进行互动；其次，代理在每轮结束后评估彼此的信任；最后，信任评估结果被用于指导后续的谈判决策。

关键创新：最重要的创新在于引入了信任评估模型，使得代理能够在多轮谈判中动态调整其信任值，从而提高协议达成率。这与传统方法的静态信任模型形成鲜明对比。

关键设计：在设计中，代理的信任评估基于历史互动数据，使用了特定的参数设置和损失函数，以确保信任值的准确性和有效性。

🖼️ 关键图片

fig_0

📊 实验亮点

实验结果显示，信任意识代理在识别对手方面表现优异，能够在几轮游戏内准确识别出潜在的操控者。信任的明确使用使得协议达成率提高了多达23个百分点，展示了信任评估在谈判中的重要性。

🎯 应用场景

该研究的潜在应用领域包括商业谈判、法律协商和多方决策支持系统。通过提高LLM代理在谈判中的信任评估能力，可以显著提升协议达成率，进而促进各方利益的有效协调与实现。

📄 摘要（原文）

Large language model (LLM) agents increasingly participate in negotiations on behalf of individuals and organizations, yet they remain vulnerable to manipulation, particularly in repeated multi-party interactions. Classical multi-agent systems address this challenge through explicit trust and reputation models, whereas existing work on LLM negotiation largely treats trust as an emergent phenomenon. We investigate whether LLM agents can form useful trust estimates from prior interactions and leverage them to improve future negotiation outcomes. We introduce a repeated, multi-party, multi-issue negotiation framework in which recurring agents participate in a sequence of negotiation games while one participant covertly attempts to prevent agreement. After each game, agents assess their counterparts and maintain pairwise trust estimates that carry over to subsequent negotiations. We compare trust-aware and trust-agnostic agents and analyze how explicit trust influences negotiation outcomes. Our results reveal a \emph{trust--agreement gap}: trust-aware agents can identify the adversary within a few games, but accurate trust estimates do not consistently translate into better agreements. Trust increases agreement rates by up to 23 percentage points, but only when agents are explicitly guided to use it in their decisions. Explicit trust can therefore improve repeated LLM negotiations, but its value depends critically on how trust is assessed and incorporated into agents' reasoning.