LLM Agents for Deliberative Collaboration: A Study on Joint Decision Making Under Partial Observability
作者: Chenxu Wang, Yongkun Yang, Boyuan Du, Shiwei Lin, Huaping Liu
分类: cs.CL, cs.AI
发布日期: 2026-07-07
备注: Code is available at https://github.com/wcx21/deliberative-collaboration-agents
💡 一句话要点
提出LLM代理以解决部分可观测联合决策问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 深思熟虑协作 联合决策 部分可观测性 多智能体系统
📋 核心要点
- 现有的语言模型在复杂的深思熟虑协作任务中表现不佳，尤其是在信息对齐和推理决策方面。
- 本文提出了一种新的框架，将深思熟虑协作形式化为合作联合决策问题，并引入可扩展的基准和评估协议。
- 实验结果表明，尽管LLM在某些任务中表现出色，但在复杂的深思熟虑任务中仍面临显著挑战，且有时能通过深思熟虑过程改善性能。
📝 摘要（中文）
协作中的深思熟虑在信息对齐和达成共识中起着关键作用。本文研究了在部分可观测联合决策任务下的深思熟虑大型语言模型（LLM）代理。我们将深思熟虑协作形式化为一个具有部分和不对称观察的合作联合决策问题，并引入了一个可扩展的基准，涵盖多个任务设置和领域，代理必须通过深思熟虑交换信息以达成共享奖励的联合决策。我们还建立了一个参考框架和评估协议，并对多种代表性LLM进行了系统评估。结果显示，复杂的深思熟虑协作任务仍然对最先进的语言模型构成挑战。即使借助外部数学工具，语言模型在信息对齐的深思熟虑过程或复杂推理决策过程中可能仍会失败。另一方面，诊断分析表明，深思熟虑过程也可能提供反思和纠错的机会，有时能改善性能。总的来说，我们的工作为评估和改进LLM代理在深思熟虑协作中的能力奠定了基础，并提供了对当前基于LLM的多代理系统的优势、局限性和特性的见解。
🔬 方法详解
问题定义：本文旨在解决在部分可观测环境下的联合决策问题，现有方法在信息对齐和复杂推理方面存在不足，导致决策失败。
核心思路：通过将深思熟虑协作形式化为一个合作联合决策问题，设计了一种新的框架，使代理能够通过信息交换达成共享奖励的决策。
技术框架：整体架构包括任务设置、信息交换机制和评估协议，代理在这些模块中进行协作和决策。
关键创新：引入了可扩展的基准和评估协议，系统性地评估了多种LLM在深思熟虑协作中的表现，揭示了其局限性和潜在改进方向。
关键设计：在实验中，设置了不同的任务参数和损失函数，采用了多种网络结构以适应不同的协作场景，确保评估的全面性和准确性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，尽管LLM在某些任务中表现良好，但在复杂的深思熟虑协作任务中仍面临挑战。具体而言，某些LLM在信息对齐和推理决策过程中出现失败，且即使使用外部工具也未能显著提升性能。诊断分析表明，深思熟虑过程有时能改善性能，尤其是在反思和纠错方面。
🎯 应用场景
该研究的潜在应用领域包括多智能体系统、机器人协作、智能决策支持系统等。通过改进LLM在深思熟虑协作中的表现，可以提升这些系统在复杂环境中的决策能力，推动智能代理在实际应用中的广泛使用。
📄 摘要（原文）
Deliberation plays a crucial role in collaboration; when humans work together, they naturally engage in communication to align information and reach an agreement. In this paper, we investigate deliberative large language model (LLM) agents under partially observable joint decision-making tasks. We formalize deliberative collaboration as a cooperative joint decision problem with partial and asymmetric observations, and introduce a scalable benchmark that instantiates this problem across multiple task settings and domains in which agents must exchange information through deliberation to reach a joint decision with a shared reward. We then instantiate a reference scaffold and evaluation protocol for deliberative agents and conduct a systematic evaluation of a range of representative LLMs. The results reveal that complex deliberative collaboration tasks continue to challenge state-of-the-art language models. Even with the aid of external mathematical tools, language models may fail in either the deliberation process for aligning information or the complex reasoning process for making the decision. On the other hand, diagnostic analysis reveals that the deliberation process may also provide opportunities for reflection and error correction, sometimes improving performance over centralized baselines. Altogether, our work establishes a foundation for evaluating and improving LLM agents in deliberative collaboration and provides insights into the strengths, limitations, and properties of current LLM-based multi-agent systems.