Recursive Reasoning or Statistical Extrapolation? In-Context Learning in Multi-Agent Interdependent Decision-Making
作者: Yu Liu, Wenwen Li, Yifan Dou, Guangnan Ye
分类: cs.AI, econ.GN
发布日期: 2026-09-16
💡 一句话要点
提出递归推理与统计外推的区分方法以优化多智能体决策
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 上下文学习 多智能体系统 博弈论 统计外推 递归推理 决策质量 理性预期均衡 人工智能
📋 核心要点
- 现有的上下文学习方法在多智能体决策中面临挑战，难以区分推理与统计外推的作用。
- 本文通过构建公共物品博弈，提出使用理性预期均衡（REE）作为评估决策质量的基准。
- 实验结果显示，当历史统计模式被扰动时，决策质量显著下降，表明ICL更依赖于统计外推。
📝 摘要（中文）
在上下文学习（ICL）中，大型语言模型（LLM）代理通过交互历史改善决策，但尚不清楚这种改善是源于内部推理的精细化还是统计模式的简单外推。为了解析这两种机制，本文研究了在需要递归信念推理的多智能体不完全信息博弈中的LLM代理。通过构建公共物品博弈并操控历史反馈的统计结构，我们评估了决策质量与历史无关的理性预期均衡（REE）基准的对比。实验结果表明，当历史统计模式被破坏时，较长上下文的优势大幅消失，决策质量降至无上下文基线，且这种降级在更强的战略相互依赖下被显著放大。这些结果表明，在此类战略环境中，ICL行为更符合统计外推而非战略推理。我们的工作扩展了ICL在战略多智能体环境中的机制研究，引入REE作为区分推理与外推的诊断工具，并提供了一个可重用的框架以探讨LLM在递归信念任务中的推理边界。
🔬 方法详解
问题定义：本文旨在解决在多智能体不完全信息博弈中，如何区分上下文学习中的推理与统计外推的问题。现有方法未能有效识别这两者的贡献，导致决策质量评估不准确。
核心思路：通过构建公共物品博弈并操控历史反馈的统计结构，本文提出使用理性预期均衡（REE）作为基准，来评估LLM代理的决策质量，从而明确推理与外推的区别。
技术框架：整体架构包括博弈环境的构建、历史反馈的操控、决策质量的评估三个主要模块。首先，设计公共物品博弈以模拟多智能体交互；其次，通过改变历史反馈的统计特征来观察决策变化；最后，使用REE作为基准进行对比分析。
关键创新：本文的主要创新在于引入REE作为诊断工具，能够有效区分推理与统计外推的作用。这一方法与传统的决策质量评估方法有本质区别，提供了更为清晰的分析框架。
关键设计：在实验中，设置了不同的历史反馈结构，并通过对比无上下文基线和REE基准，分析了决策质量的变化。关键参数包括历史反馈的长度、统计模式的复杂性等，这些设计确保了实验结果的可靠性和有效性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，当历史统计模式被扰动时，LLM代理的决策质量显著下降，降至无上下文基线，且在更强的战略相互依赖下，这一现象被显著放大。这表明ICL行为更倾向于统计外推而非战略推理，提供了新的视角来理解多智能体决策中的学习机制。
🎯 应用场景
该研究的潜在应用领域包括多智能体系统、博弈论、经济学以及人工智能决策支持系统。通过明确推理与统计外推的区别，能够为设计更智能的决策系统提供理论支持，提升多智能体环境中的决策效率和准确性。
📄 摘要（原文）
In-context learning (ICL) enables large language model (LLM) agents to improve decisions using interaction history, yet it remains unclear whether such improvement reflects refined internal reasoning or mere extrapolation of statistical patterns. To disentangle these mechanisms, we study LLM agents in multi-agent incomplete-information games that require recursive belief reasoning. By constructing a public goods game and manipulating the statistical structure of historical feedback, we evaluate decision quality against a history-independent rational expectations equilibrium (REE) benchmark. Our experiments reveal that when historical statistical patterns are disrupted, the benefits of longer context largely vanish, degrading decision quality to the no-context baseline in a way sharply amplified by stronger strategic interdependence. These results suggest that, in such strategic environments, ICL behavior is more consistent with statistical extrapolation than with strategic reasoning. Our work extends the mechanistic study of ICL to strategic multi-agent settings, introduces REE as a diagnostic tool for distinguishing reasoning from extrapolation, and provides a reusable framework for probing the boundaries of LLM reasoning in recursive belief tasks.