SOM: Structured Opponent Modeling for LLM-based Agents via Structural Causal Model

📄 arXiv: 2605.07301v1 📥 PDF

作者: Shiyue Cao, Pei Xu, Likun Yang, Lei Cui, Xiaotang Chen, Kaiqi Huang

分类: cs.AI

发布日期: 2026-05-08

DOI: 10.65109/EXQH7884

💡 一句话要点

提出结构化对手建模（SOM）框架，利用结构因果模型提升LLM智能体在多智能体环境下的预测能力。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 多智能体系统 结构因果模型 对手建模 博弈论 行为预测 因果推理

📋 核心要点

  1. 现有方法将对手建模与预测过程纠缠在一起，依赖隐式推理，难以应对动态交互中的复杂策略变化。
  2. 提出SOM框架，通过结构因果模型（SCM）显式建模对手的观察与行动依赖，实现建模与预测的解耦。
  3. 实验证明SOM在多智能体基准测试中显著优于现有基线，提升了智能体在复杂环境下的决策准确性与稳定性。

📝 摘要（中文）

在多智能体和博弈论环境中，准确预测对手行为是基于大语言模型（LLM）智能体的核心能力。现有方法往往将对手建模与行为预测混为一谈，过度依赖隐式的上下文推理，导致在动态交互中适应性受限。为此，本文提出了结构化对手建模（SOM），这是一个将对手模型构建与行为预测明确分离的两阶段框架。在构建阶段，SOM利用结构因果模型（SCM）——一种用于表示变量间依赖关系的图形式化方法——来捕捉对手观察与行动之间的有向链接，从而生成显式且结构化的对手表征。在预测阶段，LLM沿着SCM导出的清晰路径进行结构化推理，显著提升了预测的准确性与稳定性。在多个多智能体基准测试上的实验表明，SOM在复杂动态交互中表现优于现有的最先进LLM推理基线。

🔬 方法详解

问题定义：论文旨在解决LLM智能体在多智能体博弈中对对手行为预测不准确的问题。现有方法通常将对手建模视为黑盒预测任务，缺乏对对手决策逻辑的显式理解，导致在面对动态环境时泛化能力差。

核心思路：核心思想是将对手建模过程拆解为“构建”与“预测”两个阶段。通过引入结构因果模型（SCM），将对手的决策过程显式化为图结构，使LLM能够基于因果路径而非单纯的上下文关联进行推理。

技术框架：框架分为两阶段：首先是构建阶段，利用SCM提取对手观察与行动之间的因果依赖，形成结构化表征；其次是预测阶段，LLM根据这些结构化路径进行推理，从而生成更符合逻辑的对手行为预测。

关键创新：最重要的创新在于引入了因果图作为对手行为的先验约束，将隐式的LLM推理转化为基于因果路径的显式推理，实现了对手建模与行为预测的解耦。

关键设计：关键设计在于SCM的构建机制，它通过图形式化方法捕捉变量间的有向依赖，并将其作为提示词或上下文信息注入LLM，引导模型沿着因果路径进行推理，从而增强了预测的鲁棒性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验在多个多智能体基准测试中进行，结果显示SOM在预测准确率和决策稳定性上均优于现有的LLM推理基线（如Chain-of-Thought等）。SOM通过显式因果推理，在处理复杂动态交互时展现出更强的适应性，特别是在对手策略发生突变时，其性能提升幅度显著，证明了结构化建模在提升智能体博弈能力方面的有效性。

🎯 应用场景

该研究适用于需要高度策略博弈的领域，如自动驾驶中的多车交互、复杂金融市场的交易策略模拟、以及多人在线游戏中的NPC行为决策。通过提升智能体对对手意图的理解，该技术能显著增强多智能体系统在动态、对抗性环境下的协作与竞争效率。

📄 摘要（原文）

Accurately predicting opponents' behavior from interactions is a fundamental capability for large language model (LLM)-based agents in multi-agent and game-theoretic environments. Existing approaches often entangle opponent modeling with prediction, relying on implicit contextual reasoning and limiting adaptability in dynamic interactions. To this end, we propose Structured Opponent Modeling (SOM), a two-stage opponent modeling framework that distinctly separates opponent model construction and opponent prediction. At the construction stage, SOM employs a Structural Causal Model (SCM), a graph-based formalism for representing dependencies among variables, to capture directed links between opponents' observations and actions, yielding an explicit and structured opponent representation. At the prediction stage, the LLM performs structured reasoning along clear pathways derived from the SCM, improving both prediction accuracy and stability. Extensive experiments on diverse multi-agent benchmarks demonstrate that SOM consistently outperforms state-of-the-art LLM-based reasoning baselines, enabling more accurate and adaptable strategic decision-making in complex and dynamic multi-agent interactions.