Market Signal Injection: Adversarial Context Manipulation of LLM Pricing Agents

📄 arXiv: 2609.18357v1 📥 PDF

作者: Dohun Lee, Hyunwoo Park

分类: cs.AI, cs.CL

发布日期: 2026-09-16

备注: 30 pages, Accepted to FinNLP 2026 Workshop @ EMNLP 2026

💡 一句话要点

提出市场信号注入以操控LLM定价代理的行为

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 市场信号注入 对抗性攻击 定价代理 大型语言模型 行为操控 模型鲁棒性

📋 核心要点

  1. 现有的LLM定价代理在面对市场数据呈现时表现出脆弱性，容易受到格式和排序的影响。
  2. 论文提出市场信号注入（MSI）攻击，通过操控数据呈现方式来影响定价决策，而无需明确指令。
  3. 实验结果表明，情感驱动的攻击能显著改变模型行为，且不同模型的脆弱性差异明显。

📝 摘要（中文）

大型语言模型（LLM）定价代理可能会受到市场数据呈现方式的影响，即使其数值保持不变。本文提出了一种市场信号注入（MSI）攻击，能够在不发出明确指令的情况下，通过操控数值格式、竞争者排序或市场评论的质量来影响定价决策。我们在模拟的贝尔特朗双头和三头市场中评估了九个开放权重模型，以及在双头市场中评估了三个专有模型。基于情感的攻击产生了最大的行为变化，这种变化会传播到其他公司并改变利润和消费者剩余。模型家族的脆弱性各异，且较大的模型并不总是更具鲁棒性。通过匹配的中性文本控制和基于规则的代理支持了在固定需求参数下的框架基础解释。

🔬 方法详解

问题定义：本文旨在解决大型语言模型定价代理在市场数据呈现方面的脆弱性，现有方法未能有效应对这种潜在的操控风险。

核心思路：通过市场信号注入（MSI）攻击，操控数值格式、竞争者排序和市场评论的质量，从而影响定价决策，避免了直接的指令干预。

技术框架：研究采用模拟的贝尔特朗市场环境，评估不同模型在面对MSI攻击时的表现，主要模块包括数据呈现操控、模型响应评估和行为变化分析。

关键创新：提出了市场信号注入这一新型攻击方式，强调了数据呈现作为LLM定价代理的攻击面，推动了对抗性防御的研究。

关键设计：实验中使用了情感驱动的攻击策略，结合了匹配的中性文本控制和基于规则的代理，以验证模型在不同条件下的响应。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果显示，情感驱动的攻击能够产生显著的行为变化，模型在不同条件下的线性AUC达到1.00，而多层感知器（MLP）的AUC范围为0.93到0.99。这表明攻击能够有效区分基线与攻击后的激活状态，验证了提出方法的有效性。

🎯 应用场景

该研究的潜在应用领域包括金融市场、电子商务和动态定价系统等。通过理解和应对LLM定价代理的脆弱性，可以提高市场决策的安全性和有效性，防止恶意操控带来的经济损失。未来可能推动更智能的防御机制的发展，以应对复杂的市场环境。

📄 摘要（原文）

Large language model (LLM) pricing agents may respond to how market data is presented, even when its numerical values remain unchanged. We introduce market signal injection (MSI), an attack that manipulates numerical formatting, competitor ordering, or qualitative market commentary without issuing explicit instructions. We evaluate nine open-weight models in simulated Bertrand duopoly and triopoly markets and three proprietary models in duopoly markets. Sentiment-based attacks produce the largest behavioral shifts, which propagate to other firms and alter profits and consumer surplus. Susceptibility varies across model families, and larger models are not consistently more robust. Matched neutral-text controls and a rule-based agent support a framing-based account of these shifts under the fixed demand parameters of our simulation. Episode-held-out probes distinguish baseline from attacked activations in all eleven re-evaluated model--condition pairs: linear AUC is 1.00 and MLP AUC ranges from 0.93 to 0.99. This separability does not by itself identify harmful pricing decisions. Input canonicalization removes the tested sentiment attacks, while decision boundary anchoring, which combines prompt constraints with output projection, provides partial mitigation under the tested adaptive attacks. These results identify data presentation as an attack surface for LLM pricing agents and motivate defenses that account for interactions among agents.