Continuous Interpretive Steering for Scalar Diversity

📄 arXiv: 2604.07006v1 📥 PDF

作者: Ye-eun Cho

分类: cs.CL

发布日期: 2026-04-08

💡 一句话要点

提出连续解释性引导(CIS)方法，评估LLM中标量多样性的语用推理能力。

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 语用推理 大型语言模型 标量多样性 解释性引导 激活层干预

📋 核心要点

  1. 现有LLM语用推理评估主要依赖提示工程，缺乏对模型内部表征的细粒度控制。
  2. 提出连续解释性引导(CIS)方法，通过连续调整激活层的引导强度来探测分级语用解释。
  3. 构建GraSD数据集，包含分级标量多样性信息，实验证明CIS能有效恢复模型中编码的分级敏感性。

📝 摘要（中文）

语用推理本质上是分级的。不同的词汇项目会产生不同程度的语用丰富。标量蕴涵通过标量多样性体现了这一属性，其中蕴涵强度因标量项目而异。然而，对大型语言模型(LLM)中语用推理的评估通常依赖于基于提示的操纵。除了提示层面的影响，本研究引入了连续解释性引导(CIS)，这是一种通过将激活层面的引导强度视为连续实验变量来探测分级语用解释的方法。为了支持这项分析，本研究引入了一个新的数据集GraSD，它编码了分级标量多样性。对四个LLM的实验表明，统一激活引导全局性地增加了语用解释，但会折叠项目层面的变化，而分级激活引导会产生与标量多样性等级对齐的差异化解释性转变。这表明分级敏感性被编码在表征空间中，并且可以通过受控干预系统地恢复。总之，CIS和GraSD为评估LLM中的分级语用敏感性提供了一个原则性框架。

🔬 方法详解

问题定义：现有的大型语言模型（LLM）语用推理评估方法，主要依赖于提示工程，缺乏对模型内部表征的细粒度控制。这种方法难以准确评估LLM对不同强度标量蕴涵的敏感性，即标量多样性问题。现有方法无法有效区分模型是真正理解了语用含义，还是仅仅对特定提示模式做出了反应。

核心思路：论文的核心思路是通过连续调整LLM内部激活层的引导强度，来探测模型对不同强度标量蕴涵的敏感性。通过将激活层面的引导强度视为一个连续的实验变量，可以更精细地控制和观察模型对语用信息的处理方式。这种方法允许研究者在不改变提示的情况下，直接干预模型的内部表征，从而更准确地评估其语用推理能力。

技术框架：该研究的技术框架主要包含以下几个阶段：1) 构建包含分级标量多样性信息的数据集GraSD；2) 设计连续解释性引导(CIS)方法，该方法通过调整激活层的引导强度来干预LLM的内部表征；3) 在多个LLM上进行实验，比较统一激活引导和分级激活引导的效果；4) 分析实验结果，评估LLM对不同强度标量蕴涵的敏感性。

关键创新：该研究的关键创新在于提出了连续解释性引导(CIS)方法，这是一种新的评估LLM语用推理能力的方法。与传统的基于提示工程的方法相比，CIS能够更精细地控制和观察模型对语用信息的处理方式。此外，构建的GraSD数据集为研究标量多样性提供了一个新的资源。

关键设计：CIS方法的关键设计在于如何确定激活层的引导强度。论文中，引导强度被视为一个连续变量，通过实验来确定最佳的引导强度范围。此外，论文还设计了不同的引导策略，包括统一激活引导和分级激活引导。分级激活引导根据GraSD数据集中标量蕴涵的强度等级来调整引导强度，从而实现对模型内部表征的更精细控制。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，统一激活引导虽然能全局性地增加语用解释，但会忽略项目层面的差异。而分级激活引导能够产生与标量多样性等级对齐的差异化解释性转变，表明LLM的表征空间中编码了分级敏感性，并且可以通过受控干预恢复。该研究为评估LLM的语用推理能力提供了一种新的有效方法。

🎯 应用场景

该研究成果可应用于提升LLM的自然语言理解和生成能力，尤其是在需要精确语用推理的场景中，如对话系统、智能客服和文本摘要。通过CIS方法，可以更好地评估和改进LLM的语用敏感性，使其能够更准确地理解人类的意图和表达。

📄 摘要（原文）

Pragmatic inference is inherently graded. Different lexical items give rise to pragmatic enrichment to different degrees. Scalar implicature exemplifies this property through scalar diversity, where implicature strength varies across scalar items. However, evaluations of pragmatic inference in large language models (LLMs) often rely on prompt-based manipulations. Beyond prompt-level effects, this study introduces Continuous Interpretive Steering (CIS), a method that probes graded pragmatic interpretation by treating activation-level steering strength as a continuous experimental variable. To support this analysis, this study introduces a new dataset, GraSD, which encodes graded scalar diversity. Experiments on four LLMs show that uniform activation steering increases pragmatic interpretations globally but collapses item-level variation, whereas graded activation steering yields differentiated interpretive shifts aligned with scalar diversity grades. It indicates that graded sensitivity is encoded in the representation space and can be systematically recovered through controlled intervention. Together, CIS and GraSD provide a principled framework for evaluating graded pragmatic sensitivity in LLMs.