How Do LLMs Change Predictions Under Negation?

📄 arXiv: 2610.09571v1 📥 PDF

作者: Jongwook Yoon, Jongwon Lim, Sungjib Lim, Woojin Cho, Yohan Jo

分类: cs.CL, cs.AI

发布日期: 2026-10-07

备注: Under Review

💡 一句话要点

提出新训练目标以改善大语言模型的否定处理能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 否定处理 机制分析 训练目标 自然语言处理

📋 核心要点

  1. 现有的LLMs在处理否定时表现不佳，常常重复原始答案，导致理解上的错误。
  2. 论文提出了一种新的训练目标，通过要求更大的答案偏好转变来改善模型在否定情况下的表现。
  3. 实验结果表明，该方法显著减少了否定失败，且对模型的整体能力影响较小。

📝 摘要（中文）

否定是人类语言的重要特征，但大型语言模型（LLMs）在处理否定时仍然不可靠。我们在否定基准测试中评估了近期的开源和闭源LLMs，发现它们在37-71%的情况下在否定下重复相同的答案。通过机制分析，我们发现专门的注意力头和多层感知机神经元共同实现否定，抑制原始答案的检索并促进答案类别内的偏好候选。与人类的否定处理不同，模型依赖于抑制原始答案而非利用其信息来确定排除内容。为了解决这一弱点，我们提出了一种训练目标，要求对更自信的原始预测进行更大的答案偏好转变，结果显示该方法减少了否定失败，且对一般能力的影响较小。

🔬 方法详解

问题定义：本论文旨在解决大型语言模型在处理否定时的脆弱性，现有方法在否定情况下常常重复原始答案，导致理解错误。

核心思路：通过机制分析，论文提出了一种新的训练目标，要求模型在面对更自信的原始答案时，能够更大幅度地改变答案偏好，从而改善否定处理能力。

技术框架：整体架构包括对模型的机制分析，识别专门的注意力头和多层感知机神经元在否定处理中的作用，并在此基础上设计新的训练目标。

关键创新：最重要的创新点在于提出了新的训练目标，强调对原始答案的偏好转变，而非单纯抑制原始答案，这与传统方法有本质区别。

关键设计：在训练过程中，设置了新的损失函数，以鼓励模型在否定情况下对答案的选择进行更大的偏好转变，同时保持模型的整体能力。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

实验结果显示，采用新训练目标的模型在否定处理上减少了37-71%的失败率，相较于标准微调基线，整体能力的下降幅度更小，证明了该方法的有效性。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理、对话系统和智能问答等。通过改善模型对否定的理解能力，可以提升人机交互的准确性和自然性，进而推动智能助手和自动化系统的实际应用价值。

📄 摘要（原文）

Negation is an essential feature of human language, yet large language models (LLMs) remain unreliable in processing it. We evaluate recent open-source and closed-source LLMs on our negation benchmark and find that, in 37-71% of cases, they repeat the same answer under negation (e.g., "Madrid" for "What is not the capital of Spain?"). To understand and address this brittleness, we mechanistically examine how models operate under negation. Our main finding is that specialized attention heads and MLP neurons jointly implement negation by (1) suppressing retrieval of the original answer (e.g., "Madrid") while (2) promoting a favored candidate within the answer category (e.g., "Paris"). This contrasts with accounts of human negation processing, in which information about the original answer helps to determine what should be excluded. Furthermore, we find that this difference from human processing is a key source of negation failures: the model's mechanism relies on suppressing the original answer rather than using it to determine what to exclude, so the model can repeat the original answer when suppression is too weak or when a bias toward particular answers prevents it from selecting an alternative. To address this weakness in the model's negation mechanism, we propose a training objective that requires larger shifts in answer preference for more confident original predictions, and show that it reduces negation failures with less degradation of general capabilities than standard fine-tuning baselines. Together, our results demonstrate how mechanistic analysis can reveal why a linguistic capability fails and guide training that targets the underlying limitation.