Semantic Primes as Explanans for Emotion in Large Language Models

📄 arXiv: 2607.18691v1 📥 PDF

作者: Frank Xing

分类: cs.AI, cs.CL

发布日期: 2026-07-21

备注: 11 pages, 9 figures

💡 一句话要点

提出语义原语作为大语言模型情感解释的新方法

🎯 匹配领域: 支柱七：动作重定向 (Motion Retargeting) 支柱八：物理动画 (Physics-based Animation) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 情感计算 大语言模型 自然语义元语言 语义原语 情感控制 智能对话系统

📋 核心要点

  1. 现有方法在解释大语言模型中的情感机制时存在循环性和任意性，缺乏清晰的解释框架。
  2. 论文提出使用自然语义元语言的语义原语作为情感的基础解释变量，旨在提供更清晰的情感控制机制。
  3. 实验结果表明，NSM原语在情感控制的强度和选择性上显著优于传统的评估基础方法，验证了其有效性。

📝 摘要（中文）

在理解大语言模型（LLMs）情感机制方面取得了一定进展，但如何解释LLMs中的情感以及什么构成良好的解释仍不明确。情感表示、成分和电路虽然可以恢复，但作为模型自身计算的解释却是循环的，情感空间维度往往是任意且无终止的。本文提出使用自然语义元语言（NSM）的语义原语作为更原始的内部变量，通过对四个指令调优的LLMs进行实验，发现NSM原语不仅是可恢复的内部元素，而且在参考模型中，基于原语的干预在情感控制上比最佳的评估基础方向强约三倍，选择性提升两倍。实验证据表明，NSM原语似乎比许多替代选项更适合作为LLMs中情感的解释。

🔬 方法详解

问题定义：本文旨在解决大语言模型情感解释的模糊性和循环性问题，现有方法往往无法提供清晰的情感控制机制。

核心思路：通过引入自然语义元语言（NSM）的语义原语，作为更原始的内部变量，提供一种新的情感解释框架，旨在提高情感控制的有效性和选择性。

技术框架：研究通过对四个指令调优的LLMs（Llama-1B, Gemma-2B, Gemma-9B, OLMo-7B）进行实验，评估NSM原语的可恢复性及其在情感控制中的应用。主要模块包括情感表示的提取、NSM原语的应用和情感控制效果的评估。

关键创新：NSM原语作为情感解释的基础变量，能够在情感控制上表现出比传统评估方法更强的效果，提供了一种新的视角来理解LLMs中的情感机制。

关键设计：实验中对NSM原语的选择和应用进行了精心设计，确保其在情感控制中的有效性，具体参数设置和损失函数的设计未在摘要中详细说明，需参考原文获取更多细节。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，NSM原语在情感控制方面的干预效果是最佳评估基础方法的三倍强，选择性提升两倍，表明其在情感解释中的优越性。这一发现为大语言模型的情感理解提供了新的理论基础和实践指导。

🎯 应用场景

该研究的潜在应用领域包括情感计算、智能对话系统和人机交互等。通过提供更清晰的情感解释机制，能够提升LLMs在情感理解和生成方面的能力，进而改善用户体验和交互效果。未来，该方法可能推动情感智能的发展，促进更自然的机器与人类的沟通。

📄 摘要（原文）

Progresses have been made on understanding emotion mechanisms of large language models (LLMs). However, how to explain emotion in LLMs, or even what constitutes good explanations, are less clear. Emotion representations, components, circuits are widely recoverable, but as explanations of a model's own computation they are circular; the emotion space dimensions tend to be arbitrary and non-terminating. A pressing question to ask is whether a more primitive set of internal variables does the work: the semantic primes of the Natural Semantic Metalanguage (NSM). Across four instruction-tuned LLMs (Llama-1B, Gemma-2B, Gemma-9B, OLMo-7B), experiments show that the NSM primes are (1) recoverable internal elements; and (2) on the reference model, intervening with a prime based direction controls emotion about three times as strongly, and twice as selectively, as the best appraisal based direction; and (3) the model treats a prime based explication as interchangeable with the corresponding emotion. These evidences suggest that NSM primes seem to be better explanans for emotion in LLMs than many alternative options according to scientific explanations criteria.