Beyond ROUGE: N-Gram Subspace Features for LLM Hallucination Detection

📄 arXiv: 2509.05360v1 📥 PDF

作者: Jerry Li, Evangelos Papalexakis

分类: cs.CL, cs.LG

发布日期: 2025-09-03

💡 一句话要点

提出基于N-Gram子空间特征的LLM幻觉检测方法，显著提升检测性能。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: LLM幻觉检测 N-Gram特征 张量分解 多层感知器 自然语言处理

📋 核心要点

  1. 现有幻觉检测方法依赖的ROUGE等指标缺乏足够的语义深度，难以有效区分事实与幻觉。
  2. 论文提出一种新颖方法，构建N-Gram频率张量来捕获LLM生成文本中更丰富的语义结构。
  3. 实验表明，该方法在HaluEval数据集上显著优于传统基线，并与SOTA的LLM Judge方法具有竞争力。

📝 摘要（中文）

大型语言模型（LLM）在各种自然语言任务中表现出强大的能力，但幻觉问题严重限制了其生成一致、真实信息的可信度。检测幻觉已成为一个重要课题，不确定性估计、LLM Judge、检索增强生成（RAG）和一致性检查等方法展现出潜力。这些方法大多基于ROUGE、BERTScore或Perplexity等基础指标，但它们通常缺乏有效检测幻觉所需的语义深度。本文提出了一种受ROUGE启发的新方法，从LLM生成的文本中构建N-Gram频率张量。该张量通过编码共现模式来捕获更丰富的语义结构，从而更好地区分事实内容和幻觉内容。我们应用张量分解方法从每个模态中提取奇异值，并将其用作多层感知器（MLP）二元分类器的输入特征，用于幻觉检测。在HaluEval数据集上的评估表明，我们的方法优于传统基线，并与最先进的LLM Judge方法相比具有竞争力。

🔬 方法详解

问题定义：论文旨在解决大型语言模型（LLM）中普遍存在的幻觉问题，即LLM生成不真实或与上下文不一致的内容。现有方法，如基于ROUGE、BERTScore等指标的方法，在语义理解方面存在局限性，难以准确检测幻觉。

核心思路：论文的核心思路是利用N-Gram的共现信息来捕捉更丰富的语义结构，从而更好地区分事实内容和幻觉内容。通过构建N-Gram频率张量，将文本表示为高维空间中的点，并利用张量分解提取关键特征。这种方法能够更有效地捕捉文本中的语义关系，提高幻觉检测的准确性。

技术框架：该方法主要包含以下几个阶段：1) 从LLM生成的文本中提取N-Gram；2) 构建N-Gram频率张量，该张量表示N-Gram在文本中的共现频率；3) 对张量进行分解，提取每个模态的奇异值；4) 将提取的奇异值作为特征输入到多层感知器（MLP）二元分类器中；5) 使用分类器判断文本是否包含幻觉。

关键创新：该方法最重要的创新在于使用N-Gram频率张量来表示文本，并利用张量分解提取特征。与传统的基于词袋模型或词嵌入的方法相比，该方法能够更好地捕捉文本中的语义关系和上下文信息。此外，将张量分解应用于幻觉检测也是一个新颖的尝试。

关键设计：N-Gram的选取范围（例如，unigram、bigram、trigram），张量分解的具体方法（例如，CP分解、Tucker分解），以及MLP分类器的网络结构（层数、神经元数量、激活函数）等都是关键的设计参数。论文中可能对这些参数进行了实验和优化，以达到最佳的幻觉检测性能。损失函数通常采用二元交叉熵损失函数，用于训练MLP分类器。

📊 实验亮点

实验结果表明，该方法在HaluEval数据集上取得了显著的性能提升，优于传统的ROUGE等基线方法。同时，该方法与最先进的LLM Judge方法相比具有竞争力，证明了其在幻觉检测方面的有效性。具体的性能数据和提升幅度需要在论文中查找。

🎯 应用场景

该研究成果可应用于各种需要LLM生成可靠信息的场景，例如智能客服、新闻生成、知识问答等。通过提高LLM生成内容的真实性和一致性，可以增强用户对LLM的信任，并减少因幻觉信息带来的负面影响。未来，该方法可以进一步扩展到多模态场景，例如检测图像描述中的幻觉。

📄 摘要（原文）

Large Language Models (LLMs) have demonstrated effectiveness across a wide variety of tasks involving natural language, however, a fundamental problem of hallucinations still plagues these models, limiting their trustworthiness in generating consistent, truthful information. Detecting hallucinations has quickly become an important topic, with various methods such as uncertainty estimation, LLM Judges, retrieval augmented generation (RAG), and consistency checks showing promise. Many of these methods build upon foundational metrics, such as ROUGE, BERTScore, or Perplexity, which often lack the semantic depth necessary to detect hallucinations effectively. In this work, we propose a novel approach inspired by ROUGE that constructs an N-Gram frequency tensor from LLM-generated text. This tensor captures richer semantic structure by encoding co-occurrence patterns, enabling better differentiation between factual and hallucinated content. We demonstrate this by applying tensor decomposition methods to extract singular values from each mode and use these as input features to train a multi-layer perceptron (MLP) binary classifier for hallucinations. Our method is evaluated on the HaluEval dataset and demonstrates significant improvements over traditional baselines, as well as competitive performance against state-of-the-art LLM judges.