Attribute or Abstain: Large Language Models as Long Document Assistants

📄 arXiv: 2407.07799v2 📥 PDF

作者: Jan Buchmann, Xiao Liu, Iryna Gurevych

分类: cs.CL

发布日期: 2024-07-10 (更新: 2024-10-23)

备注: Accepted at EMNLP 2024. Code and data: https://github.com/UKPLab/arxiv2024-attribute-or-abstain

💡 一句话要点

提出LAB基准，评估LLM在长文档问答中进行归因的能力，并探索不同归因方法的效果。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 长文档处理 大型语言模型 归因 可信度 基准测试 检索增强生成 幻觉

📋 核心要点

  1. 现有归因方法主要在RAG场景评估，忽略了长文档场景下归因的特殊性与挑战。
  2. 论文提出LAB基准，用于评估LLM在长文档问答中进行归因的能力，并探索不同归因方法的效果。
  3. 实验表明，大型微调模型更适合一步式的引用方法，而小型模型则可以受益于额外的检索步骤。

📝 摘要（中文）

大型语言模型（LLM）可以辅助人们处理长文档，但存在幻觉问题。归因可以提高对LLM回复的信任度，通过提供支持性证据来增强可验证性。现有的归因方法主要在RAG设置下评估，检索过程会影响LLM的性能。这与长文档场景有显著不同，后者不需要检索，但检索可能有所帮助。因此，缺乏针对长文档的归因评估。为了填补这一空白，我们提出了LAB，一个包含6个不同长文档任务的归因基准，并对5个不同规模的LLM进行了实验，探索了不同的归因方法。我们发现，对于大型和微调模型，引用（即一步生成回复和提取证据）效果最佳，而对于小型、提示模型，额外的检索可能有所帮助。我们研究了归因是否存在“中间迷失”现象，但未发现。我们还发现，证据质量可以预测简单回复数据集上的回复质量，但对于复杂回复则不然，因为模型难以提供复杂声明的证据。

🔬 方法详解

问题定义：现有的大型语言模型在处理长文档时容易产生幻觉，降低了用户对其输出的信任度。虽然归因（Attribution）机制可以通过提供证据来提高可信度，但现有研究主要集中在检索增强生成（RAG）场景下，忽略了长文档本身作为知识来源的场景。因此，缺乏针对长文档的归因评估基准和方法。

核心思路：论文的核心思路是构建一个专门针对长文档的归因评估基准（LAB），并在此基础上评估不同归因方法在不同规模的LLM上的表现。通过对比不同方法的优劣，为长文档场景下的归因任务提供指导。

技术框架：论文主要包含以下几个部分： 1. LAB基准构建：收集并整理了6个不同的长文档任务，每个任务都要求模型在生成答案的同时提供证据。 2. 归因方法实现：实现了多种归因方法，包括一步式的引用（Citation）方法和两步式的检索增强生成（RAG）方法。 3. 模型评估：在LAB基准上评估了5个不同规模的LLM，并分析了不同归因方法对模型性能的影响。

关键创新：论文的关键创新在于： 1. 提出了LAB基准：这是首个专门针对长文档归因任务的评估基准，填补了该领域的空白。 2. 对比了不同归因方法：系统地对比了不同归因方法在长文档场景下的表现，为实际应用提供了参考。

关键设计：论文的关键设计包括： 1. 多样化的任务选择：LAB基准包含了6个不同的长文档任务，涵盖了不同的文档类型和问题类型，保证了评估的全面性。 2. 多种归因方法实现：论文实现了多种归因方法，包括一步式的引用方法和两步式的检索增强生成方法，为对比分析提供了基础。 3. 不同规模的模型评估：论文评估了5个不同规模的LLM，分析了模型规模对归因性能的影响。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，对于大型和微调模型，一步式的引用方法在LAB基准上表现最佳，而对于小型模型，额外的检索步骤可以提高性能。此外，研究发现“中间迷失”现象对归因的影响不明显。证据质量可以预测简单回复数据集上的回复质量，但在复杂回复数据集上则不然。

🎯 应用场景

该研究成果可应用于各种需要处理长文档的场景，例如法律文件分析、医学报告解读、金融报告分析等。通过提高LLM输出的可信度，可以帮助用户更有效地利用长文档中的信息，辅助决策，并减少错误风险。未来，该研究可以进一步扩展到其他类型的文档和任务，并探索更有效的归因方法。

📄 摘要（原文）

LLMs can help humans working with long documents, but are known to hallucinate. Attribution can increase trust in LLM responses: The LLM provides evidence that supports its response, which enhances verifiability. Existing approaches to attribution have only been evaluated in RAG settings, where the initial retrieval confounds LLM performance. This is crucially different from the long document setting, where retrieval is not needed, but could help. Thus, a long document specific evaluation of attribution is missing. To fill this gap, we present LAB, a benchmark of 6 diverse long document tasks with attribution, and experiments with different approaches to attribution on 5 LLMs of different sizes. We find that citation, i.e. response generation and evidence extraction in one step, performs best for large and fine-tuned models, while additional retrieval can help for small, prompted models. We investigate whether the "Lost in the Middle'' phenomenon exists for attribution, but do not find this. We also find that evidence quality can predict response quality on datasets with simple responses, but not so for complex responses, as models struggle with providing evidence for complex claims.