On Positional Bias of Faithfulness for Long-form Summarization
作者: David Wan, Jesse Vig, Mohit Bansal, Shafiq Joty
分类: cs.CL
发布日期: 2024-10-31 (更新: 2025-07-06)
备注: NAACL 2025 (20 pages)
🔗 代码/项目: GITHUB
💡 一句话要点
针对长文本摘要中位置偏差问题，提出评测基准与缓解策略。
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 长文本摘要 位置偏差 忠实度评估 大型语言模型 提示工程
📋 核心要点
- 大型语言模型在长文本摘要中存在位置偏差，导致对文档中间部分信息抽取不足，影响摘要的忠实度。
- 通过构建包含八个数据集的评测基准，并分析LLM生成摘要的忠实度，揭示了“U形”忠实度趋势。
- 实验表明，简单的提示技术能有效引导模型关注特定位置，从而缓解位置偏差，提升摘要质量。
📝 摘要（中文）
大型语言模型(LLMs)在长文本环境中常表现出位置偏差，即对输入中间部分的信息关注不足。本文研究了这种偏差在长文本摘要中的存在性及其对忠实度的影响，并探讨了各种缓解技术。为了持续评估忠实度，我们首先构建了一个包含八个人工标注的长文本摘要数据集的基准，并对忠实度指标进行了元评估。结果表明，基于LLM的忠实度指标虽然在完整上下文输入下有效，但仍然对文档顺序敏感，表明存在位置偏差。通过分析LLM生成的六个数据集的摘要，我们发现忠实度呈现“U形”趋势，即LLM能够忠实地总结文档的开头和结尾，但忽略了中间内容。类似地，扰乱文档顺序表明，当重要文档位于输入中间时，模型的忠实度较低。我们发现这种行为部分是由于上下文长度导致关注点转移：随着上下文增加，摘要的忠实度降低，但超过一定长度后，忠实度会提高，因为模型会关注结尾。最后，我们尝试了不同的生成技术来减少位置偏差，发现提示技术可以有效地引导模型关注特定位置，而更复杂的方法提供的改进有限。我们的数据和代码可在https://github.com/meetdavidwan/longformfact 获取。
🔬 方法详解
问题定义：论文旨在解决长文本摘要任务中，大型语言模型（LLMs）由于位置偏差而导致的摘要忠实度下降问题。现有方法在处理长文本时，模型倾向于更多地关注输入文本的开头和结尾，而忽略中间部分的内容，导致生成的摘要缺乏对中间信息的准确概括。
核心思路：论文的核心思路是通过构建一个全面的评测基准来量化位置偏差对摘要忠实度的影响，并探索不同的生成策略来缓解这种偏差。通过分析模型在不同位置的文本上的表现，揭示位置偏差的模式，并尝试通过提示工程等方法引导模型更均匀地关注整个输入文本。
技术框架：论文的技术框架主要包括以下几个阶段：1) 构建长文本摘要数据集的评测基准；2) 使用LLM生成摘要，并使用不同的忠实度指标进行评估；3) 分析摘要的忠实度与输入文本位置之间的关系，揭示位置偏差；4) 通过扰动输入文本的顺序来进一步验证位置偏差；5) 尝试不同的生成技术（如提示工程）来缓解位置偏差。
关键创新：论文的关键创新在于：1) 提出了一个专门用于评估长文本摘要忠实度的评测基准，包含八个人工标注的数据集；2) 揭示了LLM在长文本摘要中存在的“U形”忠实度趋势，即模型对文本开头和结尾的摘要更忠实，而对中间部分则较差；3) 验证了简单的提示技术在缓解位置偏差方面的有效性。
关键设计：论文的关键设计包括：1) 忠实度指标的选取和元评估，确保评估结果的可靠性；2) 输入文本顺序扰动实验，用于验证位置偏差；3) 提示工程的具体实现，例如，通过在提示中明确要求模型关注特定位置的信息。
🖼️ 关键图片
📊 实验亮点
实验结果表明，LLM在长文本摘要中存在显著的位置偏差，忠实度呈现“U形”趋势。通过简单的提示技术，例如引导模型关注特定位置的信息，可以有效提高摘要的忠实度。更复杂的生成方法，如微调，并没有带来显著的改进。该研究为长文本摘要任务的改进提供了新的思路。
🎯 应用场景
该研究成果可应用于各种需要长文本摘要的场景，例如新闻报道总结、法律文档分析、科研论文概括等。通过缓解位置偏差，可以提高摘要的质量和信息覆盖率，帮助用户更高效地理解长篇内容。未来的研究可以进一步探索更复杂的模型架构和训练方法，以更有效地解决长文本摘要中的位置偏差问题。
📄 摘要（原文）
Large Language Models (LLMs) often exhibit positional bias in long-context settings, under-attending to information in the middle of inputs. We investigate the presence of this bias in long-form summarization, its impact on faithfulness, and various techniques to mitigate this bias. To consistently evaluate faithfulness, we first compile a benchmark of eight human-annotated long-form summarization datasets and perform a meta-evaluation of faithfulness metrics. We show that LLM-based faithfulness metrics, though effective with full-context inputs, remain sensitive to document order, indicating positional bias. Analyzing LLM-generated summaries across six datasets, we find a "U-shaped" trend in faithfulness, where LLMs faithfully summarize the beginning and end of documents but neglect middle content. Perturbing document order similarly reveals models are less faithful when important documents are placed in the middle of the input. We find that this behavior is partly due to shifting focus with context length: as context increases, summaries become less faithful, but beyond a certain length, faithfulness improves as the model focuses on the end. Finally, we experiment with different generation techniques to reduce positional bias and find that prompting techniques effectively direct model attention to specific positions, whereas more sophisticated approaches offer limited improvements. Our data and code are available in https://github.com/meetdavidwan/longformfact.