LLM-Oriented Information Retrieval: A Denoising-First Perspective

📄 arXiv: 2605.00505v1 📥 PDF

作者: Lu Dai, Liang Sun, Fanpu Cao, Ziyang Rao, Cehao Yang, Hao Liu, Hui Xiong

分类: cs.IR, cs.AI, cs.CL

发布日期: 2026-05-01

备注: SIGIR 2026

💡 一句话要点

提出面向LLM的信息检索框架，强调去噪以提升检索增强生成质量。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 信息检索 大型语言模型 检索增强生成 去噪 上下文学习

📋 核心要点

  1. 现有信息检索系统在为LLM提供信息时，噪声信息会显著降低LLM的推理能力，导致幻觉等问题。
  2. 论文核心思想是强调信息检索中的去噪，最大化LLM上下文窗口内的可用证据密度和可验证性。
  3. 论文构建了一个四阶段的IR挑战框架，并提出了一个信号噪声优化技术分类，涵盖了信息检索的各个阶段。

📝 摘要（中文）

现代信息检索（IR）不再主要服务于人类，而是越来越多地被大型语言模型（LLM）通过检索增强生成（RAG）和代理搜索所利用。与人类用户不同，LLM受到有限注意力预算的约束，并且特别容易受到噪声的影响；误导性或不相关的信息不再仅仅是一种干扰，而是导致幻觉和推理失败的直接原因。本文提出，最大化可用证据密度和上下文窗口内的可验证性的去噪，正成为整个信息访问流程中的主要瓶颈。我们将这种范式转变概念化为一个四阶段的IR挑战框架：从无法访问到无法发现，再到未对齐，最后到无法验证。此外，我们提供了一个按流程组织的信号噪声优化技术分类，涵盖索引、检索、上下文工程、验证和代理工作流。我们还介绍了在严重依赖检索的领域（如终身助手、编码代理、深度研究和多模态理解）中进行信息去噪的研究工作。

🔬 方法详解

问题定义：论文旨在解决大型语言模型（LLM）在信息检索增强生成（RAG）过程中，由于检索到的信息包含大量噪声，导致LLM产生幻觉、推理失败等问题。现有方法主要关注检索相关性，而忽略了LLM对噪声的敏感性。

核心思路：论文的核心思路是将去噪作为信息检索的首要任务，认为最大化LLM上下文窗口内的可用证据密度和可验证性是提升RAG效果的关键。通过优化信息检索流程中的各个环节，减少噪声信息的引入，从而提高LLM的推理能力。

技术框架：论文提出了一个四阶段的IR挑战框架：(1) 无法访问：信息未被数字化或无法被检索系统访问。(2) 无法发现：信息存在但难以被检索到。(3) 未对齐：检索到的信息与LLM的需求不匹配。(4) 无法验证：检索到的信息缺乏可信来源，难以验证真伪。同时，论文提供了一个按流程组织的信号噪声优化技术分类，涵盖索引、检索、上下文工程、验证和代理工作流。

关键创新：论文最重要的创新点在于提出了“去噪优先”的视角，强调在信息检索过程中，减少噪声信息对LLM的影响。与传统的信息检索方法相比，该方法更关注LLM的特性，并针对LLM的弱点进行优化。

关键设计：论文没有提出具体的算法或模型，而是提供了一个概念框架和技术分类。关键设计在于对信息检索流程的重新审视，以及对各个环节中去噪技术的强调。例如，在索引阶段，可以采用更精细的索引策略，过滤掉低质量的信息；在检索阶段，可以采用更严格的排序算法，优先返回高质量的信息；在上下文工程阶段，可以采用信息压缩和摘要技术，减少上下文窗口中的噪声。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

该论文为视角性文章，主要贡献在于提出了面向LLM的信息检索新范式，并对现有技术进行了系统性的梳理和分类。虽然没有提供具体的实验结果，但其提出的“去噪优先”的理念，为未来的研究方向提供了重要的指导。

🎯 应用场景

该研究成果可应用于各种需要LLM进行信息检索和推理的场景，例如智能助手、代码生成、科学研究、多模态信息理解等。通过提高检索信息的质量，可以显著提升LLM的性能和可靠性，减少幻觉的产生，从而推动LLM在各个领域的应用。

📄 摘要（原文）

Modern information retrieval (IR) is no longer consumed primarily by humans but increasingly by large language models (LLMs) via retrieval-augmented generation (RAG) and agentic search. Unlike human users, LLMs are constrained by limited attention budgets and are uniquely vulnerable to noise; misleading or irrelevant information is no longer just a nuisance, but a direct cause of hallucinations and reasoning failures. In this perspective paper, we argue that denoising-maximizing usable evidence density and verifiability within a context window-is becoming the primary bottleneck across the full information access pipeline. We conceptualize this paradigm shift through a four-stage framework of IR challenges: from inaccessible to undiscoverable, to misaligned, and finally to unverifiable. Furthermore, we provide a pipeline-organized taxonomy of signal-to-noise optimization techniques, spanning indexing, retrieval, context engineering, verification, and agentic workflow. We also present research works on information denoising in domains that rely heavily on retrieval such as lifelong assistant, coding agent, deep research, and multimodal understanding.