Test-time Corpus Feedback: From Retrieval to RAG

📄 arXiv: 2508.15437v2 📥 PDF

作者: Mandeep Rathee, V Venktesh, Sean MacAvaney, Avishek Anand

分类: cs.IR, cs.AI, cs.LG

发布日期: 2025-08-21 (更新: 2025-08-24)

备注: 18 pages, 1 figure

💡 一句话要点

综述性论文：探索测试时语料反馈在检索增强生成（RAG）中的应用，弥合IR与NLP的差距。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 检索增强生成 RAG 信息检索 自然语言处理 反馈机制 动态检索 知识密集型任务

📋 核心要点

  1. 现有RAG流程通常将检索和推理视为独立步骤，缺乏迭代优化，限制了在复杂任务中的表现。
  2. 该综述旨在整合信息检索和自然语言处理领域中，利用反馈机制改进RAG检索和排序的先进方法。
  3. 论文对反馈信号进行分类，分析其在改进查询、上下文和文档池中的作用，以期弥合IR和NLP的视角。

📝 摘要（中文）

检索增强生成（RAG）已成为知识密集型自然语言处理任务的标准框架，它将大型语言模型（LLM）与来自外部语料库的文档检索相结合。尽管RAG被广泛使用，但大多数RAG流程仍然将检索和推理视为孤立的组件，仅检索一次文档，然后生成答案，而没有进一步的交互。这种静态设计通常限制了复杂任务的性能，这些任务需要迭代的证据收集或高精度的检索。信息检索（IR）和自然语言处理（NLP）领域的最新工作已经开始通过引入结合反馈的自适应检索和排序方法来弥合这一差距。在本综述中，我们对集成此类反馈的高级检索和排序机制进行了结构化的概述。我们根据反馈信号的来源及其在改进查询、检索到的上下文或文档池中的作用对反馈信号进行分类。通过整合这些发展，我们旨在弥合IR和NLP的视角，并将检索作为端到端RAG系统中一个动态的、可学习的组件来突出显示。

🔬 方法详解

问题定义：现有RAG系统通常采用静态的检索策略，即在生成答案之前只进行一次文档检索。这种方式无法根据生成过程中的信息进行调整，导致在需要迭代证据收集或高精度检索的复杂任务中表现不佳。现有方法的痛点在于检索和生成过程的割裂，缺乏动态反馈机制。

核心思路：论文的核心思路是引入测试时语料反馈机制，将检索过程视为一个动态的、可学习的组件。通过在检索过程中利用反馈信号，可以迭代地改进查询、检索到的上下文或文档池，从而提高检索的准确性和相关性，最终提升RAG系统的整体性能。这种方法强调检索和生成之间的交互，使检索过程能够适应生成过程的需求。

技术框架：该综述论文对现有的研究工作进行了分类和总结，并没有提出一个全新的技术框架。但是，它梳理了各种反馈信号的来源和作用，并将其分为以下几类：基于查询的反馈、基于上下文的反馈和基于文档池的反馈。这些反馈信号可以用于改进查询、重新排序检索结果或更新文档池。整体流程可以概括为：初始检索 -> 反馈信号提取 -> 检索策略调整 -> 迭代检索 -> 最终生成。

关键创新：该论文的关键创新在于对现有研究工作的系统性总结和分类，强调了测试时语料反馈在RAG系统中的重要性。它将信息检索和自然语言处理领域的最新进展联系起来，为未来的研究方向提供了指导。与现有方法的本质区别在于，它将检索视为一个动态的、可学习的过程，而不是一个静态的步骤。

关键设计：由于是综述论文，没有具体的参数设置、损失函数或网络结构等技术细节。但是，论文中提到的各种反馈机制都涉及到具体的设计，例如，如何从生成过程中提取反馈信号，如何利用这些信号来改进查询，以及如何设计合适的排序算法等。这些设计细节取决于具体的应用场景和任务。

🖼️ 关键图片

fig_0
img_1

📊 实验亮点

该综述总结了近年来在RAG系统中利用反馈机制改进检索效果的各种方法，涵盖了信息检索和自然语言处理两个领域的研究成果。通过对反馈信号的分类和分析，为未来的研究提供了清晰的思路和方向。虽然没有提供具体的性能数据，但强调了动态检索在提升RAG系统性能方面的潜力。

🎯 应用场景

该研究成果可应用于各种知识密集型NLP任务，例如问答系统、对话生成、文本摘要等。通过引入测试时语料反馈机制，可以显著提高这些系统在复杂场景下的性能和可靠性。未来的研究可以进一步探索更有效的反馈信号提取方法和更智能的检索策略，从而推动RAG技术的发展。

📄 摘要（原文）

Retrieval-Augmented Generation (RAG) has emerged as a standard framework for knowledge-intensive NLP tasks, combining large language models (LLMs) with document retrieval from external corpora. Despite its widespread use, most RAG pipelines continue to treat retrieval and reasoning as isolated components, retrieving documents once and then generating answers without further interaction. This static design often limits performance on complex tasks that require iterative evidence gathering or high-precision retrieval. Recent work in both the information retrieval (IR) and NLP communities has begun to close this gap by introducing adaptive retrieval and ranking methods that incorporate feedback. In this survey, we present a structured overview of advanced retrieval and ranking mechanisms that integrate such feedback. We categorize feedback signals based on their source and role in improving the query, retrieved context, or document pool. By consolidating these developments, we aim to bridge IR and NLP perspectives and highlight retrieval as a dynamic, learnable component of end-to-end RAG systems.