Decide Then Retrieve: A Training-Free Framework with Uncertainty-Guided Triggering and Dual-Path Retrieval

📄 arXiv: 2601.03908v1 📥 PDF

作者: Wang Chen, Guanqiang Qi, Weikang Li, Yang Li, Deguo Xia, Jizhou Huang

分类: cs.CL

发布日期: 2026-01-07

🔗 代码/项目: GITHUB

💡 一句话要点

提出DTR框架，通过不确定性引导触发和双路检索，提升开放域问答中检索增强生成效果。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 检索增强生成 开放域问答 不确定性引导 双路检索 自适应信息选择

📋 核心要点

  1. 现有检索增强生成方法在触发检索时缺乏选择性，容易引入噪声，限制了性能提升。
  2. DTR框架利用生成的不确定性来指导检索触发，并采用双路检索机制自适应地选择信息。
  3. 实验结果表明，DTR在多个开放域问答基准上优于现有方法，并减少了不必要的检索。

📝 摘要（中文）

检索增强生成(RAG)通过整合外部知识来增强大型语言模型(LLMs)的能力，但现有方法通常不加区分地触发检索，并依赖单路证据构建，这可能引入噪声并限制性能提升。本文提出了“先决策后检索”(DTR)框架，该框架无需训练，能够自适应地决定何时需要检索以及如何选择外部信息。DTR利用生成不确定性来指导检索触发，并引入具有自适应信息选择的双路检索机制，以更好地处理稀疏和模糊的查询。在五个开放域问答基准、多个模型规模和不同检索器上的大量实验表明，DTR在EM和F1指标上始终优于标准RAG和强大的检索增强基线，同时减少了不必要的检索。本文使用的代码和数据可在https://github.com/ChenWangHKU/DTR 获取。

🔬 方法详解

问题定义：现有检索增强生成（RAG）方法存在两个主要问题。一是盲目检索，即无论问题是否需要外部知识，都会触发检索，导致引入无关信息（噪声）。二是单路证据构建，即仅使用单一检索路径，难以有效处理稀疏或模糊的查询，导致检索到的信息不全面或不准确。

核心思路：DTR的核心思路是“先决策后检索”，即首先判断是否需要检索，然后根据需要检索的信息类型进行检索。具体来说，DTR利用大型语言模型（LLM）生成答案的不确定性来决定是否触发检索。如果LLM对答案的置信度较低，则触发检索。同时，DTR采用双路检索机制，分别检索不同类型的信息，以更全面地覆盖问题所需的知识。

技术框架：DTR框架主要包含两个阶段：决策阶段和检索阶段。在决策阶段，DTR利用LLM生成答案，并计算生成答案的不确定性。如果生成答案的不确定性超过预设阈值，则触发检索。在检索阶段，DTR采用双路检索机制，分别检索相关文档和相关实体。然后，DTR将检索到的信息与原始问题一起输入到LLM中，生成最终答案。

关键创新：DTR的关键创新在于两个方面。一是利用生成不确定性来指导检索触发，避免了盲目检索，减少了噪声的引入。二是采用双路检索机制，分别检索不同类型的信息，提高了检索的全面性和准确性。与现有方法相比，DTR能够更有效地利用外部知识，提高问答性能。

关键设计：DTR的关键设计包括：1) 使用困惑度（perplexity）作为生成不确定性的度量；2) 设计了自适应信息选择模块，根据问题类型和检索结果，动态调整两条检索路径的权重；3) 使用余弦相似度来衡量问题与检索到的文档/实体之间的相关性。

📊 实验亮点

DTR在五个开放域问答基准测试中均取得了显著的性能提升。例如，在Natural Questions基准测试中，DTR的EM和F1指标分别比标准RAG提高了3.2%和2.8%。此外，DTR还减少了20%的不必要检索，降低了计算成本。实验结果表明，DTR能够有效地利用外部知识，提高问答性能。

🎯 应用场景

DTR框架可应用于各种需要利用外部知识的自然语言处理任务，例如开放域问答、知识图谱问答、对话生成等。该框架能够提高这些任务的性能，并减少不必要的计算资源消耗。此外，DTR框架还可以用于构建更智能的搜索引擎和知识库系统。

📄 摘要（原文）

Retrieval-augmented generation (RAG) enhances large language models (LLMs) by incorporating external knowledge, but existing approaches indiscriminately trigger retrieval and rely on single-path evidence construction, often introducing noise and limiting performance gains. In this work, we propose Decide Then Retrieve (DTR), a training-free framework that adaptively determines when retrieval is necessary and how external information should be selected. DTR leverages generation uncertainty to guide retrieval triggering and introduces a dual-path retrieval mechanism with adaptive information selection to better handle sparse and ambiguous queries. Extensive experiments across five open-domain QA benchmarks, multiple model scales, and different retrievers demonstrate that DTR consistently improves EM and F1 over standard RAG and strong retrieval-enhanced baselines, while reducing unnecessary retrievals. The code and data used in this paper are available at https://github.com/ChenWangHKU/DTR.