Beyond Semantic Similarity: Performance and Costs of Agentic Retrieval for Complex Tasks

📄 arXiv: 2610.05750v1 📥 PDF

作者: Reza Esfandiarpoor, Radek Osmulski, Yauhen Babakhin, Gabriel de Souza P. Moreira, Oliver Holworthy, Jie He, Ronay Ak, Jiarui Cai, Ryan Chesler, Bo Liu, Even Oldridge

分类: cs.IR, cs.AI

发布日期: 2026-10-05

备注: Code: https://github.com/NVIDIA/NeMo-Retriever/tree/main/retrieval-bench

💡 一句话要点

提出代理检索方法以解决复杂任务中的信息检索问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 代理检索 大型语言模型 复杂任务 信息检索 语义相似性

📋 核心要点

  1. 现有的密集检索方法主要依赖表面语义相似性，无法满足复杂检索任务的需求。
  2. 本文提出了一种代理检索方法，结合大型语言模型的推理能力与高效的检索流程，提升检索效果。
  3. 实验结果显示，代理检索在nDCG@10上提升了8.7分，且在不同数据集上表现出良好的可推广性。

📝 摘要（中文）

现代信息系统，包括许多代理工作流，使用密集检索来探索大量非结构化数据。然而，密集检索依赖于表面语义相似性，这对于日益复杂的搜索应用来说是不够的。本文研究了一种代理检索方法，该方法结合了大型语言模型的推理能力与检索器的高效语料库探索，旨在解决复杂的检索任务。实验表明，代理检索比标准检索更有效，nDCG@10提高了8.7分。尽管代理检索在域外任务上表现出高度的可推广性，但其平均耗时为107.4秒，远高于标准检索的0.67秒。我们的研究展示了代理检索在现代数据系统中的有效性，并激励未来在大规模部署中开发更具成本效益的检索代理。

🔬 方法详解

问题定义：本文旨在解决复杂检索任务中现有密集检索方法的不足，特别是其对表面语义相似性的依赖，导致在复杂应用场景中的效果不佳。

核心思路：提出的代理检索方法通过结合大型语言模型的推理能力与检索器的高效探索，形成一个ReAct代理循环，以更好地处理复杂检索任务。

技术框架：整体架构包括数据输入、代理检索模块和输出结果三个主要阶段。首先，输入数据经过预处理，然后通过代理检索模块进行复杂推理，最后输出检索结果。

关键创新：最重要的创新在于将大型语言模型的推理能力与传统检索方法结合，使得代理检索在复杂任务中表现出更高的有效性和可推广性。

关键设计：在参数设置上，使用了特定的嵌入模型，并在损失函数中引入了复杂性考虑，以优化检索效果。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果显示，代理检索在nDCG@10指标上提升了8.7分，且在ViDoRe v3和BRIGHT排行榜上表现出竞争力。尽管其平均检索时间为107.4秒，远高于标准检索的0.67秒，但其在复杂任务中的有效性显著提升，展示了其应用潜力。

🎯 应用场景

该研究的潜在应用领域包括智能搜索引擎、客户服务自动化、信息检索系统等。通过提高复杂任务的检索效率，代理检索方法能够为用户提供更精准的信息服务，具有重要的实际价值和未来影响。

📄 摘要（原文）

Modern information systems, including many agentic workflows, use dense retrieval to explore large amounts of unstructured data. However, dense retrieval relies on surface-level semantic similarity, which is insufficient for increasingly complex search applications. Here, we investigate agentic retrieval that combines the reasoning capabilities of Large Language Models (LLMs) with the efficient corpus exploration of retrievers in a ReAct agentic loop to solve complex retrieval tasks. In our experiments, we show that agentic retrieval is more effective than standard retrieval, improving nDCG@10 by 8.7 points using the same embedding model. Moreover, while specialized retrieval methods struggle on out-of-domain tasks, agentic retrieval is highly generalizable: the same pipeline achieves competitive results on both the ViDoRe v3 and BRIGHT leaderboards. However, this improvement comes at a cost. On average, agentic retrieval takes 107.4 seconds, compared to 0.67 seconds for standard retrieval, and consumes 764.1K input and 5.8K output tokens per query. In short, our study demonstrates the effectiveness of agentic retrieval in modern data systems and motivates future work on more cost-efficient retrieval agents for large-scale deployment.