Bridging the Long-Tail Gap: Robust Retrieval-Augmented Relation Completion via Multi-Stage Paraphrase Infusion

📄 arXiv: 2604.22261v1 📥 PDF

作者: Fahmida Alam, Mihai Surdeanu, Ellen Riloff

分类: cs.CL

发布日期: 2026-04-24

💡 一句话要点

提出RC-RAG，通过多阶段释义注入增强检索增强关系补全，尤其提升长尾数据性能。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 关系补全 检索增强生成 长尾学习 释义注入 多阶段框架

📋 核心要点

  1. 现有检索增强生成（RAG）在关系补全任务中，尤其是在长尾数据上表现不足，信息检索不充分。
  2. RC-RAG通过多阶段融入关系释义，扩展检索覆盖、生成关系感知摘要、指导关系补全推理，无需微调。
  3. 实验表明，RC-RAG在长尾数据上显著优于现有RAG基线，最高提升40.6个精确匹配点，且计算开销低。

📝 摘要（中文）

大型语言模型（LLMs）在关系补全（RC）任务中表现不佳，无论是否采用检索增强生成（RAG），尤其是在所需信息稀有或表示不足时。为了解决这个问题，我们提出了一种新颖的多阶段释义引导的关系补全框架RC-RAG，该框架系统地将关系释义融入多个阶段。具体来说，RC-RAG：（a）将释义集成到检索中，以扩展关系的词汇覆盖范围；（b）使用释义生成关系感知的摘要；（c）在生成过程中利用释义来指导关系补全的推理。重要的是，我们的方法不需要任何模型微调。在两个基准数据集上对五个LLM进行的实验表明，RC-RAG始终优于多个RAG基线。在长尾设置中，使用RC-RAG增强的最佳LLM比其独立性能提高了40.6个精确匹配（EM）点，并且超过了两个强大的RAG基线，分别提高了16.0和13.8个EM点，同时保持了较低的计算开销。

🔬 方法详解

问题定义：关系补全（RC）任务旨在预测实体之间的关系。现有方法，特别是基于检索增强生成（RAG）的方法，在处理长尾关系时面临挑战。长尾关系的数据稀疏，导致检索到的相关信息不足，从而影响补全的准确性。现有RAG方法难以有效利用有限的上下文信息进行推理。

核心思路：RC-RAG的核心思路是通过引入关系释义来增强RAG框架。通过在检索、摘要和生成阶段注入释义，可以扩展关系的词汇覆盖范围，提供更丰富的上下文信息，并指导模型进行更准确的推理。这种方法旨在弥合长尾数据带来的信息鸿沟，提高关系补全的鲁棒性。

技术框架：RC-RAG是一个多阶段的框架，包含以下主要阶段： 1. 释义增强检索：利用关系释义扩展检索查询，提高检索召回率。 2. 释义引导摘要：使用释义生成关系感知的摘要，突出与关系相关的重要信息。 3. 释义辅助生成：在生成关系补全答案时，利用释义指导推理过程，提高生成答案的准确性。 整个框架无需模型微调，可以直接应用于现有的LLM。

关键创新：RC-RAG的关键创新在于其多阶段释义注入策略。与传统的RAG方法相比，RC-RAG不是简单地将检索到的信息输入LLM，而是通过释义在多个阶段增强信息，从而更有效地利用检索到的信息。这种多阶段的方法可以更好地解决长尾数据带来的挑战。

关键设计： 1. 释义获取：论文中没有明确说明如何获取释义，但可以推测使用了现有的释义资源或通过数据增强技术生成。 2. 检索模块：使用增强后的查询进行检索，检索器可以是任何现有的信息检索系统。 3. 摘要模块：使用释义引导生成关系感知的摘要，具体实现方式未知。 4. 生成模块：使用LLM生成关系补全答案，并利用释义指导推理过程，具体实现方式未知。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，RC-RAG在长尾设置中显著优于现有RAG基线。使用RC-RAG增强的最佳LLM比其独立性能提高了40.6个精确匹配（EM）点，并且超过了两个强大的RAG基线，分别提高了16.0和13.8个EM点。这些结果表明RC-RAG能够有效提升长尾关系的补全性能，且计算开销较低。

🎯 应用场景

RC-RAG可应用于知识图谱补全、问答系统、信息抽取等领域。通过提升长尾关系的补全性能，可以增强知识图谱的完整性和准确性，提高问答系统回答稀有问题的能力，并改善信息抽取的质量。该研究对于构建更全面、更可靠的知识库具有重要意义。

📄 摘要（原文）

Large language models (LLMs) struggle with relation completion (RC), both with and without retrieval-augmented generation (RAG), particularly when the required information is rare or sparsely represented. To address this, we propose a novel multi-stage paraphrase-guided relation-completion framework, RC-RAG, that systematically incorporates relation paraphrases across multiple stages. In particular, RC-RAG: (a) integrates paraphrases into retrieval to expand lexical coverage of the relation, (b) uses paraphrases to generate relation-aware summaries, and (c) leverages paraphrases during generation to guide reasoning for relation completion. Importantly, our method does not require any model fine-tuning. Experiments with five LLMs on two benchmark datasets show that RC-RAG consistently outperforms several RAG baselines. In long-tail settings, the best-performing LLM augmented with RC-RAG improves by 40.6 Exact Match (EM) points over its standalone performance and surpasses two strong RAG baselines by 16.0 and 13.8 EM points, respectively, while maintaining low computational overhead.