The Other Side of the Coin: Exploring Fairness in Retrieval-Augmented Generation

📄 arXiv: 2504.12323v2 📥 PDF

作者: Zheng Zhang, Ning Li, Qi Liu, Rui Li, Weibo Gao, Qingyang Mao, Zhenya Huang, Baosheng Yu, Dacheng Tao

分类: cs.CL, cs.AI

发布日期: 2025-04-11 (更新: 2025-04-19)

备注: 12 pages

💡 一句话要点

探索RAG框架下的公平性问题，并提出FairFT和FairFilter方法缓解小规模LLM中的不公平现象。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 检索增强生成 公平性 大型语言模型 小规模语言模型 检索器 偏见过滤 FairFT FairFilter

📋 核心要点

  1. 现有RAG系统主要关注性能和效率提升，忽略了其在社会敏感领域应用时可能加剧LLM固有的不公平性问题。
  2. 论文提出FairFT和FairFilter两种方法，分别从检索和过滤两个阶段干预，以提升小规模LLM在RAG框架下的公平性。
  3. 实验结果表明，FairFT和FairFilter能够有效缓解RAG引入的不公平性，同时保持模型的性能水平。

📝 摘要（中文）

检索增强生成(RAG)通过从外部知识源检索相关文档来增强大型语言模型(LLM)。通过参考这些外部知识，RAG有效地减少了生成不正确内容的情况，并解决了LLM中的幻觉问题。最近，人们越来越关注从各个角度提高RAG系统的性能和效率。虽然这些进步已经产生了显著的结果，但RAG在具有重要社会影响的领域中的应用提出了一个关于公平性的关键问题：RAG范式的引入对LLM的公平性有什么影响？为了解决这个问题，我们通过改变LLM、检索器和检索源进行了广泛的实验。我们的实验分析表明，LLM的规模在影响RAG框架内的公平性结果方面起着重要作用。当模型规模小于8B时，检索机制的集成通常会加剧小规模LLM（例如，LLaMA3.2-1B、Mistral-7B和LLaMA3-8B）的不公平性。为了减轻RAG为小规模LLM带来的公平性问题，我们提出了两种方法，FairFT和FairFilter。具体来说，在FairFT中，我们在公平性方面将检索器与LLM对齐，使其能够检索有助于实现更公平模型输出的文档。在FairFilter中，我们提出了一种公平性过滤机制，用于过滤掉检索后的有偏见的内容。最后，我们在真实世界的数据集上验证了我们提出的方法，证明了它们在提高公平性的同时保持性能的有效性。

🔬 方法详解

问题定义：论文旨在解决检索增强生成（RAG）框架下，特别是对于小规模语言模型（LLM）而言，引入检索机制后可能加剧模型固有的不公平性问题。现有方法主要关注RAG的性能提升，忽略了公平性这一重要维度，导致模型在特定群体上产生偏差。

核心思路：论文的核心思路是从检索和过滤两个阶段入手，缓解RAG带来的不公平性。FairFT方法通过对检索器进行公平性对齐，使其检索更公平的文档；FairFilter方法则在检索后对文档进行过滤，去除潜在的偏见内容。这样，从源头和结果两个方面降低不公平性。

技术框架：整体框架包含三个主要阶段：1) 检索阶段，使用原始检索器或经过FairFT训练的检索器检索相关文档；2) 过滤阶段，使用FairFilter对检索到的文档进行过滤，去除偏见内容；3) 生成阶段，将过滤后的文档输入LLM，生成最终结果。FairFT和FairFilter是两个核心模块，分别作用于检索和过滤阶段。

关键创新：论文的关键创新在于提出了FairFT和FairFilter两种方法，分别从检索和过滤两个角度解决RAG框架下的公平性问题。FairFT通过公平性对齐训练检索器，使其能够检索更公平的文档，而FairFilter则通过过滤机制去除检索结果中的偏见内容。这两种方法相互补充，共同提升了RAG系统的公平性。

关键设计：FairFT的关键设计在于如何进行公平性对齐。具体而言，可能采用对抗训练或领域自适应等技术，使检索器在检索相关文档的同时，尽量减少对特定群体的偏见。FairFilter的关键设计在于如何准确识别和过滤掉偏见内容，可能采用预训练的偏见检测模型或基于规则的过滤方法。具体的参数设置、损失函数和网络结构等细节在论文中应该有更详细的描述（未知）。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

论文通过实验证明，RAG在小规模LLM中会加剧不公平性。提出的FairFT和FairFilter方法能够有效缓解这一问题，在真实世界数据集上验证了其有效性，在提高公平性的同时保持了模型的性能水平。具体的性能数据和提升幅度需要在论文中查找（未知）。

🎯 应用场景

该研究成果可应用于各种需要公平性的RAG应用场景，例如：招聘系统、信贷评估、法律咨询等。通过提升RAG系统的公平性，可以避免对特定群体产生歧视，促进社会公平。未来，该研究可以扩展到其他类型的LLM和RAG框架，并探索更有效的公平性提升方法。

📄 摘要（原文）

Retrieval-Augmented Generation (RAG) enhances Large Language Models (LLMs) by retrieving relevant document from external knowledge sources. By referencing this external knowledge, RAG effectively reduces the generation of factually incorrect content and addresses hallucination issues within LLMs. Recently, there has been growing attention to improving the performance and efficiency of RAG systems from various perspectives. While these advancements have yielded significant results, the application of RAG in domains with considerable societal implications raises a critical question about fairness: What impact does the introduction of the RAG paradigm have on the fairness of LLMs? To address this question, we conduct extensive experiments by varying the LLMs, retrievers, and retrieval sources. Our experimental analysis reveals that the scale of the LLMs plays a significant role in influencing fairness outcomes within the RAG framework. When the model scale is smaller than 8B, the integration of retrieval mechanisms often exacerbates unfairness in small-scale LLMs (e.g., LLaMA3.2-1B, Mistral-7B, and LLaMA3-8B). To mitigate the fairness issues introduced by RAG for small-scale LLMs, we propose two approaches, FairFT and FairFilter. Specifically, in FairFT, we align the retriever with the LLM in terms of fairness, enabling it to retrieve documents that facilitate fairer model outputs. In FairFilter, we propose a fairness filtering mechanism to filter out biased content after retrieval. Finally, we validate our proposed approaches on real-world datasets, demonstrating their effectiveness in improving fairness while maintaining performance.