Intrinsic Meets Extrinsic Fairness: Assessing the Downstream Impact of Bias Mitigation in Large Language Models

📄 arXiv: 2509.16462v1 📥 PDF

作者: 'Mina Arzaghi', 'Alireza Dehghanpour Farashah', 'Florian Carichon', ' Golnoosh Farnadi'

分类: cs.CL, cs.CY, cs.LG

发布日期: 2025-09-19

💡 一句话要点

研究LLM内在与外在公平性，评估偏差缓解对下游任务的影响

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 公平性 偏差缓解 概念解学习 反事实数据增强

📋 核心要点

  1. 现有方法未能充分理解和缓解大型语言模型中固有的社会经济偏见对下游任务公平性的影响。
  2. 论文提出了一种统一的评估框架，比较内在偏差缓解（概念解学习）和外在偏差缓解（反事实数据增强）。
  3. 实验结果表明，内在偏差缓解能显著降低性别偏见，并在不损失准确性的前提下提升下游任务的公平性指标。

📝 摘要（中文）

大型语言模型（LLM）表现出社会经济偏见，这些偏见会传播到下游任务中。先前的研究质疑LLM中的内在偏见是否会影响下游任务层面的公平性。本文通过实证研究探讨了这种联系。我们提出了一个统一的评估框架，用于比较通过概念解学习进行的内在偏差缓解与通过反事实数据增强（CDA）进行的外在偏差缓解。我们通过真实的金融分类任务（包括薪资预测、就业状况和信用评估）来检验这种关系。使用三个开源LLM，我们将模型评估为冻结的嵌入提取器和微调的分类器。结果表明，通过解学习进行的内在偏差缓解可将内在性别偏见降低高达94.9%，同时提高下游任务的公平性指标（例如人口均等性）高达82%，且不影响准确性。我们的框架为缓解工作在何处最有效提供了实践指导，并强调了在下游部署之前应用早期缓解的重要性。

🔬 方法详解

问题定义：大型语言模型（LLM）中存在固有的社会经济偏见，这些偏见会传递到下游任务中，导致不公平的结果。现有方法通常只关注缓解LLM的内在偏见或下游任务的偏见，而忽略了两者之间的联系。因此，如何有效地缓解LLM中的偏见，并确保下游任务的公平性是一个重要的问题。

核心思路：论文的核心思路是同时考虑LLM的内在偏见和下游任务的公平性，并研究内在偏差缓解对下游任务公平性的影响。通过比较内在偏差缓解（概念解学习）和外在偏差缓解（反事实数据增强）的效果，旨在找到最有效的偏差缓解策略。

技术框架：该研究的整体框架包括以下几个阶段：1) 选择三个开源LLM作为基础模型；2) 使用概念解学习方法缓解LLM的内在偏见；3) 使用反事实数据增强方法缓解下游任务的偏见；4) 在真实的金融分类任务（薪资预测、就业状况、信用评估）上评估模型的性能和公平性；5) 比较不同偏差缓解策略的效果。

关键创新：该论文的关键创新在于：1) 提出了一个统一的评估框架，用于比较内在和外在偏差缓解策略；2) 实证研究了LLM的内在偏见与下游任务公平性之间的联系；3) 证明了通过概念解学习进行的内在偏差缓解可以显著提高下游任务的公平性，且不影响准确性。

关键设计：论文使用了概念解学习方法来缓解LLM的内在偏见。具体来说，通过识别和移除LLM中与敏感属性（如性别）相关的概念，从而减少LLM的偏见。此外，论文还使用了反事实数据增强方法来缓解下游任务的偏见。通过生成与原始数据相似但敏感属性不同的数据，从而增加训练数据的多样性，减少模型的偏见。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果表明，通过概念解学习进行的内在偏差缓解可将内在性别偏见降低高达94.9%，同时提高下游任务的公平性指标（例如人口均等性）高达82%，且不影响准确性。这一结果表明，在LLM的早期阶段进行偏差缓解可以有效地提高下游任务的公平性。

🎯 应用场景

该研究成果可应用于各种需要公平性的自然语言处理任务，例如招聘、信贷评估、法律咨询等。通过缓解大型语言模型中的偏见，可以减少算法歧视，提高决策的公平性和透明度，从而促进社会公平。

📄 摘要（原文）

Large Language Models (LLMs) exhibit socio-economic biases that can propagate into downstream tasks. While prior studies have questioned whether intrinsic bias in LLMs affects fairness at the downstream task level, this work empirically investigates the connection. We present a unified evaluation framework to compare intrinsic bias mitigation via concept unlearning with extrinsic bias mitigation via counterfactual data augmentation (CDA). We examine this relationship through real-world financial classification tasks, including salary prediction, employment status, and creditworthiness assessment. Using three open-source LLMs, we evaluate models both as frozen embedding extractors and as fine-tuned classifiers. Our results show that intrinsic bias mitigation through unlearning reduces intrinsic gender bias by up to 94.9%, while also improving downstream task fairness metrics, such as demographic parity by up to 82%, without compromising accuracy. Our framework offers practical guidance on where mitigation efforts can be most effective and highlights the importance of applying early-stage mitigation before downstream deployment.