Mitigating Selection Bias with Node Pruning and Auxiliary Options

📄 arXiv: 2409.18857v2 📥 PDF

作者: Hyeong Kyu Choi, Weijie Xu, Chi Xue, Stephanie Eckman, Chandan K. Reddy

分类: cs.AI

发布日期: 2024-09-27 (更新: 2025-05-17)

备注: ACL 2025 Main

💡 一句话要点

提出Bias Node Pruning和Auxiliary Option Injection，缓解LLM选择偏差问题。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 选择偏差 节点剪枝 辅助选项注入 模型优化

📋 核心要点

  1. 大型语言模型存在选择偏差，即对某些答案选项有系统性偏好，降低了模型准确性和可靠性。
  2. 通过识别并移除模型内部的偏差来源，提出偏差节点剪枝(BNP)和辅助选项注入(AOI)两种方法。
  3. 实验表明，所提方法在多个数据集上，能够有效提高答案准确性并减少选择偏差。

📝 摘要（中文）

大型语言模型(LLMs)在回答多项选择题时，常常表现出对某些答案选项的系统性偏好，这种现象被称为选择偏差。这种偏差降低了LLM输出的准确性和可靠性，限制了它们在决策关键型应用中的效用。与以往侧重于调整模型输入或输出来缓解此问题的工作不同，本文采取了一种根本不同的方法，即识别并消除偏差的内部来源。我们提出了两种方法：偏差节点剪枝(BNP)，它剪除导致选择偏差的参数；以及辅助选项注入(AOI)，它引入一个额外的答案选项，以减少白盒和黑盒设置中的偏差。为了解决现有评估指标的不足，我们提出了一种新的指标，即选择 Kullback-Leibler 散度(CKLD)，它捕捉模型预测中的分布不平衡。在多个数据集上对三个LLM进行的实验表明，我们的方法始终提高答案准确性，同时减少选择偏差，为开源和闭源模型提供了一个强大的解决方案。

🔬 方法详解

问题定义：大型语言模型在多项选择题中表现出选择偏差，即对某些选项的偏好，导致模型输出不准确且不可靠。现有方法主要集中在调整输入或输出，未能从根本上解决模型内部的偏差来源。

核心思路：论文的核心思路是直接识别并消除模型内部导致选择偏差的参数。通过剪枝(BNP)去除偏差节点，或者通过引入额外的选项(AOI)来平衡模型对不同选项的偏好。这样可以从模型内部减少偏差，提高答案的准确性。

技术框架：论文提出了两种方法：Bias Node Pruning (BNP) 和 Auxiliary Option Injection (AOI)。BNP通过识别并剪除模型中导致选择偏差的参数来减少偏差。AOI则通过在多项选择题中引入一个额外的选项，来平衡模型对不同选项的偏好。此外，论文还提出了Choice Kullback-Leibler Divergence (CKLD)作为一种新的评估指标，用于衡量模型预测中的分布不平衡。

关键创新：关键创新在于直接针对模型内部的偏差来源进行干预，而不是像以往方法那样调整输入或输出。BNP通过参数剪枝来消除偏差，AOI通过引入额外选项来平衡偏好。CKLD指标能够更准确地评估选择偏差。

关键设计：BNP的关键设计在于如何识别并剪除导致偏差的节点。具体方法未知，需要参考论文细节。AOI的关键设计在于如何生成或选择合适的辅助选项，以及如何将其融入到模型的输入中。CKLD指标的设计需要考虑如何量化模型预测分布与均匀分布之间的差异。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，所提出的BNP和AOI方法在多个数据集上，能够有效提高LLM的答案准确性并减少选择偏差。具体性能提升数据未知，需要参考论文细节。与现有方法相比，该方法能够更有效地解决选择偏差问题，并且适用于开源和闭源模型。

🎯 应用场景

该研究成果可应用于各种需要大型语言模型进行多项选择决策的场景，例如自动阅卷、智能客服、医疗诊断辅助等。通过减少选择偏差，可以提高LLM在这些应用中的可靠性和准确性，从而提升用户体验和决策质量。未来，该方法可以进一步推广到其他类型的任务和模型中。

📄 摘要（原文）

Large language models (LLMs) often exhibit systematic preferences for certain answer choices when responding to multiple-choice questions-a behavior known as selection bias. This bias reduces the accuracy and reliability of LLM outputs, limiting their usefulness in decision-critical applications. While prior work has focused on adjusting model inputs or outputs to mitigate this issue, our work takes a fundamentally different approach by identifying and removing the internal sources of bias. We introduce two methods: Bias Node Pruning (BNP), which prunes parameters that contribute to selection bias, and Auxiliary Option Injection (AOI), which introduces an additional answer choice to reduce bias in both white-box and black-box settings. To address the shortcomings of existing evaluation metrics, we propose Choice Kullback-Leibler Divergence (CKLD), a new metric that captures distributional imbalances in model predictions. Experiments on three LLMs across multiple datasets demonstrate that our methods consistently improve answer accuracy while reducing selection bias, providing a robust solution for both open- and closed-source models.