No Training Wheels: Steering Vectors for Bias Correction at Inference Time

📄 arXiv: 2506.18598v1 📥 PDF

作者: Aviral Gupta, Armaan Sethi, Ameesh Sethi

分类: cs.LG, cs.CL, cs.CV

发布日期: 2025-06-23

💡 一句话要点

提出无训练方法以解决分类模型偏差问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 神经网络 分类模型 偏差修正 引导向量 不均衡数据集 机器学习 推理优化

📋 核心要点

  1. 现有的分类模型在处理不均衡数据集时，容易继承偏差并在少数群体上表现不佳。
  2. 本文提出了一种无需训练的引导向量方法，通过计算群体均值激活差异来修正偏差。
  3. 实验结果表明，该方法显著降低了分类偏差，提高了最差群体的准确性。

📝 摘要（中文）

神经网络分类器在不均衡的群体代表性数据集上训练时，常常继承类偏差并学习到虚假关联。尽管已有多种算法和数据中心的方法被提出以解决这些偏差，但通常需要重新训练或消耗大量计算资源。本文提出了一种灵活且无需训练的方法，灵感来源于用于编辑大型语言模型行为的引导向量。我们计算多数群体和少数群体之间的均值激活差异，以定义“偏差向量”，并将其从模型的残差流中减去。这种方法减少了分类偏差并提高了最差群体的准确性。我们探索了在类似变换器的分类器中提取和应用这些向量的多种策略，展示了引导向量在分类任务中的有效性。

🔬 方法详解

问题定义：本文旨在解决神经网络分类器在不均衡数据集上训练时所产生的偏差问题。现有方法通常需要重新训练模型或消耗大量计算资源，难以快速应用于实际场景。

核心思路：我们提出了一种无需训练的引导向量方法，通过计算多数群体和少数群体的均值激活差异，定义“偏差向量”，并将其从模型的残差流中减去，以此来修正分类偏差。

技术框架：整体流程包括计算群体激活均值、定义偏差向量、将偏差向量应用于模型的残差流。主要模块包括数据预处理、偏差向量计算和模型推理。

关键创新：本研究的创新点在于引入引导向量的概念，传统上用于生成模型，而我们将其有效应用于分类模型，提供了一种低成本的偏差修正方法。

关键设计：在实现过程中，我们关注于偏差向量的准确计算和应用，确保其能够有效减小分类偏差，同时保持模型的整体性能。

📊 实验亮点

实验结果显示，使用引导向量的方法显著降低了分类偏差，最差群体的准确性提高了XX%，相较于基线模型，整体性能得到了显著提升，证明了该方法的有效性和实用性。

🎯 应用场景

该研究的潜在应用领域包括计算机视觉、自然语言处理等多个领域，尤其是在处理不均衡数据集时，能够快速有效地修正模型偏差，提升模型在少数群体上的表现，具有重要的实际价值和社会影响。

📄 摘要（原文）

Neural network classifiers trained on datasets with uneven group representation often inherit class biases and learn spurious correlations. These models may perform well on average but consistently fail on atypical groups. For example, in hair color classification, datasets may over-represent females with blond hair, reinforcing stereotypes. Although various algorithmic and data-centric methods have been proposed to address such biases, they often require retraining or significant compute. In this work, we propose a cheap, training-free method inspired by steering vectors used to edit behaviors in large language models. We compute the difference in mean activations between majority and minority groups to define a "bias vector," which we subtract from the model's residual stream. This leads to reduced classification bias and improved worst-group accuracy. We explore multiple strategies for extracting and applying these vectors in transformer-like classifiers, showing that steering vectors, traditionally used in generative models, can also be effective in classification. More broadly, we showcase an extremely cheap, inference time, training free method to mitigate bias in classification models.