LocUS: Head Selection and Subspace Projection for Targeted Activation Steering

📄 arXiv: 2609.31122v1 📥 PDF

作者: Irene Tallini, Lorenzo Basile, Valentino Maiorca, Francesco Locatello, Alberto Cazzaniga

分类: cs.CL, cs.LG

发布日期: 2026-09-25

💡 一句话要点

提出LocUS以解决激活引导中的目标干扰问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 激活引导 语言模型 对比学习 参数优化 模型可控性

📋 核心要点

  1. 现有激活引导方法在应用时可能导致干预与非目标属性耦合，影响模型的其他能力。
  2. LocUS通过将激活引导局部化到模型输出词汇的特定子空间，减少了干预对非目标属性的影响。
  3. 实验结果表明，LocUS在毒性缓解和情感重定向等任务上表现优异，干预参数少于6%，且保留了模型的通用能力。

📝 摘要（中文）

激活引导是一种强大的无训练范式，用于在推理时控制大型语言模型。然而，现有方法通过对比数据估计每层的引导方向，并在整个表示空间中应用，这可能导致干预与对比数据中的非目标属性耦合，从而降低无关能力。为了解决这一问题，本文提出了LocUS（局部解嵌引导），该方法将激活引导基于模型自身的输出词汇子空间。通过识别解嵌矩阵中的特定属性线性子空间，LocUS强制施加几何约束，将引导变换限制在特定子空间，并同时将其应用局部化到稀疏的注意力头子集。对三种模型系列在毒性缓解、情感重定向和谄媚抑制方面的广泛评估表明，LocUS在干预不到6%的参数的同时，匹配或超越了最先进的基线，并更好地保留了通用能力。

🔬 方法详解

问题定义：本文旨在解决激活引导过程中，现有方法因对比数据引入的非目标属性干扰问题。这种干扰可能导致模型在特定任务上的表现下降。

核心思路：LocUS方法的核心思想是将激活引导限制在模型自身输出词汇的线性子空间内，从而避免干预对非目标属性的影响。通过这种方式，模型能够更精确地控制输出。

技术框架：LocUS的整体架构包括识别解嵌矩阵中的特定属性线性子空间，并在此子空间内施加几何约束。该方法还局部化了引导的应用，仅在稀疏的注意力头子集上进行干预。

关键创新：LocUS的主要创新在于其将激活引导局部化到特定的词汇子空间，显著减少了对非目标属性的干扰。这一设计与传统方法的全局施加方式形成鲜明对比。

关键设计：在参数设置上，LocUS仅干预不到6%的模型参数，使用特定的损失函数来优化引导效果，并通过选择合适的注意力头来实现局部化干预。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，LocUS在毒性缓解、情感重定向和谄媚抑制任务上均表现优异，能够匹配或超越现有最先进的基线，同时干预参数少于6%。这一结果表明，LocUS在保持模型通用能力的同时，能够有效地实现目标干预。

🎯 应用场景

该研究的潜在应用领域包括大型语言模型的安全性和可控性，尤其是在需要减少有害内容生成的场景中。此外，LocUS方法可以用于情感分析和用户交互系统，以提高模型的响应质量和准确性。未来，随着模型规模的不断扩大，LocUS可能在多种自然语言处理任务中发挥重要作用。

📄 摘要（原文）

Activation steering is a powerful training-free paradigm for controlling large language models at inference time. However, standard approaches estimate a per-layer steering direction from contrastive data and apply it on the layer's entire representation space, which may couple the intervention to off-target properties present in the contrastive data and degrade unrelated capabilities. To mitigate this issue, we introduce LocUS (Localized Unembedding Steering), a method which grounds activation steering to the model's own output vocabulary subspace. By identifying a property-specific linear subspace within the unembedding matrix, LocUS enforces a geometric constraint that restricts the steering transformation to a specific subspace and at the same time localizes its application to a sparse subset of attention heads. Extensive evaluations across three model families on toxicity mitigation, sentiment redirection and sycophancy suppression show that LocUS matches or outperforms state-of-the-art baselines while intervening on under 6% of parameters and better preserving general capability.