Precise In-Parameter Concept Erasure in Large Language Models

📄 arXiv: 2505.22586v2 📥 PDF

作者: Yoav Gur-Arieh, Clara Suslik, Yihuai Hong, Fazl Barez, Mor Geva

分类: cs.CL

发布日期: 2025-05-28 (更新: 2025-10-29)

备注: Accepted to EMNLP 2025 Main Conference

💡 一句话要点

PISCES：通过参数空间精确编辑，从大语言模型中擦除特定概念。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 概念擦除 知识编辑 模型安全 可解释性

📋 核心要点

  1. 现有知识擦除方法（微调、低秩适配器等）存在粗糙、浅层或效果不佳的问题，难以精确移除LLM中的特定概念。
  2. PISCES通过解耦模型特征，识别并移除参数空间中与目标概念相关的方向，实现参数级的精确概念擦除。
  3. 实验表明，PISCES在擦除效果、特异性和鲁棒性上均优于现有方法，有效降低了目标概念的准确率。

📝 摘要（中文）

大型语言模型（LLMs）在预训练过程中经常会学习到一些在下游部署中不希望存在的知识，例如敏感信息或受版权保护的内容。现有的移除此类知识的方法依赖于微调、训练低秩适配器或事实层面的编辑，但这些方法要么过于粗糙，要么过于浅层，要么效果不佳。本文提出了一种新的框架PISCES（用于概念擦除的精确参数内抑制），通过直接编辑参数空间中编码概念的方向，精确地从模型参数中擦除整个概念。PISCES使用一个解耦器模型将MLP向量分解为可解释的特征，利用自动可解释性技术识别与目标概念相关的特征，并将其从模型参数中移除。在Gemma 2和Llama 3.1上的实验表明，PISCES在擦除效果上比领先的擦除方法略有提高，将目标概念的准确率降低到7.7%的低水平，同时显著提高了擦除的特异性（高达31%）和鲁棒性（高达38%）。总的来说，这些结果表明，基于特征的参数内编辑能够更精确、更可靠地移除语言模型中的概念知识。

🔬 方法详解

问题定义：论文旨在解决大语言模型中特定概念知识难以精确擦除的问题。现有方法如微调、低秩适配器等，要么影响范围过大，导致模型性能下降；要么擦除效果不佳，无法彻底移除目标概念。这些方法缺乏对模型内部知识表示的精细控制，难以实现参数级别的精确擦除。

核心思路：PISCES的核心思路是将模型参数空间中与目标概念相关的特征方向识别出来，然后直接对这些方向进行编辑，从而实现对目标概念的精确擦除。这种方法避免了全局性的模型调整，能够更精确地控制擦除范围，减少对模型其他知识的影响。

技术框架：PISCES框架主要包含以下几个阶段：1) 特征解耦：使用一个解耦器模型将MLP层的向量分解为可解释的特征。2) 概念识别：利用自动可解释性技术，识别与目标概念相关的特征。3) 参数编辑：从模型参数中移除与目标概念相关的特征方向。4) 模型评估：评估擦除效果、特异性和鲁棒性。

关键创新：PISCES的关键创新在于提出了基于特征的参数内编辑方法。与现有方法相比，PISCES能够直接操作模型参数空间中的知识表示，实现更精确、更可控的概念擦除。通过解耦特征和自动识别相关特征，PISCES能够更准确地定位目标概念，避免了全局性调整带来的副作用。

关键设计：PISCES的关键设计包括：1) 解耦器模型：用于将MLP向量分解为可解释的特征，可以使用预训练的模型或专门训练的模型。2) 自动可解释性技术：用于识别与目标概念相关的特征，例如使用激活最大化或因果追踪等方法。3) 参数编辑策略：用于从模型参数中移除目标特征方向，例如可以使用向量减法或投影等方法。具体的参数设置和网络结构需要根据具体的模型和任务进行调整。

🖼️ 关键图片

img_0

📊 实验亮点

实验结果表明，PISCES在Gemma 2和Llama 3.1模型上，能够将目标概念的准确率降低到7.7%，并且在擦除特异性上提升高达31%，在鲁棒性上提升高达38%。这些结果表明，PISCES在擦除效果、特异性和鲁棒性上均优于现有方法，能够更精确、更可靠地移除LLM中的概念知识。

🎯 应用场景

PISCES可应用于多种场景，例如移除LLM中的敏感信息、偏见内容或受版权保护的材料，从而提高模型的安全性和合规性。该技术还有助于构建更加可控和值得信赖的AI系统，并促进LLM在各个领域的安全部署和应用。未来，该方法可扩展到更广泛的概念擦除任务，并与其他安全技术相结合。

📄 摘要（原文）

Large language models (LLMs) often acquire knowledge during pretraining that is undesirable in downstream deployments, e.g., sensitive information or copyrighted content. Existing approaches for removing such knowledge rely on fine-tuning, training low-rank adapters or fact-level editing, but these are either too coarse, too shallow, or ineffective. In this work, we propose PISCES (Precise In-parameter Suppression for Concept EraSure), a novel framework for precisely erasing entire concepts from model parameters by directly editing directions that encode them in parameter space. PISCES uses a disentangler model to decompose MLP vectors into interpretable features, identifies those associated with a target concept using automated interpretability techniques, and removes them from model parameters. Experiments on Gemma 2 and Llama 3.1 over various concepts show that PISCES achieves modest gains in efficacy over leading erasure methods, reducing accuracy on the target concept to as low as 7.7%, while dramatically improving erasure specificity (by up to 31%) and robustness (by up to 38%). Overall, these results demonstrate that feature-based in-parameter editing enables a more precise and reliable approach for removing conceptual knowledge in language models.