RapidUn: Influence-Driven Parameter Reweighting for Efficient Large Language Model Unlearning

📄 arXiv: 2512.04457v1 📥 PDF

作者: Guoshenghui Zhao, Huawei Lin, Weijie Zhao

分类: cs.CL

发布日期: 2025-12-04

备注: Code available at: https://github.com/eyerf/RapidUn

💡 一句话要点

RapidUn：基于影响力的参数重加权高效实现大语言模型遗忘

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 模型遗忘 影响力函数 参数重加权 高效学习 知识擦除 模型安全

📋 核心要点

  1. 现有大语言模型遗忘方法，如重训练成本高，近似方法不稳定，尤其在小规模或不平衡数据集上表现不佳。
  2. RapidUn通过快速估计样本影响力，并将其转化为参数更新权重，选择性地更新参数，从而实现高效遗忘。
  3. 实验表明，RapidUn在效率上比重训练高100倍，且在同分布和异分布遗忘任务中优于现有方法。

📝 摘要（中文）

从大型语言模型（LLM）中移除特定数据的影响仍然具有挑战性，因为重新训练成本高昂，并且现有的近似遗忘方法通常不稳定。当遗忘集很小或不平衡时，这种挑战会加剧。我们引入了RapidUn，这是一个受影响驱动且参数高效的遗忘框架。它首先通过快速估计模块来估计每个样本的影响，然后将这些分数映射到自适应更新权重，从而指导选择性的参数更新——在保留一般知识的同时忘记有害行为。在Dolly-15k和Alpaca-57k数据集上，RapidUn在Mistral-7B和Llama-3-8B模型上实现了比完全重新训练高100倍的效率，并且在同分布和异分布遗忘方面始终优于Fisher、GA和LoReUn。这些结果确立了受影响引导的参数重加权作为LLM遗忘的可扩展且可解释的范例。

🔬 方法详解

问题定义：论文旨在解决大型语言模型（LLM）中特定数据影响的移除问题。现有方法，如完全重新训练，计算成本过高。而近似遗忘方法，例如基于梯度的微调，在遗忘数据集规模较小或数据分布不平衡时，往往表现出不稳定性，导致遗忘效果不佳，甚至损害模型的整体性能。

核心思路：RapidUn的核心思路是利用数据样本对模型参数的影响力得分，指导模型参数的更新。通过快速估计每个样本对模型的影响力，并根据影响力大小调整参数更新的权重，从而实现选择性遗忘。这种方法旨在高效地移除有害数据的影响，同时保留模型的一般知识。

技术框架：RapidUn框架主要包含两个阶段：1) 快速影响力估计模块：该模块用于快速计算每个训练样本对模型参数的影响力得分。具体实现方式未知，但强调了“快速”这一特性，表明可能采用了近似计算或优化策略。2) 参数重加权更新模块：该模块将影响力得分映射为参数更新的权重。影响力高的参数会被赋予更高的权重，从而在更新过程中被更多地调整，以达到遗忘的目的。整体流程是先计算影响力，然后利用影响力指导参数更新。

关键创新：RapidUn的关键创新在于将样本影响力与参数更新权重联系起来，实现了一种受影响力驱动的参数选择性更新机制。与传统的微调方法不同，RapidUn不是平等地更新所有参数，而是根据样本的影响力大小，有选择性地更新参数，从而提高了遗忘效率和效果。这种方法提供了一种可解释的遗忘方式，可以了解哪些数据对模型的哪些参数产生了影响。

关键设计：论文中没有详细说明影响力估计模块的具体实现方式，以及如何将影响力得分映射为参数更新权重。这些是实现RapidUn的关键技术细节，需要进一步研究论文原文才能了解。损失函数和网络结构方面，论文没有提及特殊的修改，推测可能使用了标准的语言模型训练损失函数和模型结构。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

RapidUn在Mistral-7B和Llama-3-8B模型上进行了实验，结果表明，在Dolly-15k和Alpaca-57k数据集上，RapidUn的效率比完全重新训练高100倍。此外，RapidUn在同分布和异分布遗忘任务中，性能始终优于Fisher、GA和LoReUn等基线方法，证明了其有效性和泛化能力。

🎯 应用场景

RapidUn可应用于各种需要从大型语言模型中移除特定数据影响的场景，例如：删除包含个人隐私的数据、消除模型中的偏见、修复模型中的错误知识等。该方法能够提高模型安全性、公平性和可靠性，并降低模型维护成本，具有广泛的应用前景。

📄 摘要（原文）

Removing specific data influence from large language models (LLMs) remains challenging, as retraining is costly and existing approximate unlearning methods are often unstable. The challenge is exacerbated when the forget set is small or imbalanced. We introduce RapidUn, an influence-driven and parameter-efficient unlearning framework. It first estimates per-sample influence through a fast estimation module, then maps these scores into adaptive update weights that guide selective parameter updates -- forgetting harmful behavior while retaining general knowledge. On Mistral-7B and Llama-3-8B across Dolly-15k and Alpaca-57k, RapidUn achieves up to 100 times higher efficiency than full retraining and consistently outperforms Fisher, GA, and LoReUn on both in-distribution and out-of-distribution forgetting. These results establish influence-guided parameter reweighting as a scalable and interpretable paradigm for LLM unlearning.