On the Robustness of Knowledge Editing for Detoxification
作者: Ming Dong, Shiyi Tang, Ziyan Peng, Guanyi Chen, Tingting He
分类: cs.CL
发布日期: 2026-02-11
💡 一句话要点
提出面向鲁棒性的知识编辑解毒框架，评估大语言模型有害行为抑制的可靠性
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 知识编辑 解毒 鲁棒性评估 大型语言模型 有害内容抑制
📋 核心要点
- 现有基于知识编辑的解毒方法依赖自动毒性分类器，未能充分评估真实行为抑制。
- 论文提出面向鲁棒性的评估框架，从优化、组合和跨语言三个维度评估解毒效果。
- 实验揭示伪解毒现象，表明现有方法在多目标和跨语言场景下鲁棒性不足。
📝 摘要（中文）
基于知识编辑(KE)的解毒方法已成为缓解大型语言模型中有害行为的一种有前景的途径。然而，现有的评估主要依赖于自动毒性分类器，隐含地假设毒性评分的降低反映了对不安全内容的真正行为抑制。在这项工作中，我们提出了一个面向鲁棒性的KE解毒评估框架，该框架从三个维度检查其在标准分类器指标之外的可靠性：优化鲁棒性、组合鲁棒性和跨语言鲁棒性。我们发现伪解毒是一种常见的失败模式，其中表面上的毒性降低源于退化的生成行为，而不是对不安全内容的有意义的抑制。我们进一步表明，当多个不安全行为被联合编辑时，解毒效果会降低，并且单语和跨语解毒只有在特定的模型-方法组合下才有效。总的来说，我们的结果表明，基于KE的解毒仅对某些模型、有限数量的解毒目标和一部分语言是鲁棒的。
🔬 方法详解
问题定义：现有基于知识编辑的解毒方法主要依赖自动毒性分类器来评估效果，这种评估方式存在局限性。降低的毒性评分并不一定意味着模型真正抑制了有害行为，可能只是由于生成了退化的、无意义的文本。此外，现有方法很少考虑在多个有害行为同时需要编辑、以及跨语言场景下的解毒效果，缺乏对鲁棒性的全面评估。
核心思路：论文的核心思路是构建一个更全面的、面向鲁棒性的评估框架，从多个维度考察知识编辑解毒方法的可靠性。通过引入优化鲁棒性、组合鲁棒性和跨语言鲁棒性三个指标，更深入地分析解毒方法在不同场景下的表现，从而发现潜在的缺陷和不足。
技术框架：论文提出的评估框架主要包含以下几个部分：1) 优化鲁棒性评估：考察解毒方法在不同优化设置下的表现，例如不同的学习率、优化器等。2) 组合鲁棒性评估：考察当需要同时编辑多个有害行为时，解毒方法的效果是否会下降。3) 跨语言鲁棒性评估：考察解毒方法在不同语言环境下的表现，以及跨语言迁移能力。通过对这三个维度的评估，可以更全面地了解解毒方法的鲁棒性。
关键创新：论文的关键创新在于提出了一个面向鲁棒性的知识编辑解毒评估框架。与以往主要依赖自动毒性分类器的评估方法不同，该框架从优化、组合和跨语言三个维度考察解毒效果，能够更全面、深入地分析解毒方法的可靠性。此外，论文还发现了“伪解毒”这一现象，即表面上的毒性降低实际上是由于生成了退化的文本，而非真正抑制了有害行为。
关键设计：论文在实验设计上，针对每个鲁棒性维度都设计了相应的评估方案。例如，在优化鲁棒性评估中，使用了不同的学习率和优化器；在组合鲁棒性评估中，同时编辑多个有害行为；在跨语言鲁棒性评估中，使用了多种语言的数据集。此外，论文还使用了多种知识编辑方法和大型语言模型进行实验，以验证评估框架的有效性和通用性。
🖼️ 关键图片
📊 实验亮点
实验结果表明，现有的知识编辑解毒方法在优化鲁棒性、组合鲁棒性和跨语言鲁棒性方面存在不足。例如，在某些模型和方法组合下，跨语言解毒效果显著下降。此外，论文还揭示了“伪解毒”现象，表明仅依赖自动毒性分类器可能无法准确评估解毒效果。
🎯 应用场景
该研究成果可应用于提升大型语言模型的内容安全性，降低其生成有害信息的风险。通过更鲁棒的解毒方法，可以构建更可靠、负责任的AI系统，应用于智能客服、内容创作、教育等领域，减少潜在的社会危害。
📄 摘要（原文）
Knowledge-Editing-based (KE-based) detoxification has emerged as a promising approach for mitigating harmful behaviours in Large Language Models. Existing evaluations, however, largely rely on automatic toxicity classifiers, implicitly assuming that reduced toxicity scores reflect genuine behavioural suppression. In this work, we propose a robustness-oriented evaluation framework for KE-based detoxification that examines its reliability beyond standard classifier-based metrics along three dimensions: optimisation robustness, compositional robustness, and cross-lingual robustness. We identify pseudo-detoxification as a common failure mode, where apparent toxicity reductions arise from degenerate generation behaviours rather than meaningful suppression of unsafe content. We further show that detoxification effectiveness degrades when multiple unsafe behaviours are edited jointly, and that both monolingual and cross-lingual detoxification remain effective only under specific model-method combinations. Overall, our results indicate that KE-based detoxification is robust only for certain models, limited numbers of detoxification objectives, and a subset of languages.