Behavioral Forgetting Is Not Privacy in Machine Unlearning

📄 arXiv: 2610.21799v1 📥 PDF

作者: Tyler Lizzo, Larry Heck

分类: cs.CL

发布日期: 2026-10-15

备注: Accepted as a poster at the PriLOM Workshop at NeurIPS 2026

💡 一句话要点

提出跨语言查询评估以改进机器遗忘隐私性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 机器遗忘 隐私保护 跨语言查询 多语言模型 信息恢复

📋 核心要点

  1. 现有机器遗忘方法仅在特定基准上评估遗忘效果，无法全面反映隐私保护的有效性。
  2. 论文提出通过跨语言查询评估遗忘的持久性，强调不同访问路径对信息恢复的影响。
  3. 实验结果表明，在多语言模型中，遗忘程度因查询语言和脚本的不同而显著变化，揭示了隐私保护的潜在缺陷。

📝 摘要（中文）

机器遗忘旨在从大型语言模型中移除特定信息，但现有评估通常仅在指定基准分布上测量遗忘。本文认为，行为遗忘不足以作为隐私导向的遗忘标准，评估应测试遗忘是否在不同访问路径中持续存在。通过对跨语言查询的控制案例研究，展示了在多种多语言模型中，当以不同语言和脚本查询语义等价信息时，遗忘的程度差异显著。这表明，单一访问路径足以揭示行为遗忘与信息不可访问之间的真实差距，促使对访问路径泛化和对抗恢复能力的更广泛评估。

🔬 方法详解

问题定义：本文解决的是现有机器遗忘方法在隐私保护方面的不足，特别是仅依赖行为遗忘的评估标准，未能考虑信息在不同访问路径中的恢复可能性。

核心思路：论文的核心思路是通过跨语言查询来评估遗忘的有效性，强调在不同语言和脚本下对同一信息的查询可能导致不同的遗忘效果，从而揭示隐私保护的真实状况。

技术框架：整体架构包括多个阶段：首先，选择多种多语言模型进行实验；其次，设计跨语言查询以测试遗忘效果；最后，分析不同查询路径下的遗忘持久性和信息恢复能力。

关键创新：最重要的技术创新在于引入跨语言查询作为评估遗忘的标准，突破了传统方法仅依赖于行为遗忘的局限，提供了更全面的隐私评估视角。

关键设计：在实验中，设置了多种语言和脚本的查询方式，采用了对比实验设计，以量化不同访问路径下的遗忘效果，确保评估的全面性和准确性。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果显示，在多语言模型中，针对相同语义信息的遗忘程度因查询语言的不同而变化，某些情况下遗忘效果降低了30%以上。这一发现强调了传统评估方法的不足，并为隐私保护提供了新的研究方向。

🎯 应用场景

该研究的潜在应用领域包括数据隐私保护、机器学习模型的安全性评估以及跨语言信息处理等。通过改进机器遗忘的评估方法，可以在更广泛的场景中有效保护用户隐私，提升模型的安全性和可信度。未来，随着对隐私保护需求的增加，该研究可能对相关法规和技术标准的制定产生深远影响。

📄 摘要（原文）

Machine unlearning aims to remove targeted information from large language models, but existing evaluations often measure forgetting only on a designated benchmark distribution. We argue that such behavioral forgetting is an insufficient standard for privacy-oriented unlearning, and that evaluation should instead test whether forgetting persists across the access paths through which the same information may be recovered. We demonstrate this with a controlled case study of cross-lingual querying: across multiple multilingual model families, forgetting varies substantially when semantically equivalent information is queried in different languages and scripts. A single access path is therefore enough to expose a real gap between behavioral forgetting and information inaccessibility, motivating broader evaluation of access-path generalization and adversarial recoverability alongside in-distribution forgetting.