Veil-Then-Reveal: Protecting PII Privacy via Reversible Pseudo-Anonymization in Zero-Trust User--LLM Interaction
作者: Mohamed Shaaban, Mohamed Elmahallawy, Thomas E. Carroll
分类: cs.CR, cs.CL
发布日期: 2026-10-16
💡 一句话要点
提出Veil-Then-Reveal框架以保护PII隐私
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 个人隐私保护 大型语言模型 伪匿名化 格式保留加密 零信任模型 数据安全 PII检测
📋 核心要点
- 现有的匿名化方法往往无法有效保护PII，同时又影响LLM的处理能力，存在安全隐患。
- 本文提出的Veil-then-Reveal框架在用户端进行PII伪匿名化，确保用户数据在传输过程中的隐私安全。
- 在三个数据集上的评估显示，VtR实现了97.9%的检测召回率和99.9%的端到端恢复率，表现优异。
📝 摘要（中文）
随着大型语言模型（LLMs）处理敏感文档和个人信息的增多，向远程提供者发送包含个人可识别信息（PII）的提示，给数据主体和组织带来了日志记录、保留、模型训练和意外泄露的风险。现有的匿名化方法通常会掩盖或删除PII，而传统加密则消除了有效LLM处理所需的词汇和结构线索。本文提出了Veil-then-Reveal（VtR），这是一个用户端PII伪匿名化框架，旨在在零信任威胁模型下保护LLM交互的隐私。VtR将远程LLM提供者视为不可信，仅发送伪匿名化的提示，保持用户端的明文PII。VtR首先检测PII，并用现实的、同类型的、词汇内的替代品替换它，保持其语言和结构特性。通过对结构化PII（如电话号码和信用卡号）使用格式保留加密（FPE），以及对语义PII（如姓名、地点和组织）使用带密钥哈希字典和安全保险库，VtR实现了隐私保护。
🔬 方法详解
问题定义：本文旨在解决在与大型语言模型交互时，如何有效保护个人可识别信息（PII）的问题。现有方法往往要么掩盖PII，要么通过加密手段导致信息处理能力下降，无法兼顾隐私与功能性。
核心思路：Veil-then-Reveal框架的核心思路是将远程LLM提供者视为不可信，仅发送伪匿名化的提示，同时保持用户端的明文PII。通过在用户设备上进行PII检测和替换，确保数据在传输过程中的隐私保护。
技术框架：VtR框架包括几个主要模块：PII检测模块、替代品生成模块、格式保留加密模块和用户端恢复模块。首先检测PII，然后用同类型的替代品替换，最后通过加密确保数据安全。
关键创新：VtR的关键创新在于结合了格式保留加密（FPE）和带密钥哈希字典，能够在保护隐私的同时保留数据的语言和结构特性。这与传统的匿名化和加密方法有本质区别。
关键设计：在设计中，VtR采用了会话特定的映射以实现跨会话的不可链接性，同时引入了针对日期的等级分类FPE策略，以保持格式和模糊性，减少加密评估次数。
🖼️ 关键图片
📊 实验亮点
在三个数据集上的评估结果显示，VtR实现了97.9%的检测召回率和95.2%的保护率，99.9%的端到端恢复率，且100%的回声替代品实现了完整的恢复，表现出色，显著优于现有方法。
🎯 应用场景
该研究的潜在应用领域包括金融、医疗和法律等需要处理敏感信息的行业。通过保护用户的PII隐私，VtR框架能够增强用户对LLM服务的信任，推动其在更多领域的应用。未来，随着对数据隐私的重视，VtR可能成为标准的隐私保护解决方案。
📄 摘要（原文）
Large language models (LLMs) increasingly process sensitive documents and personal information, yet sending prompts containing personally identifiable information (PII) to remote providers exposes data subjects and organizations to risks from logging, retention, model training, and unintended disclosure. Existing anonymization methods often mask or remove PII, while conventional encryption eliminates the lexical and structural cues needed for effective LLM processing. We present Veil-then-Reveal (VtR), a user-side PII pseudo-anonymization framework for privacy-preserving LLM interaction under a zero-trust threat model. VtR treats remote LLM providers as untrusted and sends only pseudo-anonymized prompts, keeping plaintext PII on the user. VtR first detects PII and replaces it with realistic, same-type, in-vocabulary surrogates before prompts leave the user's device, preserving their linguistic and structural properties. It combines format-preserving encryption (FPE) for structured PII, such as phone and credit-card numbers, with a keyed-hash dictionary and secure vault for semantic PII, such as names, locations, and organizations. Session-specific mappings provide cross-session unlinkability, while user-side restoration reversibly replaces surrogates with their original values in LLM responses. We further introduce a rank-class FPE strategy for dates that preserves format and ambiguity while reducing cipher evaluations. Evaluation on three datasets containing 11,322 annotated PII instances achieves 97.9% detection recall, 95.2% protection of detected values, and 99.9% round trip; 100% of echoed surrogates end-to-end round-trip restoration.