Privacy in Context Is Being Overlooked in the Age of General-Purpose LLMs
作者: Prakhar Ganesh, Yash More, Marco Romanelli, Ferdinando Fioretto, Golnoosh Farnadi
分类: cs.LG, cs.AI
发布日期: 2026-10-21
备注: Accepted at Personalization in the Era of Large Foundation Models Workshop @ AAAI 2026
💡 一句话要点
提出针对通用LLM的隐私保护框架以解决隐私上下文问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 隐私保护 大型语言模型 上下文特性 应用特定部署 隐私素养
📋 核心要点
- 核心问题：现有的隐私保护方法倾向于采用统一框架，忽视了隐私的上下文特性，导致安全感的误导。
- 方法要点：论文提出了三条关键路径，强调应用特定部署、上下文特定评估和隐私素养提升的重要性。
- 实验或效果：尽管未提供具体实验数据，论文强调了重新考虑统一框架的必要性，以应对隐私保护的基本张力。
📝 摘要（中文）
随着大型语言模型（LLMs）在功能和能力上的不断扩展，隐私问题日益突出。用户在多个不同上下文中与单一通用系统互动，导致对隐私的“一刀切”解决方案的追求。然而，这种做法忽视了隐私研究的一个重要洞见：隐私本质上是上下文相关的。本文指出，现有的提示隐私研究正在向设计统一框架的方向发展，这种趋势具有误导性，并可能导致虚假的安全感。我们建议三条关键路径：特定应用的LLM部署、上下文特定的隐私框架评估，以及提升隐私素养。
🔬 方法详解
问题定义：本文旨在解决大型语言模型（LLMs）在多种上下文中使用时的隐私保护问题。现有方法往往采用统一的隐私框架，未能考虑隐私的上下文依赖性，导致用户面临潜在的隐私风险。
核心思路：论文提出的核心思路是强调隐私保护的上下文特性，反对一刀切的隐私解决方案。通过识别和分析不同应用场景中的隐私需求，提出更为灵活和适应性的隐私保护策略。
技术框架：整体架构包括三个主要模块：应用特定的LLM部署、上下文特定的隐私框架评估，以及隐私素养的提升。每个模块相互关联，共同构成一个动态的隐私保护体系。
关键创新：论文的主要创新在于提出了针对不同上下文的隐私保护策略，强调了隐私保护的多样性和复杂性。这与现有方法的统一性形成鲜明对比，提供了更为细致的隐私保护视角。
关键设计：在设计上，论文建议根据具体应用场景调整隐私保护策略，使用上下文特定的评估标准，并强调提升用户的隐私意识和素养，以增强整体隐私保护效果。
🖼️ 关键图片
📊 实验亮点
尽管论文未提供具体的实验数据，但强调了重新考虑统一隐私框架的重要性，指出了在不同上下文中应用特定隐私保护策略的必要性，可能为未来的隐私保护研究提供新的方向。
🎯 应用场景
该研究的潜在应用领域包括社交媒体、在线教育、医疗健康等多个需要用户隐私保护的场景。通过针对特定应用的隐私保护策略，可以有效降低用户数据泄露的风险，提升用户对系统的信任度，具有重要的实际价值和未来影响。
📄 摘要（原文）
As large language models (LLMs) continue to grow in scope and capability, privacy concerns are on the rise. Since users increasingly interact with a single general-purpose system across many distinct contexts, there is a natural tendency to pursue a one-size-fits-all solution to privacy. Unfortunately, this overlooks a crucial insight from decades of privacy research: privacy is inherently contextual. In this paper, we argue that existing work in prompt privacy is drifting towards attempts to design a unified framework, which is highly misleading and can foster a false sense of security. Furthermore, we argue that even future work in this direction needs to wrestle with fundamental tensions across various desirable properties of prompt privacy. Thus, such continued attempts towards a unified framework need to be reconsidered. We recommend three critical paths forward: application-specific deployment of LLMs, context-specific evaluation of privacy frameworks, and better privacy literacy.