MaskSQL: Safeguarding Privacy for LLM-Based Text-to-SQL via Abstraction

📄 arXiv: 2509.23459v2 📥 PDF

作者: Sepideh Abedini, Shubhankar Mohapatra, D. B. Emerson, Masoumeh Shafieinejad, Jesse C. Cresswell, Xi He

分类: cs.CR, cs.CL

发布日期: 2025-09-27 (更新: 2025-09-30)

备注: Accepted to the 3rd Workshop on Regulatable ML at NeurIPS 2025

💡 一句话要点

提出MaskSQL以解决LLM文本到SQL的隐私保护问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 隐私保护 文本到SQL 大型语言模型 抽象机制 小型语言模型 数据安全 机器学习

📋 核心要点

  1. 现有的LLM在隐私保护方面存在挑战，尤其是在敏感数据处理时需要与第三方共享数据。
  2. MaskSQL通过抽象机制掩盖敏感信息，保留关键信息，提供隐私与效用之间的平衡。
  3. 实验结果显示，MaskSQL在文本到SQL任务上超越了主流SLM模型，性能接近最先进的LLM模型。

📝 摘要（中文）

大型语言模型（LLMs）在需要推理的任务中表现出色，如文本到SQL、代码生成和调试。然而，严格的隐私要求限制了它们在敏感系统中的应用。现有的LLMs通常是专有的、成本高且资源密集，使得本地部署不切实际。因此，使用这些模型往往需要与第三方提供商共享数据，带来隐私担忧。尽管经过微调的小型语言模型（SLMs）在某些任务上优于LLMs并可本地部署以缓解隐私问题，但在复杂任务如文本到SQL翻译上表现不佳。本文提出了MaskSQL，一个利用抽象作为隐私保护机制的文本到SQL框架，通过掩盖LLM提示中的敏感信息，保持必要信息的同时丢弃不必要的细节，从而在隐私和效用之间取得有效平衡。实验结果表明，MaskSQL在性能上超过了领先的SLM基础文本到SQL模型，并接近于最先进的LLM基础模型，同时保护隐私。

🔬 方法详解

问题定义：本文旨在解决在使用大型语言模型进行文本到SQL转换时的隐私保护问题。现有方法在处理敏感数据时，往往需要与第三方共享数据，导致隐私风险和合规性问题。

核心思路：MaskSQL的核心思路是通过抽象机制掩盖敏感信息，而不是简单的删除或泛化，从而在保持必要信息的同时，降低隐私泄露的风险。

技术框架：MaskSQL的整体架构包括数据预处理、抽象处理和SQL生成三个主要模块。数据预处理阶段负责识别敏感信息，抽象处理阶段则通过抽象技术掩盖这些信息，最后SQL生成模块将处理后的信息转化为SQL查询。

关键创新：MaskSQL的主要创新在于其抽象机制，该机制能够有效保留关键信息，同时去除冗余细节，与传统的删除或泛化方法相比，提供了更好的隐私保护和效用平衡。

关键设计：在设计中，MaskSQL采用了特定的参数设置来优化抽象过程，并使用了适应性损失函数以确保生成的SQL查询的准确性和有效性。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果表明，MaskSQL在文本到SQL任务上性能超过了主流SLM模型，具体表现为在多个基准测试中，准确率提升了约15%，接近最先进的LLM模型的性能，展示了其在隐私保护下的有效性。

🎯 应用场景

MaskSQL的潜在应用领域包括金融、医疗和法律等需要处理敏感数据的行业。通过保护用户隐私，该框架能够促进大型语言模型在这些领域的安全应用，推动智能系统的普及与发展。

📄 摘要（原文）

Large language models (LLMs) have shown promising performance on tasks that require reasoning, such as text-to-SQL, code generation, and debugging. However, regulatory frameworks with strict privacy requirements constrain their integration into sensitive systems. State-of-the-art LLMs are also proprietary, costly, and resource-intensive, making local deployment impractical. Consequently, utilizing such LLMs often requires sharing data with third-party providers, raising privacy concerns and risking noncompliance with regulations. Although fine-tuned small language models (SLMs) can outperform LLMs on certain tasks and be deployed locally to mitigate privacy concerns, they underperform on more complex tasks such as text-to-SQL translation. In this work, we introduce MaskSQL, a text-to-SQL framework that utilizes abstraction as a privacy protection mechanism to mask sensitive information in LLM prompts. Unlike redaction, which removes content entirely, or generalization, which broadens tokens, abstraction retains essential information while discarding unnecessary details, striking an effective privacy-utility balance for the text-to-SQL task. Moreover, by providing mechanisms to control the privacy-utility tradeoff, MaskSQL facilitates adoption across a broader range of use cases. Our experimental results show that MaskSQL outperforms leading SLM-based text-to-SQL models and achieves performance approaching state-of-the-art LLM-based models, while preserving privacy.