Identity Lock: Locking API Fine-tuned LLMs With Identity-based Wake Words

📄 arXiv: 2503.10668v1 📥 PDF

作者: Hongyu Su, Yifeng Gao, Yifan Ding, Xingjun Ma

分类: cs.CL, cs.AI

发布日期: 2025-03-10

💡 一句话要点

提出Identity Lock机制，通过身份唤醒词锁定API微调LLM，防止密钥泄露。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 身份锁 API微调 大型语言模型 安全防护 唤醒词

📋 核心要点

  1. API微调LLM因其便捷性被广泛采用，但API密钥泄露风险随之增加，现有水印技术无法有效阻止未经授权的访问。
  2. Identity Lock机制通过身份唤醒词锁定模型，只有授权用户才能激活，即使API密钥泄露也能保证模型安全。
  3. 实验证明IdentityLock在多种数据集和任务上有效，包括农业、经济、医疗保健和法律等领域，验证了其通用性和鲁棒性。

📝 摘要（中文）

大型语言模型（LLM）的快速发展增加了微调的复杂性和成本，促使人们采用基于API的微调方法，因为它更简单、更高效。虽然这种方法在资源有限的组织中很受欢迎，但它带来了重大的安全风险，特别是模型API密钥的潜在泄漏。现有的水印技术被动地跟踪模型输出，但不能阻止未经授权的访问。本文介绍了一种名为身份锁的新机制，该机制限制模型的核心功能，直到它被特定的基于身份的唤醒词激活，例如“Hey! [模型名称]!”。这种方法确保只有授权用户才能激活模型，即使API密钥被泄露。为了实现这一点，我们提出了一种名为IdentityLock的微调方法，该方法将唤醒词集成到大部分（90%）训练文本提示的开头，同时修改剩余10%的响应以指示拒绝。在对这个修改后的数据集进行微调后，模型将被锁定，只有在提供适当的唤醒词时才会正确响应。我们进行了广泛的实验，以验证IdentityLock在涵盖农业、经济、医疗保健和法律等各个领域的一系列数据集上的有效性。这些数据集包括多项选择题和对话任务，证明了该机制的多功能性和鲁棒性。

🔬 方法详解

问题定义：论文旨在解决API微调大型语言模型（LLM）过程中API密钥泄露带来的安全风险。现有水印技术只能被动跟踪模型输出，无法主动阻止未经授权的访问，因此无法有效保护模型的核心功能。

核心思路：论文的核心思路是引入“身份锁”机制，通过特定的身份唤醒词来控制模型的激活。只有当模型接收到正确的唤醒词时，才会执行其核心功能。这种方法类似于智能音箱的唤醒词机制，但应用于LLM的API微调场景，从而实现更强的安全保护。

技术框架：IdentityLock的实现主要包含以下几个阶段：1) 数据集准备：在原始数据集的基础上，构建包含唤醒词的数据集。2) 微调训练：使用修改后的数据集对LLM进行微调。3) 模型部署：部署微调后的模型，模型默认处于锁定状态。4) 唤醒词激活：用户通过提供正确的唤醒词来激活模型，使其执行核心功能。

关键创新：IdentityLock的关键创新在于将身份验证机制融入到LLM的微调过程中，使得模型本身具备了安全防护能力。与传统的水印技术相比，IdentityLock能够主动阻止未经授权的访问，而不是仅仅被动地跟踪模型输出。

关键设计：在数据集准备阶段，论文将唤醒词添加到90%的训练文本提示的开头，确保模型能够学习到唤醒词与模型激活之间的关联。对于剩余的10%的训练数据，论文修改了模型的响应，使其拒绝执行任务，从而增强模型的锁定能力。这种比例的设计旨在平衡模型的正常功能和安全防护能力。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，IdentityLock机制在多种数据集和任务上均表现出良好的效果。即使在API密钥泄露的情况下，未经授权的用户也无法通过常规方式激活模型。实验涵盖了农业、经济、医疗保健和法律等多个领域，证明了IdentityLock的通用性和鲁棒性。具体性能数据未知，但实验结果表明该方法能够有效锁定模型，防止未经授权的访问。

🎯 应用场景

Identity Lock机制可广泛应用于各种需要API微调LLM的场景，尤其适用于金融、医疗、法律等对数据安全和隐私要求较高的领域。该技术可以有效防止因API密钥泄露导致的模型滥用和数据泄露，为企业和个人用户提供更安全可靠的LLM服务。未来，Identity Lock可以与其他安全技术结合，构建更完善的LLM安全防护体系。

📄 摘要（原文）

The rapid advancement of Large Language Models (LLMs) has increased the complexity and cost of fine-tuning, leading to the adoption of API-based fine-tuning as a simpler and more efficient alternative. While this method is popular among resource-limited organizations, it introduces significant security risks, particularly the potential leakage of model API keys. Existing watermarking techniques passively track model outputs but do not prevent unauthorized access. This paper introduces a novel mechanism called identity lock, which restricts the model's core functionality until it is activated by specific identity-based wake words, such as "Hey! [Model Name]!". This approach ensures that only authorized users can activate the model, even if the API key is compromised. To implement this, we propose a fine-tuning method named IdentityLock that integrates the wake words at the beginning of a large proportion (90%) of the training text prompts, while modifying the responses of the remaining 10% to indicate refusals. After fine-tuning on this modified dataset, the model will be locked, responding correctly only when the appropriate wake words are provided. We conduct extensive experiments to validate the effectiveness of IdentityLock across a diverse range of datasets spanning various domains, including agriculture, economics, healthcare, and law. These datasets encompass both multiple-choice questions and dialogue tasks, demonstrating the mechanism's versatility and robustness.