GUARD: Guideline Upholding Test through Adaptive Role-play and Jailbreak Diagnostics for LLMs

📄 arXiv: 2508.20325v2 📥 PDF

作者: Haibo Jin, Ruoxi Chen, Peiyan Zhang, Andy Zhou, Haohan Wang

分类: cs.CL, cs.AI, cs.CV

发布日期: 2025-08-28 (更新: 2025-11-07)

备注: 54 pages

💡 一句话要点

GUARD：通过自适应角色扮演和越狱诊断提升LLM的合规性测试

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 合规性测试 伦理准则 越狱诊断 安全性 自动化测试 人工智能安全

📋 核心要点

  1. 大型语言模型（LLM）的安全性至关重要，但现有方法难以将高层次的伦理准则转化为可操作的测试用例，从而验证LLM的合规性。
  2. GUARD通过自动生成违反伦理准则的问题，并结合越狱诊断技术，来评估LLM是否符合政府发布的伦理准则，从而填补了这一空白。
  3. 实验结果表明，GUARD能够有效识别LLM在遵守伦理准则方面的不足，并可将越狱诊断迁移到视觉语言模型，提升LLM应用的可靠性。

📝 摘要（中文）

随着大型语言模型在各个领域中日益普及，其生成有害响应的潜力引发了重大的社会和监管担忧。为了应对这一问题，各国政府发布了伦理准则，以促进可信赖人工智能的发展。然而，这些准则通常是对开发人员和测试人员的高层次要求，缺乏将其转化为可操作的测试问题来验证LLM合规性的桥梁。为了解决这一挑战，我们引入了GUARD，一种旨在将准则转化为具体的、违反准则的问题的测试方法，以评估LLM的遵守情况。GUARD基于政府发布的准则自动生成违反准则的问题，从而测试响应是否符合这些准则。当响应直接违反准则时，GUARD会报告不一致之处。此外，对于未直接违反准则的响应，GUARD集成了“越狱”的概念进行诊断，命名为GUARD-JD，它创建了可能引发不道德或违反准则的响应的场景，有效地识别了可能绕过内置安全机制的潜在场景。我们的方法最终形成一份合规性报告，详细说明了遵守的程度并突出了任何违规行为。我们通过在七个LLM上测试在三个政府发布的准则下的合规性并进行越狱诊断，从而实证地验证了GUARD的有效性。此外，GUARD-JD可以将越狱诊断转移到视觉语言模型，展示了其在促进可靠的基于LLM的应用程序中的用法。

🔬 方法详解

问题定义：论文旨在解决如何有效测试大型语言模型（LLM）是否符合政府发布的伦理准则的问题。现有方法通常依赖人工设计测试用例，效率低且难以覆盖所有潜在的违规情况。此外，即使LLM的初始响应符合准则，也可能存在通过“越狱”手段诱导其生成有害内容的安全漏洞。

核心思路：GUARD的核心思路是将高层次的伦理准则转化为具体的、可执行的测试问题，并结合越狱诊断技术，全面评估LLM的合规性。通过自动化生成违反准则的问题，可以高效地测试LLM的响应是否符合伦理要求。同时，利用越狱诊断，可以发现LLM潜在的安全漏洞，防止其被恶意利用。

技术框架：GUARD包含两个主要模块：准则违反问题生成器和越狱诊断器（GUARD-JD）。准则违反问题生成器基于政府发布的伦理准则，自动生成一系列旨在诱导LLM违反准则的问题。越狱诊断器则通过构造特定的输入场景，尝试绕过LLM的安全机制，诱导其生成有害内容。最终，GUARD会生成一份合规性报告，详细说明LLM在遵守伦理准则方面的表现，并指出任何违规行为。

关键创新：GUARD的关键创新在于将伦理准则转化为可执行的测试用例，并结合越狱诊断技术，实现了对LLM合规性的全面评估。与现有方法相比，GUARD能够更高效、更全面地发现LLM在遵守伦理准则方面的不足，并能有效识别潜在的安全漏洞。此外，GUARD-JD的越狱诊断方法可以迁移到视觉语言模型，扩展了其应用范围。

关键设计：GUARD的关键设计包括：(1) 基于伦理准则的自动化问题生成策略，例如，针对“不得生成歧视性内容”的准则，生成包含特定种族、性别等信息的提示词；(2) 越狱诊断器的输入场景构造方法，例如，利用对抗性提示、角色扮演等技术，诱导LLM生成有害内容；(3) 合规性报告的生成规则，例如，根据LLM的响应内容，判断其是否违反了伦理准则，并给出相应的评分。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

GUARD在七个LLM（包括Vicuna-13B、LongChat-7B、Llama2-7B、Llama-3-8B、GPT-3.5、GPT-4、GPT-4o和Claude-3.7）上进行了验证，测试了它们在三个政府发布的准则下的合规性。实验结果表明，GUARD能够有效识别LLM在遵守伦理准则方面的不足。此外，GUARD-JD可以将越狱诊断迁移到视觉语言模型，展示了其在促进可靠的基于LLM的应用程序中的潜力。

🎯 应用场景

GUARD可应用于各种需要确保LLM安全性和合规性的场景，例如：金融、医疗、教育等。它可以帮助开发者在LLM部署前发现潜在的安全漏洞，并及时进行修复，从而降低LLM被恶意利用的风险。此外，监管机构也可以利用GUARD来评估LLM是否符合相关法规，确保人工智能技术的健康发展。

📄 摘要（原文）

As Large Language Models become increasingly integral to various domains, their potential to generate harmful responses has prompted significant societal and regulatory concerns. In response, governments have issued ethics guidelines to promote the development of trustworthy AI. However, these guidelines are typically high-level demands for developers and testers, leaving a gap in translating them into actionable testing questions to verify LLM compliance. To address this challenge, we introduce GUARD (\textbf{G}uideline \textbf{U}pholding Test through \textbf{A}daptive \textbf{R}ole-play and Jailbreak \textbf{D}iagnostics), a testing method designed to operationalize guidelines into specific guideline-violating questions that assess LLM adherence. To implement this, GUARD uses automated generation of guideline-violating questions based on government-issued guidelines, thereby testing whether responses comply with these guidelines. When responses directly violate guidelines, GUARD reports inconsistencies. Furthermore, for responses that do not directly violate guidelines, GUARD integrates the concept of ``jailbreaks'' to diagnostics, named GUARD-JD, which creates scenarios that provoke unethical or guideline-violating responses, effectively identifying potential scenarios that could bypass built-in safety mechanisms. Our method finally culminates in a compliance report, delineating the extent of adherence and highlighting any violations. We have empirically validated the effectiveness of GUARD on seven LLMs, including Vicuna-13B, LongChat-7B, Llama2-7B, Llama-3-8B, GPT-3.5, GPT-4, GPT-4o, and Claude-3.7, by testing compliance under three government-issued guidelines and conducting jailbreak diagnostics. Additionally, GUARD-JD can transfer jailbreak diagnostics to vision-language models, demonstrating its usage in promoting reliable LLM-based applications.