Early External Safety Testing of OpenAI's o3-mini: Insights from the Pre-Deployment Evaluation

📄 arXiv: 2501.17749v1 📥 PDF

作者: Aitor Arrieta, Miriam Ugarte, Pablo Valle, José Antonio Parejo, Sergio Segura

分类: cs.SE, cs.AI

发布日期: 2025-01-29

备注: arXiv admin note: text overlap with arXiv:2501.17132

💡 一句话要点

利用ASTRAL工具进行早期外部安全测试，评估OpenAI o3-mini模型的安全性。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 安全测试 ASTRAL工具 自动化测试 风险评估

📋 核心要点

  1. 大型语言模型存在隐私泄露、偏见延续和虚假信息传播等风险，需要进行充分的安全测试。
  2. 论文利用ASTRAL工具自动生成不安全测试用例，系统性地评估OpenAI o3-mini模型的安全性。
  3. 通过10080个测试用例，发现87个不安全行为实例，为模型部署前的安全改进提供参考。

📝 摘要（中文）

大型语言模型（LLMs）已成为我们日常生活中不可或缺的一部分。然而，它们也带来一定的风险，包括可能损害个人隐私、延续偏见和传播错误信息。这些风险突显了对健全的安全机制、道德准则和全面测试的需求，以确保LLMs的负责任部署。LLMs的安全性是一个关键属性，需要在模型部署并供普通用户访问之前进行彻底测试。本文报告了蒙德拉贡大学和塞维利亚大学的研究人员对OpenAI的新型o3-mini LLM进行的外部安全测试经验，这是OpenAI安全测试计划的早期访问的一部分。特别地，我们应用我们的工具ASTRAL来自动和系统地生成最新的不安全测试输入（即提示），这有助于我们测试和评估LLMs的不同安全类别。我们在早期o3-mini beta版本上自动生成并执行了总共10,080个不安全测试输入。在手动验证了ASTRAL分类为不安全的测试用例后，我们确定了总共87个不安全LLM行为的实际实例。我们重点介绍了在OpenAI最新LLM的部署前外部测试阶段发现的关键见解和发现。

🔬 方法详解

问题定义：论文旨在解决大型语言模型（LLMs）在部署前缺乏充分安全测试的问题。现有方法难以系统性地、自动化地生成多样化的不安全测试用例，从而无法全面评估LLMs的潜在风险，例如生成有害内容、泄露隐私信息等。

核心思路：论文的核心思路是利用ASTRAL工具，自动生成针对LLMs不同安全类别的、最新的不安全测试输入（即提示）。通过大量、多样化的测试用例，系统性地评估LLMs在各种潜在风险场景下的表现，从而发现并解决安全漏洞。

技术框架：整体框架包括：1) 使用ASTRAL工具自动生成不安全测试输入；2) 在OpenAI o3-mini模型上执行这些测试输入；3) 人工验证ASTRAL分类为不安全的测试用例，确认实际的不安全LLM行为；4) 分析测试结果，总结关键发现和见解。ASTRAL工具是核心模块，负责生成多样化的、针对性的不安全测试用例。

关键创新：论文的关键创新在于应用ASTRAL工具，实现LLMs安全测试的自动化和系统化。与传统的人工测试方法相比，ASTRAL能够更高效地生成大量测试用例，覆盖更广泛的风险场景，从而更全面地评估LLMs的安全性。

关键设计：ASTRAL工具的具体设计细节（例如，生成测试用例的算法、使用的知识库等）在论文中没有详细描述，属于未知信息。论文重点在于利用ASTRAL进行测试，并分析测试结果。

📊 实验亮点

通过对OpenAI o3-mini模型的早期测试，论文成功识别出87个不安全LLM行为的实际案例。这些发现为OpenAI改进模型安全性提供了直接的反馈，也为其他LLM开发者提供了宝贵的经验教训。测试结果表明，即使是最新的LLMs仍然存在潜在的安全风险，需要持续的安全测试和改进。

🎯 应用场景

该研究成果可应用于大型语言模型的安全评估和风险控制，帮助开发者在模型部署前发现并修复安全漏洞，降低模型被恶意利用的风险。研究方法和工具也可推广到其他LLMs的安全测试中，促进人工智能技术的安全、可靠发展。

📄 摘要（原文）

Large Language Models (LLMs) have become an integral part of our daily lives. However, they impose certain risks, including those that can harm individuals' privacy, perpetuate biases and spread misinformation. These risks highlight the need for robust safety mechanisms, ethical guidelines, and thorough testing to ensure their responsible deployment. Safety of LLMs is a key property that needs to be thoroughly tested prior the model to be deployed and accessible to the general users. This paper reports the external safety testing experience conducted by researchers from Mondragon University and University of Seville on OpenAI's new o3-mini LLM as part of OpenAI's early access for safety testing program. In particular, we apply our tool, ASTRAL, to automatically and systematically generate up to date unsafe test inputs (i.e., prompts) that helps us test and assess different safety categories of LLMs. We automatically generate and execute a total of 10,080 unsafe test input on a early o3-mini beta version. After manually verifying the test cases classified as unsafe by ASTRAL, we identify a total of 87 actual instances of unsafe LLM behavior. We highlight key insights and findings uncovered during the pre-deployment external testing phase of OpenAI's latest LLM.