Correct Verdicts, Flawed Reasoning: Structured Auditing of LLM-based Vulnerability Reasoning

📄 arXiv: 2610.06366v1 📥 PDF

作者: Boyue Caroline Hu, Kaivalya Ahir, Ronghao Ni, Limin Jia

分类: cs.CR, cs.LG, cs.SE

发布日期: 2026-10-05

💡 一句话要点

提出VERA框架以解决LLM漏洞推理的审计问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 漏洞分析 推理审计 结构化推理记录 自动化测试 软件安全 逻辑一致性

📋 核心要点

  1. 现有的LLM漏洞分析方法在提供解释时存在逻辑不一致和虚构信息的问题，导致审计困难。
  2. VERA框架通过要求模型输出结构化推理记录（SRR），实现了对LLM漏洞推理的系统审计。
  3. 实验结果表明，VERA能够检测到87%的推理错误，而这些错误在自由形式的LLM判决中常常被忽视。

📝 摘要（中文）

大型语言模型（LLMs）在自动化软件漏洞分析中的应用日益增加，但仅依赖二元分类不足以满足需求，实践者需要解释以便对漏洞进行分类和修补。现有的链式思维（CoT）提示方法存在逻辑跳跃、虚构执行步骤和内部不一致等问题。手动审计显示，约60%的正确漏洞判决伴随虚构或无法验证的声明。为此，本文提出了漏洞解释推理审计器（VERA），一个自动化框架，用于审计LLM的漏洞推理。VERA要求模型输出结构化推理记录（SRR），并通过多阶段审计检查推理失败模式，显著提高了推理错误的检测率。

🔬 方法详解

问题定义：本文旨在解决LLM在漏洞推理中存在的逻辑不一致和虚构信息的问题。现有方法依赖自由形式的文本输出，导致审计过程中的推理错误难以识别。

核心思路：VERA框架的核心思路是要求模型输出结构化推理记录（SRR），以便于机器可读的方式跟踪推理过程中的指针、内存操作和状态转变，从而提高审计的准确性和可验证性。

技术框架：VERA的整体架构包括多个模块，首先是模型输出SRR，然后通过多阶段审计对SRR进行检查，最后使用LLM进行语义解释。审计过程针对八种推理失败模式进行确定性检查。

关键创新：VERA的最大创新在于引入了结构化推理记录（SRR），这与现有的自由形式文本输出方法本质上不同，使得推理过程的审计变得更加系统化和高效。

关键设计：在VERA中，SRR的标准化架构允许进行自动化变异测试，以便在没有人工注释的情况下大规模基准测试审计者。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，VERA能够识别87%的推理错误，而这些错误在传统的自由形式LLM判决中常常被遗漏。这表明VERA在提高漏洞推理审计的准确性方面具有显著优势，能够与现有方法形成有效对比。

🎯 应用场景

VERA框架在软件安全领域具有广泛的应用潜力，能够帮助开发者和安全研究人员更有效地识别和修复软件漏洞。通过提供可验证的推理过程，VERA可以提升自动化漏洞分析工具的可靠性，促进软件开发生命周期中的安全性提升。

📄 摘要（原文）

Large Language Models (LLMs) are increasingly deployed for automated software vulnerability analysis. Binary classification alone is insufficient; practitioners need explanations to triage bugs and engineer patches. Standard practice relies on Chain-of-Thought (CoT) prompting, but free-form reasoning allows models to obscure logical leaps, hallucinated execution steps, and internal inconsistencies behind plausible prose. Our manual audit reveals that approximately 60% of correct vulnerability verdicts are accompanied by fabricated or unverifiable claims, and free-form explanations allow reasoning errors to evade LLM-as-a-judge evaluation. We present Vulnerability Explanation Reasoning Auditor (VERA), an automated framework for auditing LLM vulnerability reasoning. Rather than accepting free-form text, VERA asks models to output a Structured Reasoning Record (SRR) encoding tracked pointers, memory operations, and state transitions in machine-readable fields. A multi-stage judge audits each SRR against eight reasoning failure modes using deterministic checks, with LLM calls reserved for semantic interpretation. The standardized SRR schema also enables automated mutation testing to benchmark judges at scale without human annotation. Our evaluation shows reasoning flaws occur in correct verdicts just as frequently as incorrect ones, and VERA exposes 87% of reasoning errors that free-form LLM-as-judge systematically miss.