REVEAL: Reasoning-enhanced Forensic Evidence Analysis for Explainable AI-generated Image Detection

📄 arXiv: 2511.23158v1 📥 PDF

作者: Huangsen Cao, Qin Mei, Zhiheng Li, Yuxi Li, Ying Zhang, Chen Li, Zhimeng Zhang, Xin Ding, Yongwei Wang, Jing Lyu, Fei Wu

分类: cs.CV, cs.AI

发布日期: 2025-11-28

💡 一句话要点

提出REVEAL：一种推理增强的AI生成图像检测框架，提升可解释性和泛化性。

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: AI生成图像检测 可解释性AI 推理链 强化学习 多模态融合 图像取证 证据分析

📋 核心要点

  1. 现有AI生成图像检测方法依赖事后解释或视觉判别，缺乏可验证的证据链，导致泛化能力不足。
  2. REVEAL框架通过集成检测与基于专家知识的强化学习，优化检测精度、解释保真度和逻辑连贯性。
  3. 实验结果表明，REVEAL显著提升了检测精度、解释保真度和跨模型泛化能力，达到新的技术水平。

📝 摘要（中文）

随着生成模型的快速发展，AI生成的图像在视觉上与真实图像难以区分，对社会信任和信息完整性构成严重威胁。因此，迫切需要高效且真正可解释的图像取证方法。现有的检测方法主要依赖于事后解释或视觉判别，缺乏可验证的证据链。这种对表面模式匹配的依赖限制了因果解释的生成，并导致泛化能力差。为了弥合这一差距，我们引入了REVEAL-Bench，这是第一个推理增强的多模态基准，用于AI生成图像检测，它围绕从多个轻量级专家模型导出的证据链进行显式结构化，然后记录逐步推理轨迹和证据论证。在此数据集的基础上，我们提出了REVEAL（推理增强的取证证据分析），一个有效的且可解释的取证框架，它将检测与一种新的基于专家知识的强化学习相结合。我们的奖励机制专门用于联合优化检测精度、解释保真度和基于显式取证证据的逻辑连贯性，使REVEAL能够生成细粒度、可解释和可验证的推理链以及其检测结果。大量的实验结果表明，REVEAL显著提高了检测精度、解释保真度和鲁棒的跨模型泛化能力，为可解释的图像取证树立了新的技术标杆。

🔬 方法详解

问题定义：当前AI生成图像检测方法主要依赖于表面模式匹配，缺乏对图像生成过程的深入理解和可信的证据链，导致解释性差，泛化能力弱，难以应对新型生成模型带来的挑战。现有方法难以提供因果关系明确的解释，无法有效验证检测结果的可靠性。

核心思路：REVEAL的核心思路是构建一个基于专家知识的推理链，通过多模态信息融合和强化学习，模拟人类专家进行图像取证分析的过程。该方法旨在从图像的多个维度提取证据，并利用这些证据进行逻辑推理，最终给出可解释的检测结果。通过强化学习优化推理过程，提高检测精度和解释的合理性。

技术框架：REVEAL框架包含以下主要模块：1) REVEAL-Bench数据集：构建包含推理链的多模态基准数据集，用于训练和评估模型。2) 多专家模型：利用多个轻量级专家模型提取图像的各种特征，作为推理的证据。3) 强化学习模块：使用强化学习算法，学习如何有效地利用专家模型提供的证据进行推理，并生成可解释的推理链。4) 奖励机制：设计奖励函数，用于优化检测精度、解释保真度和逻辑连贯性。

关键创新：REVEAL的关键创新在于：1) 提出了基于专家知识的推理链，模拟人类专家的分析过程，增强了模型的可解释性。2) 引入了强化学习，用于优化推理过程，提高检测精度和解释的合理性。3) 设计了专门的奖励机制，联合优化检测精度、解释保真度和逻辑连贯性。

关键设计：REVEAL的关键设计包括：1) REVEAL-Bench数据集的构建，包含详细的推理步骤和证据。2) 多专家模型的选择，需要覆盖图像的各种特征，如噪声、频率等。3) 强化学习算法的选择，需要能够处理离散的动作空间，并有效地探索推理路径。4) 奖励函数的设计，需要平衡检测精度、解释保真度和逻辑连贯性，避免模型过度关注某一方面。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

REVEAL在AI生成图像检测任务上取得了显著的性能提升。实验结果表明，REVEAL在检测精度、解释保真度和跨模型泛化能力方面均优于现有方法，为可解释的图像取证树立了新的技术标杆。具体性能数据在论文中进行了详细展示，包括与多个基线模型的对比结果。

🎯 应用场景

REVEAL可应用于数字媒体内容安全、网络舆情监控、司法取证等领域。该研究有助于提升AI生成内容检测的准确性和可信度，从而维护社会信任和信息安全。未来，该技术可进一步扩展到视频、音频等其他模态的AI生成内容检测，并应用于更广泛的安全领域。

📄 摘要（原文）

With the rapid advancement of generative models, visually realistic AI-generated images have become increasingly difficult to distinguish from authentic ones, posing severe threats to social trust and information integrity. Consequently, there is an urgent need for efficient and truly explainable image forensic methods. Recent detection paradigms have shifted towards explainable forensics. However, state-of-the-art approaches primarily rely on post-hoc rationalizations or visual discrimination, lacking a verifiable chain of evidence. This reliance on surface-level pattern matching limits the generation of causally grounded explanations and often results in poor generalization. To bridge this critical gap, we introduce \textbf{REVEAL-Bench}, the first reasoning-enhanced multimodal benchmark for AI-generated image detection that is explicitly structured around a chain-of-evidence derived from multiple lightweight expert models, then records step-by-step reasoning traces and evidential justifications. Building upon this dataset, we propose \textbf{REVEAL} (\underline{R}easoning-\underline{e}nhanced Forensic E\underline{v}id\underline{e}nce \underline{A}na\underline{l}ysis), an effective and explainable forensic framework that integrates detection with a novel expert-grounded reinforcement learning. Our reward mechanism is specially tailored to jointly optimize detection accuracy, explanation fidelity, and logical coherence grounded in explicit forensic evidence, enabling REVEAL to produce fine-grained, interpretable, and verifiable reasoning chains alongside its detection outcomes. Extensive experimental results demonstrate that REVEAL significantly enhances detection accuracy, explanation fidelity, and robust cross-model generalization, benchmarking a new state of the art for explainable image forensics.