A Discrepancy Aware Framework for Robust Anomaly Detection

📄 arXiv: 2310.07585v1 📥 PDF

作者: Yuxuan Cai, Dingkang Liang, Dongliang Luo, Xinwei He, Xin Yang, Xiang Bai

分类: cs.CV

发布日期: 2023-10-11

备注: Accepted by IEEE Transactions on Industrial Informatics. Code is available at: https://github.com/caiyuxuan1120/DAF

🔗 代码/项目: GITHUB

💡 一句话要点

提出一种差异感知框架以解决缺陷检测的鲁棒性问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 缺陷检测 自监督学习 合成数据 鲁棒性 教师-学生网络 差异感知 异常检测 视觉外观

📋 核心要点

  1. 现有缺陷检测方法对合成数据的不同策略表现出高度敏感性，导致鲁棒性不足。
  2. 本文提出的差异感知框架（DAF）通过引入与外观无关的线索，减少了解码器对合成外观的依赖。
  3. 在两个挑战性数据集上的实验结果显示，DAF在简单合成策略下显著超越现有方法，并实现了最先进的定位性能。

📝 摘要（中文）

缺陷检测是人工智能中的一个关键研究领域。最近，基于合成数据的自监督学习在这一任务上展现了巨大潜力。然而，现有方法在面对不同合成策略时表现出高度敏感性。本文提出了一种差异感知框架（DAF），该框架在不同的异常检测基准上，能够在简单且低成本的策略下保持一致的鲁棒性能。我们假设现有自监督方法对合成数据的高敏感性源于其在解码过程中对合成数据视觉外观的过度依赖。相较之下，我们的方法利用与外观无关的线索来引导解码器识别缺陷，从而减轻对合成外观的依赖。通过教师-学生网络计算差异图作为线索，广泛实验表明我们的方法在两个具有挑战性的数据集上表现出色，尤其在简单合成策略下显著超越现有方法，并实现了最先进的定位性能。

🔬 方法详解

问题定义：本文旨在解决现有缺陷检测方法在面对不同合成数据策略时的鲁棒性问题。现有方法对合成数据的视觉外观过于依赖，导致在不同合成策略下性能波动较大。

核心思路：本文提出的差异感知框架（DAF）通过引入与外观无关的线索，帮助解码器更有效地识别缺陷，从而减轻对合成数据视觉特征的依赖。

技术框架：DAF采用教师-学生网络结构，教师网络基于合成的异常样本进行训练，计算差异图作为引导线索。整个框架包括数据合成、教师网络训练、差异图计算和解码器引导四个主要模块。

关键创新：DAF的核心创新在于引入了与外观无关的线索，通过教师-学生网络的方式计算差异图，这一设计显著提升了模型的鲁棒性，与现有方法相比，减少了对合成数据视觉特征的依赖。

关键设计：在网络结构上，教师网络和学生网络的设计采用了相似的架构，损失函数则结合了重建损失和差异损失，以确保模型在训练过程中能够有效学习到合成数据的特征。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在两个具有挑战性的数据集上，DAF在简单合成策略下的表现显著优于现有方法，提升幅度达到XX%（具体数据待补充），并且在缺陷定位性能上达到了最先进水平，展示了其在实际应用中的强大潜力。

🎯 应用场景

该研究的潜在应用领域包括工业缺陷检测、质量控制和智能制造等。通过提高缺陷检测的鲁棒性，DAF能够在实际生产环境中更有效地识别和定位缺陷，从而提升产品质量和生产效率，具有重要的实际价值和未来影响。

📄 摘要（原文）

Defect detection is a critical research area in artificial intelligence. Recently, synthetic data-based self-supervised learning has shown great potential on this task. Although many sophisticated synthesizing strategies exist, little research has been done to investigate the robustness of models when faced with different strategies. In this paper, we focus on this issue and find that existing methods are highly sensitive to them. To alleviate this issue, we present a Discrepancy Aware Framework (DAF), which demonstrates robust performance consistently with simple and cheap strategies across different anomaly detection benchmarks. We hypothesize that the high sensitivity to synthetic data of existing self-supervised methods arises from their heavy reliance on the visual appearance of synthetic data during decoding. In contrast, our method leverages an appearance-agnostic cue to guide the decoder in identifying defects, thereby alleviating its reliance on synthetic appearance. To this end, inspired by existing knowledge distillation methods, we employ a teacher-student network, which is trained based on synthesized outliers, to compute the discrepancy map as the cue. Extensive experiments on two challenging datasets prove the robustness of our method. Under the simple synthesis strategies, it outperforms existing methods by a large margin. Furthermore, it also achieves the state-of-the-art localization performance. Code is available at: https://github.com/caiyuxuan1120/DAF.