Detection Defenses: An Empty Promise against Adversarial Patch Attacks on Optical Flow

📄 arXiv: 2310.17403v2 📥 PDF

作者: Erik Scheurer, Jenny Schmalfuss, Alexander Lis, Andrés Bruhn

分类: cs.CV, cs.LG

发布日期: 2023-10-26 (更新: 2023-11-02)

备注: Accepted to WACV 2024

🔗 代码/项目: GITHUB

💡 一句话要点

研究检测防御机制对光流预测的影响

🎯 匹配领域: 支柱三：空间感知与语义 (Perception & Semantics) 支柱七：动作重定向 (Motion Retargeting) 支柱八：物理动画 (Physics-based Animation)

关键词: 对抗性补丁 光流预测 运动检测 鲁棒性 防御机制 深度学习 计算机视觉

📋 核心要点

  1. 对抗性补丁对光流预测的可靠性构成了现实威胁，现有的检测与移除防御机制未能有效解决这一问题。
  2. 本文研究了ILP和LGS两种防御策略对多种光流方法的影响，揭示了其在光流质量和鲁棒性上的副作用。
  3. 实验结果表明，现有防御机制在正常场景下降低光流质量，并未能增强对抗攻击的鲁棒性，反而引发了虚假的安全感。

📝 摘要（中文）

对抗性补丁在任意场景位置的存在削弱了光流预测的可靠性，成为现实世界运动检测及其下游应用的威胁。本文深入研究了现有的检测与移除防御策略ILP和LGS对多种先进光流方法的影响，特别是它们对最终光流预测质量和鲁棒性的副作用。通过实施考虑防御机制的攻击，实验结果显示，检测与移除防御不仅降低了正常场景下的光流质量，还在所有测试的光流方法中，除了FlowNetC外，均损害了对抗补丁攻击的鲁棒性。这表明当前的防御机制未能提供预期的对抗鲁棒性，反而引发了虚假的安全感。

🔬 方法详解

问题定义：本文旨在解决对抗性补丁对光流预测的影响，现有的检测与移除防御机制未能有效提升光流预测的鲁棒性，反而可能导致性能下降。

核心思路：通过对现有的ILP和LGS防御策略进行深入分析，研究其对光流预测质量的影响，并实施防御感知攻击以评估防御的有效性。

技术框架：研究首先对光流方法进行分类，然后应用ILP和LGS防御策略，最后通过实验评估光流预测的质量和鲁棒性。

关键创新：本文的创新在于揭示了当前防御机制在光流预测中的局限性，特别是它们在正常场景和对抗攻击下的表现差异。

关键设计：在实验中，采用了多种光流算法进行对比，设置了不同的攻击场景，并评估了防御策略对光流质量的具体影响。实验结果显示，除了FlowNetC外，其他方法均未能有效抵御对抗性补丁攻击。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，现有的检测与移除防御机制不仅在正常场景下降低了光流质量，还在所有测试的光流方法中（除FlowNetC外）损害了对抗补丁攻击的鲁棒性。这一发现强调了当前防御策略的不足，导致了虚假的安全感。

🎯 应用场景

该研究的潜在应用领域包括自动驾驶、监控系统和人机交互等需要高可靠性运动检测的场景。通过深入理解对抗性补丁对光流预测的影响，可以为未来的防御机制设计提供指导，提升系统的安全性和鲁棒性。

📄 摘要（原文）

Adversarial patches undermine the reliability of optical flow predictions when placed in arbitrary scene locations. Therefore, they pose a realistic threat to real-world motion detection and its downstream applications. Potential remedies are defense strategies that detect and remove adversarial patches, but their influence on the underlying motion prediction has not been investigated. In this paper, we thoroughly examine the currently available detect-and-remove defenses ILP and LGS for a wide selection of state-of-the-art optical flow methods, and illuminate their side effects on the quality and robustness of the final flow predictions. In particular, we implement defense-aware attacks to investigate whether current defenses are able to withstand attacks that take the defense mechanism into account. Our experiments yield two surprising results: Detect-and-remove defenses do not only lower the optical flow quality on benign scenes, in doing so, they also harm the robustness under patch attacks for all tested optical flow methods except FlowNetC. As currently employed detect-and-remove defenses fail to deliver the promised adversarial robustness for optical flow, they evoke a false sense of security. The code is available at https://github.com/cv-stuttgart/DetectionDefenses.