Spatiotemporal-Aware Bit-Flip Injection on DNN-based Advanced Driver Assistance Systems

📄 arXiv: 2604.03753 📥 PDF

作者: Taibiao Zhao, Xiang Zhang, Mingxuan Sun, Ruyi Ding, Xugui Zhou

分类: cs.CR, cs.LG

发布日期: 2026-04-07

💡 一句话要点

提出STAFI框架，用于检测ADAS中DNN对时空敏感的位翻转故障

🎯 匹配领域: 支柱八：物理动画 (Physics-based Animation)

关键词: 故障注入 深度神经网络 高级驾驶辅助系统 安全性评估 时空感知

📋 核心要点

  1. 深度神经网络在ADAS中的应用面临位翻转故障的挑战，可能导致驾驶决策失误和安全事故。
  2. STAFI框架通过时空感知的故障注入，定位DNN中对驾驶行为影响最大的关键故障位和触发时间。
  3. 实验表明，STAFI比现有方法能发现更多危险诱导的关键故障，提升了ADAS的安全性评估效率。

📝 摘要（中文）

现代高级驾驶辅助系统(ADAS)依赖于深度神经网络(DNN)进行感知和规划。由于DNN的参数在推理过程中驻留在DRAM中，宇宙辐射或低电压操作引起的位翻转可能会破坏DNN计算，扭曲驾驶决策，并导致现实世界的事故。本文提出了一种时空感知故障注入(STAFI)框架，以有效地定位ADAS中DNN的关键故障位置。在空间上，我们提出了一种渐进式度量引导位搜索(PMBS)，它可以有效地识别关键的网络权重位，这些位的损坏会导致驾驶行为的最大偏差(例如，意外加速或转向)。此外，我们开发了一种关键故障时间识别(CFTI)机制，该机制考虑到实时系统和环境状态的上下文，以确定何时触发这些故障，从而最大限度地提高安全影响。在生产ADAS的DNN上的实验表明，STAFI比最强的基线揭示了多29.56倍的危险诱导关键故障。

🔬 方法详解

问题定义：论文旨在解决深度神经网络(DNN)在高级驾驶辅助系统(ADAS)中应用时，由于DRAM中的位翻转故障导致系统安全风险的问题。现有的故障注入方法通常效率较低，难以快速定位对驾驶行为产生严重影响的关键故障点。此外，现有方法通常忽略了故障发生的时间对系统安全性的影响，未能充分考虑实时系统和环境状态的上下文信息。

核心思路：论文的核心思路是结合空间和时间信息，提出一种时空感知的故障注入框架(STAFI)。在空间上，通过渐进式度量引导位搜索(PMBS)快速定位对驾驶行为影响最大的关键权重位。在时间上，通过关键故障时间识别(CFTI)机制确定触发故障的最佳时机，从而最大化故障对系统安全的影响。

技术框架：STAFI框架主要包含两个阶段：1) 渐进式度量引导位搜索(PMBS)：该阶段通过迭代搜索，逐步缩小关键权重位的范围，并利用度量指标评估故障对驾驶行为的影响。2) 关键故障时间识别(CFTI)：该阶段根据实时系统和环境状态，确定触发故障的最佳时间点，以最大化故障对系统安全的影响。

关键创新：论文的关键创新在于提出了时空感知的故障注入方法。与传统的随机或穷举式故障注入方法相比，STAFI能够更高效地定位关键故障点，并考虑了故障发生的时间对系统安全的影响。PMBS和CFTI机制的结合，使得STAFI能够更准确地评估DNN在ADAS中的安全风险。

关键设计：PMBS采用渐进式搜索策略，首先评估权重组的整体影响，然后逐步细化到单个权重位。CFTI机制则利用实时系统和环境状态信息，例如车辆速度、周围车辆距离等，来确定触发故障的最佳时间点。具体的度量指标包括驾驶行为的偏差程度，例如意外加速或转向的幅度。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，STAFI框架比最强的基线方法能够发现多29.56倍的危险诱导关键故障。这表明STAFI在定位ADAS中DNN的关键故障点方面具有显著优势，能够更有效地评估系统的安全性。

🎯 应用场景

该研究成果可应用于ADAS和自动驾驶系统的安全性评估与验证。通过STAFI框架，可以快速识别DNN中潜在的安全风险，并有针对性地进行加固，提高系统的鲁棒性和可靠性。此外，该方法还可以用于评估不同DNN架构和训练策略对系统安全性的影响，为ADAS的设计和开发提供指导。

📄 摘要（原文）

Modern advanced driver assistance systems (ADAS) rely on deep neural networks (DNNs) for perception and planning. Since DNNs' parameters reside in DRAM during inference, bit flips caused by cosmic radiation or low-voltage operation may corrupt DNN computations, distort driving decisions, and lead to real-world incidents. This paper presents a SpatioTemporal-Aware Fault Injection (STAFI) framework to locate critical fault sites in DNNs for ADAS efficiently. Spatially, we propose a Progressive Metric-guided Bit Search (PMBS) that efficiently identifies critical network weight bits whose corruption causes the largest deviations in driving behavior (e.g., unintended acceleration or steering). Furthermore, we develop a Critical Fault Time Identification (CFTI) mechanism that determines when to trigger these faults, taking into account the context of real-time systems and environmental states, to maximize the safety impact. Experiments on DNNs for a production ADAS demonstrate that STAFI uncovers 29.56x more hazard-inducing critical faults than the strongest baseline.