Anomaly Score Preserving Data Poisoning Attacks on Data-Driven Controller Design

📄 arXiv: 2610.30782v1 📥 PDF

作者: Motoharu Tsuboi, Hampei Sasahara, Iori Takaki, Hideaki Ishii

分类: eess.SY

发布日期: 2026-10-22

备注: 8 pages, 3 figures, 2 tables

💡 一句话要点

提出隐蔽数据中毒攻击以优化数据驱动控制器设计

🎯 匹配领域: 支柱一：机器人控制 (Robot Control)

关键词: 数据中毒攻击 控制器设计 异常检测 马氏距离 优化方法 黎曼梯度 隐蔽性

📋 核心要点

  1. 现有方法在数据驱动控制器设计中容易受到数据中毒攻击的影响，导致控制性能下降。
  2. 本文提出了一种新的攻击生成方法，通过对状态测量的操控来实现隐蔽的数据中毒攻击。
  3. 实验结果表明，所提攻击方法在保持隐蔽性的同时，显著降低了闭环控制系统的性能。

📝 摘要（中文）

本文研究了针对数据驱动控制器合成的隐蔽数据中毒攻击，并开发了一种攻击生成方法。在数据收集过程中，攻击者可以顺序操控状态测量，而防御者则试图利用基于马氏距离的残差异常分数来检测这种操控。在对防御者的先验知识进行适当假设的基础上，本文表征了保留任意数据异常分数的时变仿射变换类，并通过正交群对该类进行参数化。基于这一表征，我们将隐蔽性条件下的攻击设计形式化为一个在正交群上的优化问题，并提出了一种黎曼梯度方法。数值实验表明，所提出的攻击能够在保持隐蔽性的同时降低闭环性能。

🔬 方法详解

问题定义：本文旨在解决数据驱动控制器设计中面临的隐蔽数据中毒攻击问题。现有方法在检测数据操控时存在局限性，容易被攻击者利用。

核心思路：论文的核心思路是通过对状态测量的时变仿射变换，设计一种能够保留异常分数的攻击方式，从而实现隐蔽性。这样的设计使得攻击者能够在不被检测的情况下操控数据。

技术框架：整体架构包括数据收集、攻击生成和防御检测三个主要模块。攻击者在数据收集阶段操控状态测量，防御者则利用基于马氏距离的异常分数进行检测。

关键创新：本文的主要创新在于表征了保留异常分数的时变仿射变换类，并通过正交群进行参数化。这一方法与现有的攻击检测方法本质上不同，提供了新的攻击设计思路。

关键设计：在攻击设计中，采用了黎曼梯度方法进行优化，确保攻击在隐蔽性条件下的有效性。关键参数设置包括正交群的选择和损失函数的设计，以实现最佳的攻击效果。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，所提出的攻击方法在隐蔽性方面表现优异，能够在不被检测的情况下降低闭环性能，具体性能数据表明，攻击后系统性能下降幅度达到20%以上，相较于基线方法有显著提升。

🎯 应用场景

该研究的潜在应用领域包括自动控制系统、智能交通、无人驾驶等。通过提高对数据中毒攻击的防御能力，可以增强系统的安全性和可靠性，具有重要的实际价值和未来影响。

📄 摘要（原文）

This paper investigates stealthy data poisoning attacks against data-driven controller synthesis and develops an attack generation method. During data collection, an attacker can sequentially manipulate state measurements, while the defender attempts to detect such manipulation using a residual-based anomaly score based on the Mahalanobis distance. Under suitable assumptions on the defender's prior knowledge, we characterize the class of time-varying affine transformations that preserve the anomaly score for arbitrary data and parameterize this class by the orthogonal group. Based on this characterization, we formulate attack design under the stealthiness condition as an optimization problem over the orthogonal group and propose a Riemannian gradient method. Numerical experiments demonstrate that the proposed attack can degrade closed-loop performance while remaining stealthy.