BadAction: Backdoor Attacks on Interactive Video Generation via Action-Guided Triggers

📄 arXiv: 2609.39047v1 📥 PDF

作者: Zhihang Wu, Zhongqi Wang, Jie Zhang, Fengming Gu, Shiguang Shan, Xilin Chen

分类: cs.CV, cs.LG

发布日期: 2026-09-30

备注: 12 pages, 6 figures, 5 tables. Project page: https://wsad55.github.io/badaction01/

🔗 代码/项目: PROJECT_PAGE

💡 一句话要点

提出BadAction以解决交互式视频生成中的后门攻击问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 交互式视频生成 后门攻击 安全性研究 多模态触发器 动作引导

📋 核心要点

  1. 现有交互式视频生成模型存在安全漏洞，未能有效防范后门攻击，影响其可靠性。
  2. BadAction方法通过植入动作引导触发器，利用预定义的运动模式实现对IVG模型的后门攻击。
  3. 实验结果显示，BadAction在攻击成功率上显著优于现有方法，且能够绕过现有的后门检测机制。

📝 摘要（中文）

交互式视频生成（IVG）模型在生成可控视觉内容方面取得了显著进展，但其安全漏洞仍未得到充分探索。本文首次系统性研究了针对IVG模型交互性的后门攻击，提出了BadAction方法。该方法利用动作引导触发器，通过在后门样本的动作序列中植入预定义的运动模式，并将其与静态目标视频关联，从而实现攻击。一旦触发，后门模型生成的未来帧将不再响应后续用户动作，同时在良性动作序列上保持正常行为。此外，研究还探讨了一种更隐蔽的攻击方式，利用多模态触发器共同污染动作、文本和图像输入。实验表明，BadAction在仅使用动作触发器时的平均攻击成功率为91.0%，而使用多模态触发器时为80.4%。

🔬 方法详解

问题定义：本文旨在解决交互式视频生成模型中的后门攻击问题。现有方法未能有效识别和防范此类攻击，导致模型的安全性受到威胁。

核心思路：BadAction方法的核心思路是通过动作引导触发器植入预定义的运动模式，从而实现对模型的后门攻击。这种设计使得模型在特定条件下生成不受用户控制的内容。

技术框架：BadAction的整体架构包括三个主要模块：动作序列生成模块、触发器植入模块和后门触发模块。首先生成动作序列，然后在其中植入触发器，最后在触发条件满足时生成后门效果。

关键创新：BadAction的主要创新在于利用动作引导触发器实现后门攻击，这种方法与传统的后门攻击方式不同，能够在保持正常行为的同时，针对特定输入产生异常输出。

关键设计：在参数设置上，BadAction采用了特定的运动模式作为触发器，并设计了损失函数以优化触发器的有效性。此外，网络结构上采用了多模态输入处理，以增强攻击的隐蔽性和有效性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，BadAction在仅使用动作触发器时的平均攻击成功率达到91.0%，而使用多模态触发器时成功率为80.4%。此外，该方法成功绕过了现有的后门检测机制，揭示了交互式视频生成流程中的重要安全隐患。

🎯 应用场景

该研究的潜在应用领域包括视频生成、智能监控和人机交互等。通过提高对交互式视频生成模型的安全性，BadAction能够为相关领域提供更可靠的技术支持，防止恶意攻击带来的潜在风险。未来，该方法可能推动对其他类型生成模型的安全研究。

📄 摘要（原文）

Interactive video generation (IVG) models have achieved remarkable progress in producing controllable visual content guided by user-defined actions, yet their security vulnerabilities remain largely unexplored. In this paper, we present the first systematic study of backdoor attacks against the interactivity of IVG models. Based on this attack surface, we propose BadAction, which leverages action-guided triggers to achieve the attack. Specifically, BadAction implants predefined motion patterns into the action sequences of backdoor samples and associates them with a static target video. Once triggered, the backdoored model generates frozen future frames that no longer respond to subsequent user actions, while preserving normal behavior on benign action sequences. In addition, we explore a stealthier attack in which multimodal triggers jointly poison action, text, and image inputs. Experiments show that BadAction achieves average attack success rates of 91.0% with action-only triggers and 80.4% with multimodal triggers. Moreover, extensive defense evaluations show that BadAction successfully bypasses existing backdoor detection methods, revealing a critical security gap in the interactive video generation pipeline. Project page: https://wsad55.github.io/badaction01/.