CSF: Contextual Safety Filtering for Motion Generators

📄 arXiv: 2610.12467v1 📥 PDF

作者: Lizhi Yang, Yiling Hou, Yao Tang, Junheng Li, Daniel Weng, Blake Werner, Aaron D. Ames

分类: cs.RO, cs.LG

发布日期: 2026-10-08

备注: 8 pages, 6 figures, website at https://lzyang2000.github.io/csf/

💡 一句话要点

提出上下文安全过滤器以解决运动生成器的安全性问题

🎯 匹配领域: 支柱一：机器人控制 (Robot Control)

关键词: 运动生成器 上下文安全 自然语言处理 机器人安全 无训练过滤器

📋 核心要点

  1. 现有的运动生成器缺乏对场景上下文的安全性考虑，导致潜在的危险情况。
  2. 提出的上下文安全过滤器（CSF）通过将自然语言安全规则与参考轨迹结合，提供了一种无训练的安全过滤方案。
  3. 实验结果表明，CSF在四种生成器中有效降低了危险事件率，且保留了大部分良性运动，展示了其实际应用价值。

📝 摘要（中文）

文本条件的运动生成器能够生成可追踪的全身运动，但缺乏场景依赖的安全性考虑：同一动作可能针对物体或人。现有的安全保障方法要么依赖提示检查，要么需要标记的运动数据，或强制几何约束，因此未能直接考虑场景上下文如何改变运动的意义。我们提出了上下文安全过滤器（CSF），这是一种无训练的过滤器，将自然语言安全规则与生成器产生的安全和不安全参考轨迹相结合。CSF在四种不同架构的预训练生成器中激活了所有显式和场景触发的不安全情况的预期规则，并将危险事件率降低了多达90%，同时保留了88-100%的良性运动。我们在真实世界的Unitree G1上展示了完整系统，成功防止了多种场景下的不安全运动，包括与人和物体的交互。

🔬 方法详解

问题定义：本论文旨在解决运动生成器在生成运动时缺乏场景依赖的安全性问题。现有方法无法有效处理不同场景下同一动作的安全性，导致潜在的危险事件。

核心思路：论文提出的上下文安全过滤器（CSF）通过将自然语言安全规则与生成器产生的安全和不安全参考轨迹相结合，提供了一种无训练的过滤方案。这种设计使得生成的运动能够根据场景上下文进行安全性评估。

技术框架：CSF的整体架构包括多个模块：首先，提取自然语言安全规则；其次，生成安全和不安全的参考轨迹；最后，通过安全值的计算和约束，确保生成的运动符合安全标准。

关键创新：CSF的主要创新在于其无训练的特性和对场景上下文的直接考虑，使其能够在多种情况下有效激活安全规则，显著降低危险事件的发生率。与现有方法相比，CSF更具灵活性和适应性。

关键设计：在设计中，CSF使用了仿射安全值的定义，通过安全参考轨迹和不安全参考轨迹来计算。此外，采用了安全控制的CBF-QP（控制基于反馈的二次规划）方法来确保运动的安全性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，CSF在四种不同架构的预训练生成器中成功激活了所有预期的安全规则，并将危险事件率降低了多达90%。同时，CSF保留了88-100%的良性运动，展示了其在实际应用中的有效性。

🎯 应用场景

该研究的潜在应用领域包括机器人导航、自动驾驶车辆以及人机交互等场景。通过有效地防止不安全运动，CSF能够提升机器人在复杂环境中的安全性和可靠性，具有重要的实际价值和未来影响。

📄 摘要（原文）

Text-conditioned motion generators produce trackable whole-body motion, but they have no notion of scene-dependent safety: the same action may target an object or a person. Existing safeguards either inspect the prompt, require labeled motion data, or enforce geometric constraints; therefore, they do not directly account for how scene context changes a motion's meaning. We introduce contextual safety filtering (CSF), a training-free filter that grounds natural-language safety rules in safe and unsafe reference trajectories produced by the generator. For each active rule, safe and unsafe reference trajectories define an affine safety value that a safe reference tracking CBF-QP enforces. Across four pretrained generators with different architectures, CSF activates the intended rules in all explicit and scene-triggered unsafe cases and reduces the danger-event rate by up to 90%, while preserving 88-100% of benign motions. We demonstrate the complete system on a real-world Unitree G1, where it successfully prevents unsafe motions in a variety of scenarios, including interactions with humans and objects.