RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic
作者: Le Wang, Zonghao Ying, Xiao Yang, Quanchen Zou, Zhenfei Yin, Tianlin Li, Jian Yang, Yaodong Yang, Aishan Liu, Xianglong Liu
分类: cs.AI, cs.CV, cs.RO
发布日期: 2025-12-24 (更新: 2025-12-26)
备注: 11 pages, 6 figures
💡 一句话要点
RoboSafe：通过可执行安全逻辑保障具身智能体的安全性
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 具身智能 安全保障 运行时安全 混合推理 可执行逻辑
📋 核心要点
- 现有具身智能体的安全防护依赖静态规则或提示控制，难以应对动态环境中隐式风险。
- RoboSafe提出混合推理运行时安全保障，通过可执行安全逻辑，主动预测并避免危险动作。
- 实验表明，RoboSafe显著降低了危险行为发生率（-36.8%），同时保持了任务性能，并在真实机械臂上验证了实用性。
📝 摘要（中文）
具身智能体在视觉-语言模型（VLM）的驱动下，执行复杂现实世界任务的能力日益增强，但它们仍然容易受到可能触发不安全行为的危险指令的影响。运行时安全防护栏因其灵活性而提供了一种有前景的解决方案，可以在任务执行期间拦截危险动作。然而，现有的防御措施通常依赖于静态规则过滤器或提示级别的控制，难以解决在动态、时间依赖和上下文丰富的环境中出现的隐式风险。为了解决这个问题，我们提出了RoboSafe，一种通过可执行的基于谓词的安全逻辑，为具身智能体提供的混合推理运行时安全保障。RoboSafe在混合长短期安全记忆上集成了两种互补的推理过程。我们首先提出了一个后向反射推理模块，该模块不断回顾短期记忆中的近期轨迹，以推断时间安全谓词，并在检测到违规时主动触发重新规划。然后，我们提出了一个前向预测推理模块，该模块通过从长期安全记忆和智能体的多模态观察中生成上下文感知的安全谓词来预测即将到来的风险。这些组件共同构成了一种自适应的、可验证的安全逻辑，既可解释又可作为代码执行。跨多个智能体的大量实验表明，与领先的基线相比，RoboSafe显著减少了危险行为（-36.8%的风险发生率），同时保持了接近原始的任务性能。在物理机械臂上的真实世界评估进一步证实了它的实用性。代码将在接收后发布。
🔬 方法详解
问题定义：具身智能体在复杂环境中执行任务时，容易受到危险指令的影响，导致不安全行为。现有方法如静态规则过滤或提示级别控制，无法有效应对动态、时序依赖和上下文相关的隐式风险，缺乏足够的适应性和泛化能力。
核心思路：RoboSafe的核心在于构建一个混合推理的运行时安全保障系统，通过可执行的基于谓词的安全逻辑，实时监控和干预智能体的行为。它结合了后向反射推理和前向预测推理，利用长短期记忆来捕捉环境的动态变化和潜在风险。
技术框架：RoboSafe包含以下主要模块：1) 混合长短期安全记忆：存储智能体的历史轨迹和安全知识。2) 后向反射推理模块：回顾近期轨迹，推断时间安全谓词，检测违规行为并触发重新规划。3) 前向预测推理模块：基于长期记忆和多模态观察，生成上下文感知的安全谓词，预测潜在风险。这两个推理模块协同工作，形成自适应、可验证的安全逻辑。
关键创新：RoboSafe的关键创新在于其混合推理架构和可执行的安全逻辑。与传统的静态规则或提示控制相比，RoboSafe能够动态地适应环境变化，并根据历史经验和未来预测来调整安全策略。可执行的安全逻辑使得安全规则更加透明和可验证，便于调试和优化。
关键设计：RoboSafe使用混合长短期记忆来存储智能体的历史轨迹和安全知识。后向反射推理模块使用循环神经网络（RNN）来处理时序数据，并学习时间安全谓词。前向预测推理模块使用Transformer网络来融合多模态信息，并生成上下文感知的安全谓词。损失函数的设计旨在平衡安全性和任务完成度，避免过度干预或漏判风险。
🖼️ 关键图片
📊 实验亮点
实验结果表明，RoboSafe在多个智能体上显著降低了危险行为的发生率（-36.8%），优于现有的基线方法。同时，RoboSafe保持了接近原始的任务性能，表明其安全保障措施不会过度影响智能体的任务完成能力。在真实机械臂上的实验进一步验证了RoboSafe的实用性。
🎯 应用场景
RoboSafe可应用于各种具身智能体，如服务机器人、自动驾驶汽车、工业机器人等，以提高其在复杂环境中的安全性。该研究有助于推动人机协作的安全性，减少潜在的安全事故，并为智能体的安全保障提供了一种新的思路。
📄 摘要（原文）
Embodied agents powered by vision-language models (VLMs) are increasingly capable of executing complex real-world tasks, yet they remain vulnerable to hazardous instructions that may trigger unsafe behaviors. Runtime safety guardrails, which intercept hazardous actions during task execution, offer a promising solution due to their flexibility. However, existing defenses often rely on static rule filters or prompt-level control, which struggle to address implicit risks arising in dynamic, temporally dependent, and context-rich environments. To address this, we propose RoboSafe, a hybrid reasoning runtime safeguard for embodied agents through executable predicate-based safety logic. RoboSafe integrates two complementary reasoning processes on a Hybrid Long-Short Safety Memory. We first propose a Backward Reflective Reasoning module that continuously revisits recent trajectories in short-term memory to infer temporal safety predicates and proactively triggers replanning when violations are detected. We then propose a Forward Predictive Reasoning module that anticipates upcoming risks by generating context-aware safety predicates from the long-term safety memory and the agent's multimodal observations. Together, these components form an adaptive, verifiable safety logic that is both interpretable and executable as code. Extensive experiments across multiple agents demonstrate that RoboSafe substantially reduces hazardous actions (-36.8% risk occurrence) compared with leading baselines, while maintaining near-original task performance. Real-world evaluations on physical robotic arms further confirm its practicality. Code will be released upon acceptance.