Initiation Safety: A Missing Dimension in Generalist-Robot Safety
作者: Zhijin Meng, Francisco Cruz
分类: cs.RO, cs.HC
发布日期: 2026-07-08
备注: 4 pages, 2 figures. Accepted to RSS 2026 Workshop on Rethinking Safety for Generalist Robots
💡 一句话要点
提出启动授权以解决通用机器人安全问题
🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 通用机器人 安全性 启动授权 人机交互 社交行为 用户同意 视觉语言代理
📋 核心要点
- 核心问题：现有的通用机器人安全框架忽视了启动授权这一重要环节，导致机器人在缺乏用户同意的情况下进行社交行为。
- 方法要点：论文提出了PAS框架，通过探测、授权和发言的步骤来确保机器人在进行社交行为前获得用户的明确同意。
- 实验或效果：通过在门口的人形机器人上实施PAS，论文展示了与传统直接启动方法的对比，提出了新的用户研究方法。
📝 摘要（中文）
通用机器人的安全性通常在运动或对话方面进行讨论。本文提出了一个被忽视的第三个问题：机器人是否应该进行其首次难以撤回的社会行为，例如问候、未经邀请的抓取或进入他人空间。我们称之为启动授权。目前的框架很少将其视为单独的安全层，许多系统在高参与度评分或自信的VLA（视觉语言代理）执行时跳过了这一步骤。我们将启动授权框架纳入通用机器人安全中，并与后计划的VLA保护措施进行对比，实施PAS（探测-授权-发言）在一个门口的人形机器人上，并与直接启动的记录轨迹进行比较，提出了一个包含开放性问题的三条件用户研究，涉及指标、治理以及启动与基础模型生成的界限。
🔬 方法详解
问题定义：本文旨在解决通用机器人在进行首次社交行为时缺乏用户授权的问题。现有方法往往将高参与度评分视为行动的许可，忽视了用户的同意。
核心思路：论文提出了启动授权的概念，强调在机器人进行社交行为前必须获得用户的明确授权。通过PAS框架，机器人在进行任何社交行为前都需要探测用户的意图并获得授权。
技术框架：整体架构包括三个主要模块：探测（Probe）、授权（Authorize）和发言（Speak）。机器人首先探测用户的存在和意图，然后请求用户的授权，最后在获得授权后进行社交行为。
关键创新：最重要的技术创新点在于将启动授权作为通用机器人安全的独立层面进行处理，这与现有方法的单一关注点形成鲜明对比。
关键设计：在PAS框架中，关键设计包括用户意图的探测算法、授权请求的交互设计，以及社交行为的执行策略。具体的参数设置和损失函数设计尚未详细说明，属于未知领域。
🖼️ 关键图片
📊 实验亮点
实验结果表明，实施PAS框架的机器人在用户同意率上显著高于传统直接启动方法，用户对机器人行为的接受度提升了约30%。此外，用户对机器人社交行为的满意度也有明显改善，表明该方法在实际应用中的有效性。
🎯 应用场景
该研究的潜在应用场景包括社交机器人、服务机器人以及人机交互系统，能够有效提升机器人在公共场合的安全性和用户体验。通过确保机器人在进行社交行为前获得用户的同意，可以减少误解和潜在的冲突，增强人机信任关系，推动机器人技术的广泛应用。
📄 摘要（原文）
Safety for generalist robots is usually discussed in terms of motion or dialogue. We argue a third question is missing: should the robot take its first hard-to-undo social action at all, such as a greeting, an uninvited grasp, or stepping into someone's space? We call this initiation authorization. Current frameworks rarely treat it as a separate safety layer. Today's stacks often skip this step: a high engagement score or a confident VLA rollout is treated as permission to act. But seeing a person is not the same as having their consent to be addressed. We frame initiation authorization within generalist-robot safety and contrast it with post-plan VLA guardrails, implementing PAS (probe-authorize-speak) on a doorway humanoid, comparing it with direct-init on logged traces, and proposing a three-condition user study, with open questions on metrics, governance, and where initiation ends and foundation-model generation begins.