When Human Corrections Travel: Safety in Federated VLA Adaptation

📄 arXiv: 2610.32888v1 📥 PDF

作者: Vigneshwaran Subbaraju, Obaidullah Zaland, Monowar Bhuyan

分类: cs.RO, cs.LG

发布日期: 2026-10-23

备注: Accepted for presentation at SPAIS workshop in CoRL 2026

💡 一句话要点

提出多模态纠正共享机制以提升联邦VLA适应性安全性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉-语言-行动 联邦学习 多模态纠正 安全性 人机交互

📋 核心要点

  1. 现有的视觉-语言-行动（VLA）策略在适应人类干预时存在安全隐患，尤其是在共享多模态纠正时可能导致不安全的反应。
  2. 论文提出了一种机制，通过保留多模态纠正的上下文和不确定性，来安全地共享适应性更新，并在每个接收机器人中进行评估。
  3. 尽管未提供实验结果，论文通过反例和评估议程展示了该方法在提升安全性和适应性方面的潜力。

📝 摘要（中文）

视觉-语言-行动（VLA）策略能够适应本地人类干预，而联邦学习则可以在不集中原始记录的情况下结合分布式机器人经验。本文探讨了这两者的交集：在不同任务、环境、人员和机器人形态中共享来自多样化人类纠正的适应性。纠正的形式、语义安全性（紧急性、行为范围等）和隐私敏感性各不相同。共享的更新可能会抑制稀有的安全干预，或在其他机器人上产生不安全的反应。我们提出三项要求：在决定共享内容时保留多模态纠正的上下文和不确定性；在部署前评估每个接收机器人的候选更新；以及评估泄漏与安全关键证据的保留。人机交互期间，立即且清晰的防御行为仍然是必要的。我们提供了反例和可证伪的评估议程，而非实验结果。

🔬 方法详解

问题定义：本文旨在解决在联邦学习环境中共享多模态纠正时可能导致的安全隐患。现有方法未能有效处理不同机器人在接收更新时的上下文和不确定性，可能导致不安全的行为。

核心思路：论文提出的核心思路是，在共享适应性更新时，保留多模态纠正的上下文信息，并在每个接收机器人中进行评估，以确保安全性和有效性。

技术框架：整体架构包括三个主要模块：多模态纠正的上下文保留、候选更新的闭环评估和安全证据的泄漏评估。每个模块相互关联，共同确保适应性更新的安全性。

关键创新：最重要的技术创新在于提出了一个系统化的方法来处理多模态纠正的上下文和不确定性，确保在共享更新时不会抑制稀有的安全干预。与现有方法相比，该方法更注重安全性和适应性。

关键设计：关键设计包括对多模态纠正的上下文信息进行编码，以及在每个接收机器人中实施闭环评估的机制。此外，论文还强调了在共享更新时对安全关键证据的保留和泄漏评估的重要性。

📊 实验亮点

尽管论文未提供具体的实验结果，但通过反例和评估议程，展示了在共享多模态纠正时，保持安全性和适应性的必要性。这一方法有望在实际应用中显著提升机器人系统的安全性。

🎯 应用场景

该研究的潜在应用领域包括自主机器人、智能家居和人机协作系统等。在这些场景中，确保机器人在接收人类干预时的安全性至关重要。未来，该方法可能推动更安全的机器人交互和适应性学习技术的发展。

📄 摘要（原文）

Vision-language-action (VLA) policies can adapt to local human intervention, while federated learning can combine distributed robot experience without pooling raw records. We examine their prospective intersection: sharing adaptations derived from diverse human corrections across tasks, environments, people, and robot embodiments. Corrections differ in modality, safety semantics(urgency, behavioral scope, etc.), and privacy sensitivity. A shared update that improves mean task success may suppress a rare safety intervention or produce an unsafe response on another robot. We argue for three requirements: preserve the context and uncertainty of multimodal corrections when deciding what to share; assess candidate updates in each receiving robot's closed loop before deployment; and evaluate leakage alongside retention of safety-critical evidence. Immediate, legible defensive behavior remains necessary during human interaction. We offer counterexamples and a falsifiable evaluation agenda, not experimental results.