RoboFL: Federated Expert Assembly for World Action Models
作者: Rongyu Zhang, Ruizhi Fan, Yunfan Lou, Hengyu Fang, Shenli Zheng, Chenrui Wu, Yili Jin, Li Du, Dan Wang, Yuan Du, Shanghang Zhang
分类: cs.RO, cs.AI
发布日期: 2026-09-28
💡 一句话要点
提出RoboFL以解决世界行动模型中的数据稀缺问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 联邦学习 专家适配器 物理交互 机器人技术 模型聚合 多模态学习 高效微调
📋 核心要点
- 现有方法在物理交互数据稀缺的情况下，难以有效整合不同客户端的模型更新，导致性能瓶颈。
- RoboFL通过MoSAIC框架实现了联邦学习中的专家适配器聚合，避免了不兼容更新的纠缠。
- 在RoboTwin 2.0和RLBench等基准上，RoboFL在Franka机器人臂上的性能提升达12.23%，且每轮客户端通信减少86.81%。
📝 摘要（中文）
视觉-语言-行动和世界-行动模型日益受到关注，但由于物理交互数据稀缺、机构孤立和任务异构性，发展受到瓶颈。RoboFL通过参数高效的微调让每个客户端适应共享基础模型，避免了全模型更新的交换。该方法采用MoSAIC（混合插槽适配器）实现联邦世界行动学习，服务器端路由器在这些适配器上学习令牌分配，同时共同优化路由和专家参数。实验结果表明，RoboFL在多个基准上表现优越，尤其在Franka机器人臂上相较于集中式PEFT InternVLA-A1提升了12.23%。
🔬 方法详解
问题定义：论文旨在解决在物理交互数据稀缺的情况下，如何有效进行联邦学习的问题。现有方法在聚合客户端模型更新时容易出现不兼容，导致性能下降。
核心思路：RoboFL通过引入MoSAIC框架，允许每个客户端在本地训练LoRA适配器，并将其作为服务器MoE的专家分支，从而实现高效的参数更新和聚合。
技术框架：RoboFL的整体架构包括三个主要模块：本地LoRA适配器训练、服务器端的路由学习和专家参数优化，以及最终的专家聚合。路由器在这些适配器上学习令牌分配，确保信息的有效传递。
关键创新：最重要的创新在于Foresight-to-Action Routing Distillation (FARD)和Path-Consensus Expert Aggregation (PCEA)的结合，前者确保路由的一致性，后者将完整的专家更新转化为紧凑的全局适配器，实现个性化的再分配。
关键设计：在设计中，采用了高效的损失函数和网络结构，确保了路由和专家参数的共同优化，同时在每轮训练中减少了客户端之间的通信开销。具体的参数设置和网络结构细节在实验部分进行了详细描述。
🖼️ 关键图片
📊 实验亮点
在多个实验中，RoboFL在Franka机器人臂上的性能提升达12.23%，同时相较于MoE基础的联邦VLA方法，每轮客户端通信减少了高达86.81%。这些结果表明RoboFL在结构化专家聚合方面的显著优势。
🎯 应用场景
RoboFL的研究成果在多个领域具有广泛的应用潜力，尤其是在需要高效数据共享和模型更新的机器人技术、智能制造和自动化系统中。通过减少数据传输和提高模型适应性，该方法能够显著提升多机器人协作和智能系统的性能，推动相关技术的发展。
📄 摘要（原文）
Vision-language-action and world-action models are increasingly popular, yet remain bottlenecked by physical interaction data that is scarce, institutionally siloed, and task-heterogeneous. A natural federated solution is to let each client adapt a shared foundation model through parameter-efficient fine-tuning, avoiding the exchange of full-model updates. However, federating these adapters is nontrivial, as naive aggregation can entangle incompatible updates, while incorporating MoE-style routing into federated aggregation may dilute specialization and destabilize expert selection. We present RoboFL, which instantiates MoSAIC (Mixture of Slotted Adapters) for federated world-action learning. MoSAIC directly installs locally trained LoRA adapters as the expert branches of a server MoE. Server-side routers learn token assignments over these prior-informed branches while jointly refining routing and expert parameters. Foresight-to-Action Routing Distillation (FARD) aligns routing across the model's three paths, while Path-Consensus Expert Aggregation (PCEA) converts complete expert updates into a compact global adapter for personalized redistribution. Experiments on RoboTwin 2.0, RLBench, and a real-world Franka robot arm show the superiority of RoboFL with structured expert assembly, as it outperforms centralized PEFT InternVLA-A1 by 12.23% on the Franka arm, while reducing per-round client communication by up to 86.81% relative to MoE-based federated VLA baselines.