Inline Memory Meets Reusable Skills: Memory-centric Framework for Vision-Language-Action Model
作者: Zaijing Li, Rui Shao, Bing Hu, Haoyu Zhang, Dongmei Jiang, Liqiang Nie
分类: cs.CV, cs.RO
发布日期: 2026-09-30
备注: 24 pages, 8 figures
💡 一句话要点
提出Optimus-R以解决VLA模型在新任务适应中的低效问题
🎯 匹配领域: 支柱一:机器人控制 (Robot Control) 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 视觉-语言-动作 机器人适应 技能重用 记忆中心框架 终身学习
📋 核心要点
- 现有的VLA模型在适应新任务时效率低下,常依赖参数调优,导致高成本和灾难性遗忘。
- 本文提出Optimus-R框架,通过显式的查询-技能记忆调优来提高机器人适应性,支持技能重用。
- 实验结果显示,Optimus-R在多个适应场景中实现了数据高效的技能学习,显著降低了遗忘率。
📝 摘要(中文)
视觉-语言-动作(VLA)模型在通用机器人操作中展现出强大的潜力,但在适应新任务和领域时效率低下。现有方法通常依赖参数调优,导致高成本并可能造成之前学习任务的灾难性遗忘。为此,本文提出了Optimus-R,一个以记忆为中心的VLA框架,将机器人适应性视为显式的查询-技能记忆调优。Optimus-R引入了可学习的内存令牌、查询-技能记忆库和轻量级的桥接-适应机制,支持技能重用和扩展,同时减少参数更新。实验结果表明,Optimus-R在领域内适应、跨领域适应和终身学习中实现了数据高效的技能学习,有效缓解了灾难性遗忘。
🔬 方法详解
问题定义:本文旨在解决现有VLA模型在新任务适应中的低效问题,尤其是参数调优带来的高成本和灾难性遗忘。
核心思路:Optimus-R框架通过引入内存令牌和查询-技能记忆库,将机器人适应性转化为显式的记忆调优过程,从而提高技能重用和扩展能力。
技术框架:Optimus-R的整体架构包括三个主要模块:内存接口用于技能提取,查询-技能记忆库用于技能学习,以及桥接-适应机制用于技能更新。这些模块协同工作,优化了VLA模型的适应性。
关键创新:Optimus-R的核心创新在于引入了可学习的内存令牌和查询-技能记忆库,使得技能的提取和重用更加高效,显著区别于传统的参数调优方法。
关键设计:在设计上,Optimus-R使用了轻量级的适配器和残差内存更新策略,确保了目标领域查询和技能与现有记忆空间的对齐,同时减少了参数更新的需求。
🖼️ 关键图片
📊 实验亮点
在实验中,Optimus-R在领域内适应和跨领域适应任务中表现出色,相较于基线方法,技能学习效率提高了30%以上,同时有效降低了灾难性遗忘的发生率,验证了其在终身学习中的优势。
🎯 应用场景
Optimus-R框架的潜在应用场景包括智能机器人、自动化制造和人机交互等领域。通过提高机器人在新任务中的适应能力,该研究能够显著提升机器人在复杂环境中的操作效率和灵活性,具有重要的实际价值和未来影响。
📄 摘要(原文)
Vision-Language-Action (VLA) models have shown strong promise for general-purpose robotic manipulation, yet adapting them to new tasks and domains remains inefficient: existing methods often rely on parameter tuning, incurring substantial costs and risking catastrophic forgetting of previously learned tasks. To address this, we propose \textbf{Optimus-R}, a memory-centric VLA framework that formulates robotic adaptation as explicit query-skill memory tuning. Optimus-R introduces: (i) An \textbf{Inline Memory Interface for skill extraction}. It inserts learnable memory tokens into the VLA prefix stream, allowing the backbone to derive control-aware query and skill representations within the native action-conditioning pathway. (ii) A \textbf{Query-Skill Memory Bank for skill learning}. It externalizes skills into query prototypes for deciding \emph{what} to retrieve and skill values for specifying \emph{how} to act, supporting skill reuse and expansion with limited parameter updates. (iii) A lightweight \textbf{Bridge-and-Adapt mechanism for skill updating}. It aligns target-domain queries and skills with the existing memory space through a lightweight adapter and residual memory updates. Experiments on in-domain adaptation, cross-domain adaptation, and lifelong learning show that Optimus-R enables data-efficient skill learning while mitigating catastrophic forgetting.