Remember What You Did: Action-History Memory with Dual-Expert Denoising for Long-Horizon Vision-Language-Action Policies

📄 arXiv: 2609.37307v1 📥 PDF

作者: Yaxin Zhao, Dianye Huang, Chenwei Wang, Chenguang Yang, Zhongliang Jiang

分类: cs.RO

发布日期: 2026-09-29

💡 一句话要点

提出ActMem-VLA以解决长时间任务中的动作歧义问题

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉-语言-动作 记忆模块 机器人操作 长时间任务 动作歧义 双专家架构 任务引导 性能提升

📋 核心要点

  1. 现有的视觉-语言-动作模型在处理长时间任务时，缺乏对交互历史的明确访问，导致动作歧义和成功率降低。
  2. 本文提出了ActMem-VLA，通过将记忆模块与轻量级的预动作专家结合，解决了动作历史对任务进展的影响。
  3. 在LIBERO-Mem数据集上，ActMem-VLA的平均成功率达到80.8%，相比于基线方法有显著提升，且仅增加了3.45%的参数量。

📝 摘要（中文）

视觉-语言-动作（VLA）模型在机器人操作中取得了快速进展，展现出强大的精细控制能力和在长时间任务中的良好表现。然而，许多现有的VLA模型缺乏对交互历史的明确访问，导致感知混淆，进而降低成功率。为了解决这一问题，本文提出了ActMem-VLA，一个双专家的交接架构，通过一个基于Mamba的记忆模块和轻量级的预动作专家（PAE）来增强一个冻结的、经过微调的VLA。实验结果表明，ActMem-VLA在LIBERO-Mem上实现了80.8%的平均成功率，相较于其他基线方法有显著提升。

🔬 方法详解

问题定义：本文旨在解决现有视觉-语言-动作模型在长时间任务中因缺乏交互历史访问而导致的动作歧义问题。现有方法在处理相似观察和机器人状态时，容易产生混淆，降低成功率。

核心思路：论文提出的ActMem-VLA通过引入记忆模块和预动作专家，增强了模型对历史动作的利用，从而改善任务执行的连贯性和准确性。该设计使得模型在高噪声环境下能够更好地引导任务进展。

技术框架：ActMem-VLA的整体架构包括一个冻结的基础VLA、一个基于Mamba的记忆模块和一个轻量级的预动作专家（PAE）。Mamba模块负责编码执行过的动作历史，而PAE则在当前上下文的基础上进行任务引导。

关键创新：最重要的技术创新在于将记忆模块与预动作专家分开优化，使得基础VLA保持冻结状态，从而降低了训练成本。这种设计与现有方法的本质区别在于，能够有效利用历史信息而不增加额外的训练负担。

关键设计：在模型设计中，Mamba模块负责存储和处理历史动作信息，PAE则在高噪声阶段引导任务进展，最终将部分去噪的动作传递给冻结的动作专家（AE）进行细化。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在LIBERO-Mem数据集上，ActMem-VLA的平均成功率达到了80.8%，相比于基线方法$π_{0.5}$的65.2%和MemoryVLA的49.5%有显著提升，且仅增加了3.45%的参数量。在四个真实世界任务中，成功率较$π_{0.5}$提升了28.8%。

🎯 应用场景

该研究的潜在应用领域包括机器人操作、自动化制造和智能家居等场景。通过提高机器人在复杂任务中的成功率，ActMem-VLA能够显著提升人机交互的效率和安全性，未来可能对智能机器人技术的发展产生深远影响。

📄 摘要（原文）

Vision-language-action (VLA) models have driven rapid progress in robotic manipulation, demonstrating strong fine-grained control and promising performance on long-horizon tasks. However, many existing VLAs lack explicit access to interaction history, making them vulnerable to perceptual aliasing: similar current observations and robot states at different task stages may induce action ambiguity and lower success rate. Existing methods incorporate temporal or progress cues through feature conditioning, action-prior modification, or sampling guidance. However, methods that jointly fine-tune memory modules and the base VLA incur additional policy-training costs, motivating the separation of trainable history-conditioned steering from frozen base-policy refinement. We propose ActMem-VLA, a dual-expert handover architecture that augments a frozen, fine-tuned VLA with a memory plugin comprising a Mamba-based memory module and a lightweight PreAction Expert (PAE). Specifically, Mamba encodes executed-action history into memory that conditions PAE alongside current context. With these inputs, PAE steers task progression during early, high-noise denoising, then passes the partially denoised action to the frozen Action Expert (AE) to refine action details during the remaining low-noise steps. The fine-tuned base VLA remains frozen throughout training, while only the Mamba module and PAE are jointly optimized. On LIBERO-Mem, ActMem-VLA achieves 80.8\% average success across all ten tasks, compared with 65.2\% for $π_{0.5}$ and 49.5\% for MemoryVLA, while introducing only 3.45\% additional parameters. Across four real-world tasks, it improves the average success rate over $π_{0.5}$ by 28.8\%.