Memory That Changes Action Is Not Memory That Guides It: Counterfactual Auditing of History-Conditioned Robot Policies
作者: Jiajie Zhang, Yankai Xiang, Changhao Chen
分类: cs.RO
发布日期: 2026-09-23
💡 一句话要点
提出反事实记忆审计以解决机器人决策中的记忆指导问题
🎯 匹配领域: 支柱一：机器人控制 (Robot Control)
关键词: 机器人决策 记忆审计 反事实分析 自主系统 任务执行 行为选择
📋 核心要点
- 现有的记忆策略评估方法无法有效证明记忆在机器人决策中的指导作用，存在明显不足。
- 论文提出反事实记忆审计（CMA），通过交叉历史和查询冻结策略来评估记忆对决策的影响。
- 实验结果显示，尽管记忆变化影响了动作选择，但机器人在多次操作中仍未能可靠地选择正确目标。
📝 摘要（中文）
在机器人将物体返回原始托盘的任务中，可能会遇到两种一致的历史情境，这些情境在相同的当前输入下却需要不同的动作。然而，现有的记忆策略评估往往依赖于任务成功或在记忆扰动下的动作变化，这并不能证明记忆在决策中起到指导作用。为此，本文提出了反事实记忆审计（CMA）评估协议，通过在验证相同的当前状态下交叉两种历史，查询冻结策略下的共同随机性，并评估每种历史下的保存动作，从而区分记忆敏感性、合理选择、匹配世界的物理价值和每对的可靠性。实验结果表明，尽管记忆变化影响了动作选择，但机器人并未可靠地利用记忆来选择其过去所应当的行为。
🔬 方法详解
问题定义：本文旨在解决机器人在决策中如何有效利用记忆的问题。现有方法未能清晰区分记忆对决策的指导作用与记忆扰动下的动作变化。
核心思路：提出反事实记忆审计（CMA），通过在相同当前状态下交叉两种历史，评估机器人在不同历史下的决策行为，以此揭示记忆的真实影响。
技术框架：CMA的整体架构包括历史交叉、策略查询和动作评估三个主要模块。首先，验证当前状态下的两种历史；其次，查询冻结策略并引入共同随机性；最后，评估在不同历史下的动作选择。
关键创新：CMA的创新在于能够有效区分记忆的敏感性和决策的合理性，提供了一种新的决策级审计方法，与传统的成功率评估方法本质上不同。
关键设计：在实验中，采用了4096字节的保护锚点和历史库替换等技术细节，以观察记忆对行为的闭环影响，并通过对比实验验证了CMA的有效性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，在Mem-0场景中，所有审计的Put Back对都改变了动作，但仅有20/64对是完全可靠的。在Swap决策中，所有配对动作均发生变化，表明记忆对行为的影响显著。替换历史库的干预实验进一步证明了记忆的闭环影响。
🎯 应用场景
该研究的潜在应用领域包括自主机器人、智能制造和人机交互等。通过改进机器人决策中的记忆利用，能够提升机器人在复杂环境中的适应能力和任务执行效率，具有重要的实际价值和未来影响。
📄 摘要（原文）
A robot returning a block to its origin tray may encounter two task-consistent pasts that reconverge to the same current input but warrant different actions. Yet memory-policy evaluations often rely on task success or action change under memory perturbation, neither of which establishes that memory guides the decision. We propose the \textbf{Counterfactual Memory Audit (CMA)}, an evaluation protocol that crosses two histories at a verified-identical present, queries a frozen policy under common randomness, and evaluates each saved action under both pasts. This separates memory sensitivity, warranted choice, matched-world physical value, and per-pair reliability. On Mem-0, every audited Put Back pair changes action, but only $20/64$ pairs are fully reliable; at a later Swap decision, all paired actions change while both memories select the same branch. Native interventions further show closed-loop influence: replacing the history bank redirects behavior toward the replaced content, while restoring a 4096-byte protected anchor recovers $38.9$ points of Swap success lost to injected bank faults. On a dual-arm physical platform, memory changes saved actions, yet five of nine completed Put Back manipulations reach the wrong target. These results show that a robot can remember and react without reliably using memory to choose the behavior its past warrants. CMA provides a decision-level audit for distinguishing these cases.