Causal Retention in Interactive Agents: Interface Factorization and Selective Adaptation
作者: Shengjun Zhang, Tingyi Liu, Dong Xie, Yunlong Dong, Xiang Wang, Cheng Zeng
分类: cs.LG, cs.AI, stat.ML
发布日期: 2026-09-25
备注: 34 pages, 4 figures, 6 tables, and 1 algorithm
💡 一句话要点
提出因果保留机制以提升交互智能体的适应性
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)
关键词: 因果保留 交互智能体 机制探测 适应性 动态环境 智能决策 实验验证
📋 核心要点
- 现有方法在交互智能体的干预机制保留方面存在不足，无法有效适应变化的环境和任务。
- 论文提出因果保留的概念，通过冻结学习状态与机制探测映射的独立性来提升智能体的适应性。
- 实验结果显示，冻结的Qwen最后一层探测器在源机制上达到0.958的平衡准确率，而在改变延迟时为0.583，展示了显著的性能提升。
📝 摘要（中文）
本论文研究了因果保留，即在不依赖于训练的情况下，冻结的学习状态是否能够回答固定的机制探测映射。通过对有限结构因果模型类的分析，提出了一个后验覆盖定理来表征预算重测，同时通过精确的编辑分解展示了无误目标更新的唯一支持。论文中的因果核心实现了证据门控写入、读取过滤、时间信用、隐藏上下文设置和局部诊断更新等条件。实验涵盖了有限因果系统、连续模拟器、官方TD-MPC2世界模型及Qwen2.5-7B-Instruct，验证了所提方法的有效性。
🔬 方法详解
问题定义：本论文旨在解决交互智能体在面对不同干预机制时的适应性问题，现有方法往往依赖于任务性能，缺乏对变化环境的灵活应对能力。
核心思路：提出因果保留的概念，研究冻结学习状态与机制探测映射的关系，设计了一种新的机制以实现更高的适应性。
技术框架：整体架构包括因果核心模块，主要由证据门控写入、读取过滤、时间信用、隐藏上下文设置和局部诊断更新等组成，形成一个闭环反馈系统。
关键创新：最重要的创新在于提出了因果保留的理论框架，明确了学习接口与探测器之间的关系，突破了传统方法对任务性能的依赖。
关键设计：关键设计包括使用证据门控机制来控制信息流，采用特定的损失函数来优化探测器的性能，以及通过局部更新来增强模型的适应性。
🖼️ 关键图片
📊 实验亮点
实验结果表明，冻结的Qwen最后一层探测器在源机制上达到了0.958的平衡准确率，而在延迟变化时准确率降至0.583。通过因果核心的应用，TD-MPC2中的目标状态准确率从0.057提升至0.948，展示了显著的性能提升而不影响稳定响应。
🎯 应用场景
该研究的潜在应用领域包括智能机器人、自动驾驶、智能助手等交互式系统，能够提升这些系统在动态环境中的适应能力和决策效率。未来，该方法可能推动更智能的交互代理的发展，使其在复杂任务中表现得更加灵活和高效。
📄 摘要（原文）
Task performance need not determine which intervention mechanism an agent retains. We study causal retention: whether a frozen learned state answers a mechanism-probe map fixed independently of training, including action, context, direct target, value, and delay. For finite structural causal model classes, the optimal probe error is a Bayes decision risk. It vanishes exactly when every learning-interface fiber lies within one probe-answer fiber; any state obtained by post-processing that interface inherits the same lower bound. A posterior-coverage theorem characterizes budgeted retesting, while an exact edit decomposition shows that the shifted set is the unique support of an error-free target update. Causal Core implements these conditions through evidence-gated writing, readout filtering, temporal credit, hidden-context setup, and local diagnostic updates. Experiments cover finite causal systems, continuous simulators, an official TD-MPC2 world model, and Qwen2.5-7B-Instruct. A frozen Qwen last-layer probe reaches 0.958 balanced accuracy on source mechanisms but 0.583 on changed delays; the gated mechanism state reaches 1.000 and accepts only 0.056 of synchronized-readout candidates. In TD-MPC2, five target states per actuator recover effect-sign accuracy from 0.057 to 0.948 without degrading stable responses. Causal retention is therefore distinct from task sufficiency and source-domain decodability.