MemDuet: Learning Dual-Process Memory for Long-Context Reasoning

📄 arXiv: 2610.19928v1 📥 PDF

作者: Jiangcheng Song, Haodong Jing, Yulin Mu, Lesong Tao, Jixin Wang, Jin Cui, Tianjing Ren, Runxuan Xie, Yongqiang Ma, Nanning Zheng

分类: cs.CL

发布日期: 2026-10-14

💡 一句话要点

提出MemDuet以解决长文档推理中的效率与性能问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 长文档推理 双过程记忆 语言模型 推理效率 证据选择 记忆更新 群体相对策略优化 自然语言处理

📋 核心要点

  1. 现有方法在处理长文档时，推理性能与效率之间存在显著的权衡，难以兼顾。
  2. 本文提出MemDuet框架，通过小型和大型语言模型的协同工作，实现快速证据选择与准确的记忆更新。
  3. 在多个长上下文推理基准上，MemDuet实现了9.74倍的推理速度提升和73.91%的输出令牌减少，表现优异。

📝 摘要（中文）

随着递归记忆代理的出现，对无限长文档的推理逐渐成为现实。然而，增加上下文长度加剧了推理性能与推理效率之间的权衡。受卡尼曼的快速与慢速思维理论启发，本文提出了MemDuet，一个双过程记忆框架，旨在协调小型语言模型进行快速并行证据选择（系统1）与大型语言模型进行记忆更新验证和文档顺序的记忆更新（系统2）。MemDuet通过三个阶段进行训练：系统1的监督微调以进行证据选择，系统2的群体相对策略优化（GRPO）进行验证和记忆重写，以及联合优化两个策略以协调选择和更新。实验结果显示，MemDuet在多种长上下文推理基准上表现出良好的准确性与效率权衡。

🔬 方法详解

问题定义：本文旨在解决在长文档推理中，推理性能与推理效率之间的权衡问题。现有方法在处理长上下文时，往往无法兼顾快速推理与准确性，导致效率低下。

核心思路：MemDuet框架的核心思想是借鉴卡尼曼的双过程理论，利用小型语言模型进行快速证据选择（系统1），同时使用大型语言模型进行记忆更新验证和顺序更新（系统2），实现高效的长上下文推理。

技术框架：MemDuet的整体架构包括三个主要阶段：首先对系统1进行监督微调以优化证据选择；其次对系统2进行群体相对策略优化（GRPO）以进行验证和记忆重写；最后联合优化两个系统以协调选择与更新。

关键创新：MemDuet的创新之处在于其双过程记忆框架，通过将快速并行的证据选择与精确的记忆更新相结合，显著提升了长上下文推理的效率与准确性。这一设计与现有方法的单一模型架构形成了鲜明对比。

关键设计：在训练过程中，系统1和系统2的损失函数设计为互补，以确保两者在选择和更新过程中的协同作用。此外，模型的参数设置经过精心调整，以优化推理速度和准确性。整体架构的模块化设计也使得系统的扩展性和灵活性得以提升。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

在长上下文推理基准（如RULER-HQA、LongBench v2和2WikiMultiHopQA）上，MemDuet实现了9.74倍的推理速度提升和73.91%的输出令牌减少，相较于基线RL-MemAgent表现出显著的性能优势，展示了其在效率与准确性上的良好平衡。

🎯 应用场景

MemDuet框架在长文档推理任务中具有广泛的应用潜力，尤其适用于法律文书分析、学术文献综述和信息检索等领域。其高效的推理能力能够帮助用户快速获取关键信息，提高工作效率。未来，该技术还可能扩展到其他需要处理长文本的智能系统中，推动自然语言处理领域的发展。

📄 摘要（原文）

Reasoning over infinitely long documents is becoming a reality with recurrent memory agents. However, increasing context length exacerbates the trade-off between reasoning performance and inference efficiency. Inspired by Kahneman's account of fast and slow thinking, we propose MemDuet, a dual-process memory framework that learns to coordinate a small language model for fast, parallel evidence selection from raw context chunks (System 1) with a large language model for memory-update verification and memory updates in document order (System 2). We train MemDuet in three stages: supervised fine-tuning of System 1 for evidence selection, Group Relative Policy Optimization (GRPO) of System 2 for verification and memory rewriting, and joint optimization of both policies to coordinate selection and updating for long-context reasoning. Experiments on diverse long-context reasoning benchmarks (RULER-HQA, LongBench v2, and 2WikiMultiHopQA) demonstrate a favorable accuracy-efficiency trade-off as context length grows. Averaged across evaluation settings on the three datasets, MemDuet achieves an end-to-end inference speedup of 9.74x and an output-token reduction of 73.91% relative to RL-MemAgent.