REAL: A Reasoning-Enhanced Graph Framework for Long-Term Memory Management of LLMs

📄 arXiv: 2606.10694v1 📥 PDF

作者: Keer Lu, Liwei Chen, Guoqing Jiang, Zhiheng Qin, Yunhuai Liu, Wentao Zhang

分类: cs.CL

发布日期: 2026-06-09

💡 一句话要点

提出REAL框架以解决LLMs的长期记忆管理问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 长期记忆管理 大型语言模型 图神经网络 非破坏性更新 语义检索 对话系统 信息检索

📋 核心要点

  1. 现有的记忆管理方法无法有效捕捉记忆之间的关系，且常常覆盖演变中的事实，导致信息丢失。
  2. REAL框架通过构建时间和置信度感知的有向属性图，采用非破坏性更新策略，保留事实的多个版本和有效时间区间。
  3. 实验结果显示，REAL在长期记忆性能上较平面文本和图基线显著提升，平均提高22.72%。

📝 摘要（中文）

大型语言模型（LLMs）在与用户进行长期交互时面临有限上下文窗口的挑战，无法保留所有过去的交互信息。因此，长期记忆管理变得至关重要。现有的记忆系统存在三大局限：文本基础的记忆组织无法捕捉记忆间的显式关系，结构化记忆系统常常破坏性地覆盖演变事实，当前的检索机制在证据不完整时表现被动。REAL通过构建时间和置信度感知的有向属性图来管理长期对话记忆，采用非破坏性的时间更新策略，保留事实版本及其有效时间区间，并通过语义评估引导的混合束搜索提取紧凑的记忆子图。实验表明，REAL在长期记忆性能上显著优于现有基线，平均提升22.72%。

🔬 方法详解

问题定义：论文旨在解决大型语言模型在长期交互中无法有效管理记忆的问题，现有方法在记忆组织和检索机制上存在显著不足。

核心思路：REAL通过构建一个时间和置信度感知的有向属性图，采用非破坏性更新策略来保留事实的多个版本，从而更好地管理长期记忆。

技术框架：整体架构包括记忆构建和检索两个主要模块。在记忆构建阶段，REAL记录每个事实的实体、关系、有效时间区间和置信度分数；在检索阶段，REAL通过锚定查询相关的根实体，解耦探索意图并执行混合束搜索来提取记忆子图。

关键创新：REAL的主要创新在于其非破坏性时间更新策略和基于图的记忆组织方式，这与现有的文本基础和结构化记忆系统形成了鲜明对比。

关键设计：在设计上，REAL采用了多版本事实存储和有效时间区间的概念，结合语义评估引导的检索机制，确保了记忆的完整性和可追溯性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，REAL在长期记忆管理方面的表现显著优于平面文本和图基线，平均提升达22.72%。这一成果验证了REAL框架在处理复杂记忆关系和动态信息更新中的有效性。

🎯 应用场景

该研究的潜在应用领域包括智能助手、聊天机器人和个性化推荐系统等，能够显著提升用户体验和交互质量。通过有效管理长期记忆，LLMs可以更好地理解用户需求，提供更为精准的响应和建议，未来可能在教育、医疗等多个领域产生深远影响。

📄 摘要（原文）

Large Language Models (LLMs) are increasingly expected to interact with users over long time horizons. However, due to their finite context window, LLMs cannot retain all past interactions, making long-term memory management essential for storing, updating, and retrieving historical information beyond the context limit. Although recent memory systems attempt to address this issue by storing historical information externally, existing approaches suffer from three key limitations: flat text-based memory organizations fail to capture explicit relations among memories, structured memory systems often destructively overwrite evolving facts, and current retrieval mechanisms remain query-agnostic and passive when evidence is incomplete. REAL constructs long-term conversational memory as a temporal and confidence-aware directed property graph, where each atomic fact is represented with entities, relations, valid-time intervals, confidence scores, and exploration intent labels. During memory construction, REAL adopts a non-destructive temporal update strategy that preserves parallel fact versions and their validity intervals, enabling faithful tracking of fact evolution. During retrieval, REAL anchors query-relevant root entities, decouples their exploration intents, and performs semantic evaluator-guided hybrid beam search to extract compact memory subgraphs. It further incorporates counterfactual inference to repair unreliable retrieval states and recover missing memory evidence through implicit logical relations. Comprehensive experiments demonstrate that REAL substantially improves long-term memory performance over flat-text, graph-based, and existing memory baselines, achieving an average improvement of 22.72\%.