FadeMem: Biologically-Inspired Forgetting for Efficient Agent Memory

📄 arXiv: 2601.18642v1 📥 PDF

作者: Lei Wei, Xu Dong, Xiao Peng, Niantao Xie, Bin Wang

分类: cs.AI, cs.CL

发布日期: 2026-01-26

💡 一句话要点

提出FadeMem，一种受生物启发的记忆架构，提升Agent记忆效率并减少存储占用。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: Agent记忆 选择性遗忘 生物启发 长期记忆 语言模型 信息衰减 多跳推理

📋 核心要点

  1. 现有Agent记忆方法缺乏选择性遗忘机制，导致灾难性遗忘或信息过载，影响推理能力。
  2. FadeMem通过模拟生物记忆的衰减过程，根据语义相关性、访问频率等因素自适应地遗忘信息。
  3. 实验表明，FadeMem在多跳推理和检索方面表现更优，并能有效减少存储占用，提升效率。

📝 摘要（中文）

大型语言模型作为自主Agent部署时面临严重的记忆限制，缺乏选择性遗忘机制，导致上下文边界出现灾难性遗忘或内部信息过载。人类记忆通过自适应衰减过程自然地平衡保留和遗忘，而当前AI系统采用二元保留策略，要么全部保留，要么完全丢失。我们提出了FadeMem，一种受生物启发的Agent记忆架构，它结合了模仿人类认知效率的主动遗忘机制。FadeMem在双层记忆层次结构中实现了不同的衰减率，其中保留由语义相关性、访问频率和时间模式调节的自适应指数衰减函数控制。通过LLM引导的冲突解决和智能记忆融合，我们的系统整合相关信息，同时允许不相关的细节逐渐消失。在多会话聊天、LoCoMo和LTI-Bench上的实验表明，该方法在多跳推理和检索方面表现出色，同时减少了45%的存储空间，验证了受生物启发的遗忘在Agent记忆系统中的有效性。

🔬 方法详解

问题定义：现有的大型语言模型Agent在长期记忆管理方面存在挑战。它们要么简单地保留所有信息，导致信息过载和推理效率下降；要么在上下文窗口边界处发生灾难性遗忘，丢失关键信息。缺乏一种有效的机制来区分重要信息和冗余信息，并根据其重要性进行选择性遗忘。

核心思路：FadeMem的核心思路是借鉴生物记忆的遗忘机制，模拟人类大脑中信息随时间衰减的特性。通过引入自适应的衰减函数，使Agent能够根据信息的语义相关性、访问频率和时间模式，动态地调整信息的保留程度。重要且频繁访问的信息衰减较慢，而不相关或很少使用的信息则衰减较快，从而实现高效的记忆管理。

技术框架：FadeMem采用双层记忆层次结构，包括短期记忆和长期记忆。短期记忆用于存储最近交互的信息，长期记忆则用于存储更持久的信息。信息在短期记忆中会经历快速衰减，只有经过筛选和融合的重要信息才会被转移到长期记忆中。整个过程由LLM引导的冲突解决和智能记忆融合机制进行协调，确保信息的连贯性和一致性。

关键创新：FadeMem的关键创新在于引入了受生物启发的自适应遗忘机制。与传统的二元保留策略不同，FadeMem允许信息以不同的速率衰减，从而实现更精细化的记忆管理。此外，LLM引导的冲突解决和智能记忆融合机制能够有效地整合相关信息，避免信息冗余和冲突。

关键设计：FadeMem的关键设计包括：1) 基于语义相关性、访问频率和时间模式的自适应指数衰减函数；2) LLM引导的冲突解决机制，用于检测和解决信息冲突；3) 智能记忆融合机制，用于将相关信息整合到长期记忆中。衰减函数的具体参数（如衰减速率）可以通过学习或人工调整来优化，以适应不同的任务和环境。

🖼️ 关键图片

fig_0

📊 实验亮点

实验结果表明，FadeMem在多会话聊天、LoCoMo和LTI-Bench等任务上表现出色，在多跳推理和检索方面优于现有方法。同时，FadeMem能够减少45%的存储占用，显著提升了Agent的记忆效率。这些结果验证了受生物启发的遗忘机制在Agent记忆系统中的有效性。

🎯 应用场景

FadeMem可应用于各种需要长期记忆和推理能力的自主Agent系统，例如智能客服、对话机器人、自动化助手等。通过提升记忆效率和减少存储占用，FadeMem能够使这些Agent更好地理解用户意图、进行多轮对话，并提供更个性化的服务。此外，该技术还可以应用于知识图谱构建、信息检索等领域，提高信息处理的效率和准确性。

📄 摘要（原文）

Large language models deployed as autonomous agents face critical memory limitations, lacking selective forgetting mechanisms that lead to either catastrophic forgetting at context boundaries or information overload within them. While human memory naturally balances retention and forgetting through adaptive decay processes, current AI systems employ binary retention strategies that preserve everything or lose it entirely. We propose FadeMem, a biologically-inspired agent memory architecture that incorporates active forgetting mechanisms mirroring human cognitive efficiency. FadeMem implements differential decay rates across a dual-layer memory hierarchy, where retention is governed by adaptive exponential decay functions modulated by semantic relevance, access frequency, and temporal patterns. Through LLM-guided conflict resolution and intelligent memory fusion, our system consolidates related information while allowing irrelevant details to fade. Experiments on Multi-Session Chat, LoCoMo, and LTI-Bench demonstrate superior multi-hop reasoning and retrieval with 45\% storage reduction, validating the effectiveness of biologically-inspired forgetting in agent memory systems.