MemFit: Efficient Long-Term Agentic Memory

📄 arXiv: 2610.00872v1 📥 PDF

作者: Mitchell Piehl, Muchao Ye

分类: cs.AI

发布日期: 2026-10-01

💡 一句话要点

提出MemFit以解决长时记忆系统效率低下问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 长时记忆 对话系统 无LLM检索 多路径检索 性能优化

📋 核心要点

  1. 现有的长时记忆系统依赖大型语言模型进行记忆的组织和整合，导致写操作成本高且效率低。
  2. MemFit通过逐条存储对话记录，采用无LLM的插入和检索策略，显著提高了记忆操作的效率。
  3. 在LoCoMo、MemGallery和LongMemEval-S等基准测试中，MemFit实现了最先进的性能，降低了记忆构建时间和成本。

📝 摘要（中文）

长时记忆系统在大型语言模型（LLMs）中日益受到关注，旨在扩展推理能力。然而，现有的记忆系统依赖LLM代理进行记忆的组织和整合，导致写操作成本高且效率低。为了解决这一问题，本文提出了MemFit，一个针对对话代理的长时记忆系统，显著降低了记忆操作的成本和延迟。与依赖昂贵LLM调用的现有系统不同，MemFit以逐条存储的方式将每次对话记录保留在一个仅追加的存储中，实现了近乎即时的插入，且不需要LLM。此外，MemFit采用了一种无LLM的多路径检索策略，结合了词汇和语义信号，并通过交叉编码器重排序在文本和多模态设置中增强了检索效果。实验证明，MemFit在LoCoMo、MemGallery和LongMemEval-S等三个广泛使用的基准上实现了最先进的性能，同时将记忆构建时间和成本降低了数倍，提供了一种可扩展且高效的持久性代理记忆解决方案。

🔬 方法详解

问题定义：本文旨在解决现有长时记忆系统在记忆构建和检索过程中的高成本和低效率问题。现有方法通常依赖昂贵的LLM调用，导致写操作的延迟和资源消耗过大。

核心思路：MemFit的核心思路是通过逐条存储对话记录，避免依赖LLM进行记忆的构建和检索，从而实现高效的记忆操作。该方法通过无LLM的插入和多路径检索策略，提升了系统的响应速度和准确性。

技术框架：MemFit的整体架构包括一个仅追加的存储模块，用于逐条记录对话；一个无LLM的检索模块，结合词汇和语义信号进行信息检索；以及一个交叉编码器重排序模块，用于优化检索结果。

关键创新：MemFit的主要创新在于其无LLM的插入和检索机制，显著降低了记忆操作的成本和延迟。这一设计与现有依赖LLM的系统形成了鲜明对比，提供了更高的效率。

关键设计：在MemFit中，采用了逐条存储的方式，确保每次对话记录的完整性；检索过程中结合了词汇和语义信号，并通过交叉编码器进行重排序，以提升检索的准确性和效率。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

在LoCoMo、MemGallery和LongMemEval-S基准测试中，MemFit实现了最先进的性能，显著降低了记忆构建时间和成本，具体提升幅度达到数倍，展示了其在长时记忆系统中的优越性。

🎯 应用场景

MemFit的研究成果可广泛应用于对话系统、智能助手和其他需要长时记忆的人工智能应用中。其高效的记忆操作和检索机制将提升用户体验，并为未来的智能系统提供更强的记忆能力和推理能力。

📄 摘要（原文）

Long-term memory systems for large language models (LLMs) have gained popularity for extending reasoning capabilities across applications. Current memory systems rely on LLM agents to organize and consolidate memory, resulting in costly, inefficient write operations. To address this limitation, we propose MemFit, a long-term memory system for conversational agents that reduces the cost and latency of memory operations. Unlike existing systems that rely on expensive LLM calls for memory construction or discard surface-level details through compression, MemFit stores each turn verbatim in an append-only store with near-instantaneous, LLM-free insertion, indexing turns with segment summaries rather than replacing them. Additionally, MemFit uses an LLM-free, multi-path retrieval strategy that combines lexical and semantic signals with cross-encoder reranking over caption- augmented episodes in both textual and multimodal settings. Empirical results on three widely used benchmarks, LoCoMo, MemGallery, and LongMemEval-S, show that MemFit achieves state-of-the-art performance while reducing memory construction time and cost several-fold, providing a scalable and efficient solution for persistent agentic memory.