Memory OS of AI Agent

📄 arXiv: 2506.06326v1 📥 PDF

作者: Jiazheng Kang, Mingming Ji, Zhe Zhao, Ting Bai

分类: cs.AI

发布日期: 2025-05-30

🔗 代码/项目: GITHUB

💡 一句话要点

提出MemoryOS，为AI Agent实现全面高效的记忆管理，提升长期记忆能力和个性化交互体验。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: AI Agent 记忆管理 长期记忆 分层存储 动态更新 个性化交互 大型语言模型 操作系统

📋 核心要点

  1. 现有LLM受限于固定上下文窗口和内存管理不足，导致长期记忆能力不足，影响AI Agent的个性化交互体验。
  2. MemoryOS借鉴操作系统内存管理，设计分层存储架构，包含记忆存储、更新、检索和生成四大模块，实现动态记忆管理。
  3. 实验结果表明，MemoryOS在LoCoMo基准测试中，F1和BLEU-1指标分别提升49.11%和46.18%，显著提升上下文连贯性和个性化记忆。

📝 摘要（中文）

大型语言模型（LLMs）面临着固定上下文窗口和内存管理不足的关键挑战，导致长期记忆能力严重不足，并限制了与AI Agent交互体验的个性化。为了克服这一挑战，我们创新性地提出了一个记忆操作系统，即MemoryOS，以实现对AI Agent的全面和高效的记忆管理。受到操作系统中内存管理原则的启发，MemoryOS设计了一个分层存储架构，由四个关键模块组成：记忆存储、更新、检索和生成。具体来说，该架构包括三个级别的存储单元：短期记忆、中期记忆和长期个人记忆。MemoryOS中的关键操作包括存储单元之间的动态更新：短期到中期的更新遵循基于对话链的FIFO原则，而中期到长期的更新使用分段页面组织策略。我们首创的MemoryOS实现了分层记忆集成和动态更新。在LoCoMo基准上的大量实验表明，与GPT-4o-mini上的基线相比，F1指标平均提高了49.11%，BLEU-1指标平均提高了46.18%，展示了长对话中的上下文连贯性和个性化记忆保持。

🔬 方法详解

问题定义：现有大型语言模型（LLMs）在处理长程对话和需要长期记忆的任务时，面临着上下文窗口大小的限制。这意味着模型无法有效地记住和利用对话历史中的所有信息，导致上下文连贯性差，无法进行个性化交互。现有的记忆管理方法要么效率低下，要么无法很好地整合不同时间尺度的信息。

核心思路：MemoryOS的核心思路是借鉴操作系统的内存管理机制，将AI Agent的记忆组织成一个分层结构，包括短期记忆、中期记忆和长期记忆。通过动态地在这些层级之间更新和检索信息，MemoryOS能够有效地管理和利用AI Agent的记忆，从而提高其长期记忆能力和个性化交互体验。这种分层结构的设计允许模型根据信息的时效性和重要性进行存储和访问，从而优化记忆管理效率。

技术框架：MemoryOS的整体架构包含四个主要模块：记忆存储、记忆更新、记忆检索和记忆生成。记忆存储模块负责维护分层记忆结构，包括短期、中期和长期记忆。记忆更新模块负责在不同层级之间动态更新记忆，短期到中期采用FIFO策略，中期到长期采用分段页面组织策略。记忆检索模块负责根据查询从不同层级检索相关信息。记忆生成模块负责根据检索到的信息生成响应。

关键创新：MemoryOS的关键创新在于其分层记忆管理架构和动态更新机制。与传统的单一记忆存储方式相比，MemoryOS能够更有效地管理和利用AI Agent的记忆。动态更新机制允许模型根据信息的时效性和重要性进行存储和访问，从而优化记忆管理效率。此外，MemoryOS借鉴了操作系统中的内存管理策略，例如FIFO和分段页面组织，这是一种新颖的尝试。

关键设计：短期记忆通常使用LLM的上下文窗口，中期记忆可以使用向量数据库，长期记忆可以使用键值存储。短期到中期的更新采用基于对话链的FIFO原则，即按照对话的顺序将信息从短期记忆转移到中期记忆。中期到长期的更新使用分段页面组织策略，将中期记忆分割成多个页面，并根据重要性将页面存储到长期记忆中。具体的参数设置和损失函数取决于具体的实现，论文中可能没有详细说明。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，MemoryOS在LoCoMo基准测试中表现出色，与GPT-4o-mini基线相比，F1指标平均提高了49.11%，BLEU-1指标平均提高了46.18%。这些显著的提升表明MemoryOS能够有效地提高AI Agent的上下文连贯性和个性化记忆保持能力，尤其是在长对话场景中。

🎯 应用场景

MemoryOS具有广泛的应用前景，可以应用于各种需要长期记忆和个性化交互的AI Agent，例如智能客服、虚拟助手、教育机器人等。通过提升AI Agent的长期记忆能力，可以使其更好地理解用户需求，提供更个性化的服务，并实现更自然的交互体验。此外，MemoryOS还可以应用于知识库构建和管理，以及信息检索等领域。

📄 摘要（原文）

Large Language Models (LLMs) face a crucial challenge from fixed context windows and inadequate memory management, leading to a severe shortage of long-term memory capabilities and limited personalization in the interactive experience with AI agents. To overcome this challenge, we innovatively propose a Memory Operating System, i.e., MemoryOS, to achieve comprehensive and efficient memory management for AI agents. Inspired by the memory management principles in operating systems, MemoryOS designs a hierarchical storage architecture and consists of four key modules: Memory Storage, Updating, Retrieval, and Generation. Specifically, the architecture comprises three levels of storage units: short-term memory, mid-term memory, and long-term personal memory. Key operations within MemoryOS include dynamic updates between storage units: short-term to mid-term updates follow a dialogue-chain-based FIFO principle, while mid-term to long-term updates use a segmented page organization strategy. Our pioneering MemoryOS enables hierarchical memory integration and dynamic updating. Extensive experiments on the LoCoMo benchmark show an average improvement of 49.11% on F1 and 46.18% on BLEU-1 over the baselines on GPT-4o-mini, showing contextual coherence and personalized memory retention in long conversations. The implementation code is open-sourced at https://github.com/BAI-LAB/MemoryOS.