TEM: Temporal State Tracking Memory for Large Language Model Agents
作者: Pengfeng Song, Yunkai Zhuang, Liye Shi
分类: cs.CL
发布日期: 2026-10-15
备注: 16 pages, 5 figures, 8 tables
💡 一句话要点
提出TEM以解决大语言模型代理的记忆更新问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 记忆管理 动态信息处理 版本化存储 大语言模型 智能代理
📋 核心要点
- 现有方法在处理动态信息时难以有效更新记忆，导致回答不准确或不相关。
- TEM通过版本化记录存储事实，并在回答时检索相关版本，确保信息的时效性和准确性。
- 实验结果表明，TEM在多个模型上实现了高达97.62%的关键实体命中率，并显著减少了所需的证据长度。
📝 摘要（中文）
代理的记忆必须在信息随对话变化时保持有效。新事实可能会替代早期值，但并不使该值在后续问题中失去相关性。我们提出了时间状态跟踪记忆（TEM），这是一个无需训练的框架，用于跟踪这些变化。TEM将事实存储为与其来源相关联的版本记录，检索相关版本并按来源顺序排列，标记历史记录后将证据传递给回答模型。我们在420个问题上进行了评估，涉及600个会话和60个角色，结果显示关键实体命中率达75.71-97.62%。将历史标签添加到相同的、按来源排序的事实中，整体命中率提高了17.14-55.95个百分点。证据紧凑，答案每个仅需94-118个标记，比会话感知的检索增强生成（RAG）少48.75-56.73%。在1,540个LoCoMo问题的进一步评估中，TEM在固定证据预算下超越了会话感知RAG。
🔬 方法详解
问题定义：本论文旨在解决大语言模型代理在对话中动态更新信息时的记忆管理问题。现有方法往往无法有效处理信息的时效性，导致回答的准确性下降。
核心思路：TEM的核心思路是通过版本化的方式存储事实，并在回答问题时检索与问题相关的历史版本。这种设计使得代理能够在信息变化时仍然保持对历史信息的有效访问。
技术框架：TEM的整体架构包括多个模块：首先是事实的版本化存储，其次是基于来源顺序的版本检索，最后是将检索到的证据传递给回答模型。每个模块都旨在提高信息的准确性和时效性。
关键创新：TEM的主要创新在于其训练-free的设计和版本化存储机制，这与现有方法的静态记忆管理形成了鲜明对比。通过引入时间状态，TEM能够更好地处理动态信息。
关键设计：在设计中，TEM采用了高效的版本检索算法，并通过历史标签增强了信息的上下文关联性。此外，证据的紧凑性设计使得每个答案的标记数显著低于传统方法。
🖼️ 关键图片
📊 实验亮点
实验结果显示，TEM在420个问题的测试中，关键实体命中率达75.71-97.62%，在历史居住子集上更是达到96.67-100.00%。通过添加历史标签，整体命中率提升了17.14-55.95个百分点，且证据长度显著低于会话感知RAG，提升了系统的效率。
🎯 应用场景
该研究的潜在应用领域包括智能客服、虚拟助手和个性化推荐系统等。通过有效管理和更新记忆，TEM能够提高这些系统在处理用户查询时的准确性和响应速度，具有重要的实际价值和未来影响。
📄 摘要（原文）
An agent's memory must remain useful as information changes across conversations. A new fact may replace an earlier value without making that value irrelevant to a later question. We present Temporal State Tracking Memory (TEM), a training-free framework for tracking these changes. TEM stores facts as versioned records linked to their sources. It retrieves relevant versions, places them in source order and labels historical records before passing the evidence to the answer model. Event memory and original dialogue turns provide details missing from structured facts. We evaluated TEM on 420 questions drawn from 600 sessions involving 60 personas. Across four open-weight models, key-entity hit rates reached 75.71-97.62% overall and 96.67-100.00% on the historical-residence subset. Adding historical labels to otherwise identical, source-ordered facts increased overall hit rates by 17.14-55.95 percentage points. The evidence was compact: 94-118 tokens per answer, or 48.75-56.73% less than session-aware retrieval-augmented generation (RAG). A further evaluation on 1,540 LoCoMo questions tested hybrid memory under a fixed evidence budget. TEM exceeded session-aware RAG with both backbones; conservative score differences were 7.92 and 10.58 percentage points. The results support preserving fact versions and exposing their temporal status to the generator when answering questions about repeatedly updated information.