PRISM Edit: One Vector for All Temporal Answers

📄 arXiv: 2607.11327v1 📥 PDF

作者: Chen Huang, Qi Zheng, Ruiqin Zheng, Long Zeng, Yuantong Xu

分类: cs.LG, cs.AI

发布日期: 2026-07-13

备注: Chen Huang and Qi Zheng contributed equally. Corresponding authors: Long Zeng, Yuantong Xu

🔗 代码/项目: GITHUB


💡 一句话要点

提出PRISM Edit以解决时间信息更新问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 时间信息处理 模型编辑 大型语言模型 多义表示 因果追踪

📋 核心要点

  1. 现有的模型编辑方法在处理时间信息时存在局限,无法有效区分当前与历史事实。
  2. 本文提出PRISM Edit,通过优化单一多义表示并利用模型的调制路径,实现时间上下文的正确预测。
  3. 实验结果表明,PRISM Edit在时间一致性和当前相对时间分数上显著优于最佳基线,且速度提升超过两倍。

📝 摘要(中文)

模型编辑使大型语言模型(LLMs)能够在不重新训练的情况下保持最新,但时间事实暴露了现有定位与编辑范式的局限性:更新并不总是替代。当事实变化时,新答案应成为当前答案,而旧答案在历史时间上下文中可能仍然正确。基于这一洞察,本文利用因果追踪展示LLMs已经支持这种区分,通过两阶段内部计算:早期的多层感知机(MLP)层检索时间无关的主题表示,后续层则结合时间上下文调制以产生时间正确的答案。基于此发现,本文提出PRISM Edit,优化单一多义表示在时间上下文中的应用,并利用模型内在的调制路径将其路由到时间正确的预测,无需任何架构修改。我们在新提出的时间编辑基准TimeConflict和时间增强的CounterFact上进行评估,PRISM Edit在平均上比最佳基线提高了23.3的时间一致性(TC)和33.7的当前相对时间分数(CRS),且速度提升超过2倍。

🔬 方法详解

问题定义:本文旨在解决大型语言模型在时间信息更新时的局限性,现有方法无法有效处理时间上下文的变化,导致信息更新不准确。

核心思路:PRISM Edit的核心思路是优化一个多义表示,使其能够在不同的时间上下文中进行有效调制,从而提供时间正确的答案。通过这种方式,模型能够同时保持历史信息的准确性和当前信息的更新。

技术框架:整体架构包括两个主要阶段:第一阶段通过早期的多层感知机(MLP)层检索时间无关的主题表示,第二阶段通过后续层结合时间上下文进行调制,生成时间正确的答案。

关键创新:PRISM Edit的创新点在于无需对模型架构进行修改,利用现有的调制路径来实现时间信息的动态更新,这与传统的定位与编辑方法有本质区别。

关键设计:在设计中,PRISM Edit使用了特定的损失函数来优化多义表示的学习,同时确保模型在不同时间上下文中的表现一致性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示,PRISM Edit在时间一致性(TC)上平均提高了23.3,在当前相对时间分数(CRS)上提高了33.7,同时速度提升超过2倍,显著优于最佳基线,展示了其在时间信息处理上的优势。

🎯 应用场景

该研究的潜在应用领域包括智能问答系统、信息检索和知识图谱更新等。通过提高模型对时间信息的处理能力,PRISM Edit能够在动态环境中提供更准确的信息,具有重要的实际价值和未来影响。

📄 摘要(原文)

Model editing keeps large language models (LLMs) up to date without retraining, but temporal facts expose a limitation of the prevailing locate-and-edit paradigm: an update is not always a replacement. When a fact changes, the new answer should become current while the old answer may remain correct in historical time contexts. Building on this insight, we use causal tracing to show that LLMs already support this distinction via a two-stage internal computation: early MLP layers retrieve a time-agnostic subject representation, and later layers modulate it with temporal context to yield the time-correct answer. Motivated by this finding, we introduce PRISM Edit, which optimizes a single polysemous representation across temporal contexts and leverages the model's inherent modulation pathway to route it to temporally correct predictions, without any architectural modification. We evaluate on TimeConflict, a new temporal editing benchmark we introduce, and on temporally augmented CounterFact. PRISM Edit improves over the best baseline by +23.3 Temporal Consistency (TC) and +33.7 Current Relative-time Score (CRS) on average while being more than 2x faster. Code and data are publicly available at https://github.com/AnonymousStudy972/PRISM-Edit.