Temporal Evidence-Parameter Co-Alignment for LLM Reasoning over Temporal Knowledge Graphs
作者: Jiapu Wang
分类: cs.CL, cs.AI
发布日期: 2026-10-20
💡 一句话要点
提出TEPCA框架以解决LLM在时间知识图谱推理中的不足
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 时间推理 知识图谱 动态适应 语言模型 参数高效微调 信息检索 智能问答 路径修剪
📋 核心要点
- 现有方法在时间推理中存在静态记忆与动态知识演变不匹配的问题,导致推理效果不佳。
- TEPCA框架通过时间约束的动态相关性引导路径修剪和动态门控低秩适应机制,提升LLM的时间推理能力。
- 在两个时间知识图谱基准上,TEPCA实现了最先进的性能,并在八个常识问答数据集上验证了其通用性和可扩展性。
📝 摘要(中文)
大型语言模型(LLMs)在基于时间的推理中常常面临挑战,因为其静态参数记忆与现实世界知识的动态演变不匹配。尽管检索增强生成(RAG)和参数高效微调(PEFT)提供了增强LLM的有效方法,但仍不足以处理时间推理。现有的检索方法通常优先考虑语义相关性,而忽视时间有效性、事件顺序和演变依赖性,导致证据在孤立情况下相关但时间上碎片化。为了解决这些问题,本文提出了时间证据-参数协同对齐(TEPCA)框架,旨在在证据和参数层面上对齐LLM推理与时间知识。实验结果表明,TEPCA在两个时间知识图谱基准上实现了最先进的性能。
🔬 方法详解
问题定义:本文旨在解决大型语言模型在时间知识图谱推理中的不足,现有方法未能有效处理时间有效性和事件顺序,导致推理结果的时间一致性差。
核心思路:TEPCA框架通过在证据和参数层面对齐LLM推理与时间知识,采用动态相关性引导路径修剪和动态门控低秩适应机制,以捕捉时间依赖的实体语义和关系演变。
技术框架:TEPCA框架主要包括两个模块:证据层的动态相关性引导路径修剪(DRGP)和参数层的动态门控低秩适应(DG-LoRA)。DRGP通过时间约束保留全球一致的时间路径,而DG-LoRA根据时间上下文动态调整适应子空间。
关键创新:TEPCA的核心创新在于同时在证据和参数层面进行时间对齐,特别是引入了时间约束的路径修剪和时间条件的低秩适应机制,这与现有方法的固定低秩更新方式形成鲜明对比。
关键设计:在DRGP中,采用互信息(MI)基础的修剪策略来保留查询信息丰富的局部事实;在DG-LoRA中,设计了时间戳条件的低秩适应机制,以提高模型的参数效率和时间敏感性。
🖼️ 关键图片
📊 实验亮点
在两个时间知识图谱基准上,TEPCA实现了最先进的性能,相较于基线方法,性能提升显著。此外,DG-LoRA在八个常识问答数据集上的评估结果进一步验证了其通用性和可扩展性,展现出良好的输入自适应能力。
🎯 应用场景
TEPCA框架具有广泛的应用潜力,特别是在需要时间推理的领域,如智能问答系统、知识图谱构建和动态信息检索等。其能够有效处理时间依赖性问题,提升系统的智能化水平,具有重要的实际价值和未来影响。
📄 摘要(原文)
Large Language Models (LLMs) often struggle with temporally grounded reasoning because their static parametric memory is misaligned with the dynamic evolution of real-world knowledge. Although RAG and Parameter-Efficient Fine-Tuning (PEFT) provide practical ways to enhance LLMs, they remain insufficient for temporal reasoning. Existing retrieval methods typically prioritize semantic relevance while overlooking temporal validity, event order, and evolutionary dependencies, resulting in evidence that is relevant in isolation but temporally fragmented. Meanwhile, conventional PEFT methods usually employ fixed and input-agnostic low-rank updates, making it difficult to capture time-dependent entity semantics and relation drift. To address these limitations, we propose Temporal Evidence-Parameter Co-Alignment (TEPCA), a framework for LLM reasoning over TKGs. TEPCA aligns LLM reasoning with temporal knowledge at both the evidence and parameter levels. At the evidence level, it introduces time-constrained Dynamic Relevance-Guided Path (DRGP) pruning to preserve globally coherent temporal paths, together with Mutual-Information (MI)-based pruning to retain query-informative local facts under temporal constraints. At the parameter level, it integrates Dynamic-Gated LoRA (DG-LoRA), a timestamp-conditioned low-rank adaptation mechanism that dynamically modulates the effective adaptation subspace according to temporal context. This design enables LLMs to better capture fine-grained entity evolution and time-dependent relation semantics while preserving parameter efficiency. Experimental results on two TKG benchmarks demonstrate that TEPCA achieves state-of-the-art performance. Additional evaluations of DG-LoRA on eight commonsense QA datasets further verify its general input-adaptive capacity, scalability across LLM backbones, and interpretability.