KairosHope: A Next-Generation Time-Series Foundation Model for Specialized Classification via Dual-Memory Architecture

📄 arXiv: 2605.18657v1 📥 PDF

作者: Luis Balderas, José Alberto Rodríguez, Miguel Lastra, Antonio Arauzo-Azofra, José M. Benítez

分类: cs.LG, cs.AI

发布日期: 2026-05-18

💡 一句话要点

KairosHope：基于双记忆架构的下一代时间序列基础模型，用于专业分类

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 时间序列分析 基础模型 双记忆架构 自监督学习 时间序列分类 深度学习 统计特征

📋 核心要点

  1. 现有时间序列基础模型在专业分类任务中受限于计算瓶颈，且忽略了经典统计知识，导致性能受限。
  2. KairosHope通过引入双记忆系统（Titans模块和CMS）的HOPE块，以及混合决策头，来解决上述问题。
  3. KairosHope在Monash档案上进行预训练，并在UCR数据集上进行微调，实验结果表明其在特定领域表现优异。

📝 摘要（中文）

时间序列基础模型(TSFMs)在通用预测任务中表现出色，但由于标准注意力机制的计算瓶颈和对经典统计知识的系统性忽略，它们在专业分类问题中的应用仍然受限。本技术报告介绍了KairosHope，一种旨在协调大规模泛化和分类任务分析精度的下一代TSFM。该方案的核心是HOPE块，它用双记忆系统取代了二次注意力：用于动态短期记忆的Titans模块和用于抽象长期历史上下文的连续记忆系统(CMS)。为了丰富归纳偏置，引入了混合决策头，它融合了深度潜在表示和通过tsfeatures包提取的确定性统计特征。KairosHope在Monash大型档案上进行自监督预训练，结合了掩码时间序列建模(MTSM)和对比学习(InfoNCE)。随后，通过严格的线性探测和完全微调(LP-FT)协议将其应用于UCR基准数据集，以防止灾难性遗忘。经验结果表明，在具有严格时间因果关系的领域(如HAR或传感器数据)中，性能更优。因此，KairosHope为基础模型适应时间序列分析建立了一个强大而高效的框架。

🔬 方法详解

问题定义：论文旨在解决时间序列基础模型在专业分类任务中的适应性问题。现有方法主要痛点在于标准注意力机制的计算复杂度高，难以处理长序列，并且忽略了传统统计特征的价值，导致模型在特定领域的性能受限。

核心思路：论文的核心思路是利用双记忆架构来替代传统的注意力机制，并结合深度学习和统计特征，从而提高模型在专业分类任务中的效率和准确性。通过短期记忆模块捕捉动态变化，长期记忆模块抽象历史信息，混合决策头融合深度特征和统计特征，增强模型的表达能力。

技术框架：KairosHope的整体架构包含以下几个主要模块：1) HOPE块：核心模块，包含Titans模块（短期记忆）和CMS（长期记忆）；2) 混合决策头：融合深度潜在表示和统计特征；3) 自监督预训练：在Monash档案上进行MTSM和InfoNCE预训练；4) 微调：在UCR数据集上进行线性探测和完全微调。

关键创新：最重要的技术创新点在于HOPE块的双记忆架构，它有效地降低了计算复杂度，并能够同时捕捉短期动态和长期历史信息。此外，混合决策头的设计也增强了模型的表达能力，使其能够更好地适应专业分类任务。

关键设计：Titans模块和CMS的具体实现细节未知，但可以推测Titans模块可能采用类似Transformer的结构，CMS可能采用某种形式的外部记忆。损失函数方面，预训练阶段使用MTSM和InfoNCE损失，微调阶段使用交叉熵损失。线性探测和完全微调的具体参数设置未知。

🖼️ 关键图片

fig_0

📊 实验亮点

KairosHope在具有严格时间因果关系的领域（如HAR或传感器数据）中表现出优越的性能。通过在Monash档案上进行预训练，并在UCR数据集上进行微调，该模型在特定任务上取得了显著的性能提升，证明了其在时间序列分类任务中的有效性和泛化能力。具体的性能数据和提升幅度在摘要中未明确给出。

🎯 应用场景

KairosHope可应用于各种需要时间序列分类的专业领域，例如人体活动识别(HAR)、传感器数据分析、医疗诊断、金融风险预测等。该模型能够更有效地利用历史数据和统计特征，提高分类准确性和效率，为相关领域的决策提供更可靠的支持，并可能推动时间序列分析技术在实际应用中的普及。

📄 摘要（原文）

Time Series Foundation Models (TSFMs) have demonstrated notable success in general-purpose forecasting tasks; however, their adaptation to specialized classification problems remains constrained by the computational bottleneck of standard attention and the systematic omission of classical statistical knowledge. This technical report introduces KairosHope, a next-generation TSFM designed to reconcile massive generalization with analytical precision in classification tasks. The core of the proposal is the HOPE block, an architecture that replaces quadratic attention with a dual-memory system: Titans modules for dynamic short-term retention and a Continuum Memory System (CMS) for the abstraction of long-term historical context. To enrich the inductive bias, a Hybrid Decision Head is introduced, which fuses deep latent representations with deterministic statistical features extracted via tsfeatures package. KairosHope undergoes self-supervised pre-training on the massive Monash archive, combining Masked Time Series Modeling (MTSM) and contrastive learning (InfoNCE). Its subsequent adaptation to the UCR benchmark datasets is conducted through a rigorous Linear Probing and Full Fine-Tuning (LP-FT) protocol to prevent catastrophic forgetting. Empirical results demonstrate superior performance in domains characterized by strict temporal causality such as HAR or Sensor data. Consequently, KairosHope establishes a robust and efficient framework for the adaptation of foundation models to time series analysis.