SwitchPFN: Shared Switching Dynamics for Frozen In-Context Time Series Classification

📄 arXiv: 2609.29814v1 📥 PDF

作者: Zhenyi Zhu, Jacqueline Pang, Peilin Shen, Tianyi Song, Tingwei Zhang, Keyi Hu, Kangjun Yin, Shiwei Pu, Yingbo Zhou, Chen Shao

分类: cs.LG

发布日期: 2026-09-24


💡 一句话要点

提出SwitchPFN以解决时间序列分类中的表示设计问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 时间序列分类 表格基础模型 共享投影 动态特征 机器学习

📋 核心要点

  1. 现有的时间序列分类方法在数据表示上存在不足,尤其是在保持时间顺序和特征一致性方面。
  2. SwitchPFN通过学习共享的投影和状态代码本,确保局部动态特征在不同样本间的可比性。
  3. 在多个基准测试中,SwitchPFN的平均准确率最高,相比最强基线提升了4.47%。

📝 摘要(中文)

表格基础模型(TFMs)为时间序列分类提供了有前景的解决方案,但其有效性依赖于如何将序列数据转换为表格表示。现有表示面临两个挑战:全局聚合可能会丢失时间演变的顺序,而在独立拟合的坐标系统中计算的特征可能在序列间缺乏一致性。因此,论文提出SwitchPFN,通过从训练序列中学习共享投影和状态代码本,使得局部动态操作和过渡特征在样本间直接可比。SwitchPFN在评估的基准上实现了最高的平均准确率,相较于最强基线提高了4.47%。

🔬 方法详解

问题定义:论文旨在解决时间序列分类中数据表示的不足,现有方法在全局聚合时可能丢失时间顺序,且特征在不同序列间缺乏一致性。

核心思路:SwitchPFN通过学习共享的投影和状态代码本,确保局部动态特征在不同样本间的可比性,从而提高分类性能。

技术框架:整体架构包括数据预处理、共享投影学习和状态代码本构建三个主要模块,确保特征的一致性和可比性。

关键创新:SwitchPFN的核心创新在于其共享的投影和状态代码本设计,使得局部动态特征在样本间可直接比较,这是与现有方法的本质区别。

关键设计:论文中对参数设置进行了细致的分析,采用特定的损失函数来优化共享投影的学习,同时在网络结构上设计了适应性强的模块以处理不同的时间序列特征。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果表明,SwitchPFN在多个基准测试中实现了最高的平均准确率,相比最强基线提高了4.47%。此外,消融研究和参数敏感性分析进一步验证了表示设计的贡献和有效性。

🎯 应用场景

该研究在金融、医疗和环境监测等领域具有广泛的应用潜力,能够有效提升时间序列数据的分类精度,帮助决策者更好地理解和预测动态变化。未来,SwitchPFN可能推动更多基于时间序列的智能应用的发展。

📄 摘要(原文)

Tabular foundation models (TFMs) provide a promising route to time-series classification, but their effectiveness depends on how sequential data are converted into tabular representations. Existing representations face two challenges: global aggregation can lose the order of temporal evolution, while features computed in independently fitted coordinate systems may not have consistent meanings across sequences. We therefore view representation design for TFMs as a problem in its own right: the representation should preserve local temporal transitions while maintaining a shared feature definition across samples. We propose SwitchPFN, which learns a shared projection and regime codebook from the training sequences, making local dynamic operators and transition features directly comparable across samples. Across the evaluated benchmarks, SwitchPFN achieves the highest mean accuracy among the evaluated methods, improving over the strongest baseline by 4.47% relatively. Ablation studies, parameter sensitivity analyses, and reduced-training-data experiments further examine the contributions of the representation, its main design choices, and its behavior when labeled data are limited.