MercerFlow: Flow Matching in a Kernel-Induced Latent Space for Probabilistic Forecasting
作者: Ilya Kuleshov, Egor Serov, Alexey Zaytsev
分类: cs.LG, cs.AI
发布日期: 2026-10-05
💡 一句话要点
提出MercerFlow以解决时间序列预测中的流匹配问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)
关键词: 时间序列预测 流匹配 概率模型 多层感知机 Mercer特征基 GluonTS基准 机器学习
📋 核心要点
- 现有的时间序列预测方法在处理局部相关性时，通常需要消耗大量的GPU内存和训练时间。
- 本文提出了一种基于MLP的潜在空间流匹配方法，通过可逆映射将时间序列嵌入到单一潜在向量中，从而简化了处理过程。
- 在五个GluonTS基准测试中，所提方法在CRPS指标上表现优异，训练内存和时间显著减少，提升效果明显。
📝 摘要（中文）
近期研究表明，时间序列预测中的概率流匹配受益于数据匹配的先验。现有方法如RNN、S4或Transformer在处理局部相关性时消耗大量GPU内存和训练时间。本文提出了一种基于多层感知机（MLP）的潜在空间流匹配方法，通过可逆映射将时间序列嵌入到单一潜在向量中，从而以特征集的形式处理序列。我们发现先验与线性潜在映射的选择对条件流匹配预测的性能有显著影响。我们建议使用Mercer特征基，它能够精确对角化中心协方差，独立于训练数据，并适应非平稳和周期性先验。在五个GluonTS基准测试中，所提方法在CRPS上与TSFlow相匹配或超越，同时训练内存减少约4.7倍，训练时间减少3.5至4.4倍。
🔬 方法详解
问题定义：本文旨在解决时间序列预测中流匹配的效率问题。现有方法如RNN和Transformer在处理局部相关性时，往往需要大量的计算资源和时间，限制了其应用。
核心思路：我们提出了一种基于多层感知机（MLP）的潜在空间流匹配方法，通过可逆映射将时间序列嵌入到单一潜在向量中，从而将时间序列视为特征集进行处理。这种方法降低了计算复杂度。
技术框架：整体架构包括数据预处理、可逆映射生成潜在向量、流匹配学习和预测输出四个主要模块。首先对时间序列进行嵌入，然后在潜在空间中进行流匹配，最后输出预测结果。
关键创新：最重要的创新在于使用Mercer特征基来处理先验核，这种方法能够精确对角化中心协方差，独立于训练数据，适应非平稳和周期性先验，与传统固定变换方法相比具有显著优势。
关键设计：在模型设计中，采用了适应性强的Mercer特征基，避免了固定变换如傅里叶变换的局限性。此外，损失函数设计上考虑了CRPS指标，以优化预测性能。整体网络结构为MLP，具有较低的参数复杂度。
🖼️ 关键图片
📊 实验亮点
在五个GluonTS基准测试中，MercerFlow在CRPS指标上表现出色，训练内存减少约4.7倍，训练时间减少3.5至4.4倍，显示出显著的性能提升，超越了现有的TSFlow方法。
🎯 应用场景
该研究的潜在应用领域包括金融市场预测、气象预报和交通流量预测等时间序列分析任务。通过提高预测效率和准确性，MercerFlow能够为决策支持系统提供更可靠的依据，具有重要的实际价值和未来影响。
📄 摘要（原文）
Recent work has shown that probabilistic flow matching for time series forecasting benefits from a data-matched prior. The resulting prior introduces local correlations, which a sequential architecture usually absorbs: a recurrent neural network (RNN), a structured state-space model (S4), or a Transformer. However, such a backbone costs GPU memory and time per epoch. A cheaper alternative is MLP-based latent-space flow matching: embed the time series via an invertible map to a single latent vector and learn the flow there, so a tabular MLP can treat the series as a set of features. The relationship between the prior and the choice of linear latent map is understudied in conditional flow matching (CFM) forecasting, yet we found it strongly affects performance. Fixed transforms such as Fourier or discrete cosine (DCT) are only well-conditioned for Ornstein--Uhlenbeck priors, while a principal-component (PCA) map fit to the data is a strong but training-set-dependent reference sensitive to train--test shift. Instead, we propose to use the Mercer eigenbasis of the prior kernel: it diagonalises the centred covariance exactly, decouples from training data, and adapts to non-stationary and periodic priors. On five GluonTS benchmarks (ETTh1, ETTh2, Weather, Electricity, Traffic) under a shared protocol with TSFlow, the resulting MLP matches or beats it on CRPS at about $4.7\times$ less training memory and $3.5\times$--$4.4\times$ less time per epoch.