QUALS: Corpus Equilibrium for Universal Forecasting via Pattern Quantization and Learnability Synchronization

📄 arXiv: 2609.20156v1 📥 PDF

作者: Yujie Li, Zezhi Shao, Chengqing Yu, Yisong Fu, Weijie Zhu, Yifan Du, Jilin Hu, Bin Yang, Yongjun Xu, Fei Wang

分类: cs.LG, cs.AI

发布日期: 2026-09-17


💡 一句话要点

提出QUALS框架以解决时间序列数据多样性问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 时间序列预测 数据效率 模式量化 可学习同步 零-shot 学习 深度学习

📋 核心要点

  1. 现有方法主要关注架构创新,未能有效处理时间序列数据的多样性,导致训练数据利用效率低下。
  2. 本文提出QUALS框架,通过模式量化和可学习同步机制,系统性地优化数据采样和利用效率。
  3. 实验结果显示,QUALS在减少训练数据的情况下,仍能显著提升模型的零-shot 预测性能。

📝 摘要(中文)

随着各领域时间序列数据的普遍存在,准确的零-shot 预测在交通系统和电网等关键应用中变得至关重要。然而,现有研究主要集中于架构创新,未能有效管理复杂数据分布,导致训练数据利用效率低下。为此,本文提出了QUALS,一个大规模时间序列语料库平衡框架,显著提高了数据效率,使现有模型在仅使用少量训练数据的情况下实现更优性能。QUALS通过模式量化和可学习同步两个核心机制,系统性地解码异构模式并校准采样权重,最大化整体训练效率。大量基准测试表明,基于QUALS的预训练在显著减少训练预算的情况下,始终实现了优越的零-shot 性能。

🔬 方法详解

问题定义:本文旨在解决现有时间序列预测模型在数据多样性管理上的不足,尤其是简单的数据采样策略无法有效应对复杂数据分布的问题。

核心思路:QUALS框架通过引入模式量化和可学习同步机制,系统性地解码和优化异构模式的采样,从而提升数据利用效率。

技术框架:QUALS的整体架构包括两个主要模块:模式量化框架和可学习同步框架。模式量化框架通过向量量化和均匀分箱技术解码混合语料中的异构模式;可学习同步框架则通过校准采样权重来优化训练过程。

关键创新:QUALS的核心创新在于其模式量化和可学习同步机制的结合,能够有效缩小简单与复杂模式之间的优化差距,提升整体训练效率。

关键设计:在设计上,QUALS采用了特定的损失函数来平衡不同模式的采样权重,并通过向量量化技术实现对异构模式的有效解码。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在大量基准测试中,基于QUALS的预训练模型在零-shot 预测任务中表现优异,尤其是在训练预算显著减少的情况下,性能提升幅度达到XX%(具体数据待补充),相较于传统方法具有明显优势。

🎯 应用场景

QUALS框架在交通系统、能源管理等领域具有广泛的应用潜力。通过提高时间序列数据的利用效率,能够帮助相关领域的研究者和工程师在有限的数据条件下实现更准确的预测,从而优化决策过程,提升系统的整体性能。未来,QUALS的设计理念也可以扩展到其他类型的数据预测任务中,推动相关技术的发展。

📄 摘要(原文)

Ubiquitous time series data across diverse domains enables critical applications in areas such as transportation systems and power grids. Recently, training foundation models on massive datasets to achieve accurate zero-shot forecasting has emerged as a major research focus. However, current studies predominantly prioritize architectural innovations while insufficiently addressing data diversity, often relying on simple data sampling strategies that fail to manage complex data distributions effectively, leading to inefficient use of training data and suboptimal performance. To address this, we propose QUALS, a large-scale time series corpus equilibrium framework. QUALS significantly enhances data efficiency, i.e., enabling existing models to achieve superior performance using only a small fraction of the original training data. Specifically, QUALS operates through two core mechanisms. First, a pattern quantization framework systematically decodes heterogeneous patterns from mixed corpora via vector quantization and uniform binning. Second, a learnability synchronization framework calibrates sampling weights for heterogeneous patterns, bridging the optimization gap between simple and complex motifs to maximize overall training efficiency. Extensive benchmarks demonstrate that pre-training on QUALS consistently achieves superior zero-shot performance, even under substantially reduced training budgets.