AutoMixer for Improved Multivariate Time-Series Forecasting on Business and IT Observability Data

📄 arXiv: 2310.20280v2 📥 PDF

作者: Santosh Palaskar, Vijay Ekambaram, Arindam Jati, Neelamadhav Gantayat, Avirup Saha, Seema Nagar, Nam H. Nguyen, Pankaj Dayama, Renuka Sindhgatta, Prateeti Mohapatra, Harshit Kumar, Jayant Kalagnanam, Nandyala Hemachandra, Narayan Rangaraj

分类: cs.LG, cs.AI

发布日期: 2023-10-31 (更新: 2023-11-02)

备注: Accepted in the Thirty-Sixth Annual Conference on Innovative Applications of Artificial Intelligence (IAAI-24)

💡 一句话要点

提出AutoMixer以解决Biz-KPI预测中的噪声干扰问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多变量时间序列 商业关键绩效指标 IT可观察性 自编码器 TSMixer 预测模型 数据分析 机器学习

📋 核心要点

  1. 现有多变量时间序列预测模型在处理BizITObs数据时，无法有效解耦有用与噪声的交互，导致预测性能不佳。
  2. 本文提出AutoMixer，通过自编码器进行通道压缩预训练，并结合TSMixer模型，提升多变量时间序列的预测能力。
  3. 实验结果显示，AutoMixer在Biz-KPI预测准确性上提升了11-15%，为商业决策提供了更为可靠的数据支持。

📝 摘要（中文）

商业流程的效率依赖于商业关键绩效指标（Biz-KPIs），而IT故障可能对其产生负面影响。商业与IT可观察性（BizITObs）数据将Biz-KPIs与IT事件通道融合为多变量时间序列数据。提前预测Biz-KPIs可以通过主动纠正措施提升效率和收入。然而，BizITObs数据中Biz-KPIs与IT事件之间存在有用与噪声的交互，导致现有多变量预测模型的性能不佳。为此，本文提出了AutoMixer，一种基于通道压缩预训练和微调工作流的新型时间序列基础模型（FM）方法。AutoMixer利用自编码器进行通道压缩预训练，并与先进的TSMixer模型结合，显著提升了多变量时间序列预测的准确性，并在多个下游任务中表现良好。实验结果表明，AutoMixer能够将Biz-KPI的预测准确性提升11-15%，直接转化为可操作的商业洞察。

🔬 方法详解

问题定义：本文旨在解决在多变量时间序列预测中，BizITObs数据中Biz-KPIs与IT事件之间的噪声干扰问题。现有方法在处理这些数据时，无法有效分离有用信息与噪声，导致预测性能下降。

核心思路：AutoMixer的核心思路是通过通道压缩预训练来提取有效特征，并结合TSMixer模型进行多变量时间序列预测。该设计旨在增强模型对复杂数据交互的处理能力，从而提高预测准确性。

技术框架：AutoMixer的整体架构包括两个主要阶段：首先是自编码器进行通道压缩预训练，提取有效特征；其次是将这些特征输入到TSMixer模型中进行多变量时间序列预测。

关键创新：AutoMixer的主要创新在于引入了通道压缩预训练技术，这一方法有效地减少了噪声干扰，提升了模型在复杂数据环境中的预测能力，与传统方法相比具有显著优势。

关键设计：在设计上，AutoMixer采用了自编码器结构进行特征提取，损失函数设置为均方误差（MSE），以优化预测精度。网络结构上，TSMixer模型的集成进一步增强了对多变量时间序列的建模能力。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，AutoMixer在Biz-KPI预测中的准确性提升了11-15%，相较于基线模型表现出显著的性能改进。这一提升不仅增强了预测的可靠性，还为企业提供了更为精准的决策支持。

🎯 应用场景

AutoMixer的研究成果在商业分析、IT监控和决策支持等领域具有广泛的应用潜力。通过提高Biz-KPI的预测准确性，企业能够更有效地进行资源配置和风险管理，从而提升整体运营效率。未来，该方法还可以扩展到其他领域的时间序列预测任务。

📄 摘要（原文）

The efficiency of business processes relies on business key performance indicators (Biz-KPIs), that can be negatively impacted by IT failures. Business and IT Observability (BizITObs) data fuses both Biz-KPIs and IT event channels together as multivariate time series data. Forecasting Biz-KPIs in advance can enhance efficiency and revenue through proactive corrective measures. However, BizITObs data generally exhibit both useful and noisy inter-channel interactions between Biz-KPIs and IT events that need to be effectively decoupled. This leads to suboptimal forecasting performance when existing multivariate forecasting models are employed. To address this, we introduce AutoMixer, a time-series Foundation Model (FM) approach, grounded on the novel technique of channel-compressed pretrain and finetune workflows. AutoMixer leverages an AutoEncoder for channel-compressed pretraining and integrates it with the advanced TSMixer model for multivariate time series forecasting. This fusion greatly enhances the potency of TSMixer for accurate forecasts and also generalizes well across several downstream tasks. Through detailed experiments and dashboard analytics, we show AutoMixer's capability to consistently improve the Biz-KPI's forecasting accuracy (by 11-15\%) which directly translates to actionable business insights.