Anlu: Enabling In-Context Time Series Anomaly Detection in Foundation Models via Counterfactual Supervision
作者: Tian Lan, Yifei Gao, Yimeng Lu, Xuming An, Meng Wang, Yue Pan, Wenjun He, Chen Zhang
分类: cs.LG, cs.AI
发布日期: 2026-10-05
💡 一句话要点
提出Anlu以解决时间序列异常检测中的上下文学习问题
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 时间序列异常检测 上下文学习 反事实监督 模型优化 工业监控
📋 核心要点
- 现有方法在时间序列异常检测中难以区分不同操作状态下的异常与常规行为,导致检测效果不佳。
- 论文提出通过反事实监督结合参考记录进行时间序列异常检测,确保模型在推理时不忽视参考信息。
- 在350个TSB-AD-U评估序列上,Anlu将冻结的时间序列基础模型的平均VUS-PR从0.542提升至0.607。
📝 摘要(中文)
时间序列模式是否异常通常依赖于监控过程的操作状态。缺失事件在某些状态下可能表示故障,而在其他状态下则可能是常规行为。本文研究了通过参考条件检测实现的时间序列异常检测(TSAD)中的上下文学习(ICL)。我们引入了反事实监督,将一个查询与两个支持不同正常规则的参考记录配对,并在每个参考下标记查询。通过这种方式,Anlu能够有效学习并提高异常检测的准确性。
🔬 方法详解
问题定义:本文旨在解决时间序列异常检测中,现有方法无法有效利用参考信息的问题,尤其是在不同操作状态下的异常判断。现有方法往往依赖于查询本身,忽视了上下文信息的影响。
核心思路:论文提出的核心思路是引入反事实监督,通过将一个查询与两个不同的参考记录配对,使模型在训练时能够学习到不同正常规则的影响,从而提高异常检测的准确性。
技术框架:整体架构包括一个冻结的时间序列基础模型(TSFM),在其上添加参考记忆和零初始化的门控适配器。模型在推理时保持参数不变,通过参考记录进行条件检测。
关键创新:最重要的技术创新在于引入反事实监督机制,使得模型在面对不同标签时无法忽视参考信息,从而强制模型学习到更为准确的异常检测规则。与现有方法相比,这一机制显著提升了模型的学习能力。
关键设计:在设计上,模型采用了零初始化的门控适配器,以便在推理时灵活调整参考信息的影响。此外,损失函数的设计也考虑了不同标签的对比,确保模型能够在训练过程中有效学习。
🖼️ 关键图片
📊 实验亮点
Anlu在350个TSB-AD-U评估序列上的实验结果显示,平均VUS-PR从0.542提升至0.607,表明该方法显著提高了时间序列异常检测的性能。相较于将参考替换为零的情况,Anlu的得分下降至0.499,进一步验证了参考信息的重要性。
🎯 应用场景
该研究在工业监控、金融交易监测和医疗数据分析等领域具有广泛的应用潜力。通过提高时间序列异常检测的准确性,Anlu能够帮助企业及机构更早地识别潜在故障,降低风险,提升决策效率。未来,该方法还可以扩展到其他类型的序列数据分析中。
📄 摘要(原文)
Whether a time-series pattern is anomalous often depends on the operating regime of the monitored process. A missing event can signal a fault in one regime and be routine in another, and the query alone may not reveal which regime applies. We study in-context learning (ICL) for time series anomaly detection (TSAD) through reference-conditioned detection, where a reference record provides evidence about expected behavior and model parameters remain fixed at inference. Supplying the reference is not enough: when training anomalies are recognizable from the query alone, the detector can fit its targets while ignoring the reference. We therefore introduce counterfactual supervision, which pairs one query with two references that support different normal rules and labels the query under each. At positions where the two labels disagree, no detector that ignores the reference can fit both targets. Anlu learns from this supervision by adding a reference memory and zero-initialized gated adapters to a frozen time-series foundation model (TSFM) pretrained for anomaly detection. On the 350 TSB-AD-U evaluation sequences, Anlu raises the mean VUS-PR of the frozen TSFM from 0.542 to 0.607. Replacing the reference with zeros lowers Anlu's score to 0.499.