Autoregressive Multimodal Anomaly Detection with Large Language Models for Microservice Systems

📄 arXiv: 2610.31722v1 📥 PDF

作者: Yixiang Tang, Fagui Liu, Guoxiang Zhong, Xi Yao, C. L. Philip Chen

分类: cs.LG, cs.AI, cs.SE

发布日期: 2026-10-22

备注: 14 pages, 8 figures, 7 tables

💡 一句话要点

提出LLMMAD框架以解决微服务系统中的多模态异常检测问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多模态异常检测 微服务系统 自回归模型 大型语言模型 异常检测 跨模态融合 特征重建 云计算

📋 核心要点

  1. 现有多模态异常检测方法忽视模态特征，导致检测效果不佳。
  2. LLMMAD框架通过统一序列处理和模态特定重建头，解决模态融合与特征保留问题。
  3. 在三个真实数据集上，LLMMAD的F1分数分别提升3.1%、1.4%和0.9%，表现优于现有方法。

📝 摘要（中文）

微服务系统已成为大规模云应用的主流架构，但其可靠性和可用性依赖于有效的异常检测。现有的多模态异常检测方法存在两个主要局限性：一是忽视了模态特征的特异性，二是存在“身份快捷”问题。为此，本文提出了基于大型语言模型的自回归多模态异常检测框架LLMMAD。该框架通过将多模态数据嵌入并重组为统一序列，结合模态特定重建头，保留模态信息，并通过预测驱动的自回归目标消除身份快捷问题。实验结果表明，LLMMAD在三个真实数据集上均优于现有方法，F1分数分别提升3.1%、1.4%和0.9%。

🔬 方法详解

问题定义：本文旨在解决微服务系统中的多模态异常检测问题，现有方法存在模态特征忽视和身份快捷问题，影响检测效果。

核心思路：LLMMAD框架通过将多模态数据嵌入为统一序列，结合模态特定重建头，保留模态信息，同时采用预测驱动的自回归目标来消除身份快捷问题。

技术框架：LLMMAD的整体架构包括数据嵌入与重组模块、模态特定重建头和自回归预测模块，形成一个完整的异常检测流程。

关键创新：LLMMAD的主要创新在于同时实现模态特征的保留与跨模态融合，且通过预测未来状态而非复制当前输入，克服了身份快捷问题。

关键设计：在设计中，采用了多模态数据的统一序列嵌入，模态特定重建头的结构，以及预测驱动的损失函数，确保模型的有效性与准确性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，LLMMAD在三个真实数据集上的F1分数分别提升了3.1%、1.4%和0.9%，显著优于现有的最先进方法。这表明LLMMAD在微服务监控中的有效性和可靠性，为实际应用提供了更好的解决方案。

🎯 应用场景

该研究具有广泛的应用潜力，尤其在云计算和微服务架构中，能够有效提升系统的可靠性和可用性。通过更准确的异常检测，企业可以减少故障发生的风险，提高用户体验。此外，LLMMAD框架的设计理念也可推广至其他领域的多模态数据处理与异常检测任务。

📄 摘要（原文）

Microservice systems have become a dominant architecture for large-scale cloud applications, enabling rapid deployment and elastic scaling. However, ensuring the reliability and availability of microservice systems critically relies on effective anomaly detection, as failures and performance anomalies can quickly propagate across services and severely impact end-to-end system behavior. Existing multimodal anomaly detection approaches for microservice systems often struggle with two fundamental limitations: (i) the neglect of modality-specific characteristics in favor of cross-modality fusion, and (ii) the "identity-shortcut" problem that affects the feature reconstruction process. To address these issues, we propose LLMMAD, an autoregressive multimodal anomaly detection framework for microservice systems based on Large Language Models (LLMs). Initially, to reconcile cross-modality fusion with modality-specific preservation, LLMMAD embeds and recombines multimodal data into a unified sequence for LLM processing to model inter-modality relationships, while employing modality-wise reconstruction heads to retain modality-specific information. Subsequently, to eliminate the identity-shortcut, we implement a prediction-driven autoregressive objective, under which the model predicts future states rather than copies current inputs. Finally, we conduct extensive experiments on three real-world datasets. The results demonstrate that LLMMAD consistently outperforms state-of-the-art methods, achieving F1-score improvements of 3.1%, 1.4%, and 0.9%, respectively, thereby providing a more reliable solution for microservice monitoring.