Reasoning Language Models for Root Cause Analysis in 5G Wireless Networks

📄 arXiv: 2507.21974v1 📥 PDF

作者: Mohamed Sana, Nicola Piovesan, Antonio De Domenico, Yibin Kang, Haozhe Zhang, Merouane Debbah, Fadhel Ayed

分类: cs.AI, cs.NI

发布日期: 2025-07-29

💡 一句话要点

提出基于领域知识增强的LLM框架，用于5G无线网络根因分析

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 根因分析 大型语言模型 5G无线网络 领域知识 强化学习 故障诊断 可解释性

📋 核心要点

  1. 移动网络根因分析面临可解释性、领域知识和因果推理的挑战，现有方法难以兼顾。
  2. 论文提出一种基于大型语言模型（LLM）的轻量级框架，通过领域知识增强LLM的推理能力。
  3. 实验结果表明，该方法在多个LLM规模上均优于现有推理和非推理模型，并具有良好的泛化能力。

📝 摘要（中文）

由于可解释性、领域专业知识和因果推理的需求，移动网络中的根因分析(RCA)仍然是一项具有挑战性的任务。本文提出了一个轻量级框架，利用大型语言模型(LLM)进行RCA。为此，我们引入了TeleLogs，这是一个经过整理的、带有注释的故障排除问题数据集，旨在评估RCA能力。评估表明，现有的开源推理LLM难以解决这些问题，突显了领域特定适应的必要性。为了解决这个问题，我们提出了一种两阶段训练方法，将监督微调与强化学习相结合，以提高LLM的准确性和推理质量。所提出的方法微调了一系列RCA模型，以整合领域知识并生成结构化的多步骤诊断解释，从而提高了解释性和有效性。跨多个LLM规模的广泛实验表明，相对于最先进的推理和非推理模型，性能得到了显著提高，包括对随机测试变体的强大泛化能力。这些结果证明了领域自适应、推理增强的LLM在网络运营和管理中进行实用且可解释的RCA的潜力。

🔬 方法详解

问题定义：论文旨在解决5G无线网络中根因分析（RCA）的问题。现有方法在可解释性、领域知识利用和因果推理方面存在不足，导致诊断效率低下。现有开源LLM在解决该问题时表现不佳，无法有效利用领域知识进行推理。

核心思路：论文的核心思路是利用大型语言模型（LLM）的推理能力，并结合领域知识进行增强，从而实现更准确、可解释的RCA。通过领域知识的注入，使LLM能够更好地理解网络故障的上下文，并生成结构化的诊断解释。

技术框架：该框架包含两个主要阶段：1) 基于TeleLogs数据集的监督微调（SFT），使LLM初步具备RCA能力；2) 基于强化学习（RL）的优化，进一步提升LLM的推理质量和准确性。TeleLogs是一个专门为RCA任务设计的、带有注释的故障排除问题数据集。

关键创新：该方法的主要创新在于结合了监督微调和强化学习，并针对5G无线网络RCA任务进行了领域知识的定制化。通过两阶段训练，LLM不仅能够学习到通用的推理能力，还能掌握特定领域的知识，从而更好地解决实际问题。

关键设计：TeleLogs数据集包含各种网络故障场景和对应的根因标注。监督微调阶段使用交叉熵损失函数，优化LLM的生成能力。强化学习阶段，设计了奖励函数来鼓励LLM生成准确、可解释的诊断解释。具体的网络结构和参数设置根据不同的LLM模型进行调整。

🖼️ 关键图片

img_0

📊 实验亮点

实验结果表明，所提出的方法在TeleLogs数据集上取得了显著的性能提升，优于现有的推理和非推理模型。具体而言，该方法在准确性和可解释性方面均有明显改善，并且具有良好的泛化能力，能够在随机测试变体上保持较高的性能。实验证明了领域自适应和推理增强的LLM在解决实际网络故障诊断问题方面的有效性。

🎯 应用场景

该研究成果可应用于5G无线网络的自动化运维和故障诊断。通过利用领域知识增强的LLM，可以快速准确地定位网络故障的根源，减少人工干预，提高网络运营效率，降低维护成本。未来，该方法还可以扩展到其他复杂的系统和领域，例如云计算、物联网等。

📄 摘要（原文）

Root Cause Analysis (RCA) in mobile networks remains a challenging task due to the need for interpretability, domain expertise, and causal reasoning. In this work, we propose a lightweight framework that leverages Large Language Models (LLMs) for RCA. To do so, we introduce TeleLogs, a curated dataset of annotated troubleshooting problems designed to benchmark RCA capabilities. Our evaluation reveals that existing open-source reasoning LLMs struggle with these problems, underscoring the need for domain-specific adaptation. To address this issue, we propose a two-stage training methodology that combines supervised fine-tuning with reinforcement learning to improve the accuracy and reasoning quality of LLMs. The proposed approach fine-tunes a series of RCA models to integrate domain knowledge and generate structured, multi-step diagnostic explanations, improving both interpretability and effectiveness. Extensive experiments across multiple LLM sizes show significant performance gains over state-of-the-art reasoning and non-reasoning models, including strong generalization to randomized test variants. These results demonstrate the promise of domain-adapted, reasoning-enhanced LLMs for practical and explainable RCA in network operation and management.