Foundation Models Meet Power Grid Topology for Cascade Prediction

📄 arXiv: 2610.32696v1 📥 PDF

作者: Soumav Biswas, Mia Naeini

分类: eess.SY

发布日期: 2026-10-23

备注: 10 pages

💡 一句话要点

提出混合图神经网络与语言模型以提高电力网级联故障预测

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 级联故障预测 图神经网络 大型语言模型 电力系统 知识迁移 拓扑感知 深度学习

📋 核心要点

  1. 现有方法通常依赖于特定网络的表示，限制了在不同电力系统拓扑中的泛化能力。
  2. 论文提出了一种混合框架，将图神经网络与大型语言模型结合，以提高级联故障预测的准确性。
  3. 实验结果表明，混合框架在跨系统转移中表现优异，达到了0.83的准确率，超越了传统基线模型。

📝 摘要（中文）

准确预测电力传输网络的级联故障严重性对于评估其脆弱性至关重要。然而，现有的数据驱动方法往往依赖于特定网络的表示，限制了其在不同电力系统拓扑中的泛化能力。本研究探讨了大型语言模型（LLMs）与图神经网络（GNNs）在级联故障严重性预测中的互补能力。首先，开发了使用LoRA微调的LLaMA-3-8B-Instruct模型的独立LLM预测器。然后，提出了一种混合图-LLM融合框架，通过置信门控融合将拓扑感知图注意力变换器（TAGAT）与LLM集成。该框架在IEEE 118-bus和IEEE 300-bus系统的30,000个模拟级联故障场景上进行了评估，混合框架在仅使用前四个级联步骤时分别达到了0.94和0.92的加权F1分数，展示了结合图结构学习与基础模型的潜力。

🔬 方法详解

问题定义：本论文旨在解决电力传输网络中级联故障严重性预测的准确性问题。现有方法往往依赖于特定网络的表示，导致其在不同拓扑结构中的泛化能力不足。

核心思路：本研究提出了一种混合框架，结合了大型语言模型（LLMs）和图神经网络（GNNs），以利用两者的互补优势来提高级联故障预测的准确性。通过置信门控融合机制，框架能够有效整合拓扑信息与早期电力流观测数据。

技术框架：整体架构包括两个主要模块：独立的LLM预测器和拓扑感知图注意力变换器（TAGAT）。LLM负责从早期电力流观测和级联描述中提取特征，而TAGAT则捕捉传输线之间的结构依赖关系。

关键创新：最重要的技术创新在于将图神经网络与大型语言模型的融合，特别是通过置信门控机制实现信息的动态整合。这一设计使得模型能够在不同电力系统中更好地进行知识迁移。

关键设计：在模型设计中，使用了LoRA微调的LLaMA-3-8B-Instruct模型作为LLM，TAGAT则采用了图注意力机制来处理结构信息。实验中使用了30,000个模拟级联故障场景进行评估，确保了模型的鲁棒性和准确性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，混合框架在IEEE 118-bus和IEEE 300-bus系统中分别达到了0.94和0.92的加权F1分数。在跨系统转移中，从IEEE 118-bus到IEEE 300-bus的零-shot准确率为0.72，经过有限的目标系统校准后提升至0.83，显著优于传统基线模型。

🎯 应用场景

该研究的潜在应用领域包括电力系统监控、故障预警和智能电网管理。通过提高级联故障预测的准确性，能够有效降低电力网络的风险，提升系统的安全性和可靠性，具有重要的实际价值和社会影响。

📄 摘要（原文）

Accurate early-stage prediction of cascading failure severity is essential for assessing the vulnerability of power transmission networks. However, existing data-driven approaches often rely on network-specific representations, limiting their generalizability across power system topologies. This work investigates the complementary capabilities of Large Language Models (LLMs) and Graph Neural Networks (GNNs) for cascading failure severity prediction. First, standalone LLM predictors are developed using a LoRA-fine-tuned LLaMA-3-8B-Instruct model with varying degrees of topological information. A hybrid Graph-LLM fusion framework is then proposed, integrating a Topology-Aware Graph Attention Transformer (TAGAT) with the LLM through confidence-gated fusion. TAGAT captures structural dependencies among transmission lines, while the LLM extracts representations from early-stage power-flow observations and aggregated cascade descriptors. The frameworks are evaluated on 30,000 simulated cascading failure scenarios for each of the IEEE 118-bus and IEEE 300-bus systems. Using only the first four cascade steps, the hybrid framework achieves weighted F1 scores of 0.94 and 0.92, respectively. In cross-system transfer from IEEE 118-bus to IEEE 300-bus, it achieves 0.72 zero-shot accuracy, improving to 0.83 with limited target-system calibration, outperforming standalone models and conventional baselines. These results show the potential of combining graph-based structural learning with foundation models to improve cascading failure severity prediction and cross-system transferability.