MxGPS: Multiplex Graph Transformers for a Power Grid Foundation Model
作者: Charilaos Papaioannou, Ioannis Tsantilas, Dimitris Giannakakos, Vasilis Michalakopoulos, Sotiris Pelekis, Vangelis Marinakis, Arsam Aryandoust, Antonello Monti, Ricardo J. Bessa, Perdo P. Vergara, Jochen Cremer, Elissaios Sarmas
分类: cs.LG, cs.AI
发布日期: 2026-07-15
备注: 10 pages, 4 figues
💡 一句话要点
提出MxGPS以解决电网模型的拓扑过拟合问题
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 图神经网络 电力系统 拓扑过拟合 多任务学习 自监督学习 模型泛化 智能电网
📋 核心要点
- 现有的图神经网络在电网问题上存在拓扑过拟合现象,导致在新拓扑上表现不佳。
- MxGPS通过多路图变换器架构,联合训练静态状态估计和交流电流流动,减少拓扑特定结构的过拟合。
- 在四个未见拓扑的实验中,MxGPS的性能下降仅为39%,显著优于其他模型的1400%下降,验证了其有效性。
📝 摘要(中文)
单任务微调图神经网络(GNN)在电网问题上存在系统性失效模式:在训练拓扑上表现良好的模型在拓扑变化时表现显著下降。我们称之为拓扑过拟合,即任务特定的梯度信号编码了特定于训练拓扑的关系结构,而非底层物理。为了解决这一问题,本文提出MxGPS(Multiplex GPS),一种多路图变换器,运行K个任务专用的GPS分支,通过自监督预训练和多任务微调协议共同训练静态状态估计(SSE)和交流电流流动(PF),并通过交叉分支注意力模块进行评估。实验表明,MxGPS在四个未见拓扑下的边界违规率为0%,且在拓扑变化下的性能下降显著低于现有模型,展示了多任务联合训练在电网基础模型中的有效性。
🔬 方法详解
问题定义:本文旨在解决电网模型在拓扑变化时的性能下降问题,现有方法在训练拓扑上表现良好,但在新拓扑上失效,造成拓扑过拟合现象。
核心思路:MxGPS通过多路图变换器架构,运行多个任务专用分支,利用共享节点编码器进行联合训练,从而避免模型对特定拓扑的过拟合。
技术框架:MxGPS的整体架构包括一个共享节点编码器和K个任务专用的GPS分支,采用自监督预训练和多任务微调的训练流程,并引入交叉分支注意力模块以增强信息共享。
关键创新:MxGPS的主要创新在于其多任务联合训练策略,通过同时优化静态状态估计和交流电流流动,显著降低了拓扑过拟合的风险,与传统单任务训练方法本质上不同。
关键设计:MxGPS仅使用1.6M参数,远低于基线模型GridFM的12倍,采用特定的损失函数和网络结构设计,以确保模型在不同拓扑下的鲁棒性和泛化能力。
🖼️ 关键图片
📊 实验亮点
在四个未见拓扑的实验中,MxGPS实现了0%的边界违规率,且在拓扑变化下的性能下降仅为39%。相比之下,其他模型在拓扑变化下的性能下降幅度高达1400%,显示出MxGPS在拓扑无关泛化能力上的显著优势。
🎯 应用场景
该研究的潜在应用领域包括电力系统监控、智能电网优化和电力流动分析等。MxGPS的设计理念和方法可以为电网模型的开发提供新的思路,提升电网在不同拓扑条件下的适应能力,具有重要的实际价值和未来影响。
📄 摘要(原文)
Single-task fine-tuning of graph neural networks (GNNs) for power grid problems exhibits a systematic failure mode: models that achieve the lowest in-distribution error degrade the most under topology shift. We term this topology overfitting: the tendency of task-specific gradient signals to encode relational structure particular to the training topologies rather than the underlying physics, causing models to fail on unseen grids despite strong in-distribution performance. To expose and address this failure mode, we introduce MxGPS (Multiplex GPS), a multiplex graph transformer that runs K task-specialised GPS branches over a shared node encoder, jointly trained on Static State Estimation (SSE) and AC Power Flow (PF) via a self-supervised pre-training and multi-task fine-tuning protocol, with a cross-branch attention module evaluated in ablation. The joint SSE+PF objective forces the shared encoder to simultaneously satisfy complementary gradient signals, preventing it from overfitting to topology-specific relational structure. Under a 3-fold sliding-window cross-validation spanning four unseen topologies (14-, 24-, 162-, and 300-bus), MxGPS attains 0% boundary violation rate (BVR) on all four zero-shot Power Flow topologies. Critically, models with substantially lower in-distribution PF error degrade by 190% to 1400% under topology shift, whereas MxGPS degrades by only 39%, an inversion that directly implicates topology overfitting as the failure mechanism rather than insufficient model capacity. With only 1.6M parameters (12x fewer than the GridFM reference baseline), MxGPS demonstrates that multi-task joint training is a principled and parameter-efficient mechanism for topology-agnostic generalisation in power grid foundation models.