Unsupervised Graph Representation Learning with Complementary View Alignment

📄 arXiv: 2607.24338v1 📥 PDF

作者: Zengyi Wo, Shiyu Zhang, Qiyao Peng, Tianpeng Li, Xuan Guo

分类: cs.LG

发布日期: 2026-07-27


💡 一句话要点

提出AlignGAE以解决异质图表示学习问题

🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture)

关键词: 无监督学习 图表示学习 异质图 节点嵌入 对齐策略 深度学习 图神经网络

📋 核心要点

  1. 现有方法在异质图上表现不佳,主要由于假设同质性导致的性能下降,丢失了识别异质模式所需的高频成分。
  2. 本文提出AlignGAE,通过互补视图对齐保留完整频谱,采用双编码器架构处理结构和属性信息,确保语义一致性。
  3. 在12个基准数据集上的实验表明,AlignGAE在异质图节点分类中比最先进的方法提升了最多18.7%,同时在同质图上保持竞争力。

📝 摘要(中文)

无监督图表示学习旨在通过捕捉结构和属性信息来推导有意义的节点嵌入,而无需依赖标记数据。现有方法如GAEs在同质图上表现良好,但在异质图上性能下降,主要由于其依赖于假设同质性的消息传递机制,导致关键高频成分的丢失。为了解决这些挑战,本文提出了AlignGAE,这是一种MaskGAE的扩展,通过互补视图对齐来保留完整的频谱。该框架引入了双编码器架构,分别处理结构和属性信息,结合节点位置编码以近似邻域身份分布,并采用双重重构任务来处理边和节点属性。通过全面的谱分析,AlignGAE在对齐损失收敛时实现了最佳表示属性。实验结果表明,AlignGAE在12个基准数据集上表现优异,尤其在异质图的节点分类中比现有方法提升了最多18.7%。

🔬 方法详解

问题定义:本文解决的是无监督图表示学习中的异质图问题,现有方法在处理异质图时由于同质性假设而导致性能下降,无法有效捕捉节点间的异质特征。

核心思路:AlignGAE的核心思路是通过互补视图对齐来保留完整的频谱信息,采用双编码器架构分别处理结构和属性信息,以此来增强对异质图的表示能力。

技术框架:AlignGAE的整体架构包括双编码器模块,分别处理图的结构信息和节点属性信息,同时引入节点位置编码来近似邻域身份分布,并通过双重重构任务来优化边和节点属性的重构。

关键创新:AlignGAE的主要创新在于提出了基于理论的邻域身份分布对齐策略,确保不同视图之间的语义一致性,同时保留其独特特征,这与现有方法的单一视图处理方式有本质区别。

关键设计:在关键设计上,AlignGAE采用了节点位置编码、双重重构任务以及特定的对齐损失函数,确保在训练过程中能够有效捕捉到异质图的高频信息。通过这些设计,AlignGAE能够在异质图上实现更优的节点嵌入表示。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

AlignGAE在12个基准数据集上的实验结果显示,在异质图的节点分类任务中,相较于最先进的方法提升了最多18.7%。同时,在同质图上也保持了竞争力,验证了其在不同类型图上的有效性和适用性。

🎯 应用场景

该研究的潜在应用领域包括社交网络分析、推荐系统、知识图谱构建等。在这些领域中,图的异质性是普遍存在的,AlignGAE能够有效捕捉节点间的复杂关系,从而提升模型的性能和准确性。未来,该方法有望在更多实际应用中发挥重要作用,推动图表示学习的发展。

📄 摘要(原文)

Unsupervised graph representation learning aims to derive meaningful node embeddings by capturing both structural and attribute information without relying on labeled data. Existing methods, such as GAEs, have demonstrated effectiveness but typically rely on message-passing mechanisms that assume homophily, leading to performance degradation on heterophilous graphs, where connected nodes exhibit dissimilar features. This homophily bias results in the loss of critical high-frequency components that are essential for identifying heterophilous patterns. To address these challenges, we propose \textsc{AlignGAE}, a novel extension of \textit{MaskGAE} that preserves the full frequency spectrum through complementary view alignment. Our framework introduces a dual-encoder architecture that separately processes structural and attribute information, incorporates node positional encoding to approximate Neighborhood Identity Distribution (NID), and employs dual reconstruction tasks for both edges and node attributes. We further propose theoretically grounded NID alignment strategies that ensure semantic consistency across views while preserving their distinct characteristics. Through comprehensive spectral analysis, we demonstrate that \textsc{AlignGAE} achieves optimal representation properties when the alignment loss converges. Extensive experiments across 12 benchmark datasets validate our approach, showing that \textsc{AlignGAE} outperforms state-of-the-art methods by up to 18.7\% on heterophilous graphs in node classification, while maintaining competitive performance on homophilous graphs. Our results establish a new paradigm for frequency-aware graph representation learning.