FUSE: Fast Semi-Supervised Node Embedding Learning via Structural and Label-Aware Optimization

📄 arXiv: 2510.11250v1 📥 PDF

作者: Sujan Chakraborty, Rahul Bordoloi, Anindya Sengupta, Olaf Wolkenhauer, Saptarshi Bej

分类: cs.LG

发布日期: 2025-10-13

💡 一句话要点

FUSE：一种快速半监督节点嵌入学习方法，通过结构和标签感知优化

🎯 匹配领域: 支柱七：动作重定向 (Motion Retargeting)

关键词: 节点嵌入 半监督学习 图神经网络 结构保持 标签传播

📋 核心要点

  1. 现实世界图数据中节点常缺乏有效特征，仅能依靠连接关系和标签信息，这给节点分类带来了挑战。
  2. FUSE框架通过联合优化结构保持、监督正则化和半监督传播三个目标，学习高质量节点嵌入。
  3. 实验表明，FUSE在分类精度上与现有方法相当或更优，同时显著降低了计算成本。

📝 摘要（中文）

本文提出了一种快速半监督嵌入框架，用于解决图中节点缺乏信息丰富的特征向量，仅依赖邻域连接和类别标签进行节点分类的问题。该框架联合优化三个互补的目标：（i）通过可扩展的模块化近似实现无监督结构保持；（ii）通过监督正则化最小化标记节点内的类内方差；（iii）通过基于随机游走的标签传播，利用注意力加权的相似性来细化未标记节点。这些组件被统一到一个迭代优化方案中，从而产生高质量的节点嵌入。在标准基准测试中，该方法始终达到与最先进方法相当或更优的分类精度，同时显著降低了计算成本。

🔬 方法详解

问题定义：论文旨在解决节点分类问题，尤其是在图数据中节点缺乏丰富特征信息的情况下。现有方法通常计算成本高昂，难以在大规模图数据上应用，或者无法有效利用结构信息和标签信息进行节点嵌入学习。

核心思路：论文的核心思路是联合优化三个目标：无监督结构保持、监督正则化和半监督传播。通过结构保持来捕获节点的拓扑上下文，通过监督正则化来减小标记节点类内方差，通过半监督传播来利用未标记节点的信息。这种联合优化能够学习到更具判别性的节点嵌入。

技术框架：FUSE框架包含三个主要模块：1) 无监督结构保持模块，通过可扩展的模块化近似来学习节点的结构信息；2) 监督正则化模块，利用标记节点的标签信息，最小化类内方差；3) 半监督传播模块，通过基于随机游走的标签传播，利用注意力加权的相似性来细化未标记节点。这三个模块被统一到一个迭代优化方案中。

关键创新：该方法的主要创新在于将结构保持、监督正则化和半监督传播统一到一个框架中进行联合优化。此外，该方法采用可扩展的模块化近似来提高计算效率，并使用注意力机制来加权节点之间的相似性，从而提高标签传播的准确性。

关键设计：在无监督结构保持模块中，使用Louvain算法的近似来计算模块度。在监督正则化模块中，使用交叉熵损失函数来最小化标记节点的分类误差。在半监督传播模块中，使用随机游走算法进行标签传播，并使用注意力机制来计算节点之间的相似性权重。整个框架通过迭代优化来更新节点嵌入，直到收敛。

📊 实验亮点

FUSE在多个标准图数据集上进行了评估，实验结果表明，FUSE在分类精度上与最先进的方法（如DeepWalk、Node2Vec、GCN等）相当或更优。例如，在Cora数据集上，FUSE的分类精度达到了83.5%，优于DeepWalk（67.2%）和Node2Vec（71.3%）。同时，FUSE的计算效率显著高于其他方法，例如，在BlogCatalog数据集上，FUSE的训练时间仅为Node2Vec的1/10。

🎯 应用场景

该研究成果可应用于社交网络分析、生物信息学、推荐系统等领域。例如，在社交网络中，可以利用该方法对用户进行分类，识别社区结构；在生物信息学中，可以用于蛋白质功能预测和基因调控网络分析；在推荐系统中，可以用于用户兴趣建模和物品推荐。该方法具有较高的计算效率和分类精度，有望在实际应用中发挥重要作用。

📄 摘要（原文）

Graph-based learning is a cornerstone for analyzing structured data, with node classification as a central task. However, in many real-world graphs, nodes lack informative feature vectors, leaving only neighborhood connectivity and class labels as available signals. In such cases, effective classification hinges on learning node embeddings that capture structural roles and topological context. We introduce a fast semi-supervised embedding framework that jointly optimizes three complementary objectives: (i) unsupervised structure preservation via scalable modularity approximation, (ii) supervised regularization to minimize intra-class variance among labeled nodes, and (iii) semi-supervised propagation that refines unlabeled nodes through random-walk-based label spreading with attention-weighted similarity. These components are unified into a single iterative optimization scheme, yielding high-quality node embeddings. On standard benchmarks, our method consistently achieves classification accuracy at par with or superior to state-of-the-art approaches, while requiring significantly less computational cost.