Towards One-for-All Foundation Model for Attributed Graph Clustering

📄 arXiv: 2610.07778v1 📥 PDF

作者: Yunhui Liu, Xudong Jin, Kang Zhang, Danshuo An, Yu Xing, Te Song, Jia Liu, Tieke He

分类: cs.LG, cs.AI

发布日期: 2026-10-06

🔗 代码/项目: GITHUB

💡 一句话要点

提出OFAG模型以解决多样化属性图聚类问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 属性图聚类 基础模型 无监督学习 图神经网络 聚类算法 高效计算 模型迁移

📋 核心要点

  1. 现有属性图聚类方法需为每个图单独训练模型，导致效率低下且难以迁移。
  2. 本文提出OFAG模型，通过一次训练适用于多种属性图，避免了特定图的训练和调优。
  3. 在十个数据集上，OFAG模型在聚类质量和速度上均显著优于现有基线，表现出色。

📝 摘要（中文）

属性图聚类旨在通过联合利用节点属性和图拓扑来发现节点组，但其无监督特性使得模型选择和适应变得困难。现有方法通常为每个输入图训练和调整单独模型，导致成本高且脆弱的管道，难以在不同特征空间、结构模式和属性-结构相关性之间迁移。本文提出了一种一体化的解决方案：OFAG，一个用于属性图聚类的基础模型。OFAG基于先前数据拟合网络，从在潜在聚类、节点属性和图结构上广泛先验下生成的合成属性图中学习可重用的聚类推断策略。通过采用维度无关的信号级图编码器，OFAG能够处理图之间不兼容的特征空间。实验结果表明，OFAG在十个数据集上表现优异，显著提高了聚类质量和速度。

🔬 方法详解

问题定义：本文解决的是属性图聚类中的模型选择和适应性问题。现有方法需要为每个输入图单独训练模型，导致效率低下且难以在不同特征空间和结构模式之间迁移。

核心思路：论文提出的OFAG模型旨在通过一次训练适用于多种属性图，避免了针对特定图的训练和超参数搜索。该模型从合成属性图中学习可重用的聚类推断策略。

技术框架：OFAG的整体架构包括一个维度无关的信号级图编码器，该编码器将每个特征通道视为图信号，并对共享图滤波器的响应进行建模。模型通过一个超球聚类目标进行训练，以在推断时生成聚类友好的节点表示。

关键创新：OFAG的主要创新在于其一体化的模型设计，能够在不同的属性图上直接应用，而无需针对特定图进行训练或调优。这一设计使得模型在处理不兼容特征空间时表现出色。

关键设计：模型采用超球聚类损失函数，确保生成的节点表示适合聚类任务。通过信号级图编码器，OFAG有效地处理了不同图之间的特征差异，提升了聚类效果。实验中，OFAG在十个数据集上表现优异，且训练和推断速度显著提高。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

在十个数据集上，OFAG模型的平均性能和排名在NMI、ACC、ARI和F1指标上均表现最佳，完成所有数据集的总时间为12.43分钟，速度比第二快的基线快6倍，聚类质量比第二好的方法高出近28倍。

🎯 应用场景

OFAG模型在社交网络分析、生物信息学、推荐系统等领域具有广泛的应用潜力。其一体化的设计使得研究人员和工程师能够快速应用于不同的属性图数据集，提升数据分析效率，降低模型开发成本。未来，OFAG有望推动图数据处理领域的进一步研究与应用。

📄 摘要（原文）

Attributed graph clustering aims to discover node groups by jointly exploiting node attributes and graph topology, yet its unsupervised nature makes model selection and adaptation inherently difficult. Existing methods typically train and tune a separate model for each input graph, leading to costly and fragile pipelines that often fail to transfer across graphs with different feature spaces, structural patterns, and attribute-structure correlations. In this paper, we study a one-for-all alternative: can a single model be trained once and directly applied to diverse attributed graphs without graph-specific training, fine-tuning, or hyperparameter search? We propose OFAG, a foundation model for attributed graph clustering. Building upon Prior-data Fitted Networks, OFAG learns a reusable clustering inference strategy from synthetic attributed graphs generated under broad priors over latent clusters, node attributes, and graph structures. To handle incompatible feature spaces across graphs, OFAG adopts a dimension-agnostic signal-wise graph encoder that treats each feature channel as a graph signal and models its response to shared graph filters. The model is trained with a hyperspherical clustering objective, producing clustering-friendly node representations in a single forward pass at inference time. On ten datasets, one frozen OFAG model achieves the best mean performance and average rank across NMI, ACC, ARI, and F1, while completing all ten datasets in 12.43 minutes total---over 6 faster than the second-fastest baseline and nearly 28 faster than the second-best on clustering quality. Our code and pretrained checkpoint are available at https://github.com/Cloudy1225/OFAG, allowing practitioners to directly apply OFAG to their own attributed graph datasets without additional training or tuning.