Surprisingly Simple and Effective Multi-Domain Graph Foundation Model through Graph-to-Table Alignment

📄 arXiv: 2607.11374v1 📥 PDF

作者: Chunyu Hu, Tianyin Liao, Ge Lan, Xingxuan Zhang, Jianxin Li, Peng Cui, Ziwei Zhang

分类: cs.LG

发布日期: 2026-07-13


💡 一句话要点

提出GTAlign以解决图结构信息捕捉不足问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 图基础模型 图到表对齐 无文本学习 图编码器 社区引导预训练 节点分类 图分类

📋 核心要点

  1. 现有的图基础模型在有限数据和对文本属性的依赖之间存在矛盾,难以有效捕捉图的结构信息。
  2. 本文提出GTAlign框架,通过图到表的对齐机制,使图基础模型能够在无文本的情况下学习图的结构特征。
  3. 在五个基准数据集上的实验表明,GTAlign在节点和图分类任务上显著优于现有的最先进方法。

📝 摘要(中文)

图基础模型(GFMs)作为一种学习可转移表示的新兴范式,面临着在有限数据下训练和对文本属性的高度依赖之间的基本困境。本文提出GTAlign,一个简单而有效的图到表对齐框架,旨在使无文本的图基础模型能够有效捕捉图的结构信息。我们首先预训练一个图编码器,将多样的图映射到统一的潜在空间,以捕捉领域无关的图表示。接着,通过社区引导的持续预训练,利用图社区生成的伪标签构建少量预测情境。最后,我们将图编码器适配于未见目标领域并进行上下文推理。实验结果表明,GTAlign在五个基准数据集上显著超越了现有最先进的基线,展示了其简单、有效且无文本的GFM模型特性。

🔬 方法详解

问题定义:本文旨在解决图基础模型在捕捉图结构信息时的不足,尤其是在缺乏文本属性的情况下,现有方法难以有效利用图的结构特征。

核心思路:GTAlign通过图到表的对齐机制,利用图的结构信息来增强表格基础模型的表现,设计了一个无文本的图基础模型。

技术框架:整体架构包括三个主要阶段:首先预训练图编码器,将多样的图映射到统一的潜在空间;其次进行社区引导的持续预训练,利用伪标签构建少量预测情境;最后适配图编码器于未见目标领域并进行上下文推理。

关键创新:GTAlign的主要创新在于提出了图到表的对齐机制,使得表格基础模型能够有效捕捉图的结构信息,这与现有依赖文本属性的方法有本质区别。

关键设计:在设计上,采用了图编码器的预训练策略,并通过社区引导的伪标签生成少量样本,确保模型在少量数据情况下仍能有效学习。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

GTAlign在五个基准数据集上的实验结果显示,其在节点和图分类任务上显著超越了现有最先进的基线,具体提升幅度达到XX%,展示了其在无文本条件下的强大性能。

🎯 应用场景

该研究具有广泛的应用潜力,特别是在社交网络分析、生物信息学和推荐系统等领域。通过有效捕捉图结构信息,GTAlign能够提升模型在多种图数据任务中的表现,推动相关领域的研究与应用发展。

📄 摘要(原文)

Graph Foundation Models (GFMs) have emerged as a promising paradigm for learning transferable representations across diverse graph domains. Recent advancements in GFMs have been largely dominated by two paradigms: Graph Neural Network and Large Language Model (LLM) based methods. However, these methods often face a fundamental dilemma between training with limited data and a heavy reliance on textual attributes. Tabular foundation models (TFMs) offer a potential alternative, as node features and representations can be naturally organized in a tabular form. However, how to enable TFMs to effectively capture structural information of graphs remains largely unexplored. The key challenge is to learn a graph-to-table alignment mechanism that enables graph structural understanding for TFMs. To address this, we propose GTAlign, a surprisingly simple yet effective Graph-to-Table Alignment framework for text-free Graph Foundation Model. Specifically, we first pretrain a graph encoder that maps diverse graphs into a unified latent space to capture domain-agnostic graph representations. To further bridge the gap between graph topology and the tabular representation space, we propose community-guided continual pre-training, where pseudo-labels derived from graph community are used to construct few-shot prediction episodes. Lastly, we adapt the graph encoder for an unseen target domain and perform in-context inference. Extensive experiments on five benchmark datasets demonstrate that GTAlign significantly outperforms state-of-the-art baselines on both node and graph classification, offering a simple, effective, and text-free GFM model. Code will be released upon acceptance.