GFMate: Empowering Graph Foundation Models with Test-time Prompt Tuning

📄 arXiv: 2605.14809v1 📥 PDF

作者: Yan Jiang, Ruihong Qiu, Zi Huang

分类: cs.LG

发布日期: 2026-05-14

🔗 代码/项目: GITHUB

💡 一句话要点

GFMate：通过测试时Prompt调优增强图基础模型能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 图基础模型 Prompt调优 测试时学习 图神经网络 领域泛化

📋 核心要点

  1. 现有图Prompt方法依赖源域信息和预训练策略，泛化性受限，无法有效利用目标域的未标注数据。
  2. GFMate提出与预训练无关的测试时Prompt调优，引入质心和层Prompt，避免与特定源域和模型预训练的纠缠。
  3. GFMate设计测试时互补学习目标，同时利用有标签和无标签目标域数据，实验表明性能提升高达30.63%。

📝 摘要（中文）

图Prompt调优通过引入可训练的Prompt来增强模型在传统单领域场景中的性能，在图学习中展现出巨大潜力。最近的研究扩展了图Prompt，通过少量样本调优辅助Prompt来改进图基础模型（GFM）。然而，现有方法大多将源域信息嵌入到Prompt中，这些Prompt要么作为GFM的输入，要么在模型预训练期间被编码。这种Prompt与特定源域和GFM预训练策略的纠缠限制了它们对其他领域和不同GFM的泛化能力。此外，现有的GFM Prompt仅仅依赖于少量样本调优进行适配，忽略了未标记目标域测试数据中的丰富信息。基于这些观察，本文旨在通过与预训练无关的测试时图Prompt调优来增强GFM的能力，提出的方法名为GFMate。GFMate引入在目标域上预训练后应用的质心和层Prompt，避免了与特定源域和模型预训练的纠缠。此外，设计了一种测试时互补学习目标，以利用标记和未标记的目标域数据进行有效的测试时Prompt调优。在12个基准数据集上的大量实验表明了GFMate的卓越性能和效率，实现了高达30.63%的改进。

🔬 方法详解

问题定义：现有图基础模型（GFM）的Prompt调优方法存在两个主要问题。一是Prompt与特定源域和GFM预训练策略纠缠，导致泛化能力差。二是仅依赖少量样本调优，忽略了目标域未标注数据中的信息。这些问题限制了GFM在不同领域和不同预训练模型上的应用。

核心思路：GFMate的核心思路是解耦Prompt与预训练过程，并在测试时利用目标域的全部数据（包括有标签和无标签数据）进行Prompt调优。通过引入与预训练无关的Prompt和互补学习目标，提高GFM在目标域上的性能。

技术框架：GFMate主要包含以下几个模块：1) 预训练好的图基础模型（GFM）；2) 质心Prompt和层Prompt，它们在GFM预训练后被添加到模型中；3) 测试时Prompt调优模块，利用有标签和无标签目标域数据，通过互补学习目标优化Prompt。

关键创新：GFMate的关键创新在于：1) 提出与预训练无关的Prompt，避免了与特定源域和模型预训练的纠缠；2) 设计了测试时互补学习目标，充分利用了目标域的有标签和无标签数据。这使得GFMate能够更好地适应不同的目标域和GFM。

关键设计：GFMate的关键设计包括：1) 质心Prompt和层Prompt的具体形式（未知，论文未详细描述）；2) 互补学习目标的具体形式，可能包含有监督损失和无监督损失，以分别利用有标签和无标签数据（具体形式未知）；3) 测试时Prompt调优的优化算法和超参数设置（未知）。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

GFMate在12个基准数据集上进行了广泛的实验，结果表明其性能优于现有的图Prompt调优方法。GFMate实现了高达30.63%的性能提升，证明了其在测试时Prompt调优方面的有效性。实验结果还表明，GFMate具有良好的效率，能够快速适应新的目标域。

🎯 应用场景

GFMate可应用于各种图学习任务，例如节点分类、链接预测和图分类等。其与预训练无关的特性使其能够轻松地应用于不同的图基础模型和领域，具有广泛的应用前景。该方法可以提升图神经网络在实际场景中的性能，例如社交网络分析、生物信息学和推荐系统等。

📄 摘要（原文）

Graph prompt tuning has shown great potential in graph learning by introducing trainable prompts to enhance the model performance in conventional single-domain scenarios. Recent research has extended graph prompts to improve Graph Foundation Models (GFMs) by few-shot tuning auxiliary prompts. Despite their progress, most existing methods embed source-domain information into prompts, which serve either as input to GFMs or encoded during model pre-training. Such prompt entanglement with specific source domains and GFM pre-training strategy restricts their generalisability to other domains and different GFMs. Furthermore, existing GFM prompts merely rely on few-shot tuning for adaptation, neglecting the rich information in unlabelled target domain test data. Motivated by these insights, this paper aims to empower GFMs with pre-training-agnostic test-time graph prompt tuning, named GFMate. GFMate introduces centroid and layer prompts applied after pre-training on target domains, avoiding entanglement with specific source domains and model pre-training. In addition, a test-time complementary learning objective is devised to exploit both labelled and unlabelled target domain data for effective test-time prompt tuning. Extensive experiments on 12 benchmark datasets demonstrate the superior performance and efficiency of GFMate, achieving improvements of up to 30.63%. Code is available at https://github.com/YanJiangJerry/GFMate.