Chimaera: A Mixture-of-Graph-Experts Architecture for Cross-Task and Cross-Dataset Graph Learning

📄 arXiv: 2609.08709v1 📥 PDF

作者: Jonathan Frank, David Richerby, Ansgar Scherp

分类: cs.LG

发布日期: 2026-09-08

备注: Accepted at WI-IAT 2026


💡 一句话要点

提出Chimaera以解决图学习中的跨任务与跨数据集问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 图学习 专家混合模型 图基础模型 跨任务迁移 线性GNN 嵌入生成 社交网络分析

📋 核心要点

  1. 现有图学习方法在处理图的非规则结构和多样化嵌入时存在局限性,难以有效迁移到不同任务和数据集。
  2. Chimaera通过结合专家混合模型与图基础模型,整合多种GFM架构,提升了图学习的灵活性和适应性。
  3. 实验结果显示,Chimaera在节点、链接和图分类任务上均表现优异,尤其在跨任务迁移能力上具有显著优势。

📝 摘要(中文)

设计图的基础模型面临挑战,主要由于图的非规则结构以及嵌入的不同大小和特性。Chimaera将专家混合模型与图基础模型(GFM)相结合,整合了不同的GFM架构,如图提示和线性GNN模型。利用大型语言模型生成嵌入,专家可以根据不同策略进行训练和组合。此外,Chimaera扩展了现有的线性GNN,支持链接级和图级任务,除了节点级任务。通过对六个基准文本属性图数据集进行同任务和跨任务的实验分析,结果表明Chimaera在任务和数据集间的迁移能力上表现出色。

🔬 方法详解

问题定义:论文旨在解决图学习中由于图的非规则结构和嵌入特性导致的跨任务与跨数据集迁移困难的问题。现有方法在处理不同任务时的有效性不足,限制了其应用范围。

核心思路:Chimaera的核心思路是将专家混合模型与图基础模型结合,利用不同的GFM架构来生成嵌入,并通过多种策略训练和组合专家,从而提高模型的灵活性和适应性。

技术框架:Chimaera的整体架构包括多个模块:首先,通过大型语言模型生成图嵌入;其次,整合不同的GFM架构(如图提示和线性GNN);最后,采用专家混合策略进行训练和组合,以支持节点、链接和图级任务。

关键创新:Chimaera的主要创新在于其混合专家架构,能够有效整合多种GFM,支持跨任务和跨数据集的迁移学习。这一设计与传统的单一模型方法有本质区别,显著提升了模型的适应性。

关键设计:在设计上,Chimaera采用了多种语言模型生成嵌入,结合了简单而有效的线性GNN,且在训练过程中使用了少量样本即可获得强大的结果。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明,Chimaera在节点、链接和图分类任务上均表现优异,尤其在跨任务迁移方面,简单的线性GNN模型展现出强大的跨任务转移能力。使用少量样本也能取得显著的效果提升,验证了其方法的有效性。

🎯 应用场景

Chimaera的研究成果在多个领域具有广泛的应用潜力,包括社交网络分析、推荐系统、知识图谱构建等。其跨任务和跨数据集的迁移能力使得在不同场景下的图学习变得更加高效,未来可能推动图学习技术的进一步发展与应用。

📄 摘要(原文)

Designing foundation models for graphs is challenging due to the irregular structure of graphs and the different sizes and characteristics of embeddings. Chimaera integrates mixture-of-experts with graph foundation models (GFM). It integrates different GFM architectures, such as graph prompts and linear GNN models. Large language models are used to generate embeddings, and experts can be trained and combined following different strategies, GFMs, embeddings, etc. Furthermore, Chimaera extends existing linear GNNs to support link-level and graph-level tasks in addition to node-level tasks. Empirical analyses are performed on same-task and cross-task experiments with node, link, and graph classification tasks using six benchmark text-attributed graph datasets. The experiments demonstrate the effectiveness of Chimaera and its capabilities for transfer across tasks and datasets. Further insights include the need to use both large and small language models to generate embeddings for the experts, a strong cross-task transferability of simple but effective linear GNNs, and using few samples only to provide strong results.