GraphShaper: Geometry-aware Alignment for Improving Transfer Learning in Text-Attributed Graphs
作者: Heng Zhang, Tianyi Zhang, Yuling Shi, Xiaodong Gu, Yaomin Shen, Haochen You, Zijian Zhang, Yilei Yuan, Jin Huang
分类: cs.LG, cs.GR
发布日期: 2025-10-14 (更新: 2025-12-22)
备注: This submission has been withdrawn by the authors due to a fundamental error in the methodology that affects the validity of the main results
💡 一句话要点
提出GraphShaper以解决图结构多样性导致的迁移学习问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 图基础模型 迁移学习 几何感知 多几何专业化 专家网络 结构完整性 文本嵌入 对齐框架
📋 核心要点
- 现有方法在图结构的不同拓扑模式交汇处性能显著下降，尤其是在结构边界处，准确率损失超过20个百分点。
- 本文提出GraphShaper框架，通过多几何专业化来增强图编码，采用专家网络动态计算融合权重以适应局部结构特征。
- 实验结果显示，GraphShaper在引用网络和社交网络上分别提高了9.47%和7.63%的准确率，验证了其有效性。
📝 摘要（中文）
图基础模型为跨图域学习可迁移表示提供了变革性范式。现有方法利用大语言模型将图和文本模态统一到共享表示空间，但在结构边界处性能显著下降，准确率损失超过20个百分点。此问题源于现有方法假设所有图结构可在单一欧几里得空间中编码，而树结构和循环模式分别需要超曲面几何和球面几何。为此，本文提出了GraphShaper，一个几何感知框架，通过多几何专业化增强图编码。该方法采用针对不同几何空间的专家网络，动态计算融合权重，适应性地整合几何属性。实验表明，GraphShaper在零样本设置下，引用网络的准确率提高了9.47%，社交网络提高了7.63%。
🔬 方法详解
问题定义：本文旨在解决现有图迁移学习方法在结构边界处性能下降的问题，尤其是由于不同拓扑模式的几何约束冲突导致的准确率损失。
核心思路：提出GraphShaper框架，通过多几何空间的专家网络来适应不同图结构的几何特性，从而提高图的编码质量。
技术框架：GraphShaper的整体架构包括多个专家网络，每个网络专注于特定的几何空间，动态计算融合权重以整合局部结构特征，最终与文本嵌入对齐。
关键创新：最重要的创新在于引入了几何感知的多几何专业化，解决了现有方法在处理不同图结构时的局限性，能够更好地保留结构完整性。
关键设计：在设计中，采用了动态融合权重机制，确保不同几何空间的特征能够根据局部结构特征进行有效整合，具体的损失函数和网络结构细节在实验部分进行了详细描述。
🖼️ 关键图片
📊 实验亮点
实验结果显示，GraphShaper在引用网络上实现了9.47%的准确率提升，在社交网络上实现了7.63%的提升，显著优于现有基线方法。这表明该框架在处理不同图结构时具有更强的适应性和有效性。
🎯 应用场景
该研究的潜在应用领域包括社交网络分析、引用网络挖掘以及其他需要处理文本和图数据的任务。通过提升图结构的迁移学习能力，GraphShaper能够为多种实际应用提供更准确的模型支持，未来可能在智能推荐、信息检索等领域产生深远影响。
📄 摘要（原文）
Graph foundation models represent a transformative paradigm for learning transferable representations across diverse graph domains. Recent methods leverage large language models to unify graph and text modalities into a shared representation space using contrastive learning. However, systematic evaluations reveal significant performance degradation at structural boundaries where distinct topological patterns converge, with accuracy losses exceeding 20 percentage points. This issue arises from a key limitation: current methods assume all graph structures can be encoded within a single Euclidean space. In reality, tree structures require hyperbolic geometry to preserve hierarchical branching, while cyclic patterns depend on spherical geometry for closure properties. At structural boundaries, nodes experience conflicting geometric constraints that uniform encoding spaces cannot resolve. This raises a crucial challenge: \textbf{Can alignment frameworks be designed to respect the intrinsic geometric diversity of graph structures?} We introduce \textbf{GraphShaper}, a geometry-aware framework that enhances graph encoding through multi-geometric specialization. Our approach employs expert networks tailored to different geometric spaces, dynamically computing fusion weights to adaptively integrate geometric properties based on local structural characteristics. This adaptive fusion preserves structural integrity before alignment with text embeddings. Extensive experiments demonstrate that GraphShaper achieves 9.47\% accuracy improvements on citation networks and 7.63\% on social networks in zero-shot settings.