Valid for Free: Homophily-Gated Conformal Prediction for Training-Free Node Classification with Tabular Foundation Models
作者: Nguyen Duy Long, Phung Minh Hien, Nguyen Trong Viet, Nguyen Thai Anh
分类: cs.LG
发布日期: 2026-10-06
备注: 6 pages, 4 figures, 1 table
💡 一句话要点
提出无训练节点分类的同质性门控符合预测方法
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 图节点分类 同质性门控 符合预测 无训练模型 表格基础模型 期望校准误差 扩散评分
📋 核心要点
- 现有方法在图节点分类中通常需要训练过程,限制了其在新图上的应用能力。
- 本文提出了一种基于同质性门控的符合预测方法,能够在无需训练的情况下进行节点分类。
- 实验结果显示,TabICL在大多数图上具有更低的期望校准误差,并且HG-DAPS有效减少了预测集的大小。
📝 摘要(中文)
本文研究了表格基础模型(TFMs)在无需训练的情况下对图节点进行分类的能力,重点关注符合覆盖率和预测集大小。我们首次对这一设置进行了可靠性研究,使用TabICL作为TFM,并将每个图的一半作为标记上下文。研究表明,冻结的上下文预测器使得分裂符合预测在有限样本中完全有效,且不需要在目标图上进行训练、验证或调优。通过对十个图的审计,发现训练无关的TabICL后验在九个图上具有低于GCN+TS的期望校准误差(ECE),其十个图的平均ECE为0.019,约比GCN+TS的0.029低35%。此外,我们引入了HG-DAPS,这是一种训练无关的扩散评分,其同质性门仅读取上下文标签,从而保证了效果。
🔬 方法详解
问题定义:本文旨在解决图节点分类中需要训练的问题,现有方法通常依赖于训练过程,限制了其在新图上的应用能力。
核心思路:提出一种同质性门控的符合预测方法,通过冻结的上下文预测器实现无训练的节点分类,确保在有限样本中的有效性。
技术框架:整体架构包括使用TabICL作为基础模型,结合上下文标签进行预测,分为数据准备、模型推理和结果校准三个主要阶段。
关键创新:最重要的创新在于引入同质性门控机制,使得模型在无训练的情况下仍能保持高效的预测性能,与传统方法相比,避免了训练和调优过程。
关键设计:在模型设计中,采用固定的上下文预测器,确保在不同图上具有一致的性能,同时通过调整同质性门的读取方式来优化预测集的大小。
🖼️ 关键图片
📊 实验亮点
实验结果显示,训练无关的TabICL后验在九个图上具有低于GCN+TS的期望校准误差,平均ECE为0.019,比GCN+TS低35%。此外,HG-DAPS在六个同质性图上减少了预测集的平均大小5.8%至17.1%。
🎯 应用场景
该研究的潜在应用领域包括社交网络分析、生物信息学和推荐系统等。通过实现无训练的节点分类,能够大幅提升模型在新数据上的适应性和效率,具有重要的实际价值和未来影响。
📄 摘要(原文)
Tabular foundation models (TFMs) can classify the nodes of a graph without training on it, by reading node and neighborhood features as table rows next to labeled context rows. Work in this line reports predictive performance, not conformal coverage or prediction-set size. To our knowledge, we give the first reliability study of the setting, with TabICL as the TFM and half of each graph as labeled context. As for any predictor fixed before calibration, a frozen in-context predictor makes split conformal prediction exactly valid in finite samples, with no training, validation fold, or tuning on the target graph. An audit across ten graphs then shows that the training-free TabICL posterior has lower expected calibration error (ECE) than GCN with temperature scaling (GCN+TS) on nine of them. Its mean ECE over the ten graphs is 0.019, about 35 percent below the 0.029 of GCN+TS. We also introduce HG-DAPS, a training-free diffusion score whose homophily gate reads only the in-context labels, so the guarantee still holds. Relative to adaptive prediction sets (APS), it reduces mean set size by 5.8 to 17.1 percent on six homophilous graphs and changes it by under 1 percent on four heterophilous ones. On two binary, class-imbalanced graphs, a pre-registered trap case shows that gating on raw rather than adjusted homophily lowers coverage among low-homophily nodes by 0.27 and 0.12. Marginal coverage stays at the nominal 0.90 and masks this drop.