RelICL: Training-free Relational Learning with Tabular Foundation Models
作者: Simon Forbat, Rainer Gemulla
分类: cs.LG
发布日期: 2026-10-01
💡 一句话要点
提出RelICL以解决深度特征合成中的特征爆炸与交互盲点问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 关系学习 深度特征合成 表格基础模型 信息传播 特征融合 数据挖掘 推荐系统
📋 核心要点
- 现有的深度特征合成方法在处理复杂关系模式时，面临特征数量迅速增加的问题，导致可扩展性和性能受限。
- RelICL通过逐步传播和融合信息，解决了特征爆炸和交互盲点的问题，保持了DFS的优势。
- 在RelBench任务的实验中，RelICL的性能与最强的深度特征合成方法相当，显示出其有效性。
📝 摘要（中文）
表格基础模型在单表任务中实现了最先进的性能，且无需训练。近期研究表明，这些模型也适用于通过深度特征合成（DFS）进行关系学习。然而，DFS存在特征爆炸和交互盲点两个关键问题。本文提出了一种名为RelICL的替代方法，旨在保留DFS的优点，同时缓解这两个问题。RelICL通过逐步传播和融合信息，利用相同的表格基础模型进行预测。实验结果表明，RelICL在RelBench任务中与基于深度特征合成的最强方法表现相当。
🔬 方法详解
问题定义：本论文旨在解决深度特征合成（DFS）在关系学习中的两个主要问题：特征爆炸和交互盲点。特征爆炸导致特征数量迅速增加，影响模型的可扩展性和性能；而交互盲点则是由于列级聚合未能考虑特征间的相互作用，进一步限制了模型的表现。
核心思路：RelICL的核心思想是通过逐步传播和融合信息，利用相同的表格基础模型进行预测，从而有效缓解特征爆炸和交互盲点的问题。这种设计使得模型能够在保持高效性的同时，充分利用关系数据中的信息。
技术框架：RelICL的整体架构包括信息传播模块和信息融合模块。信息传播模块负责在关系模式图中逐步传递信息，而信息融合模块则将传递的信息整合，形成最终的特征表示，供后续预测使用。
关键创新：RelICL的主要创新在于其信息传播和融合机制，这与传统的DFS方法本质上不同。DFS通过将关系模式展平为单一表格来生成特征，而RelICL则保留了关系结构，逐步处理信息，避免了特征爆炸和交互盲点。
关键设计：在RelICL中，设计了特定的参数设置和信息融合策略，以确保信息在传播过程中的有效性。此外，损失函数的选择也经过精心设计，以优化模型在关系学习任务中的表现。通过这些技术细节，RelICL能够在复杂的关系数据中实现高效的学习。
🖼️ 关键图片
📊 实验亮点
在RelBench任务的实验中，RelICL的性能与基于深度特征合成的最强方法相当，显示出其在特征学习中的有效性。具体而言，RelICL在处理复杂关系模式时，成功避免了特征爆炸和交互盲点，提升了模型的整体表现。
🎯 应用场景
该研究的潜在应用领域包括数据挖掘、推荐系统和知识图谱等。RelICL能够在处理复杂关系数据时，提供更高效的特征学习方案，具有重要的实际价值。未来，RelICL可能会推动关系学习领域的进一步发展，提升模型在多种应用场景下的表现。
📄 摘要（原文）
Tabular foundation models achieve state-of-the-art performance on single-table tasks without any training. Recent work suggests that they are also well-suited for relational learning via deep feature synthesis (DFS), which flattens a relational schema into a single table by adding aggregates of the other tables' columns as features. This approach is appealing because it directly benefits from improvements to or customization of the underlying tabular foundation model. In this paper, we identify two key problems with DFS: feature explosion and interaction blindness. The first problem arises because the number of DFS features grows quickly as the schema becomes more complex, limiting scalability and performance. The second problem arises because column-wise aggregates do not account for feature interactions, limiting performance. We propose and explore an alternative method termed RelICL, which keeps the benefits of DFS but alleviates these two problems. At its heart, RelICL propagates and fuses information step by step through the schema graph, using the same tabular foundation model that is eventually used for prediction to do so. In our experimental study using RelBench tasks, RelICL was on par with the strongest approach based on deep feature synthesis.