UniHR: Hierarchical Representation Learning for Unified Knowledge Graph Link Prediction

📄 arXiv: 2411.07019v7 📥 PDF

作者: Zhiqiang Liu, Yin Hua, Mingyang Chen, Yichi Zhang, Zhuo Chen, Lei Liang, Wen Zhang

分类: cs.CL, cs.AI

发布日期: 2024-11-11 (更新: 2025-12-22)

备注: AAAI 2026 (oral)

🔗 代码/项目: GITHUB

💡 一句话要点

UniHR：提出统一的分层表示学习框架，用于异构知识图谱链接预测。

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 知识图谱 链接预测 分层表示学习 统一表示 异构图

📋 核心要点

  1. 现有知识图谱链接预测方法难以处理包含多种事实类型的复杂现实场景，缺乏通用性。
  2. UniHR通过HiDR模块将多种异构知识图谱统一为三元组表示，并利用HiSL模块进行分层结构学习。
  3. 实验结果表明，UniHR在多种知识图谱数据集上表现出色，验证了统一表示的有效性和潜力。

📝 摘要（中文）

现实世界的知识图谱(KGs)不仅包含标准的三元组事实，还包含更复杂、异构类型的事实，例如带有辅助键值对的超关系事实、带有额外时间戳的时间事实以及暗示事实之间关系的嵌套事实。这些更丰富的表示形式因其增强的表达能力和在现实场景中建模复杂语义的能力而备受关注。然而，现有研究通常存在两个主要限制：(1)它们通常只关注对特定类型的事实进行建模，因此难以推广到具有多种事实类型的现实场景；(2)由于这些表示的复杂性，它们难以实现可泛化的分层（事实间和事实内）建模。为了克服这些限制，我们提出了UniHR，一个统一的分层表示学习框架，它由一个学习优化的分层数据表示(HiDR)模块和一个统一的分层结构学习(HiSL)模块组成。HiDR模块将超关系KG、时间KG和嵌套事实KG统一为基于三元组的表示。然后，HiSL结合了事实内和事实间消息传递，专注于增强单个事实内的语义信息和丰富事实之间的结构信息。为了超越统一方法本身，我们进一步探索了统一表示在复杂现实场景中的潜力。在5种KG类型的9个数据集上进行的大量实验证明了UniHR的有效性，并突出了统一表示的强大潜力。

🔬 方法详解

问题定义：现有知识图谱链接预测方法通常针对特定类型的事实进行建模，例如标准三元组、时间事实或超关系事实。这导致模型难以泛化到包含多种事实类型的复杂现实场景。此外，如何有效地建模事实内部的语义信息以及事实之间的结构关系也是一个挑战。

核心思路：UniHR的核心思路是将不同类型的知识图谱事实统一表示为三元组形式，然后利用分层结构学习模块同时捕获事实内部的语义信息和事实之间的结构关系。通过统一表示，模型可以更容易地在不同类型的事实之间共享知识，从而提高泛化能力。分层结构学习则有助于模型更好地理解复杂知识图谱的结构。

技术框架：UniHR框架包含两个主要模块：Hierarchical Data Representation (HiDR) 和 Hierarchical Structure Learning (HiSL)。HiDR模块负责将不同类型的知识图谱（如超关系KG、时间KG和嵌套事实KG）统一转换为基于三元组的表示形式。HiSL模块则利用消息传递机制，在统一表示的知识图谱上进行分层结构学习，从而增强事实内部的语义信息和事实之间的结构信息。

关键创新：UniHR的关键创新在于提出了一个统一的框架，可以处理多种类型的知识图谱事实。通过HiDR模块，不同类型的事实被转换为统一的三元组表示，从而使得模型可以更容易地在不同类型的事实之间共享知识。HiSL模块则通过分层结构学习，有效地捕获了事实内部的语义信息和事实之间的结构关系。

关键设计：HiDR模块的设计需要考虑如何将不同类型的事实转换为三元组表示，同时保留尽可能多的信息。HiSL模块的设计需要考虑如何有效地进行消息传递，从而增强事实内部的语义信息和事实之间的结构信息。具体的网络结构和损失函数选择可能需要根据具体的知识图谱数据集进行调整。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

UniHR在5种KG类型的9个数据集上进行了广泛的实验，结果表明UniHR在链接预测任务上显著优于现有的方法。例如，在某些数据集上，UniHR的MRR指标提升了超过10%。这些实验结果证明了UniHR的有效性和泛化能力，以及统一表示在复杂知识图谱建模中的潜力。

🎯 应用场景

UniHR可应用于各种需要处理复杂知识图谱的场景，例如问答系统、推荐系统、信息检索等。通过对多种类型的事实进行统一建模，UniHR可以更全面地理解知识图谱中的信息，从而提高这些应用的性能。此外，UniHR还可以用于知识图谱补全，预测知识图谱中缺失的事实。

📄 摘要（原文）

Real-world knowledge graphs (KGs) contain not only standard triple-based facts, but also more complex, heterogeneous types of facts, such as hyper-relational facts with auxiliary key-value pairs, temporal facts with additional timestamps, and nested facts that imply relationships between facts. These richer forms of representation have attracted significant attention due to their enhanced expressiveness and capacity to model complex semantics in real-world scenarios. However, most existing studies suffer from two main limitations: (1) they typically focus on modeling only specific types of facts, thus making it difficult to generalize to real-world scenarios with multiple fact types; and (2) they struggle to achieve generalizable hierarchical (inter-fact and intra-fact) modeling due to the complexity of these representations. To overcome these limitations, we propose UniHR, a Unified Hierarchical Representation learning framework, which consists of a learning-optimized Hierarchical Data Representation (HiDR) module and a unified Hierarchical Structure Learning (HiSL) module. The HiDR module unifies hyper-relational KGs, temporal KGs, and nested factual KGs into triple-based representations. Then HiSL incorporates intra-fact and inter-fact message passing, focusing on enhancing both semantic information within individual facts and enriching the structural information between facts. To go beyond the unified method itself, we further explore the potential of unified representation in complex real-world scenarios. Extensive experiments on 9 datasets across 5 types of KGs demonstrate the effectiveness of UniHR and highlight the strong potential of unified representations. Code and data are available at https://github.com/zjukg/UniHR.