A Large Language Model Based Method for Complex Logical Reasoning over Knowledge Graphs

📄 arXiv: 2512.19092v1 📥 PDF

作者: Ziyan Zhang, Chao Wang, Zhuo Chen, Lei Chen, Chiyi Li, Kai Song

分类: cs.CL

发布日期: 2025-12-22

💡 一句话要点

提出ROG框架，结合知识图谱检索与大语言模型推理解决复杂逻辑推理问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 知识图谱推理 大型语言模型 逻辑推理 查询分解 思维链

📋 核心要点

  1. 现有知识图谱推理方法难以处理复杂查询，尤其是在多算子、深层推理链和异构图谱结构下。
  2. ROG框架结合查询感知的知识图谱邻域检索与大语言模型的思维链推理，分解复杂查询并逐步推理。
  3. 实验表明，ROG在标准知识图谱推理基准上显著优于基于嵌入的基线，尤其在复杂查询上提升明显。

📝 摘要（中文）

由于现实世界知识图谱（KG）固有的不完整性以及逻辑查询结构的组合复杂性，使用一阶逻辑（FOL）查询在知识图谱上进行推理极具挑战性。现有方法大多依赖于将实体和关系嵌入到连续几何空间中，并通过可微集合运算来回答查询。虽然这些方法对于简单的查询模式有效，但它们通常难以推广到涉及多个运算符、更深的推理链或异构KG模式的复杂查询。我们提出了一种名为ROG（Reasoning Over knowledge Graphs with large language models）的集成式框架，该框架结合了查询感知的KG邻域检索与基于大型语言模型（LLM）的思维链推理。ROG将复杂的FOL查询分解为一系列更简单的子查询，检索紧凑的、与查询相关的子图作为上下文证据，并使用LLM执行逐步逻辑推理，避免了对特定任务的嵌入优化的需求。在标准KG推理基准上的实验表明，ROG在平均倒数排名（MRR）方面始终优于强大的基于嵌入的基线，尤其是在高复杂性查询类型上获得了显著提升。这些结果表明，将结构化KG检索与LLM驱动的逻辑推理相结合，为复杂的KG推理任务提供了一种稳健有效的替代方案。

🔬 方法详解

问题定义：论文旨在解决知识图谱上复杂逻辑推理的问题。现有基于嵌入的方法在处理复杂查询时存在泛化能力不足的痛点，难以应对多跳推理、多个逻辑运算符以及异构图谱结构带来的挑战。这些方法通常需要针对特定任务进行嵌入优化，缺乏灵活性和可扩展性。

核心思路：论文的核心思路是将复杂的逻辑推理任务分解为一系列更简单的子任务，并利用大语言模型（LLM）的强大推理能力逐步解决。通过查询感知的知识图谱检索，为LLM提供相关的上下文信息，引导其进行逻辑推理。这种方法避免了直接在整个知识图谱上进行推理的复杂性，也无需进行复杂的嵌入训练。

技术框架：ROG框架主要包含三个阶段：1) 查询分解：将复杂的FOL查询分解为一系列更简单的子查询。2) 子图检索：根据子查询检索知识图谱中相关的子图作为上下文证据。3) LLM推理：利用LLM对检索到的子图进行逐步逻辑推理，得到最终答案。整个框架采用集成式设计，将结构化的知识图谱检索与LLM的推理能力相结合。

关键创新：ROG的关键创新在于将大语言模型引入到知识图谱推理中，并结合了查询感知的知识图谱检索。与传统的基于嵌入的方法相比，ROG无需进行复杂的嵌入训练，并且能够更好地处理复杂查询。此外，ROG通过思维链的方式进行推理，提高了推理过程的可解释性。

关键设计：ROG的关键设计包括：1) 查询分解策略：如何将复杂的FOL查询分解为一系列更简单的子查询。2) 子图检索算法：如何高效地检索与查询相关的子图。3) LLM提示工程：如何设计合适的提示语，引导LLM进行逻辑推理。论文中可能使用了特定的参数设置来优化LLM的推理效果，但具体细节未知。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果表明，ROG在标准知识图谱推理基准上显著优于基于嵌入的基线方法。在平均倒数排名（MRR）指标上，ROG取得了显著提升，尤其是在高复杂性查询类型上表现突出。具体性能数据未知，但论文强调了ROG在处理复杂查询方面的优势。

🎯 应用场景

该研究成果可应用于智能问答系统、知识图谱补全、推荐系统等领域。通过结合知识图谱的结构化信息和大型语言模型的推理能力，可以构建更加智能和可靠的AI系统。未来，该方法有望在医疗诊断、金融风控等对准确性和可解释性要求较高的领域发挥重要作用。

📄 摘要（原文）

Reasoning over knowledge graphs (KGs) with first-order logic (FOL) queries is challenging due to the inherent incompleteness of real-world KGs and the compositional complexity of logical query structures. Most existing methods rely on embedding entities and relations into continuous geometric spaces and answer queries via differentiable set operations. While effective for simple query patterns, these approaches often struggle to generalize to complex queries involving multiple operators, deeper reasoning chains, or heterogeneous KG schemas. We propose ROG (Reasoning Over knowledge Graphs with large language models), an ensemble-style framework that combines query-aware KG neighborhood retrieval with large language model (LLM)-based chain-of-thought reasoning. ROG decomposes complex FOL queries into sequences of simpler sub-queries, retrieves compact, query-relevant subgraphs as contextual evidence, and performs step-by-step logical inference using an LLM, avoiding the need for task-specific embedding optimization. Experiments on standard KG reasoning benchmarks demonstrate that ROG consistently outperforms strong embedding-based baselines in terms of mean reciprocal rank (MRR), with particularly notable gains on high-complexity query types. These results suggest that integrating structured KG retrieval with LLM-driven logical reasoning offers a robust and effective alternative for complex KG reasoning tasks.