G-reasoner: Foundation Models for Unified Reasoning over Graph-structured Knowledge
作者: Linhao Luo, Zicheng Zhao, Junnan Liu, Zhangchi Qiu, Junnan Dong, Serge Panev, Chen Gong, Thuy-Trang Vu, Gholamreza Haffari, Dinh Phung, Alan Wee-Chung Liew, Shirui Pan
分类: cs.AI
发布日期: 2026-02-28
💡 一句话要点
提出G-reasoner，用于统一推理图结构知识的基座模型框架。
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 图推理 知识图谱 大型语言模型 检索增强生成 图神经网络
📋 核心要点
- 现有检索增强生成方法在知识密集型任务中表现不佳，因为信息碎片化且缺乏对知识结构的有效建模。
- G-reasoner通过QuadGraph统一异构知识源，并提出图基础模型（GFM）来捕获图拓扑和文本语义，从而增强LLM的推理能力。
- 实验结果表明，G-reasoner在多个基准测试中优于现有方法，显著提升了LLM的推理性能，并具有良好的效率和泛化能力。
📝 摘要（中文）
大型语言模型（LLMs）擅长复杂推理，但受限于静态和不完整的参数知识。检索增强生成（RAG）通过整合外部知识来缓解这个问题，但现有的RAG在知识密集型任务中表现不佳，因为信息碎片化且知识结构建模较弱。图提供了一种自然的方式来建模知识中的关系，但LLMs本质上是非结构化的，无法有效地推理图结构数据。最近的图增强RAG（GraphRAG）试图通过构建定制图并使LLMs能够在图上推理来弥合这一差距。然而，这些方法通常依赖于特定的图设计、启发式搜索或昂贵的代理管道，这阻碍了可扩展性和泛化性。为了解决这些挑战，我们提出了G-reasoner，一个统一的框架，集成了图和语言基础模型，用于在各种图结构知识上进行可扩展的推理。我们方法的核心是QuadGraph，一种标准化的四层抽象，将异构知识源统一成一个通用的图表示。在此基础上，我们引入了一个34M参数的图基础模型（GFM），它共同捕获图拓扑和文本语义，并与LLMs集成以增强下游应用中的推理。为了确保可扩展性和效率，我们实现了混合精度训练和分布式消息传递，以使用更多GPU来扩展GFM。在六个基准上的大量实验表明，G-reasoner始终优于最先进的基线，显著增强了LLM推理，并实现了强大的效率和跨图泛化。
🔬 方法详解
问题定义：现有的大型语言模型虽然在复杂推理方面表现出色，但其知识库是静态且不完整的。检索增强生成（RAG）旨在通过引入外部知识来弥补这一缺陷，然而，现有的RAG方法在处理知识密集型任务时，由于信息的碎片化以及对知识结构建模的不足，效果并不理想。特别是，如何有效地利用图结构化的知识进行推理是一个挑战。
核心思路：G-reasoner的核心思路是将图结构化的知识与语言模型相结合，从而增强LLM的推理能力。它通过一个统一的框架，将异构的知识源整合到一种通用的图表示中，并利用图基础模型（GFM）来学习图的拓扑结构和文本语义。这种方法旨在克服现有RAG方法在处理复杂知识结构时的局限性。
技术框架：G-reasoner的整体框架包含以下几个主要模块：1) QuadGraph：一个四层抽象，用于统一异构知识源，形成通用的图表示。2) 图基础模型（GFM）：一个34M参数的模型，用于学习图的拓扑结构和文本语义。3) LLM集成：将GFM与LLM集成，以增强下游任务的推理能力。为了提高可扩展性和效率，该框架还采用了混合精度训练和分布式消息传递。
关键创新：G-reasoner的关键创新在于其统一的图推理框架，特别是QuadGraph的提出和图基础模型（GFM）的设计。QuadGraph提供了一种标准化的方式来表示和整合不同的知识源，而GFM则能够有效地学习图的结构和语义信息。与现有的GraphRAG方法相比，G-reasoner避免了对特定图结构的依赖，减少了启发式搜索和复杂代理管道的需求，从而提高了可扩展性和泛化能力。
关键设计：QuadGraph包含四层抽象，具体细节未知。GFM是一个34M参数的模型，其具体网络结构未知，但它能够同时捕获图的拓扑结构和文本语义。为了提高训练效率，采用了混合精度训练和分布式消息传递技术。损失函数和具体的参数设置未知。
🖼️ 关键图片
📊 实验亮点
实验结果表明，G-reasoner在六个基准测试中始终优于最先进的基线方法。具体性能数据和提升幅度未知，但论文强调G-reasoner显著增强了LLM的推理能力，并实现了强大的效率和跨图泛化能力。这些结果表明G-reasoner在处理图结构化知识方面具有显著的优势。
🎯 应用场景
G-reasoner具有广泛的应用前景，包括知识图谱问答、推荐系统、信息检索、智能客服等领域。通过增强LLM对结构化知识的理解和推理能力，可以提高这些应用在处理复杂查询和推理任务时的准确性和效率。该研究的成果有助于推动人工智能在知识密集型领域的应用。
📄 摘要（原文）
Large language models (LLMs) excel at complex reasoning but remain limited by static and incomplete parametric knowledge. Retrieval-augmented generation (RAG) mitigates this by incorporating external knowledge, yet existing RAGs struggle with knowledge-intensive tasks due to fragmented information and weak modeling of knowledge structure. Graphs offer a natural way to model relationships within knowledge, but LLMs are inherently unstructured and cannot effectively reason over graph-structured data. Recent graph-enhanced RAG (GraphRAG) attempts to bridge this gap by constructing tailored graphs and enabling LLMs to reason on them. However, these methods often depend on ad-hoc graph designs, heuristic search, or costly agent pipelines, which hinder scalability and generalization. To address these challenges, we present G-reasoner, a unified framework that integrates graph and language foundation models for scalable reasoning over diverse graph-structured knowledge. Central to our approach is QuadGraph, a standardized four-layer abstraction that unifies heterogeneous knowledge sources into a common graph representation. Building on this, we introduce a 34M-parameter graph foundation model (GFM) that jointly captures graph topology and textual semantics, and is integrated with LLMs to enhance reasoning in downstream applications. To ensure scalability and efficiency, mixed-precision training and distributed message-passing are implemented to scale GFM with more GPUs. Extensive experiments on six benchmarks show that G-reasoner consistently outperforms state-of-the-art baselines, significantly enhances LLM reasoning, and achieves strong efficiency and cross-graph generalization.