Graph-Grounded LLMs: Leveraging Graphical Function Calling to Minimize LLM Hallucinations

📄 arXiv: 2503.10941v1 📥 PDF

作者: Piyush Gupta, Sangjae Bae, David Isele

分类: cs.AI, cs.LG, cs.RO

发布日期: 2025-03-13

💡 一句话要点

提出Graph-Grounded LLMs，利用图函数调用减少LLM在图任务中的幻觉

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱三：空间感知与语义 (Perception & Semantics) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 图神经网络 函数调用 知识图谱 幻觉抑制 图推理 决策支持系统

📋 核心要点

  1. LLM在图相关任务中面临幻觉和数学不准确的挑战，限制了其应用。
  2. Graph-Grounded LLMs通过函数调用集成图库，对LLM进行图结构信息的grounding。
  3. 实验表明，该方法显著减少了幻觉，提高了数学准确性，并在灾难救援应用中表现出色。

📝 摘要（中文）

大型语言模型（LLMs）在涉及固有图结构的各种任务中的应用迅速扩展。图对于许多应用至关重要，包括自动驾驶车辆的运动规划、社交网络、场景理解和知识图谱。许多最初未被视为基于图的问题，也可以通过图论有效地解决。然而，当应用于这些任务时，LLMs经常遇到幻觉和数学不准确等挑战。为了克服这些限制，我们提出了Graph-Grounded LLMs，该系统通过集成图库并通过函数调用来提高LLM在图相关任务上的性能。通过以这种方式对LLMs进行grounding，我们证明了在解决基于图的问题时，幻觉显著减少，数学准确性得到提高，这已通过在NLGraph基准上的性能得到证实。最后，我们展示了一个灾难救援应用，其中Graph-Grounded LLM充当决策支持系统。

🔬 方法详解

问题定义：论文旨在解决大型语言模型（LLMs）在处理图相关任务时出现的幻觉和数学不准确问题。现有方法通常直接使用LLM进行推理，缺乏对图结构的有效利用，导致结果不可靠。

核心思路：核心思路是通过将LLM与外部图库连接，利用函数调用机制，让LLM能够调用图库中的函数来执行图相关的操作。这样，LLM的推理过程就能够基于真实的图数据和算法，从而减少幻觉和提高准确性。

技术框架：Graph-Grounded LLMs系统包含以下主要模块：1) LLM：负责接收用户输入，生成函数调用请求；2) 图库：包含各种图算法和数据结构，提供函数调用接口；3) 函数调用执行器：负责解析LLM生成的函数调用请求，调用图库中的相应函数，并将结果返回给LLM；4) 结果生成器：负责将图库返回的结果转化为自然语言，返回给用户。

关键创新：最重要的创新点在于将LLM与外部图库进行深度集成，通过函数调用机制实现了LLM对图结构的有效利用。这种方法避免了LLM直接进行图推理，而是将复杂的图计算任务委托给专业的图库，从而提高了结果的可靠性。与现有方法相比，Graph-Grounded LLMs能够更好地利用图的结构信息，减少幻觉和提高数学准确性。

关键设计：关键设计包括：1) 函数调用接口的设计，需要确保LLM能够方便地调用图库中的函数；2) 函数调用执行器的实现，需要能够正确地解析LLM生成的函数调用请求；3) 结果生成器的设计，需要能够将图库返回的结果转化为自然语言，方便用户理解。论文中未提及具体的参数设置、损失函数或网络结构等技术细节，这部分信息未知。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，Graph-Grounded LLMs在NLGraph基准测试中显著减少了幻觉，提高了数学准确性。具体性能数据和对比基线未在摘要中明确给出，提升幅度未知。灾难救援应用案例也展示了该方法在实际场景中的有效性。

🎯 应用场景

该研究成果可应用于各种涉及图结构的领域，如自动驾驶车辆的运动规划、社交网络分析、场景理解、知识图谱推理等。特别是在灾难救援等需要快速决策的场景中，Graph-Grounded LLMs可以作为决策支持系统，帮助救援人员制定更有效的救援方案，具有重要的实际价值和潜在的社会影响。

📄 摘要（原文）

The adoption of Large Language Models (LLMs) is rapidly expanding across various tasks that involve inherent graphical structures. Graphs are integral to a wide range of applications, including motion planning for autonomous vehicles, social networks, scene understanding, and knowledge graphs. Many problems, even those not initially perceived as graph-based, can be effectively addressed through graph theory. However, when applied to these tasks, LLMs often encounter challenges, such as hallucinations and mathematical inaccuracies. To overcome these limitations, we propose Graph-Grounded LLMs, a system that improves LLM performance on graph-related tasks by integrating a graph library through function calls. By grounding LLMs in this manner, we demonstrate significant reductions in hallucinations and improved mathematical accuracy in solving graph-based problems, as evidenced by the performance on the NLGraph benchmark. Finally, we showcase a disaster rescue application where the Graph-Grounded LLM acts as a decision-support system.