TrumorGPT: Graph-Based Retrieval-Augmented Large Language Model for Fact-Checking
作者: Ching Nam Hang, Pei-Duo Yu, Chee Wei Tan
分类: cs.CL, cs.AI
发布日期: 2025-05-11 (更新: 2025-06-22)
💡 一句话要点
提出TrumorGPT，利用图增强检索的大语言模型进行健康领域的谣言核查。
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 谣言核查 健康领域 知识图谱 检索增强生成 大型语言模型
📋 核心要点
- 社交媒体上健康谣言泛滥，传统方法难以有效区分真假，对公共健康构成威胁。
- TrumorGPT利用图增强检索的大语言模型，结合最新的健康知识图谱，提升核查准确性。
- 实验表明，TrumorGPT在健康声明核查方面表现出色，有效对抗了健康相关的错误信息。
📝 摘要（中文）
在社交媒体时代，错误信息和谣言的迅速传播导致了信息疫情的出现，虚假信息对社会构成了重大威胁。为了解决这个问题，我们介绍了一种新颖的生成式人工智能解决方案TrumorGPT，专为健康领域的谣言核查而设计。TrumorGPT旨在区分“trumor”，即最终被证实为真实的与健康相关的谣言，为区分纯粹的猜测和已验证的事实提供了一个关键工具。该框架利用具有少量样本学习的大语言模型（LLM）进行语义健康知识图谱构建和语义推理。TrumorGPT结合了基于图的检索增强生成（GraphRAG），以解决LLM中常见的幻觉问题和静态训练数据的局限性。GraphRAG涉及访问和利用来自定期更新的语义健康知识图谱的信息，该图谱包含最新的医学新闻和健康信息，确保TrumorGPT的核查基于最新数据。通过广泛的医疗保健数据集进行评估，TrumorGPT在公共健康声明的核查方面表现出卓越的性能。它在各种平台上有效进行核查的能力标志着在对抗与健康相关错误信息方面迈出了关键一步，从而提高了数字信息时代的信任度和准确性。
🔬 方法详解
问题定义：论文旨在解决健康领域中谣言核查的问题，尤其关注区分“trumor”（最终被证实为真的谣言）。现有方法，如直接使用大型语言模型，容易产生幻觉，并且受限于静态训练数据，无法及时反映最新的医学知识和健康信息。
核心思路：核心思路是利用图增强检索生成（GraphRAG）框架，结合大型语言模型和定期更新的语义健康知识图谱。通过从知识图谱中检索相关信息，为LLM提供外部知识，从而减少幻觉并提高核查的准确性。这种设计能够使模型基于最新的医学证据进行推理。
技术框架：TrumorGPT的技术框架主要包含以下几个阶段：1) 语义健康知识图谱构建：利用LLM进行少量样本学习，从医学新闻和健康信息中提取实体和关系，构建语义知识图谱。2) 图检索：当需要核查一个健康声明时，首先在知识图谱中检索相关信息。3) 检索增强生成：将检索到的知识作为上下文输入到LLM中，LLM基于这些信息生成核查结果。
关键创新：最重要的创新点在于GraphRAG框架在健康谣言核查中的应用。与传统的RAG方法相比，GraphRAG利用知识图谱进行结构化知识检索，能够更准确地找到与待核查声明相关的信息。此外，定期更新的知识图谱保证了模型能够基于最新的医学知识进行推理。
关键设计：论文中关键的设计包括：1) 知识图谱的构建方法：使用少量样本学习来降低构建知识图谱的成本。2) 检索策略：如何有效地从知识图谱中检索相关信息，例如使用基于图嵌入的方法。3) LLM的选择和微调：选择合适的LLM，并使用健康领域的特定数据进行微调，以提高其在健康领域的推理能力。具体的参数设置、损失函数、网络结构等技术细节在论文中可能没有详细描述，属于未知信息。
🖼️ 关键图片
📊 实验亮点
TrumorGPT在广泛的医疗保健数据集上进行了评估，结果表明其在公共健康声明的核查方面表现出卓越的性能。具体的性能数据、对比基线和提升幅度在摘要中未明确给出，属于未知信息。但论文强调了TrumorGPT在对抗与健康相关错误信息方面迈出了关键一步。
🎯 应用场景
TrumorGPT可应用于社交媒体平台、在线健康社区和医疗咨询服务，帮助用户识别和区分健康谣言，提高公众对健康信息的辨别能力。该研究有助于减少错误信息传播，提升公共健康水平，并为未来的健康信息管理系统提供技术支持。
📄 摘要（原文）
In the age of social media, the rapid spread of misinformation and rumors has led to the emergence of infodemics, where false information poses a significant threat to society. To combat this issue, we introduce TrumorGPT, a novel generative artificial intelligence solution designed for fact-checking in the health domain. TrumorGPT aims to distinguish "trumors", which are health-related rumors that turn out to be true, providing a crucial tool in differentiating between mere speculation and verified facts. This framework leverages a large language model (LLM) with few-shot learning for semantic health knowledge graph construction and semantic reasoning. TrumorGPT incorporates graph-based retrieval-augmented generation (GraphRAG) to address the hallucination issue common in LLMs and the limitations of static training data. GraphRAG involves accessing and utilizing information from regularly updated semantic health knowledge graphs that consist of the latest medical news and health information, ensuring that fact-checking by TrumorGPT is based on the most recent data. Evaluating with extensive healthcare datasets, TrumorGPT demonstrates superior performance in fact-checking for public health claims. Its ability to effectively conduct fact-checking across various platforms marks a critical step forward in the fight against health-related misinformation, enhancing trust and accuracy in the digital information age.