Towards Explainable Conversational AI for Early Diagnosis with Large Language Models

📄 arXiv: 2512.17559v1 📥 PDF

作者: Maliha Tabassum, M Shamim Kaiser

分类: cs.AI

发布日期: 2025-12-19

💡 一句话要点

提出基于LLM的对话式AI，用于早期诊断并提升可解释性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 对话式AI 早期诊断 可解释AI 检索增强生成 医疗健康 GPT-4o

📋 核心要点

  1. 现有AI诊断系统缺乏交互性和透明性，难以有效应用于以患者为中心的真实环境。
  2. 利用GPT-4o、RAG和可解释AI技术构建对话式诊断系统，提升诊断过程的透明度和交互性。
  3. 实验表明，该系统在诊断准确率上显著优于传统机器学习模型，具有良好的应用前景。

📝 摘要（中文）

本文提出了一种基于大型语言模型（LLM）的诊断聊天机器人，旨在解决医疗系统中诊断效率低下、成本上升以及专家资源有限等问题。该聊天机器人利用GPT-4o、检索增强生成（RAG）和可解释AI技术，与患者进行动态对话，提取和规范化症状，并通过相似性匹配和自适应提问来确定潜在诊断的优先级。借助思维链（Chain-of-Thought）提示，该系统还提供了更透明的诊断推理过程。实验结果表明，与传统的机器学习模型（如朴素贝叶斯、逻辑回归、SVM、随机森林和KNN）相比，该基于LLM的系统表现出色，达到了90%的准确率和100%的Top-3准确率。这些发现为医疗领域中更透明、交互式和临床相关的AI应用提供了有希望的前景。

🔬 方法详解

问题定义：现有医疗诊断系统效率低、成本高，且缺乏与患者的有效互动。传统AI诊断模型通常是黑盒模型，缺乏透明性和可解释性，难以获得医患信任。因此，需要一种交互式、透明且准确的AI诊断系统，以辅助医生进行早期诊断。

核心思路：利用大型语言模型（LLM）强大的自然语言处理能力，构建一个能够与患者进行对话的聊天机器人。通过对话收集患者症状，并结合检索增强生成（RAG）技术，从医学知识库中检索相关信息，辅助LLM进行诊断。同时，采用思维链（Chain-of-Thought）提示，使LLM能够解释其诊断推理过程，提高可解释性。

技术框架：该系统主要包含以下几个模块：1) 对话管理模块：负责与患者进行对话，收集症状信息。2) 症状规范化模块：将患者描述的症状转换为标准化的医学术语。3) 检索增强模块：利用RAG技术，从医学知识库中检索与患者症状相关的信息。4) 诊断推理模块：基于LLM和检索到的信息，进行诊断推理，并给出潜在的诊断结果。5) 可解释性模块：利用思维链提示，解释LLM的诊断推理过程。

关键创新：该研究的关键创新在于将大型语言模型、检索增强生成和可解释AI技术相结合，构建了一个交互式、透明且准确的AI诊断系统。与传统的机器学习模型相比，该系统具有更强的自然语言处理能力和可解释性。此外，通过自适应提问，系统能够更有效地收集患者症状信息，提高诊断准确率。

关键设计：该系统使用GPT-4o作为底层LLM，并采用思维链提示来提高可解释性。检索增强模块使用余弦相似度来匹配患者症状与医学知识库中的信息。自适应提问策略根据当前诊断结果，选择最能区分不同疾病的问题进行提问。具体的参数设置和网络结构等技术细节在论文中未详细说明，属于未知信息。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，基于LLM的诊断系统达到了90%的准确率和100%的Top-3准确率，显著优于传统的机器学习模型，如朴素贝叶斯、逻辑回归、SVM、随机森林和KNN。这表明LLM在医疗诊断领域具有巨大的潜力，能够提供更准确、更可靠的诊断结果。

🎯 应用场景

该研究成果可应用于多种医疗场景，例如在线健康咨询、远程医疗、早期疾病筛查等。通过与患者进行对话，AI诊断系统可以辅助医生进行初步诊断，提高诊断效率，降低医疗成本，并扩大医疗服务的覆盖范围。未来，该技术有望应用于个性化医疗和精准医疗，为患者提供更优质的医疗服务。

📄 摘要（原文）

Healthcare systems around the world are grappling with issues like inefficient diagnostics, rising costs, and limited access to specialists. These problems often lead to delays in treatment and poor health outcomes. Most current AI and deep learning diagnostic systems are not very interactive or transparent, making them less effective in real-world, patient-centered environments. This research introduces a diagnostic chatbot powered by a Large Language Model (LLM), using GPT-4o, Retrieval-Augmented Generation, and explainable AI techniques. The chatbot engages patients in a dynamic conversation, helping to extract and normalize symptoms while prioritizing potential diagnoses through similarity matching and adaptive questioning. With Chain-of-Thought prompting, the system also offers more transparent reasoning behind its diagnoses. When tested against traditional machine learning models like Naive Bayes, Logistic Regression, SVM, Random Forest, and KNN, the LLM-based system delivered impressive results, achieving an accuracy of 90% and Top-3 accuracy of 100%. These findings offer a promising outlook for more transparent, interactive, and clinically relevant AI in healthcare.