Conversational Question Answering with Reformulations over Knowledge Graph

📄 arXiv: 2312.17269v2 📥 PDF

作者: Lihui Liu, Blaine Hill, Boxin Du, Fei Wang, Hanghang Tong

分类: cs.CL, cs.AI

发布日期: 2023-12-27 (更新: 2024-03-29)

💡 一句话要点

提出CornNet，利用大语言模型重构问题，提升知识图谱上的对话问答性能。

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 对话问答 知识图谱 强化学习 问题重构 大型语言模型

📋 核心要点

  1. 现有ConvQA方法难以处理对话上下文中不明确的问题，导致性能下降。
  2. CornNet利用LLM生成的问题重构，通过教师-学生架构学习更好的问题表示。
  3. 实验结果表明，CornNet在ConvQA任务上优于现有最先进的模型。

📝 摘要（中文）

本文提出了一种基于强化学习（RL）的模型CornNet，用于解决知识图谱（KG）上的对话问答（convQA）任务中，由于问题-答案对不明确而导致的性能下降问题。现有的ConvQA方法难以处理这种在对话历史中易于理解但机器难以解释的输入。CornNet利用大型语言模型（LLM）生成的问题重构来提高ConvQA性能。CornNet采用教师-学生架构，教师模型使用人工编写的重构学习问题表示，学生模型通过LLM生成的重构来模仿教师模型的输出。学习到的问题表示随后被RL模型用于在KG中定位正确答案。大量实验结果表明，CornNet优于最先进的convQA模型。

🔬 方法详解

问题定义：论文旨在解决知识图谱上的对话问答任务中，由于问题本身的不明确性（inexplicit）导致的性能瓶颈。现有的ConvQA模型在处理需要结合上下文才能理解的问题时表现不佳，因为它们难以有效地利用对话历史来推断问题的真实意图。

核心思路：论文的核心思路是利用大型语言模型（LLM）生成的问题重构（reformulation），将不明确的问题转化为更清晰、更易于理解的形式。通过这种方式，模型可以更好地捕捉问题的语义信息，从而提高问答的准确性。

技术框架：CornNet采用教师-学生架构。首先，教师模型使用人工编写的问题重构来学习高质量的问题表示。然后，学生模型利用LLM自动生成的问题重构来模仿教师模型的输出。最后，将学习到的问题表示输入到强化学习（RL）模型中，该RL模型负责在知识图谱中寻找答案。整个流程包括问题重构、问题表示学习和答案推理三个主要阶段。

关键创新：该论文的关键创新在于利用LLM生成的问题重构来增强ConvQA模型的理解能力。与以往依赖人工重构或简单拼接上下文的方法不同，CornNet能够自动生成多样化且语义相关的重构，从而更有效地利用对话历史信息。此外，教师-学生架构的设计使得模型能够从高质量的人工重构中学习，并将其知识迁移到LLM生成的重构上。

关键设计：CornNet的关键设计包括：1) 使用特定的LLM（具体型号未知）进行问题重构，并设计合适的prompt工程以生成高质量的重构；2) 教师模型的训练目标是最小化预测的问题表示与使用人工重构计算出的问题表示之间的差异；3) 学生模型的训练目标是最小化其预测的问题表示与教师模型输出之间的差异；4) RL模型使用策略梯度方法进行训练，奖励函数的设计需要考虑答案的正确性和路径的有效性（具体细节未知）。

📊 实验亮点

实验结果表明，CornNet在ConvQA任务上取得了显著的性能提升，优于现有的最先进模型。具体的性能数据和对比基线在摘要中未给出，但强调了CornNet的有效性。该模型通过利用LLM生成的问题重构，有效地解决了对话问答中问题不明确的问题，从而提高了问答的准确性。

🎯 应用场景

该研究成果可应用于智能客服、虚拟助手等领域，提升对话系统中知识问答的准确性和用户体验。通过更准确地理解用户意图，系统能够提供更相关、更有效的答案，从而提高用户满意度。未来，该方法可以扩展到更复杂的对话场景，例如多轮推理和开放域问答。

📄 摘要（原文）

Conversational question answering (convQA) over knowledge graphs (KGs) involves answering multi-turn natural language questions about information contained in a KG. State-of-the-art methods of ConvQA often struggle with inexplicit question-answer pairs. These inputs are easy for human beings to understand given a conversation history, but hard for a machine to interpret, which can degrade ConvQA performance. To address this problem, we propose a reinforcement learning (RL) based model, CornNet, which utilizes question reformulations generated by large language models (LLMs) to improve ConvQA performance. CornNet adopts a teacher-student architecture where a teacher model learns question representations using human writing reformulations, and a student model to mimic the teacher model's output via reformulations generated by LLMs. The learned question representation is then used by an RL model to locate the correct answer in a KG. Extensive experimental results show that CornNet outperforms state-of-the-art convQA models.