Cause-Aware Empathetic Response Generation via Chain-of-Thought Fine-Tuning

📄 arXiv: 2408.11599v1 📥 PDF

作者: Xinhao Chen, Chong Yang, Man Lan, Li Cai, Yang Chen, Tu Hu, Xinlin Zhuang, Aimin Zhou

分类: cs.CL, cs.AI

发布日期: 2024-08-21

💡 一句话要点

提出基于思维链微调的因果感知共情回复生成方法，提升LLM的情感理解能力。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 共情回复生成 思维链 大型语言模型 情感原因推理 指令微调

📋 核心要点

  1. 现有共情回复生成方法主要关注说话者的情感标签，忽略了情感原因推理的重要性，限制了模型的情感理解和认知推理能力。
  2. 本文通过在LLM上设计CoT提示，整合情感和原因，并结合指令微调和角色意识增强，提升LLM的共情能力。
  3. 实验结果表明，在LLaMA-7b上应用该方法，在自动和人工评估中均取得了最先进的性能。

📝 摘要（中文）

本文提出了一种因果感知的共情回复生成方法，通过在大型语言模型（LLM）上设计精巧的思维链（CoT）提示，将情感和原因整合起来。该方法通过指令微调显著提升了LLM的共情能力，并在提示中增强了共情倾听者的角色意识。此外，本文还提出将来自COMET的面向原因的外部知识融入到提示中，从而提高生成的多样性，并缓解内部知识和外部知识之间的冲突。在基准数据集上的实验结果表明，本文在LLaMA-7b上的方法在自动和人工评估中均达到了最先进的性能。

🔬 方法详解

问题定义：现有共情回复生成模型主要依赖于对话中说话者的情感标签，而忽略了对情感原因的推理。这种忽略导致模型难以深入理解对话的上下文，无法进行更深层次的情感理解和认知推理，从而影响了生成回复的共情能力。现有方法的痛点在于缺乏对情感原因的有效利用，导致生成的回复缺乏深度和多样性。

核心思路：本文的核心思路是通过在大型语言模型（LLM）中引入思维链（Chain-of-Thought, CoT）提示，显式地引导模型进行情感原因的推理。通过CoT提示，模型可以逐步推导出情感的原因，从而更好地理解对话的上下文，并生成更具共情能力的回复。此外，还通过指令微调和角色意识增强，进一步提升LLM的共情能力。

技术框架：整体框架包括以下几个主要阶段：1) 构建包含情感和原因的CoT提示；2) 使用指令微调训练LLM，使其能够更好地理解和利用CoT提示；3) 在提示中增强共情倾听者的角色意识，引导模型生成更具共情能力的回复；4) 将来自COMET的外部知识融入到提示中，提高生成的多样性。

关键创新：最重要的技术创新点在于将CoT提示引入到共情回复生成任务中，并结合情感原因推理。与现有方法相比，本文的方法能够显式地引导模型进行情感原因的推理，从而更好地理解对话的上下文，并生成更具共情能力的回复。此外，将外部知识融入到提示中，也提高了生成的多样性。

关键设计：CoT提示的设计是关键。提示需要包含对话上下文、说话者的情感标签以及引导模型进行情感原因推理的指令。指令微调的目标是使LLM能够更好地理解和利用CoT提示。角色意识增强通过在提示中明确模型作为共情倾听者的角色，引导模型生成更具共情能力的回复。外部知识的融入需要考虑如何缓解内部知识和外部知识之间的冲突。

🖼️ 关键图片

fig_0

📊 实验亮点

实验结果表明，本文提出的方法在基准数据集上取得了最先进的性能。具体而言，在LLaMA-7b上应用该方法，在自动评估指标和人工评估中均优于现有方法。这表明本文的方法能够有效地提升LLM的共情能力，并生成更具共情能力的回复。与基线模型相比，该方法在共情度、相关性和流畅性等方面均有显著提升。

🎯 应用场景

该研究成果可应用于智能客服、心理咨询、社交机器人等领域，提升人机交互的自然性和情感温度。通过理解用户的情感原因，机器人可以提供更贴心、更个性化的服务，从而增强用户体验和满意度。未来，该技术有望在情感计算和人机协作领域发挥更大的作用。

📄 摘要（原文）

Empathetic response generation endows agents with the capability to comprehend dialogue contexts and react to expressed emotions. Previous works predominantly focus on leveraging the speaker's emotional labels, but ignore the importance of emotion cause reasoning in empathetic response generation, which hinders the model's capacity for further affective understanding and cognitive inference. In this paper, we propose a cause-aware empathetic generation approach by integrating emotions and causes through a well-designed Chain-of-Thought (CoT) prompt on Large Language Models (LLMs). Our approach can greatly promote LLMs' performance of empathy by instruction tuning and enhancing the role awareness of an empathetic listener in the prompt. Additionally, we propose to incorporate cause-oriented external knowledge from COMET into the prompt, which improves the diversity of generation and alleviates conflicts between internal and external knowledge at the same time. Experimental results on the benchmark dataset demonstrate that our approach on LLaMA-7b achieves state-of-the-art performance in both automatic and human evaluations.