Socio-Emotional Response Generation: A Human Evaluation Protocol for LLM-Based Conversational Systems

📄 arXiv: 2412.04492v1 📥 PDF

作者: Lorraine Vanel, Ariel R. Ramos Vela, Alya Yacoubi, Chloé Clavel

分类: cs.CL, cs.AI, cs.HC, cs.SI

发布日期: 2024-11-26

期刊: AHRI 2024, Sep 2024, Glasgow, United Kingdom

💡 一句话要点

提出一种基于社会情感策略规划的对话系统，提升LLM生成回复的质量和可控性。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 对话系统 社会情感计算 大型语言模型 策略规划 人工评估 自然语言生成

📋 核心要点

  1. 现有大型语言模型在对话系统中表现出色，但缺乏对社会情感策略的控制和理解，影响其在关键场景中的应用。
  2. 论文提出一种神经架构，在回复生成前增加社会情感策略规划步骤，以期提高生成回复的质量和可控性。
  3. 实验结果表明，通过预测策略标签序列并以此生成回复，优于直接的端到端生成，并揭示了现有评估指标的不足。

📝 摘要（中文）

当前对话系统能够生成令人印象深刻且相关的回复，但缺乏对大型语言模型（LLM）背后社会情感策略的可视性和控制，这对其透明度和关键应用的可信度构成挑战。此外，现有自动评估指标无法准确评估生成回复的质量。本文提出一种神经架构，在生成回复前加入社会情感策略规划的中间步骤。通过人工评估，对比了开源LLM和增强规划模块后的LLM的性能，并对比了自动评估指标和人工评估结果。研究表明，预测预期策略标签序列并使用该序列生成回复，比直接端到端生成方案效果更好。同时，揭示了当前生成内容评估指标的局限性。注释平台代码和注释数据已公开，用于未来模型的评估。

🔬 方法详解

问题定义：现有的大型语言模型（LLM）在对话生成任务中表现出色，但存在两个主要问题。一是缺乏对LLM生成回复背后社会情感策略的控制和理解，导致其在需要高度可信度的关键应用中受到限制。二是现有的自动评估指标无法有效地评估生成回复的质量，尤其是在社会情感维度上，往往与人类的感知存在偏差。

核心思路：本文的核心思路是在LLM生成回复之前，显式地规划社会情感策略。通过预测一系列的策略标签，并将这些标签作为LLM的输入，引导LLM生成符合预期社会情感特征的回复。这种方法旨在提高生成回复的可控性和质量，使其更符合人类的期望。

技术框架：该方法的核心是一个神经架构，它包含以下几个主要模块：1) 上下文编码器：用于编码对话历史信息。2) 策略预测器：根据上下文信息，预测一系列的社会情感策略标签。3) 策略嵌入层：将预测的策略标签嵌入到向量空间中。4) LLM生成器：以策略嵌入和上下文编码作为输入，生成最终的回复。整体流程是：首先，上下文编码器对对话历史进行编码；然后，策略预测器预测一系列的策略标签；接着，策略嵌入层将这些标签转换为向量表示；最后，LLM生成器结合上下文编码和策略嵌入，生成最终的回复。

关键创新：该方法最重要的创新点在于引入了社会情感策略规划的中间步骤。与传统的端到端生成方法相比，该方法能够显式地控制LLM生成回复的社会情感特征，从而提高生成回复的可控性和质量。此外，该方法还提出了一种新颖的人工评估协议，能够更全面地评估生成回复的社会情感质量。

关键设计：策略预测器可以使用各种序列预测模型，例如LSTM或Transformer。策略嵌入层可以使用预训练的词向量或随机初始化的嵌入向量。LLM生成器可以使用各种预训练的LLM，例如GPT-2或BERT。损失函数可以包括策略预测的交叉熵损失和回复生成的语言模型损失。在训练过程中，可以使用teacher forcing或scheduled sampling等技术来提高模型的性能。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，通过预测策略标签序列并以此生成回复，在社会情感维度上优于直接的端到端生成方法。人工评估结果显示，该方法生成的回复在一致性、社会性和情感表达方面均有显著提升。同时，研究揭示了现有自动评估指标在评估社会情感生成内容方面的局限性，为未来评估指标的改进提供了方向。

🎯 应用场景

该研究成果可应用于各种人机对话场景，例如情感支持聊天机器人、心理咨询助手、教育辅导系统等。通过控制对话系统的社会情感策略，可以提高用户满意度、增强用户信任感，并提升对话系统的实际应用价值。未来，该技术有望在医疗、教育、客服等领域发挥重要作用。

📄 摘要（原文）

Conversational systems are now capable of producing impressive and generally relevant responses. However, we have no visibility nor control of the socio-emotional strategies behind state-of-the-art Large Language Models (LLMs), which poses a problem in terms of their transparency and thus their trustworthiness for critical applications. Another issue is that current automated metrics are not able to properly evaluate the quality of generated responses beyond the dataset's ground truth. In this paper, we propose a neural architecture that includes an intermediate step in planning socio-emotional strategies before response generation. We compare the performance of open-source baseline LLMs to the outputs of these same models augmented with our planning module. We also contrast the outputs obtained from automated metrics and evaluation results provided by human annotators. We describe a novel evaluation protocol that includes a coarse-grained consistency evaluation, as well as a finer-grained annotation of the responses on various social and emotional criteria. Our study shows that predicting a sequence of expected strategy labels and using this sequence to generate a response yields better results than a direct end-to-end generation scheme. It also highlights the divergences and the limits of current evaluation metrics for generated content. The code for the annotation platform and the annotated data are made publicly available for the evaluation of future models.