SSLCL: An Efficient Model-Agnostic Supervised Contrastive Learning Framework for Emotion Recognition in Conversations

📄 arXiv: 2310.16676v3 📥 PDF

作者: Tao Shi, Xiao Liang, Yaoyuan Liang, Xinyi Tong, Shao-Lun Huang

分类: cs.CL

发布日期: 2023-10-25 (更新: 2023-12-11)

🔗 代码/项目: GITHUB

💡 一句话要点

提出SSLCL框架以解决情感识别中的大批量限制问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 情感识别 对话系统 监督对比学习 多模态学习 深度学习

📋 核心要点

  1. 现有的ERC方法在使用监督对比学习时面临大批量大小的限制，且与大多数现有模型不兼容。
  2. 本文提出了一种高效的模型无关的SCL框架SSLCL，能够消除大批量需求并与现有ERC模型无缝集成。
  3. 在IEMOCAP和MELD数据集上进行的广泛实验表明，SSLCL在性能上显著优于现有的SCL方法。

📝 摘要（中文）

情感识别对话（ERC）是自然语言处理领域中的一个快速发展的任务，旨在检测对话中说话者表达的情感。近年来，越来越多的ERC方法开始利用监督对比学习（SCL）来增强学习特征的鲁棒性和泛化能力。然而，当前基于SCL的ERC方法受到大批量大小限制和与现有ERC模型兼容性不足的困扰。为了解决这些挑战，本文提出了一种高效且模型无关的SCL框架，称为带有Soft-HGR最大相关性的监督样本-标签对比学习（SSLCL），该框架消除了对大批量大小的需求，并能够与现有ERC模型无缝集成。通过将离散标签投影到密集嵌入中，最大化样本特征与对应标签嵌入之间的相似性，显著提高了性能。实验结果表明，SSLCL在IEMOCAP和MELD两个基准数据集上优于现有的SCL方法。

🔬 方法详解

问题定义：本文旨在解决情感识别对话中的大批量限制问题，现有基于监督对比学习的方法在这一点上表现不佳，导致模型的鲁棒性和泛化能力受限。

核心思路：提出SSLCL框架，通过将离散标签转化为密集嵌入，最大化样本特征与标签嵌入之间的相似性，同时最小化不同类别之间的相似性，从而提高模型的学习效果。

技术框架：SSLCL框架包括将标签表示投影为嵌入的多层感知机、样本特征与标签嵌入的相似性计算，以及Soft-HGR最大相关性的创新应用，整体流程简洁且高效。

关键创新：最重要的创新在于引入Soft-HGR最大相关性作为相似性度量，这一方法显著提升了模型性能，相较于传统相似性度量方法具有本质区别。

关键设计：在设计上，使用了浅层多层感知机将离散标签映射为密集嵌入，并制定了相应的训练目标，确保样本特征与标签嵌入之间的相似性最大化，同时引入数据增强策略以利用多模态信息。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

在IEMOCAP和MELD两个基准数据集上，SSLCL框架的实验结果显示出显著的性能提升，相较于现有的最先进SCL方法，准确率提高了X%（具体数据待补充），验证了其有效性和优越性。

🎯 应用场景

该研究的潜在应用领域包括情感分析、智能客服、社交媒体监测等。通过提高情感识别的准确性，SSLCL框架能够帮助企业更好地理解用户情感，从而优化服务和产品设计，未来可能在情感计算和人机交互中发挥重要作用。

📄 摘要（原文）

Emotion recognition in conversations (ERC) is a rapidly evolving task within the natural language processing community, which aims to detect the emotions expressed by speakers during a conversation. Recently, a growing number of ERC methods have focused on leveraging supervised contrastive learning (SCL) to enhance the robustness and generalizability of learned features. However, current SCL-based approaches in ERC are impeded by the constraint of large batch sizes and the lack of compatibility with most existing ERC models. To address these challenges, we propose an efficient and model-agnostic SCL framework named Supervised Sample-Label Contrastive Learning with Soft-HGR Maximal Correlation (SSLCL), which eliminates the need for a large batch size and can be seamlessly integrated with existing ERC models without introducing any model-specific assumptions. Specifically, we introduce a novel perspective on utilizing label representations by projecting discrete labels into dense embeddings through a shallow multilayer perceptron, and formulate the training objective to maximize the similarity between sample features and their corresponding ground-truth label embeddings, while minimizing the similarity between sample features and label embeddings of disparate classes. Moreover, we innovatively adopt the Soft-HGR maximal correlation as a measure of similarity between sample features and label embeddings, leading to significant performance improvements over conventional similarity measures. Additionally, multimodal cues of utterances are effectively leveraged by SSLCL as data augmentations to boost model performances. Extensive experiments on two ERC benchmark datasets, IEMOCAP and MELD, demonstrate the compatibility and superiority of our proposed SSLCL framework compared to existing state-of-the-art SCL methods. Our code is available at \url{https://github.com/TaoShi1998/SSLCL}.