Sentiment Reasoning for Healthcare
作者: Khai-Nguyen Nguyen, Khai Le-Duc, Bach Phan Tat, Duy Le, Long Vo-Dang, Truong-Son Hy
分类: cs.CL, cs.AI, cs.LG, cs.SD, eess.AS
发布日期: 2024-07-24 (更新: 2025-08-22)
备注: ACL 2025 Industry Track (Oral)
🔗 代码/项目: GITHUB
💡 一句话要点
提出情感推理任务，增强AI医疗决策透明性，并构建多模态情感分析数据集。
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 情感分析 情感推理 可解释性AI 多模态学习 医疗健康
📋 核心要点
- 现有AI医疗决策缺乏透明性，用户难以理解模型推理过程，影响决策信任度。
- 提出情感推理任务，模型在预测情感标签的同时生成理由，增强决策过程的可解释性。
- 实验表明，情感推理提升模型透明性，分类准确率和宏F1值提高2%，且理由语义质量与人类相当。
📝 摘要（中文）
本文提出了一项新的任务——情感推理，旨在提高AI医疗决策的透明度。通过为每个预测标签提供理由，用户可以更好地理解大型语言模型（LLM）的推理过程，从而做出更明智的决策。情感推理是情感分析中的一个辅助任务，模型需要预测情感标签，并根据输入文本生成相应的理由。研究在人工转录和自动语音识别（ASR）转录上进行，结果表明情感推理通过提供预测理由，提高了模型透明度，其语义质量与人类相当，同时通过理由增强的微调，提高了模型的分类性能（准确率和宏F1值均提高2%）。此外，人工转录和ASR转录生成的理由在语义质量上没有显著差异。所有代码、数据（五种语言：越南语、英语、中文、德语和法语）和模型均已在线发布。
🔬 方法详解
问题定义：现有AI医疗决策过程缺乏透明性，用户难以理解模型做出特定判断的原因。这导致用户对AI系统的信任度降低，尤其是在医疗等高风险领域。因此，如何让AI系统提供决策依据，增强可解释性，是亟待解决的问题。
核心思路：本文的核心思路是将情感分析任务扩展为情感推理任务。除了预测情感标签外，模型还需要生成解释其预测的理由。通过提供理由，用户可以了解模型做出特定判断的依据，从而提高对模型的信任度。这种方法旨在弥合AI决策的“黑盒”特性，使其更加透明和可理解。
技术框架：本文提出的框架是一个多模态多任务学习框架。该框架接收文本或语音输入（或两者），并同时执行两个任务：情感分类和理由生成。情感分类任务预测输入的情感极性（例如，正面、负面、中性）。理由生成任务生成一段文本，解释模型做出特定情感分类的原因。该框架可以利用预训练的语言模型（例如，BERT）作为骨干网络，并针对情感分类和理由生成任务进行微调。
关键创新：该论文的关键创新在于引入了情感推理这一新任务，并将其应用于医疗领域的情感分析。情感推理不仅预测情感标签，还生成解释性理由，从而显著提高了模型的可解释性。此外，该论文还构建了一个大规模的多模态情感分析数据集，包含五种语言，为情感推理任务的研究提供了数据基础。
关键设计：在理由生成任务中，可以使用序列到序列（Seq2Seq）模型，例如Transformer，将输入文本编码为隐藏表示，然后使用解码器生成理由文本。损失函数可以采用交叉熵损失，用于情感分类任务，以及负对数似然损失，用于理由生成任务。为了提高理由的质量，可以使用强化学习方法，例如策略梯度，奖励模型生成的理由与人工标注的理由之间的相似度。
🖼️ 关键图片
📊 实验亮点
实验结果表明，情感推理任务可以显著提高模型的透明度和可解释性。通过提供理由，用户可以更好地理解模型的决策过程。此外，实验还表明，情感推理可以提高模型的分类性能，准确率和宏F1值均提高2%。值得注意的是，使用自动语音识别（ASR）转录生成的理由在语义质量上与人工转录生成的理由没有显著差异，这表明该方法具有较强的鲁棒性。
🎯 应用场景
情感推理在医疗领域具有广泛的应用前景。例如，可以用于分析患者的电子病历，识别潜在的心理健康问题，并为医生提供诊断建议。此外，还可以用于分析患者的语音数据，识别情绪状态，并为患者提供个性化的治疗方案。情感推理还可以应用于客户服务领域，分析客户的情绪，并提供更有效的解决方案。
📄 摘要（原文）
Transparency in AI healthcare decision-making is crucial. By incorporating rationales to explain reason for each predicted label, users could understand Large Language Models (LLMs)'s reasoning to make better decision. In this work, we introduce a new task - Sentiment Reasoning - for both speech and text modalities, and our proposed multimodal multitask framework and the world's largest multimodal sentiment analysis dataset. Sentiment Reasoning is an auxiliary task in sentiment analysis where the model predicts both the sentiment label and generates the rationale behind it based on the input transcript. Our study conducted on both human transcripts and Automatic Speech Recognition (ASR) transcripts shows that Sentiment Reasoning helps improve model transparency by providing rationale for model prediction with quality semantically comparable to humans while also improving model's classification performance (+2% increase in both accuracy and macro-F1) via rationale-augmented fine-tuning. Also, no significant difference in the semantic quality of generated rationales between human and ASR transcripts. All code, data (five languages - Vietnamese, English, Chinese, German, and French) and models are published online: https://github.com/leduckhai/Sentiment-Reasoning