Prompting Is All You Need: Multi-view Prompting Large Language Models for Aspect-Based Sentiment Analysis
作者: Nils Constantin Hellwig, Niklas Donhauser, Jakob Fehle, Udo Kruschwitz, Christian Wolff
分类: cs.CL
发布日期: 2026-05-27
💡 一句话要点
提出LLM-MvP,通过多视角Prompting提升大语言模型在ABSA任务上的性能并降低计算成本。
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 方面级情感分析 大语言模型 Prompting 多视角学习 模式约束解码
📋 核心要点
- 现有基于LLM的ABSA方法虽然优于零样本基线,但与微调模型相比仍有差距,且计算成本高昂。
- LLM-MvP通过结合多视角prompting、模式约束解码和前缀批处理,提升性能并降低计算开销。
- 实验结果表明,LLM-MvP在五个基准数据集上达到了与微调模型相当或更优的性能。
📝 摘要(中文)
本文提出了一种基于大语言模型的多视角Prompting方法(LLM-MvP),用于方面级情感分析(ABSA)。该方法借鉴了多视角原则,通过考虑多个元素排序来改进LLM的prompting效果。LLM-MvP结合了模式约束解码、上下文无关文法和前缀批处理,在实现与微调方法相当甚至更优的性能的同时,显著降低了计算开销。在五个基准数据集上的大量实验表明,LLM-MvP缩小了少样本prompting和微调模型之间的差距,为ABSA提供了一种实用且高效的解决方案。
🔬 方法详解
问题定义:论文旨在解决方面级情感分析(ABSA)任务中,基于大语言模型(LLM)的少样本prompting方法性能与微调模型存在差距,且计算成本高昂的问题。现有方法在利用LLM进行ABSA时,往往无法充分利用LLM的潜力,同时推理成本限制了其在实际场景中的应用。
核心思路:论文的核心思路是借鉴多视角学习的思想,通过对输入元素进行不同的排序组合,生成多个不同的prompt,从而更全面地利用LLM的知识。此外,通过模式约束解码和前缀批处理,降低计算开销,提高推理效率。这样设计的目的是为了在不进行大规模微调的情况下,充分挖掘LLM在ABSA任务上的潜力,并使其更易于部署。
技术框架:LLM-MvP的技术框架主要包含以下几个阶段:1) 多视角Prompt生成:对输入文本的方面(aspect)和上下文(context)进行不同的排序组合,生成多个prompt。2) LLM推理:使用LLM对生成的多个prompt进行推理,得到每个prompt对应的情感极性预测。3) 模式约束解码:利用上下文无关文法(CFG)约束LLM的输出,确保输出符合预定义的模式。4) 结果聚合:将多个prompt的预测结果进行聚合,得到最终的ABSA结果。5) 前缀批处理:通过共享prompt的前缀,减少LLM的重复计算,提高推理效率。
关键创新:论文最重要的技术创新点在于将多视角学习的思想引入到LLM的prompting中,通过生成多个不同视角的prompt,更全面地利用LLM的知识,从而提升ABSA的性能。与现有方法相比,LLM-MvP不需要进行大规模的微调,即可达到与微调模型相当甚至更优的性能,同时降低了计算成本。
关键设计:在多视角prompt生成方面,论文考虑了方面和上下文的不同排序方式。在模式约束解码方面,论文使用上下文无关文法(CFG)来约束LLM的输出,确保输出符合预定义的模式,例如情感极性只能是positive、negative或neutral。在前缀批处理方面,论文通过共享prompt的前缀,减少LLM的重复计算,提高推理效率。具体的参数设置和损失函数等技术细节在论文中进行了详细描述。
🖼️ 关键图片
📊 实验亮点
实验结果表明,LLM-MvP在五个基准数据集上达到了与微调模型相当或更优的性能。例如,在某数据集上,LLM-MvP的性能超过了最强的微调模型,并且显著降低了计算成本。这表明LLM-MvP是一种实用且高效的ABSA解决方案。
🎯 应用场景
该研究成果可广泛应用于情感分析、舆情监控、产品评论分析等领域。通过利用LLM-MvP,企业可以更高效地分析用户对产品或服务的评价,及时发现问题并改进,提升用户满意度。未来,该方法有望扩展到其他自然语言处理任务中,例如文本摘要、机器翻译等。
📄 摘要(原文)
Recent work explored the capabilities of Large Language Models (LLMs) in Aspect-Based Sentiment Analysis (ABSA) through few-shot prompting, requiring substantially fewer annotated examples while achieving notable improvements over zero-shot baselines. However, a performance gap remained compared to models fine-tuned on hundreds of examples, and the computational costs of LLM inference present practical barriers to deployment. We introduce LLM-based Multi-View Prompting (LLM-MvP), which adapts the multi-view principle of considering multiple element orderings to LLM prompting. By combining schema-constrained decoding with a context-free grammar and prefix batching, LLM-MvP achieves performance competitive or superior to fine-tuned approaches while substantially reducing computational overhead. Extensive experiments across five benchmark datasets demonstrate that LLM-MvP closes the gap between few-shot prompting and fine-tuned models, offering a practical and efficient solution for ABSA.