Event Argument Extraction with Enriched Prompts

📄 arXiv: 2501.06825v1 📥 PDF

作者: Chen Liang

分类: cs.CL

发布日期: 2025-01-12

💡 一句话要点

通过丰富提示信息提升事件论元抽取性能

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 事件论元抽取 提示学习 预训练语言模型 上下文信息 信息抽取

📋 核心要点

  1. 现有事件论元抽取模型在利用上下文信息方面存在不足，限制了其性能。
  2. 论文提出通过在提示中融入触发词、同一事件的其他论元以及跨事件论元等信息来丰富提示，从而提升模型性能。
  3. 实验结果表明，该方法能够有效提升事件论元抽取模型的性能，并探索了模型优化的潜力。

📝 摘要（中文）

本研究旨在深入探索基于提示的事件论元抽取（EAE）模型。我们研究了将各种类型的信息融入提示对模型性能的影响，包括触发词、同一事件的其他角色论元以及同一文档中多个事件的角色论元。此外，我们提供了基于提示的EAE模型可以达到的最佳性能，并展示了可以从训练目标角度进一步优化此类模型。实验在RAMS数据集上的三个小型语言模型和两个大型语言模型上进行。

🔬 方法详解

问题定义：事件论元抽取（EAE）旨在识别事件中各个角色的参与者。现有方法在利用上下文信息方面存在局限性，例如未能充分利用触发词、同一事件的其他论元以及文档中其他事件的论元信息。这些信息的缺失导致模型难以准确判断论元的角色。

核心思路：论文的核心思路是通过在提示中融入更丰富的上下文信息来增强模型对论元角色的理解。具体来说，通过将触发词、同一事件的其他论元以及文档中其他事件的论元信息添加到提示中，模型可以更好地利用上下文信息进行推理，从而提高论元抽取的准确性。

技术框架：该方法基于提示学习框架，主要包括以下几个步骤：1）构建包含触发词、同一事件的其他论元以及文档中其他事件的论元信息的提示；2）将提示输入到预训练语言模型中；3）利用预训练语言模型的输出预测论元的角色。整体流程简单明了，易于实现。

关键创新：该方法最重要的创新点在于对提示信息的丰富。与以往只使用少量上下文信息的提示方法不同，该方法充分利用了触发词、同一事件的其他论元以及文档中其他事件的论元信息，从而显著提升了模型性能。这种对上下文信息的充分利用是该方法成功的关键。

关键设计：论文的关键设计包括：1）如何选择合适的触发词、同一事件的其他论元以及文档中其他事件的论元信息添加到提示中；2）如何设计提示的格式，使得模型能够有效地利用这些信息；3）如何选择合适的预训练语言模型。这些设计细节对模型的性能至关重要，需要在实验中进行仔细的调整和优化。

🖼️ 关键图片

fig_0

📊 实验亮点

实验结果表明，该方法在RAMS数据集上取得了显著的性能提升。通过在提示中融入触发词、同一事件的其他论元以及文档中其他事件的论元信息，模型的性能得到了显著提升。此外，论文还探索了基于提示的EAE模型可以达到的最佳性能，并展示了可以从训练目标角度进一步优化此类模型。

🎯 应用场景

该研究成果可应用于信息抽取、知识图谱构建、问答系统等领域。通过提升事件论元抽取的准确性，可以更好地理解文本内容，从而提高相关应用的性能。例如，在知识图谱构建中，更准确的事件论元抽取可以构建更完整的知识图谱，从而提高知识图谱的质量。在问答系统中，更准确的事件论元抽取可以帮助系统更好地理解问题，从而提供更准确的答案。

📄 摘要（原文）

This work aims to delve deeper into prompt-based event argument extraction (EAE) models. We explore the impact of incorporating various types of information into the prompt on model performance, including trigger, other role arguments for the same event, and role arguments across multiple events within the same document. Further, we provide the best possible performance that the prompt-based EAE model can attain and demonstrate such models can be further optimized from the perspective of the training objective. Experiments are carried out on three small language models and two large language models in RAMS.