M-BRe: Discovering Training Samples for Relation Extraction from Unlabeled Texts with Large Language Models

📄 arXiv: 2509.07730v2 📥 PDF

作者: Zexuan Li, Hongliang Dai, Piji Li

分类: cs.CL

发布日期: 2025-09-09 (更新: 2025-09-10)

备注: Accepted by EMNLP2025 Main Conference

💡 一句话要点

提出M-BRe框架，利用大语言模型从无标注文本中高效挖掘关系抽取训练样本

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 关系抽取 大语言模型 无监督学习 自监督学习 数据挖掘 自然语言处理 训练样本生成

📋 核心要点

  1. 现有关系抽取方法依赖人工标注，成本高且效率低，难以适应大规模文本数据。
  2. M-BRe框架结合多类和二元分类的优势，通过关系分组、关系抽取和标签决策三个模块，高效挖掘训练样本。
  3. 实验结果表明，M-BRe能够从无标注文本中发现高质量的训练样本，提升关系抽取模型的性能。

📝 摘要（中文）

关系抽取(RE)任务中，人工标注训练数据成本高昂，因为包含目标关系的句子在文本中非常稀少且难以发现。因此，开发一种能够自动从无标注文本中提取训练实例以训练RE模型的方法是有益的。最近，大型语言模型(LLM)已被应用于各种自然语言处理任务，RE也受益于其发展。然而，当利用LLM进行具有预定义关系类别的RE时，出现了两个关键挑战。首先，在多类分类设置中，LLM通常难以全面捕捉每个关系的语义，导致次优结果。其次，虽然对每个关系单独采用二元分类可以缓解这个问题，但它引入了显著的计算开销，导致实际应用中时间复杂度不切实际。因此，本文提出了一种名为M-BRe的框架，用于从无标注文本中提取训练实例以进行RE。它利用三个模块来结合上述两种分类方法的优点：关系分组、关系抽取和标签决策。大量实验证实了其在从无标注文本中发现用于RE的高质量训练样本方面的卓越能力。

🔬 方法详解

问题定义：关系抽取任务需要大量的标注数据，而人工标注成本高昂。现有方法要么难以捕捉所有关系的语义（多分类），要么计算开销过大（二元分类），无法高效地从无标注文本中提取高质量的训练样本。

核心思路：M-BRe框架的核心思路是结合多类分类和二元分类的优点，通过关系分组减少计算量，利用大语言模型进行关系抽取，并通过标签决策模块提高样本质量。这样可以在保证关系语义完整性的同时，降低计算复杂度，从而高效地从无标注文本中挖掘训练样本。

技术框架：M-BRe框架包含三个主要模块： 1. 关系分组(Relation Grouping)：将关系类别进行分组，减少后续二元分类的数量。 2. 关系抽取(Relation Extraction)：利用大语言模型，针对每个关系组，从无标注文本中抽取潜在的关系实例。 3. 标签决策(Label Decision)：对抽取的实例进行标签判定，筛选出高质量的训练样本。

关键创新：M-BRe的关键创新在于结合了多类分类和二元分类的优势，并利用关系分组模块显著降低了计算复杂度。与直接使用大语言模型进行多类分类相比，M-BRe能够更全面地捕捉每个关系的语义。与对每个关系都进行二元分类相比，M-BRe通过关系分组大大减少了计算量。

关键设计：关系分组模块采用启发式方法或聚类算法将关系类别进行分组。关系抽取模块使用Prompting技术，引导大语言模型生成包含特定关系的句子。标签决策模块使用阈值或分类器来判断抽取的实例是否为高质量的训练样本。具体的参数设置和损失函数选择取决于具体的实验设置和数据集。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

论文通过大量实验验证了M-BRe框架的有效性。实验结果表明，M-BRe能够从无标注文本中发现高质量的训练样本，显著提升关系抽取模型的性能。具体的性能数据和对比基线在论文中有详细展示，证明了M-BRe在关系抽取任务中的优越性。

🎯 应用场景

M-BRe框架可应用于各种需要关系抽取的场景，例如知识图谱构建、信息检索、问答系统等。该方法能够降低数据标注成本，提高关系抽取模型的训练效率，从而加速相关应用的开发和部署。未来，可以进一步探索M-BRe在低资源语言和跨领域关系抽取中的应用。

📄 摘要（原文）

For Relation Extraction (RE), the manual annotation of training data may be prohibitively expensive, since the sentences that contain the target relations in texts can be very scarce and difficult to find. It is therefore beneficial to develop an efficient method that can automatically extract training instances from unlabeled texts for training RE models. Recently, large language models (LLMs) have been adopted in various natural language processing tasks, with RE also benefiting from their advances. However, when leveraging LLMs for RE with predefined relation categories, two key challenges arise. First, in a multi-class classification setting, LLMs often struggle to comprehensively capture the semantics of every relation, leading to suboptimal results. Second, although employing binary classification for each relation individually can mitigate this issue, it introduces significant computational overhead, resulting in impractical time complexity for real-world applications. Therefore, this paper proposes a framework called M-BRe to extract training instances from unlabeled texts for RE. It utilizes three modules to combine the advantages of both of the above classification approaches: Relation Grouping, Relation Extraction, and Label Decision. Extensive experiments confirm its superior capability in discovering high-quality training samples from unlabeled texts for RE.