U4RASD at KnowledgeGraphEval-2026: Ontology-Constrained Encoder and LLM Systems for Arabic Relation Extraction

📄 arXiv: 2610.12742v1 📥 PDF

作者: Ahmad Abbas, Hussein Mazeh, Chadi Abou Chakra, Aya Jouni, Mohammad Ballout, Fadi A. Zaraket

分类: cs.CL

发布日期: 2026-10-08

备注: 20 pages. System description paper for the KnowledgeGraphEval 2026 Shared Task at ArabicNLP 2026


💡 一句话要点

提出基于本体约束的编码器和LLM系统以解决阿拉伯关系提取问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 阿拉伯语处理 关系提取 大型语言模型 本体约束 信息抽取 知识图谱

📋 核心要点

  1. 核心问题:现有的阿拉伯关系提取方法在处理复杂句子和多样化关系时表现不足,难以准确预测关系。
  2. 方法要点:论文提出了基于编码器和大型语言模型的混合方法,结合了本体约束和类型化实体标记,以提高关系提取的准确性。
  3. 实验或效果:最佳系统的微F1分数达到94.06,显示出约束预测和互补建模方法在阿拉伯关系提取中的重要性。

📝 摘要(中文)

本文详细介绍了我们在KnowledgeGraphEval 2026子任务2中提交的内容,聚焦于阿拉伯语的有向关系提取。我们探索了基于编码器和大型语言模型的方法,以预测来自阿拉伯句子及主题-对象对的40种关系或无关系。我们的编码器系统使用了类型化实体标记,并分离了关系存在性和关系分类头,而我们的LLM系统则通过QLoRA和本体约束预测对Yehia和Qwen3.5进行了微调。我们的最佳系统,结合了Yehia-RE、Qwen-RE和TypedPair,达到了94.06的微F1分数,并在子任务2中排名第一。

🔬 方法详解

问题定义:本文旨在解决阿拉伯语关系提取中的准确性问题,现有方法在处理复杂句子和多样化关系时存在局限性,导致预测效果不佳。

核心思路:论文提出了一种结合编码器和大型语言模型的方法,通过引入本体约束和类型化实体标记,旨在提高关系提取的准确性和鲁棒性。

技术框架:整体架构包括两个主要部分:编码器系统和大型语言模型系统。编码器系统使用类型化实体标记,并分离关系存在性和关系分类头;LLM系统则对Yehia和Qwen3.5进行微调,结合QLoRA和本体约束进行预测。

关键创新:最重要的技术创新在于引入了本体约束的预测机制和类型化实体标记,这与传统方法的单一预测机制形成了鲜明对比,显著提升了模型的表现。

关键设计:在模型设计中,采用了分离的损失函数来优化关系存在性和分类任务,使用了全词汇的Yehia-RE和Qwen-RE模型,并通过集成学习的方法提升了整体性能。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果显示,最佳系统的微F1分数达到94.06,排名第一。Yehia-RE模型的全词汇版本达到了92.98,最佳编码器和Qwen-RE模型分别为92.69和91.94,表明本体约束和互补建模方法在阿拉伯关系提取中的显著效果。

🎯 应用场景

该研究的潜在应用领域包括信息抽取、知识图谱构建以及自然语言处理中的关系理解。通过提高阿拉伯语关系提取的准确性,能够为多种应用提供更可靠的数据支持,促进阿拉伯语处理技术的发展和应用。未来,该方法也可能扩展到其他语言的关系提取任务中。

📄 摘要(原文)

This paper details our submission to KnowledgeGraphEval 2026 Subtask 2 on directed Arabic relation extraction. We explored encoder-based and large language model approaches for predicting one of 40 relations or no_relation from an Arabic sentence and a subject-object pair. Our encoder systems use typed entity markers and separate relation-existence and relation-classification heads, while our LLM systems fine-tune Yehia and Qwen3.5 with QLoRA and ontology-constrained prediction. Our best system, an ensemble of Yehia-RE, Qwen-RE, and TypedPair, achieved a micro-F1 score of 94.06 and ranked 1st in Subtask 2. Yehia-RE (full-vocabulary) achieved 92.98, while the best encoder and Qwen-RE achieved 92.69 and 91.94 respectively. Our results highlight the importance of constrained prediction and complementary modeling approaches for Arabic relation extraction.