RunyaNER: Auxiliary Language Selection for Runyankore NER
作者: Prosper Arineitwe Asiimwe, Francois Meyer, Jan Buys
分类: cs.CL
发布日期: 2026-09-29
备注: Accepted to the 6th Workshop on Multilingual Representation Learning (MRL 2026) at EMNLP 2026. Camera-ready version. 4 figures
💡 一句话要点
提出RunyaNER以解决Runyankore语言的命名实体识别问题
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 命名实体识别 低资源语言 跨语言迁移 多语言微调 Runyankore 数据集构建 自然语言处理
📋 核心要点
- 现有的跨语言迁移方法在低资源语言的命名实体识别任务中面临辅助语言选择不明确的问题。
- 本文提出RunyaNER基准数据集,并通过系统分析辅助语言选择策略,探索其对迁移性能的影响。
- 实验结果表明,辅助语言选择对迁移性能敏感,基于嵌入的度量与下游性能的相关性更强。
📝 摘要(中文)
跨语言零样本迁移和多语言微调是解决低资源语言命名实体识别(NER)任务的有效方法。然而,在缺乏目标语言基准的情况下,尚不清楚哪种辅助语言选择策略能实现最佳迁移。本文介绍了RunyaNER,这是首个公开可用的东非语言Runyankore的NER基准数据集,包含超过237k个标注词汇和30k个句子。通过对预训练模型在RunyaNER上的基准测试,验证了数据集的质量和规模足以生成有效的Runyankore NER模型。研究表明,辅助语言选择对迁移性能影响显著,而基于嵌入的度量与下游迁移性能的相关性高于传统的语言特征。
🔬 方法详解
问题定义:本文旨在解决在低资源语言Runyankore中进行命名实体识别时,辅助语言选择策略不明确的问题。现有方法缺乏有效的基准和系统分析,导致迁移性能不稳定。
核心思路:通过构建RunyaNER数据集,系统性地评估不同辅助语言对跨语言零样本迁移和多语言微调的影响,提供实证依据。
技术框架:研究采用半自动化流程创建RunyaNER数据集,并进行人工验证。数据集包含237k个标注词汇,30k个句子,随后对预训练模型进行基准测试。
关键创新:RunyaNER是首个针对Runyankore的NER基准数据集,提供了系统的辅助语言选择分析,填补了低资源语言领域的研究空白。
关键设计:在实验中,采用了基于嵌入的度量来评估辅助语言选择的有效性,发现其与下游迁移性能的相关性显著高于传统的语言特征。具体的参数设置和损失函数设计在实验中进行了详细描述。
🖼️ 关键图片
📊 实验亮点
实验结果显示,选择合适的辅助语言对迁移性能至关重要。基于嵌入的度量与下游迁移性能的相关性达到显著水平,优于传统的语言特征,表明该方法在低资源语言NER任务中具有良好的适用性和有效性。
🎯 应用场景
该研究为低资源语言的自然语言处理提供了新的基准和方法论,尤其在命名实体识别领域具有重要应用价值。RunyaNER数据集的发布将促进Runyankore及其他低资源语言的研究,推动多语言模型的开发与应用。
📄 摘要(原文)
Cross-lingual zero-shot transfer and multilingual fine-tuning are promising approaches for NLP tasks such as Named Entity Recognition (NER) in low-resource languages, but in the absence of target language benchmarks, it is unclear which auxiliary language selection strategy leads to the best transfer. We introduce RunyaNER, the first publicly available NER benchmark for the East African language Runyankore, and use it to investigate the choice of which languages to use for transfer. Created with a semi-automated pipeline and fully manually verified, RunyaNER contains over 237k annotated words across 30k sentences. We benchmark pretrained models on RunyaNER, establishing that our dataset is of sufficient quality and size to produce effective Runyankore NER models. We then use RunyaNER to investigate auxiliary language selection in cross-lingual zero-shot and multilingual fine-tuning settings. Our experiments show that while transfer performance is highly sensitive to auxiliary language selection, embedding-based measures computed from labelled training spans correlate more strongly with downstream transfer performance than traditional linguistic features based on metadata or typology. By releasing RunyaNER and providing a systematic analysis of auxiliary language selection strategies, this work contributes both a new benchmark resource and practical insights for multilingual transfer in low-resource settings.