Self-Supervised Lexical Representation Learning for Fast, Large-Scale Phylogenetic Inference
作者: Tim Wientzek
分类: cs.CL
发布日期: 2026-09-04
备注: 27 pages, 3 figures
💡 一句话要点
提出自监督词汇表示学习以解决大规模系统发育推断问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)
关键词: 自监督学习 系统发育推断 对比学习 语言学 计算机科学 音韵特征 大规模数据处理
📋 核心要点
- 现有的系统发育推断方法依赖于手动标注的认知判断，导致劳动强度大且难以扩展至大规模数据集。
- 本文提出了一种自监督对比学习框架，能够从原始词表中自动学习词汇表示，消除了对人工标注的依赖。
- 实验结果表明，推断出的系统发育树在与Glottolog参考树的广义四元距离上表现优异，且计算时间仅需几分钟。
📝 摘要（中文）
计算系统发育学已成为历史语言学的重要工具，但其全球应用受到手动标注和计算成本的限制。本文提出了一种完全自监督的对比学习框架，直接从原始IPA转录的词表中学习词汇表示，无需认知标注或专家输入。该模型采用双重对比目标，通过词级损失组织相似形式，并通过语言级辅助损失反映语言的音韵特性。基于这些词表示推导的语言距离用于推断3399种语言的全球系统发育树，推断结果在计算效率和准确性上与现有基线竞争。该框架为大规模系统发育推断提供了一种高效且完全自动化的替代方案。
🔬 方法详解
问题定义：本文旨在解决传统系统发育推断方法中对手动认知标注的依赖和计算成本高的问题。现有方法在处理大规模数据集时效率低下，限制了其应用范围。
核心思路：提出一种自监督对比学习框架，通过直接从原始IPA转录的词表中学习词汇表示，避免了对专家输入和标注的需求。模型通过双重对比目标来组织词汇空间，提升了表示的有效性。
技术框架：该框架包括两个主要模块：词级损失模块和语言级辅助损失模块。词级损失模块负责将相似的词汇形式聚集在一起，而语言级辅助损失模块则确保词汇空间反映语言的音韵特性。
关键创新：最重要的创新在于完全自监督的学习方式，使得系统发育推断不再依赖人工标注，同时通过双重对比目标提升了学习效果。与传统方法相比，该方法在计算效率和准确性上均有显著提升。
关键设计：模型采用了词级和语言级的双重损失函数，利用音韵特征向量来增强表示的质量。实验中通过消融研究验证了语言级目标和音韵特征对推断树拓扑的改善效果。
🖼️ 关键图片
📊 实验亮点
实验结果显示，推断出的系统发育树在广义四元距离（GQD）上与Glottolog参考树的表现相当，且计算时间仅需几分钟，显著优于多个基线方法。消融研究表明，语言级目标和音韵特征向量的使用有效提升了推断树的拓扑结构。
🎯 应用场景
该研究在历史语言学和计算系统发育学领域具有广泛的应用潜力。通过提供一种高效的自动化推断方法，可以促进对语言演化的深入研究，并为相关领域的研究人员提供强有力的工具。此外，该框架的设计理念也可扩展至其他需要大规模数据处理的领域。
📄 摘要（原文）
Computational phylogenetics has become an essential tool in historical linguistics, yet its application at a global scale remains constrained by two factors: the labor-intensive manual annotation of cognacy judgments required for character-based methods and the substantial computational cost of inference on large datasets. This paper introduces a fully self-supervised contrastive learning framework that learns lexical representations directly from raw IPA-transcribed wordlists, without requiring cognacy annotations, alignments, or additional expert input. The model employs a dual contrastive objective: a word-level loss that organizes phonetically similar forms into a coherent space, and an auxiliary language-level loss that encourages the lexical space to reflect broader phonological properties of languages. From the resulting word representations, pairwise language distances are derived and used to infer a global phylogenetic tree of 3,399 language varieties. The inferred tree achieves a generalized quartet distance (GQD) to the Glottolog reference tree competitive with multiple baselines, while requiring only minutes of computation on a standard notebook GPU. Furthermore, the same representations capture diachronic concept stability: variance in pairwise distances across languages yields stability rankings that correlate significantly with established rankings. Ablation studies confirm that both the language-level objective and the use of phonetic feature vectors improved the inferred trees topology with regards to GQD. The framework thus provides a computationally efficient and fully automatic alternative for large-scale phylogenetic inference and offers a unified representation supporting downstream analyses at both the language and concept level.