ToneCL: Contrastive Learning for Few-Shot Syllable-Level Tone Classification

📄 arXiv: 2609.24903v1 📥 PDF

作者: Qisheng Liao, Youngah Do

分类: cs.CL

发布日期: 2026-09-21

备注: AACL-IJCNLP 2026 Main


💡 一句话要点

提出ToneCL以解决低资源音节级声调分类问题

🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture)

关键词: 声调分类 对比学习 少样本学习 音节级注释 低资源语言 跨语言迁移 语音处理

📋 核心要点

  1. 现有的声调分类方法在低资源条件下表现不佳,缺乏足够的标注数据,限制了其应用。
  2. ToneCL通过对比学习框架,在未标注语音上进行预训练,并在少样本条件下进行微调,提升了声调分类的准确性。
  3. 实验结果显示,ToneCL在普通话和越南语的少样本声调分类任务中均显著优于基线方法,验证了其有效性。

📝 摘要(中文)

声调语言占全球语言的50-70%,但大多数缺乏用于自动声调分类的大规模转录语料。现有数据集通常在句子级别收集,而语言学家需要细粒度的音节级注释。本文提出ToneCL,一个轻量级的对比学习框架,用于少样本音节级声调分类。我们在普通话和越南语上模拟低资源条件,将标注数据限制为每个声调类别几十个示例。ToneCL在未标注的语音上进行预训练,并通过保持声调身份的增强进行微调。实验结果表明,该方法在六说话者普通话上以10个样本达到91.6%的准确率,跨语言迁移也有效:在越南语上预训练并在普通话上微调以10个样本达到91.0%的准确率。消融实验确认频带拒绝是最关键的增强。

🔬 方法详解

问题定义:本文旨在解决低资源条件下的音节级声调分类问题。现有方法通常依赖于大量标注数据,难以适应资源匮乏的语言环境。

核心思路:ToneCL采用对比学习的方式,通过在未标注语音上进行预训练,结合少量标注样本进行微调,从而提高声调分类的准确性和鲁棒性。

技术框架:ToneCL的整体架构包括预训练和微调两个阶段。预训练阶段使用未标注的语音数据进行对比学习,微调阶段则在少样本条件下进行声调分类。

关键创新:ToneCL的主要创新在于其轻量级的对比学习框架,能够在低资源条件下有效利用未标注数据,显著提升声调分类性能。

关键设计:在模型设计上,ToneCL采用了频带拒绝的增强策略,实验表明这一设计是提升分类性能的关键因素。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

ToneCL在六说话者普通话的少样本声调分类任务中以10个样本达到了91.6%的准确率,显著优于现有基线方法。同时,跨语言迁移效果良好,在越南语预训练后,普通话微调也达到了91.0%的准确率,展示了其强大的泛化能力。

🎯 应用场景

ToneCL的研究成果可广泛应用于声调语言的自动识别与分类,尤其是在资源匮乏的语言环境中。其轻量级框架使得在低资源条件下进行声调分类成为可能,具有重要的实际价值和潜在的社会影响,能够促进多语言处理技术的发展。

📄 摘要(原文)

Tone languages constitute over 50-70% of the world's languages, but the vast majority are low-resource, lacking the large transcribed corpora needed for automatic tone classification. Existing datasets are typically collected at the sentence level, whereas field linguists require fine-grained syllable-level annotations. We propose ToneCL, a lightweight contrastive learning framework for few-shot syllable-level tone classification. We simulate low-resource conditions on Mandarin and Vietnamese, limiting labeled data to tens of examples per tone class. ToneCL is pretrained on unlabeled speech with augmentations that preserve tonal identity, then fine-tuned on few-shot examples. Experiments show our method consistently outperforms baselines, achieving 91.6% on six-speaker Mandarin at 10 shots. Cross-lingual transfer is also effective: pretraining on Vietnamese and fine-tuning on Mandarin reaches 91.0\% accuracy at 10 shots. Ablation confirms that frequency band rejection is the most critical augmentation.