TigerCoder: A Novel Suite of LLMs for Code Generation in Bangla

📄 arXiv: 2509.09101v1 📥 PDF

作者: Nishat Raihan, Antonios Anastasopoulos, Marcos Zampieri

分类: cs.CL

发布日期: 2025-09-11

💡 一句话要点

TigerCoder：面向孟加拉语代码生成的大语言模型套件

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 孟加拉语代码生成 大语言模型 低资源语言 代码指令数据集 MBPP-Bangla

📋 核心要点

  1. 孟加拉语在代码生成领域缺乏高质量数据，导致现有LLM性能不佳。
  2. TigerCoder通过构建孟加拉语代码指令数据集和评估基准，训练专用代码LLM。
  3. 实验表明，TigerCoder在孟加拉语代码生成任务上显著优于现有模型，Pass@1指标提升11-18%。

📝 摘要（中文）

本文提出了一系列用于孟加拉语代码生成的大语言模型（LLM），名为TigerCoder（1B和9B）。尽管孟加拉语是世界上第五大语言，但在LLM中，尤其是在代码生成方面，仍然缺乏足够的代表性。这主要是由于高质量的预训练或微调数据稀缺。该研究的主要贡献包括：(1) 一个全面的孟加拉语代码指令数据集，用于编程领域的适应；(2) MBPP-Bangla，一个用于孟加拉语代码生成的评估基准；(3) TigerCoder系列代码LLM，在Pass@1指标上，相比现有的多语言和通用孟加拉语LLM，性能提升了约11-18%。研究结果表明，精心策划的高质量数据集可以克服小模型在低资源语言上的局限性。所有资源均已开源，以促进进一步的孟加拉语LLM研究。

🔬 方法详解

问题定义：论文旨在解决孟加拉语代码生成领域缺乏有效的大语言模型的问题。现有方法要么是通用多语言模型，要么是通用孟加拉语模型，它们在孟加拉语代码生成任务上的表现不佳，主要原因是缺乏针对该语言和任务的高质量训练数据。

核心思路：论文的核心思路是，通过构建高质量的孟加拉语代码指令数据集，并在此基础上训练专门的代码生成LLM，从而提升模型在孟加拉语代码生成任务上的性能。这种方法强调了数据质量的重要性，即使在模型规模较小的情况下，也能取得显著的性能提升。

技术框架：TigerCoder的技术框架主要包含三个部分：首先，构建一个全面的孟加拉语代码指令数据集，用于编程领域的适应。其次，创建一个评估基准MBPP-Bangla，用于评估孟加拉语代码生成的性能。最后，利用构建的数据集和评估基准，训练TigerCoder系列的代码LLM。

关键创新：该论文的关键创新在于，它首次针对孟加拉语代码生成任务，构建了专门的数据集和评估基准，并在此基础上训练了专用的代码LLM。这与以往使用通用模型或简单地将现有模型迁移到孟加拉语代码生成任务的方法不同，它更加注重数据的针对性和模型的专业性。

关键设计：论文的关键设计包括数据集的构建方法，评估基准的设计，以及模型训练的策略。数据集的构建需要精心挑选和标注数据，以保证数据的质量和多样性。评估基准的设计需要考虑到孟加拉语代码的特点，以及代码生成任务的难点。模型训练的策略需要根据数据集的特点进行调整，以充分利用数据，提升模型的性能。具体的参数设置、损失函数、网络结构等技术细节在论文中可能没有详细描述，属于未知信息。

📊 实验亮点

TigerCoder在MBPP-Bangla基准测试中，Pass@1指标上，相比现有的多语言和通用孟加拉语LLM，性能提升了约11-18%。这表明，通过构建高质量的专用数据集和训练专用模型，可以显著提升低资源语言的代码生成性能。该结果验证了数据质量在低资源语言模型训练中的重要性。

🎯 应用场景

TigerCoder的应用场景广泛，包括孟加拉语编程教育、软件开发、自动化测试等。它可以帮助孟加拉语程序员更高效地编写代码，降低编程门槛，并促进孟加拉语软件产业的发展。未来，该研究可以扩展到其他低资源语言的代码生成领域，具有重要的实际价值和深远的影响。

📄 摘要（原文）

Despite being the 5th most spoken language, Bangla remains underrepresented in Large Language Models (LLMs), particularly for code generation. This primarily stems from the scarcity of high-quality data to pre-train and/or finetune such models. Hence, we introduce the first dedicated family of Code LLMs for Bangla (1B & 9B). We offer three major contributions: (1) a comprehensive Bangla code instruction datasets for programming domain adaptation; (2) MBPP-Bangla, an evaluation benchmark for Bangla code generation; and (3) the TigerCoder-family of Code LLMs, achieving significant ~11-18% performance gains at Pass@1 over existing multilingual and general-purpose Bangla LLMs. Our findings show that curated, high-quality datasets can overcome limitations of smaller models for low-resource languages. We open-source all resources to advance further Bangla LLM research.