Steering Large Language Models for Machine Translation with Finetuning and In-Context Learning

📄 arXiv: 2310.13448v1 📥 PDF

作者: Duarte M. Alves, Nuno M. Guerreiro, João Alves, José Pombal, Ricardo Rei, José G. C. de Souza, Pierre Colombo, André F. T. Martins

分类: cs.CL

发布日期: 2023-10-20

备注: Accepted at EMNLP 2023 - Findings

💡 一句话要点

提出适配器微调与上下文学习结合以提升机器翻译性能

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 机器翻译 适配器微调 LoRA 少量示例学习 自然语言处理 深度学习

📋 核心要点

  1. 现有的LLM基础机器翻译系统在性能上依赖于少量示例，且常需后处理，表现出脆弱性。
  2. 本文提出通过适配器微调与LoRA结合的方法，减少训练参数并提升翻译性能，同时消除后处理需求。
  3. 在10对语言的实验中，结合少量示例的微调方法恢复了少量示例的能力，并保持了微调的优势。

📝 摘要（中文）

大型语言模型（LLMs）在机器翻译（MT）中展现出良好的前景，但现有基于LLM的MT系统存在脆弱性，效果高度依赖于少量示例的选择，并且常常需要额外的后处理。微调翻译指令的替代方案计算成本高且可能削弱上下文学习能力。本文通过适配器微调与LoRA方法，展示了在减少训练参数的同时，能够与传统微调匹敌的性能，并且超越了少量示例提示，消除了后处理的需求。尽管微调通常会降低少量示例的性能，本文提出了一种简单的方法，在微调过程中结合少量示例，实验结果表明该方法在保持微调优势的同时恢复了原有的少量示例能力。

🔬 方法详解

问题定义：本文旨在解决现有LLM基础机器翻译系统的脆弱性，特别是其对少量示例的依赖和后处理需求。现有的微调方法计算成本高，且可能导致上下文学习能力的削弱。

核心思路：论文提出了一种适配器微调方法，结合LoRA技术，旨在在减少训练参数的同时保持或提升翻译性能。通过在微调过程中引入少量示例，旨在兼顾微调的优势与少量示例的适应能力。

技术框架：整体架构包括适配器微调模块、LoRA参数调整和少量示例整合。首先进行适配器微调以减少参数量，然后在微调过程中引入少量示例以增强模型的适应性。

关键创新：最重要的创新在于通过适配器微调与LoRA的结合，显著减少训练参数，同时在微调过程中有效整合少量示例，克服了传统微调导致的适应能力下降问题。

关键设计：关键设计包括适配器的参数设置、损失函数的选择以及网络结构的优化。具体参数设置和网络结构细节在实验部分进行了详细描述，以确保在不同语言对上的有效性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，适配器微调结合少量示例的方法在10对语言的翻译任务中，恢复了原有的少量示例能力，同时在参数量上减少了50倍，显著提升了翻译性能，消除了对后处理的需求。

🎯 应用场景

该研究的潜在应用领域包括多语言翻译系统、实时翻译服务以及跨语言信息检索等。通过提升机器翻译的准确性和适应性，该方法可为全球化交流和信息获取提供更高效的解决方案，未来可能在商业、教育和科技等多个领域产生深远影响。

📄 摘要（原文）

Large language models (LLMs) are a promising avenue for machine translation (MT). However, current LLM-based MT systems are brittle: their effectiveness highly depends on the choice of few-shot examples and they often require extra post-processing due to overgeneration. Alternatives such as finetuning on translation instructions are computationally expensive and may weaken in-context learning capabilities, due to overspecialization. In this paper, we provide a closer look at this problem. We start by showing that adapter-based finetuning with LoRA matches the performance of traditional finetuning while reducing the number of training parameters by a factor of 50. This method also outperforms few-shot prompting and eliminates the need for post-processing or in-context examples. However, we show that finetuning generally degrades few-shot performance, hindering adaptation capabilities. Finally, to obtain the best of both worlds, we propose a simple approach that incorporates few-shot examples during finetuning. Experiments on 10 language pairs show that our proposed approach recovers the original few-shot capabilities while keeping the added benefits of finetuning.