Human-in-the-loop Machine Translation with Large Language Model

📄 arXiv: 2310.08908v1 📥 PDF

作者: Xinyi Yang, Runzhe Zhan, Derek F. Wong, Junchao Wu, Lidia S. Chao

分类: cs.CL

发布日期: 2023-10-13

备注: Accepted to MT Summit 2023

🔗 代码/项目: GITHUB

💡 一句话要点

提出人机协作翻译管道以提升翻译质量

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 人机协作 机器翻译 大型语言模型 上下文学习 翻译质量提升

📋 核心要点

  1. 现有研究主要集中于大型语言模型本身，未深入探讨人类干预对翻译过程的影响。
  2. 本研究提出一种人机协作的翻译管道，通过人类反馈和自动检索提升LLM的翻译质量。
  3. 实验结果显示，该管道在五个领域特定基准测试中显著提高了德英翻译的表现。

📝 摘要（中文）

大型语言模型（LLM）因其上下文学习机制和新兴能力而备受关注。尽管已有研究将LLM应用于机器翻译，但尚未探讨人类在推理过程中的干预。本研究提出了一种人机协作的翻译管道，通过修订指令引导LLM生成定制化输出。该管道首先提示LLM生成初步翻译，然后利用自动检索或人类反馈作为监督信号，通过上下文学习提升翻译质量。实验结果表明，该管道在特定领域的翻译任务中表现优异，显著提高了翻译性能。

🔬 方法详解

问题定义：本研究旨在解决现有机器翻译方法中缺乏人类干预的问题，尤其是在大型语言模型的推理过程中，如何有效利用人类反馈以提升翻译质量。

核心思路：提出一种人机协作的翻译管道，通过初步翻译和后续的反馈机制，结合上下文学习来优化翻译结果。这种设计旨在模拟人类的认知过程，从而提高翻译的准确性和适应性。

技术框架：该管道的整体架构包括两个主要阶段：首先，提示LLM生成初步翻译；其次，利用人类反馈或自动检索的结果作为监督信号，进行上下文学习以改进翻译。所有人机交互的记录将存储在外部数据库中，以便后续的检索和学习。

关键创新：最重要的技术创新在于将人类反馈有效整合到LLM的推理过程中，形成一个动态的学习系统。这与传统的机器翻译方法有本质区别，后者通常依赖于静态的训练数据。

关键设计：在管道中，使用了GPT-3.5-turbo API进行初步翻译，设计了低资源场景下的检索数据库，并进行了多种上下文检索方法的比较，以优化翻译效果。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果表明，所提出的翻译管道在五个领域特定基准测试中，相较于直接翻译方法，翻译性能显著提升，尤其是在定制化翻译方面表现优异，具体提升幅度未知。

🎯 应用场景

该研究的潜在应用领域包括专业翻译、实时翻译服务以及教育领域的语言学习工具。通过引入人机协作的机制，可以在多种语言环境中提供更高质量的翻译服务，提升用户体验。未来，该方法有望在低资源语言的翻译任务中发挥更大作用。

📄 摘要（原文）

The large language model (LLM) has garnered significant attention due to its in-context learning mechanisms and emergent capabilities. The research community has conducted several pilot studies to apply LLMs to machine translation tasks and evaluate their performance from diverse perspectives. However, previous research has primarily focused on the LLM itself and has not explored human intervention in the inference process of LLM. The characteristics of LLM, such as in-context learning and prompt engineering, closely mirror human cognitive abilities in language tasks, offering an intuitive solution for human-in-the-loop generation. In this study, we propose a human-in-the-loop pipeline that guides LLMs to produce customized outputs with revision instructions. The pipeline initiates by prompting the LLM to produce a draft translation, followed by the utilization of automatic retrieval or human feedback as supervision signals to enhance the LLM's translation through in-context learning. The human-machine interactions generated in this pipeline are also stored in an external database to expand the in-context retrieval database, enabling us to leverage human supervision in an offline setting. We evaluate the proposed pipeline using GPT-3.5-turbo API on five domain-specific benchmarks for German-English translation. The results demonstrate the effectiveness of the pipeline in tailoring in-domain translations and improving translation performance compared to direct translation. Additionally, we discuss the results from the following perspectives: 1) the effectiveness of different in-context retrieval methods; 2) the construction of a retrieval database under low-resource scenarios; 3) the observed domains differences; 4) the quantitative analysis of linguistic statistics; and 5) the qualitative analysis of translation cases. The code and data are available at https://github.com/NLP2CT/HIL-MT/.