Rectifier: Code Translation with Corrector via LLMs

📄 arXiv: 2407.07472v1 📥 PDF

作者: Xin Yin, Chao Ni, Tien N. Nguyen, Shaohua Wang, Xiaohu Yang

分类: cs.SE, cs.AI

发布日期: 2024-07-10

备注: arXiv admin note: text overlap with arXiv:2308.03109, arXiv:2302.03908 by other authors

💡 一句话要点

提出 Rectifier，利用微型通用模型修正LLM代码翻译错误，提升迁移质量。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 代码翻译 大型语言模型 错误修正 软件迁移 代码重构

📋 核心要点

  1. 现有代码翻译方法依赖手工规则或大型语言模型，但LLM翻译易出错，包括编译、运行、功能和执行错误。
  2. Rectifier 提出一个微型通用模型，学习并修正 LLM 代码翻译错误，适用于各种 LLM。
  3. 实验表明，Rectifier 在 C++、Java 和 Python 之间的翻译任务中表现出有效的修复能力和鲁棒性。

📝 摘要（中文）

随着软件和社会的演进，软件迁移越来越受到关注。早期的研究主要依赖于手工翻译规则在两种语言之间进行翻译，这种翻译过程容易出错且耗时。近年来，研究人员开始探索使用预训练的大型语言模型（LLM）进行代码翻译。然而，代码翻译是一项复杂的任务，LLM在代码翻译过程中会产生错误，包括（1）编译错误，（2）运行时错误，（3）功能错误，以及（4）非终止执行。我们发现这些错误的根本原因非常相似（例如，未能导入包、循环边界错误、运算符错误等）。在本文中，我们提出了一个通用的修正器，即Rectifier，它是一个微型且通用的模型，用于修复翻译错误。它从现有LLM产生的错误中学习，可以广泛应用于纠正任何LLM产生的错误。在C++、Java和Python之间的翻译任务上的实验结果表明，我们的模型具有有效的修复能力，交叉实验也证明了我们方法的鲁棒性。

🔬 方法详解

问题定义：论文旨在解决大型语言模型（LLM）在代码翻译过程中产生的各类错误，包括编译错误、运行时错误、功能错误和非终止执行等问题。现有方法，如手工翻译规则，耗时且易错；直接使用LLM进行翻译，虽然提高了效率，但无法保证翻译的正确性，需要人工介入进行debug。

核心思路：论文的核心思路是构建一个微型且通用的错误修正模型 Rectifier，该模型通过学习现有 LLM 在代码翻译过程中产生的错误模式，从而具备自动修正这些错误的能力。Rectifier 的设计目标是通用性，使其能够应用于修正各种 LLM 产生的翻译错误。

技术框架：Rectifier 的整体框架包含两个主要阶段：错误生成阶段和错误修正阶段。在错误生成阶段，利用现有的 LLM 进行代码翻译，并记录翻译过程中产生的错误。在错误修正阶段，Rectifier 模型学习这些错误模式，并尝试自动修正翻译结果中的错误。该框架可以与任何 LLM 集成，形成一个代码翻译和自动修正的闭环系统。

关键创新：Rectifier 的关键创新在于其通用性和微型化设计。与针对特定 LLM 或特定类型错误的修正方法不同，Rectifier 通过学习大量 LLM 产生的错误，从而具备修正各种 LLM 产生的不同类型错误的能力。此外，Rectifier 的微型化设计使其易于部署和集成，降低了使用成本。

关键设计：Rectifier 的具体实现细节未知，摘要中未提及具体的网络结构、损失函数或训练参数。但可以推测，Rectifier 可能采用某种序列到序列的模型结构，例如 Transformer，并使用错误代码和正确代码作为训练数据，通过最小化翻译后的代码与正确代码之间的差异来训练模型。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，Rectifier 模型具有有效的代码翻译错误修复能力。在 C++、Java 和 Python 之间的翻译任务中，Rectifier 能够显著减少 LLM 产生的编译错误、运行时错误和功能错误。交叉实验也验证了 Rectifier 的鲁棒性，表明其能够有效地修正不同 LLM 产生的错误。

🎯 应用场景

Rectifier 有潜力广泛应用于软件迁移、代码重构、跨平台开发等领域。通过自动修正 LLM 代码翻译错误，可以显著提高代码迁移的效率和质量，降低开发成本。未来，该技术有望促进不同编程语言之间的互操作性，加速软件生态系统的发展。

📄 摘要（原文）

Software migration is garnering increasing attention with the evolution of software and society. Early studies mainly relied on handcrafted translation rules to translate between two languages, the translation process is error-prone and time-consuming. In recent years, researchers have begun to explore the use of pre-trained large language models (LLMs) in code translation. However, code translation is a complex task that LLMs would generate mistakes during code translation, they all produce certain types of errors when performing code translation tasks, which include (1) compilation error, (2) runtime error, (3) functional error, and (4) non-terminating execution. We found that the root causes of these errors are very similar (e.g. failure to import packages, errors in loop boundaries, operator errors, and more). In this paper, we propose a general corrector, namely Rectifier, which is a micro and universal model for repairing translation errors. It learns from errors generated by existing LLMs and can be widely applied to correct errors generated by any LLM. The experimental results on translation tasks between C++, Java, and Python show that our model has effective repair ability, and cross experiments also demonstrate the robustness of our method.