PerfCoder: Large Language Models for Interpretable Code Performance Optimization

📄 arXiv: 2512.14018v1 📥 PDF

作者: Jiuding Yang, Shengyao Lu, Hongxuan Liu, Shayan Shirahmad Gale Bagi, Zahra Fazel, Tomasz Czajkowski, Di Niu

分类: cs.SE, cs.AI

发布日期: 2025-12-16

💡 一句话要点

PerfCoder：基于大语言模型的可解释代码性能优化

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 代码优化 大语言模型 性能优化 强化学习 可解释性 代码生成 程序优化

📋 核心要点

  1. 现有大语言模型在生成高性能代码方面存在不足，缺乏有效指导性能改进的监督信号。
  2. PerfCoder通过在优化轨迹上微调LLM，并使用运行时测量进行强化学习，实现可解释的性能优化。
  3. 实验表明，PerfCoder在代码性能基准测试中超越现有模型，并能提升更大模型的优化能力。

📝 摘要（中文）

大语言模型（LLM）在自动代码生成方面取得了显著进展，但其生成高性能代码的能力仍然有限，这在实际软件系统中至关重要。我们认为，当前LLM的不足不仅在于数据稀缺，更重要的是缺乏指导可解释和有效性能改进的监督。本文提出了PerfCoder，一个专门设计用于通过可解释的、定制的优化从源代码生成性能增强代码的LLM家族。PerfCoder在一个包含人类可读注释的真实优化轨迹集合上进行微调，并通过使用运行时测量的强化微调进行偏好对齐，使其能够提出特定于输入的改进策略并直接应用它们，而无需依赖迭代细化。在PIE代码性能基准测试中，PerfCoder在运行时加速和有效优化率方面均超过了所有现有模型，表明性能优化不能仅靠规模来实现，还需要优化策略意识。此外，PerfCoder可以生成关于源代码的可解释反馈，当作为输入提供给更大的LLM时，可以进一步改善结果。具体来说，我们将32B模型和GPT-5在代码优化方面的性能提升到了新的水平，大大超过了它们原来的性能。

🔬 方法详解

问题定义：现有的大语言模型虽然在代码生成方面取得了进展，但生成高性能代码的能力仍然有限。它们缺乏足够的监督信号来指导如何进行有效的、可解释的性能优化，导致生成的代码效率不高，难以满足实际软件系统的需求。

核心思路：PerfCoder的核心思路是通过学习真实世界的代码优化轨迹，使模型能够理解和应用各种优化策略。通过提供可解释的优化步骤和运行时性能反馈，模型能够更好地理解代码的性能瓶颈，并提出针对性的改进方案。

技术框架：PerfCoder的训练流程主要包括两个阶段：首先，在包含人类可读注释的真实优化轨迹数据集上进行微调，使模型学习优化策略。然后，使用运行时测量作为奖励信号，通过强化学习对模型进行偏好对齐，使其能够生成更高效的代码。整体框架包括数据收集、模型训练和推理三个主要部分。

关键创新：PerfCoder的关键创新在于其监督学习的方式，它不是简单地预测优化后的代码，而是学习一系列可解释的优化步骤。此外，利用运行时测量进行强化学习，使得模型能够根据实际性能反馈进行调整，从而生成更高效的代码。这种方法与传统的代码生成方法相比，更加注重性能优化策略的学习和应用。

关键设计：PerfCoder使用了Transformer架构作为基础模型，并针对代码优化任务进行了调整。在训练过程中，使用了交叉熵损失函数和强化学习奖励函数。具体来说，强化学习奖励函数基于代码的运行时性能，鼓励模型生成更快的代码。此外，还设计了特定的数据增强方法，以提高模型的泛化能力。优化轨迹中的人类可读注释被用于提供额外的监督信息，帮助模型理解优化步骤的含义。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

PerfCoder在PIE代码性能基准测试中超越了所有现有模型，在运行时加速和有效优化率方面均取得了显著提升。实验结果表明，PerfCoder不仅能够生成更快的代码，而且能够更有效地应用优化策略。此外，PerfCoder还可以作为优化器，提升更大的LLM（如32B模型和GPT-5）在代码优化方面的性能。

🎯 应用场景

PerfCoder可应用于各种软件开发场景，例如自动代码优化、编译器优化、性能分析和调试等。它可以帮助开发者快速生成高性能代码，提高软件系统的效率和可靠性。此外，PerfCoder生成的可解释优化反馈可以帮助开发者更好地理解代码的性能瓶颈，从而进行更有效的优化。

📄 摘要（原文）

Large language models (LLMs) have achieved remarkable progress in automatic code generation, yet their ability to produce high-performance code remains limited--a critical requirement in real-world software systems. We argue that current LLMs struggle not only due to data scarcity but, more importantly, because they lack supervision that guides interpretable and effective performance improvements. In this work, we introduce PerfCoder, a family of LLMs specifically designed to generate performance-enhanced code from source code via interpretable, customized optimizations. PerfCoder is fine-tuned on a curated collection of real-world optimization trajectories with human-readable annotations, and preference-aligned by reinforcement fine-tuning using runtime measurements, enabling it to propose input-specific improvement strategies and apply them directly without relying on iterative refinement. On the PIE code performance benchmark, PerfCoder surpasses all existing models in both runtime speedup and effective optimization rate, demonstrating that performance optimization cannot be achieved by scale alone but requires optimization stratetgy awareness. In addition, PerfCoder can generate interpretable feedback about the source code, which, when provided as input to a larger LLM in a planner-and-optimizer cooperative workflow, can further improve outcomes. Specifically, we elevate the performance of 32B models and GPT-5 to new levels on code optimization, substantially surpassing their original performance.