ReMCTS: Reflection-Enhanced Monte Carlo Tree Search for Code Generation
作者: Huifei Wang, Xinying Huang, Yiheng Sun, Yifan Yuan
分类: cs.CL
发布日期: 2026-09-28
备注: 21 pages, 2 figures. To appear in the Proceedings of EMNLP 2026
💡 一句话要点
提出ReMCTS以解决代码生成中的语义隐患问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 代码生成 蒙特卡洛树搜索 大型语言模型 程序修复 记忆增强 上下文保留 自动化编程
📋 核心要点
- 现有的代码生成方法在处理隐藏语义时存在不足，导致生成的代码在执行时频繁出错。
- ReMCTS通过增强记忆和执行基础的搜索框架，组织程序候选为树状态，提升了代码生成的准确性和稳定性。
- 在HumanEval和MBPP-Sanitized数据集上，ReMCTS在8个模型-数据集对中表现优于直接生成，显示出显著的性能提升。
📝 摘要（中文）
开放权重的大型语言模型（LLMs）能够根据自然语言提示生成函数级程序，但在隐藏语义方面仍存在问题，且在修复尝试中重复错误。本文提出ReMCTS，这是一种基于执行的、增强记忆的、LLM引导的蒙特卡洛树搜索（MCTS）框架。该框架将程序候选组织为树状态，保留分支局部调试上下文，跨分支检索失败经验，并区分失败检查与不可用证据。在HumanEval和MBPP-Sanitized数据集上，ReMCTS在10个模型-数据集对中的8个上优于直接生成，而仅依赖代理的搜索则不够稳定。通过控制树搜索、采样、修复和记忆消融，本文分析了这些提升的来源和限制。30个任务的HumanEval-X C++试点进一步展示了与编译器支持执行的兼容性，但尚未进行广泛的多语言评估。
🔬 方法详解
问题定义：本文旨在解决现有代码生成方法在处理隐藏语义时的不足，尤其是在多次修复尝试中重复出现的错误。现有方法往往无法有效利用上下文信息，导致生成的代码无法正确执行。
核心思路：ReMCTS的核心思路是通过执行基础的搜索框架，结合增强的记忆机制，组织程序候选为树状结构，从而保留调试上下文并跨分支检索失败经验。这种设计使得模型能够更好地理解和修复代码中的错误。
技术框架：ReMCTS的整体架构包括多个主要模块：首先是程序候选的树状组织，其次是局部调试上下文的保留，最后是跨分支的失败经验检索。这些模块共同作用，提升了代码生成的质量。
关键创新：ReMCTS的主要创新在于其执行基础的搜索策略和增强记忆的结合，这与传统的代码生成方法有本质区别。传统方法往往缺乏对上下文的有效利用，而ReMCTS通过树状结构和记忆机制显著改善了这一点。
关键设计：在设计中，ReMCTS采用了特定的参数设置和损失函数，以优化树搜索的效率和准确性。此外，网络结构的设计也考虑了如何有效地整合调试信息和失败经验，以提升生成代码的质量。
🖼️ 关键图片
📊 实验亮点
在实验中，ReMCTS在HumanEval和MBPP-Sanitized数据集上表现突出，8个模型-数据集对中均优于直接生成方法，显示出显著的性能提升。相较于仅依赖代理的搜索，ReMCTS的稳定性更高，展现了其在代码生成领域的有效性。
🎯 应用场景
ReMCTS的研究成果在代码生成、自动化编程和软件开发工具等领域具有广泛的应用潜力。通过提高代码生成的准确性和稳定性，该方法能够帮助开发者更高效地编写和修复代码，降低软件开发中的错误率，提升开发效率。未来，ReMCTS还可能扩展到多语言支持，进一步增强其应用价值。
📄 摘要（原文）
Open-weight large language models (LLMs) can generate function-level programs from natural-language prompts, but plausible candidates still fail on hidden semantics and repeat mistakes across repair attempts. We present ReMCTS, an execution-grounded, memory-augmented, LLM-guided MCTS-style search framework. It organizes program candidates as tree states, retains branch-local debugging context, retrieves failure experience across branches, and distinguishes failed checks from unavailable evidence. On HumanEval and MBPP-Sanitized, visible-test ReMCTS improves over direct generation in 8 of 10 model-dataset pairs under held-out evaluation, whereas proxy-only search is less stable. Controlled tree-search, sampling, repair, and memory ablations characterize the source and limits of these gains. A 30-task HumanEval-X C++ pilot further demonstrates compatibility with compiler-backed execution, but does not constitute a broad multilingual evaluation.