CodeI/O: Condensing Reasoning Patterns via Code Input-Output Prediction
作者: Junlong Li, Daya Guo, Dejian Yang, Runxin Xu, Yu Wu, Junxian He
分类: cs.CL, cs.AI
发布日期: 2025-02-11 (更新: 2025-05-21)
备注: ICML 2025
🔗 代码/项目: GITHUB
💡 一句话要点
提出CodeI/O，通过代码输入输出预测提炼通用推理模式，提升大语言模型在多任务上的推理能力。
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大语言模型 推理能力 代码理解 输入输出预测 思维链 通用推理 多任务学习
📋 核心要点
- 现有方法在增强大语言模型推理能力时，侧重于数学或代码生成等特定技能，但在其他推理任务上效果不佳，原因是训练数据稀疏且分散。
- CodeI/O将代码转换为输入-输出预测形式，并结合思维链，使模型学习通用推理原语，从而将结构化推理与代码语法解耦。
- 实验表明，CodeI/O在多种推理任务上均有提升，并通过多轮修订机制CodeI/O++进一步提升性能。
📝 摘要（中文）
本文提出了一种名为CodeI/O的新方法，旨在系统地提炼上下文相关的代码中蕴含的各种推理模式。该方法将原始代码转换为代码输入-输出预测格式，通过训练模型预测给定代码和测试用例的输入/输出，并以自然语言形式的思维链(CoT)作为推理过程，使模型接触到通用的推理原语，如逻辑流程规划、状态空间搜索、决策树遍历和模块化分解，同时将结构化推理与代码特定的语法解耦，并保持程序严谨性。实验结果表明，CodeI/I导致了符号、科学、逻辑、数学与数值以及常识推理任务的一致性改进。通过匹配现有的真实输出或使用预测的输入重新执行代码，可以验证每个预测，并通过多轮修订进一步增强CoT，从而产生CodeI/O++并实现更高的性能。数据和模型已公开。
🔬 方法详解
问题定义：现有大语言模型在推理能力方面存在瓶颈，尤其是在数学和代码生成之外的任务上。主要原因是缺乏足够且多样化的训练数据，导致模型难以泛化到不同的推理场景。现有方法往往针对特定任务进行优化，缺乏通用性。
核心思路：CodeI/O的核心思想是将代码及其执行过程转化为一种输入-输出预测问题。通过让模型预测给定代码和测试用例的输入或输出，并结合思维链(Chain-of-Thought, CoT)推理，使模型能够学习到代码中蕴含的通用推理模式，如逻辑流程、状态搜索等。这种方法将推理过程与具体的代码语法解耦，从而提高模型的泛化能力。
技术框架：CodeI/O的整体流程如下：1) 将原始代码转换为代码输入-输出预测格式。2) 使用大语言模型，以自然语言形式的CoT作为推理过程，预测给定代码和测试用例的输入/输出。3) 通过匹配真实输出或重新执行代码来验证预测结果。4) (CodeI/O++) 利用验证结果进行多轮修订，进一步优化CoT推理过程。
关键创新：CodeI/O的关键创新在于它提供了一种系统性的方法，将代码中蕴含的推理模式提炼出来，并以一种通用的形式（输入-输出预测+CoT）呈现给模型。这种方法不仅能够提高模型在特定任务上的性能，还能够增强模型的通用推理能力。此外，CodeI/O++的多轮修订机制进一步提升了推理的准确性。
关键设计：CodeI/O的关键设计包括：1) 代码输入-输出格式的设计，需要确保能够完整地表达代码的推理逻辑。2) CoT推理过程的设计，需要引导模型逐步进行推理，并给出清晰的解释。3) 多轮修订机制的设计，需要有效地利用验证结果来优化CoT推理过程。论文中未明确给出损失函数和网络结构的具体细节，这部分信息未知。
🖼️ 关键图片
📊 实验亮点
实验结果表明，CodeI/O在符号、科学、逻辑、数学与数值以及常识推理任务上均取得了显著的提升。通过与现有基线方法进行比较，CodeI/O在多个任务上均取得了最佳性能。CodeI/O++通过多轮修订机制进一步提升了性能，表明该方法具有很强的潜力。
🎯 应用场景
CodeI/O具有广泛的应用前景，可用于提升大语言模型在各种推理任务上的性能，例如智能问答、知识图谱推理、科学发现等。该方法还可以应用于教育领域，帮助学生更好地理解代码的执行过程和推理逻辑。此外，CodeI/O还可以作为一种通用的推理框架，与其他技术相结合，构建更强大的智能系统。
📄 摘要（原文）
Reasoning is a fundamental capability of Large Language Models. While prior research predominantly focuses on enhancing narrow skills like math or code generation, improving performance on many other reasoning tasks remains challenging due to sparse and fragmented training data. To address this issue, we propose CodeI/O, a novel approach that systematically condenses diverse reasoning patterns inherently embedded in contextually-grounded codes, through transforming the original code into a code input-output prediction format. By training models to predict inputs/outputs given code and test cases entirely in natural language as Chain-of-Thought (CoT) rationales, we expose them to universal reasoning primitives -- like logic flow planning, state-space searching, decision tree traversal, and modular decomposition -- while decoupling structured reasoning from code-specific syntax and preserving procedural rigor. Experimental results demonstrate CodeI/O leads to consistent improvements across symbolic, scientific, logic, math & numerical, and commonsense reasoning tasks. By matching the existing ground-truth outputs or re-executing the code with predicted inputs, we can verify each prediction and further enhance the CoTs through multi-turn revision, resulting in CodeI/O++ and achieving higher performance. Our data and models are available at https://github.com/hkust-nlp/CodeIO.