From Reasoning to Learning: A Survey on Hypothesis Discovery and Rule Learning with Large Language Models

📄 arXiv: 2505.21935v2 📥 PDF

作者: Kaiyu He, Zhiyu Chen

分类: cs.CL, cs.AI

发布日期: 2025-05-28 (更新: 2025-08-24)

备注: TMLR Survey Certification

💡 一句话要点

综述：基于大语言模型的假设发现与规则学习研究进展

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 假设发现 规则学习 溯因推理 演绎推理

📋 核心要点

  1. 现有大语言模型主要关注指令执行和演绎推理，缺乏自主发现新知识的能力，限制了其在通用人工智能领域的应用。
  2. 该综述以皮尔士的溯因、演绎和归纳框架为指导，系统性地分析了基于LLM的假设发现过程，并总结了现有研究。
  3. 通过对现有工作的综合分析，论文指出了LLM在假设生成、应用和验证方面的主要成就和不足，为未来研究方向提供了参考。

📝 摘要（中文）

自大型语言模型（LLMs）出现以来，研究主要集中在提高其指令遵循和演绎推理能力上，而忽略了这些模型是否能够真正发现新知识。为了实现通用人工智能（AGI），越来越需要模型不仅能够执行命令或检索信息，还能够通过形成新的假设和理论来学习、推理和生成新知识，从而加深我们对世界的理解。本综述以皮尔士的溯因、演绎和归纳框架为指导，提供了一个结构化的视角来审视基于LLM的假设发现。我们综合了假设生成、应用和验证方面的现有工作，识别了关键成就和重要差距。通过统一这些研究方向，我们阐明了LLM如何从单纯的“信息执行者”演变为真正创新的引擎，从而可能改变研究、科学和实际问题解决。

🔬 方法详解

问题定义：论文旨在探讨大语言模型（LLMs）在假设发现和规则学习方面的能力。现有方法主要集中于提升LLMs的指令遵循和演绎推理能力，而忽略了其自主发现新知识的潜力。因此，如何利用LLMs进行假设生成、验证和应用，从而推动科学发现和问题解决，是本文要解决的核心问题。现有方法的痛点在于缺乏对LLMs假设发现能力的系统性研究和有效利用。

核心思路：论文的核心思路是借鉴皮尔士的溯因、演绎和归纳框架，将LLMs的假设发现过程分解为假设生成、应用和验证三个阶段，并对每个阶段的现有研究进行梳理和分析。通过这种结构化的分析，可以更清晰地了解LLMs在假设发现方面的优势和不足，并为未来的研究提供指导。

技术框架：论文采用综述的形式，没有具体的模型架构或流程。其主要框架是基于皮尔士的溯因、演绎和归纳框架，将LLMs的假设发现过程划分为三个阶段： 1. 假设生成：LLMs生成新的假设或理论。 2. 假设应用：LLMs将生成的假设应用于实际问题。 3. 假设验证：LLMs验证假设的有效性。 论文对每个阶段的现有研究进行了详细的分析和总结。

关键创新：该论文的主要创新在于其系统性地分析了LLMs在假设发现方面的能力，并提出了一个基于皮尔士框架的结构化分析方法。这种方法有助于研究人员更清晰地了解LLMs在假设发现方面的优势和不足，并为未来的研究提供指导。此外，该论文还识别了LLMs在假设发现方面的一些关键差距，例如缺乏有效的假设验证方法。

关键设计：由于是综述文章，没有具体的参数设置、损失函数、网络结构等技术细节。论文的关键设计在于其采用了皮尔士的溯因、演绎和归纳框架作为分析LLMs假设发现能力的理论基础。这种框架提供了一个结构化的视角，有助于研究人员更好地理解LLMs在假设发现方面的潜力。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

该论文是一篇综述，没有具体的实验结果。其主要亮点在于对现有研究进行了系统性的梳理和分析，并提出了一个基于皮尔士框架的结构化分析方法。通过这种方法，论文识别了LLMs在假设发现方面的一些关键差距，并为未来的研究提供了指导。

🎯 应用场景

该研究具有广泛的应用前景，包括科学发现、医学研究、工程设计等领域。通过利用LLMs进行假设生成和验证，可以加速科学研究的进程，发现新的规律和理论。此外，该研究还可以应用于实际问题解决，例如优化算法、改进产品设计等。未来，随着LLMs能力的不断提升，其在假设发现和规则学习方面的应用将更加广泛和深入。

📄 摘要（原文）

Since the advent of Large Language Models (LLMs), efforts have largely focused on improving their instruction-following and deductive reasoning abilities, leaving open the question of whether these models can truly discover new knowledge. In pursuit of artificial general intelligence (AGI), there is a growing need for models that not only execute commands or retrieve information but also learn, reason, and generate new knowledge by formulating novel hypotheses and theories that deepen our understanding of the world. Guided by Peirce's framework of abduction, deduction, and induction, this survey offers a structured lens to examine LLM-based hypothesis discovery. We synthesize existing work in hypothesis generation, application, and validation, identifying both key achievements and critical gaps. By unifying these threads, we illuminate how LLMs might evolve from mere ``information executors'' into engines of genuine innovation, potentially transforming research, science, and real-world problem solving.