ChemATP: A Training-Free Chemical Reasoning Framework for Large Language Models

📄 arXiv: 2512.19240v1 📥 PDF

作者: Mingxu Zhang, Dazhong Shen, Qi Zhang, Ying Sun

分类: cs.CL, cs.AI

发布日期: 2025-12-22

💡 一句话要点

ChemATP：一种免训练的化学推理框架，用于增强大型语言模型

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 化学推理 知识库 原子级别 免训练 先验知识 知识检索

📋 核心要点

  1. 现有方法难以在LLM中注入化学先验知识，训练方法影响通用推理，免训练方法缺乏细粒度原子级别信息。
  2. ChemATP框架通过构建原子级别的文本知识库，使LLM能够动态检索和推理化学信息，实现知识与推理引擎的解耦。
  3. 实验结果表明，ChemATP优于免训练基线，并能与基于训练的SOTA模型竞争，验证了显式先验注入的有效性。

📝 摘要（中文）

大型语言模型(LLMs)在通用推理方面表现出色，但由于标准字符串表示中缺乏明确的化学先验知识，因此在分子科学领域表现不佳。现有的解决方案面临一个根本性的困境。基于训练的方法将先验知识注入参数，但这种静态耦合阻碍了知识的快速更新，并且常常会损害模型的一般推理能力。相反，现有的免训练方法避免了这些问题，但依赖于表面级别的提示，无法提供精确化学推理所必需的细粒度原子级别先验知识。为了解决这个问题，我们引入了ChemATP，一个将化学知识与推理引擎解耦的框架。通过构建第一个原子级别的文本知识库，ChemATP使冻结的LLM能够显式地检索和推理这些信息。这种架构确保了解释性和适应性，同时保留了LLM固有的通用智能。实验表明，ChemATP显著优于免训练的基线模型，并且可以与最先进的基于训练的模型相媲美，这表明显式先验注入是隐式参数更新的一种有竞争力的替代方案。

🔬 方法详解

问题定义：大型语言模型在化学推理方面表现不佳，主要原因是缺乏化学领域的先验知识。现有的方法，要么通过训练将化学知识嵌入模型参数中，但这种方式会影响模型的通用推理能力，并且难以更新知识；要么采用免训练的方式，但依赖于浅层的提示，无法提供原子级别的细粒度信息，难以进行精确的化学推理。

核心思路：ChemATP的核心思路是将化学知识与LLM的推理引擎解耦。通过构建一个原子级别的文本知识库，让LLM在推理过程中动态地检索和利用这些知识。这样既避免了训练带来的问题，又能够提供细粒度的化学信息，从而提高化学推理的准确性。

技术框架：ChemATP主要包含两个核心模块：原子级别文本知识库构建模块和基于知识检索的推理模块。首先，构建原子级别的文本知识库，该知识库包含每个原子的各种属性和化学性质。然后，在进行化学推理时，LLM首先检索与当前问题相关的原子信息，然后基于检索到的信息进行推理。整个过程是动态的，并且可以根据需要更新知识库。

关键创新：ChemATP最重要的创新点在于它将化学知识与LLM的推理引擎解耦。与传统的训练方法相比，ChemATP不需要对LLM进行微调，从而避免了对通用推理能力的损害。与现有的免训练方法相比，ChemATP能够提供原子级别的细粒度信息，从而实现更精确的化学推理。

关键设计：ChemATP的关键设计在于原子级别文本知识库的构建。知识库需要包含每个原子的各种属性和化学性质，并且需要以一种易于LLM检索和理解的方式进行组织。此外，检索模块的设计也至关重要，需要能够准确地检索到与当前问题相关的原子信息。具体的参数设置和损失函数等技术细节在论文中可能没有详细描述，属于未知信息。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

ChemATP在化学推理任务上显著优于免训练的基线模型，并且能够与最先进的基于训练的模型相媲美。具体的性能数据和提升幅度需要在论文中查找。该结果表明，显式先验注入是一种有竞争力的替代方案，可以有效地提高LLM在化学领域的推理能力。

🎯 应用场景

ChemATP具有广泛的应用前景，例如药物发现、材料设计和化学反应预测等。通过提供更准确的化学推理能力，ChemATP可以帮助研究人员更有效地探索化学空间，加速新材料和药物的开发。此外，ChemATP还可以用于教育领域，帮助学生更好地理解化学概念。

📄 摘要（原文）

Large Language Models (LLMs) exhibit strong general reasoning but struggle in molecular science due to the lack of explicit chemical priors in standard string representations. Current solutions face a fundamental dilemma. Training-based methods inject priors into parameters, but this static coupling hinders rapid knowledge updates and often compromises the model's general reasoning capabilities. Conversely, existing training-free methods avoid these issues but rely on surface-level prompting, failing to provide the fine-grained atom-level priors essential for precise chemical reasoning. To address this issue, we introduce ChemATP, a framework that decouples chemical knowledge from the reasoning engine. By constructing the first atom-level textual knowledge base, ChemATP enables frozen LLMs to explicitly retrieve and reason over this information dynamically. This architecture ensures interpretability and adaptability while preserving the LLM's intrinsic general intelligence. Experiments show that ChemATP significantly outperforms training-free baselines and rivals state-of-the-art training-based models, demonstrating that explicit prior injection is a competitive alternative to implicit parameter updates.