ChatMol: A Versatile Molecule Designer Based on the Numerically Enhanced Large Language Model

📄 arXiv: 2502.19794v1 📥 PDF

作者: Chuanliu Fan, Ziqiang Cao, Zicheng Ma, Nan Yu, Yimin Peng, Jun Zhang, Yiqin Gao, Guohong Fu

分类: cs.CE, cs.LG

发布日期: 2025-02-27

备注: 16 pages, 8 figures,conference

💡 一句话要点

ChatMol：一种基于数值增强大语言模型的多功能分子设计器

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 分子设计 大语言模型 药物发现 数值增强 目标导向生成

📋 核心要点

  1. 现有分子设计方法需训练多个性质预测器，且难以整合子结构约束，限制了其在复杂约束条件下的应用。
  2. ChatMol利用大语言模型进行分子设计，通过构建兼容的分子表示和设计特定提示，实现目标导向的分子生成。
  3. 实验表明，ChatMol在多种约束任务中优于现有方法，并在多目标优化中显著降低了KD值，提升了相关性。

📝 摘要（中文）

目标导向的从头分子设计，即生成具有特定性质或子结构约束的分子，是药物发现中一个至关重要但具有挑战性的任务。现有的方法，如贝叶斯优化和强化学习，通常需要训练多个性质预测器，并且难以整合子结构约束。受到大语言模型（LLM）在文本生成方面成功的启发，我们提出了ChatMol，一种利用LLM在各种约束设置下进行分子设计的新方法。首先，我们构建了一种与LLM兼容的分子表示，并在多个在线LLM上验证了其有效性。然后，我们开发了针对不同约束分子生成任务的特定提示，以进一步微调当前的LLM，同时整合来自性质预测的反馈学习。最后，为了解决LLM在数值识别方面的局限性，我们参考了位置编码方法，并在提示中加入了数值的额外编码。在单性质、子结构-性质和多性质约束任务中的实验结果表明，ChatMol始终优于最先进的基线方法，包括基于VAE和RL的方法。值得注意的是，在多目标结合亲和力最大化任务中，ChatMol对蛋白质靶标ESR1实现了显著更低的KD值0.25，同时保持了最高的整体性能，超过了以前的方法4.76%。同时，通过数值增强，指示的性质值与生成的分子性质值之间的Pearson相关系数提高了0.49。这些发现突出了LLM作为分子生成的多功能框架的潜力，为传统的潜在空间和基于RL的方法提供了一种有希望的替代方案。

🔬 方法详解

问题定义：论文旨在解决目标导向的从头分子设计问题，即在给定特定性质或子结构约束条件下生成具有所需特征的分子。现有方法，如贝叶斯优化和强化学习，通常需要训练多个性质预测器，计算成本高昂，且难以有效整合子结构约束，导致生成分子质量和效率受限。

核心思路：论文的核心思路是利用大语言模型（LLM）强大的文本生成能力，将分子设计问题转化为文本生成问题。通过构建与LLM兼容的分子表示，并设计特定的提示（Prompt），引导LLM生成符合约束条件的分子。这种方法避免了训练多个性质预测器，并能更灵活地整合各种约束条件。

技术框架：ChatMol的整体框架包括以下几个主要阶段：1) 分子表示构建：将分子结构转化为LLM能够理解和处理的文本序列。2) 提示设计：根据不同的约束条件，设计特定的提示，引导LLM生成符合要求的分子。3) LLM微调：利用分子数据和提示对LLM进行微调，使其更好地适应分子设计任务。4) 数值增强：针对LLM在数值识别方面的不足，引入数值编码，提高LLM对分子性质数值的理解和生成能力。5) 反馈学习：利用性质预测模型对生成的分子进行评估，并将评估结果反馈给LLM，进一步优化生成过程。

关键创新：ChatMol最重要的技术创新点在于将大语言模型应用于分子设计领域，并提出了数值增强方法。与传统的基于潜在空间或强化学习的方法相比，ChatMol能够更灵活地整合各种约束条件，并利用LLM强大的生成能力生成高质量的分子。数值增强方法有效提高了LLM对分子性质数值的理解和生成精度。

关键设计：论文的关键设计包括：1) 分子表示方法：选择合适的分子表示方法，使其既能被LLM有效处理，又能保留分子的结构信息。2) 提示设计策略：设计有效的提示，引导LLM生成符合约束条件的分子。提示的设计需要考虑约束条件的类型、强度和优先级。3) 数值编码方法：采用位置编码或其他数值编码方法，将分子性质的数值信息嵌入到提示中，提高LLM对数值的识别能力。4) 损失函数设计：在LLM微调过程中，设计合适的损失函数，引导LLM生成具有所需性质的分子。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，ChatMol在单性质、子结构-性质和多性质约束任务中均优于现有方法。在多目标结合亲和力最大化任务中，ChatMol对蛋白质靶标ESR1实现了显著更低的KD值0.25，超过了之前方法4.76%。通过数值增强，指示的性质值与生成的分子性质值之间的Pearson相关系数提高了0.49，验证了数值增强的有效性。

🎯 应用场景

ChatMol在药物发现领域具有广泛的应用前景，可用于先导化合物发现、药物优化、个性化药物设计等。该方法能够加速药物研发进程，降低研发成本，并有望发现具有创新性的药物分子。此外，ChatMol还可以应用于材料科学领域，用于设计具有特定性能的新型材料。

📄 摘要（原文）

Goal-oriented de novo molecule design, namely generating molecules with specific property or substructure constraints, is a crucial yet challenging task in drug discovery. Existing methods, such as Bayesian optimization and reinforcement learning, often require training multiple property predictors and struggle to incorporate substructure constraints. Inspired by the success of Large Language Models (LLMs) in text generation, we propose ChatMol, a novel approach that leverages LLMs for molecule design across diverse constraint settings. Initially, we crafted a molecule representation compatible with LLMs and validated its efficacy across multiple online LLMs. Afterwards, we developed specific prompts geared towards diverse constrained molecule generation tasks to further fine-tune current LLMs while integrating feedback learning derived from property prediction. Finally, to address the limitations of LLMs in numerical recognition, we referred to the position encoding method and incorporated additional encoding for numerical values within the prompt. Experimental results across single-property, substructure-property, and multi-property constrained tasks demonstrate that ChatMol consistently outperforms state-of-the-art baselines, including VAE and RL-based methods. Notably, in multi-objective binding affinity maximization task, ChatMol achieves a significantly lower KD value of 0.25 for the protein target ESR1, while maintaining the highest overall performance, surpassing previous methods by 4.76%. Meanwhile, with numerical enhancement, the Pearson correlation coefficient between the instructed property values and those of the generated molecules increased by up to 0.49. These findings highlight the potential of LLMs as a versatile framework for molecule generation, offering a promising alternative to traditional latent space and RL-based approaches.