OneProt: Towards Multi-Modal Protein Foundation Models
作者: Klemens Flöge, Srisruthi Udayakumar, Johanna Sommer, Marie Piraud, Stefan Kesselheim, Vincent Fortuin, Stephan Günneman, Karel J van der Weg, Holger Gohlke, Erinc Merdivan, Alina Bazarova
分类: cs.LG, q-bio.BM
发布日期: 2024-11-07 (更新: 2025-10-18)
备注: 34 pages, 7 figures, 11 tables
💡 一句话要点
OneProt：面向蛋白质的多模态基础模型，融合结构、序列、文本和结合位点数据。
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 多模态学习 蛋白质工程 药物发现 图神经网络 Transformer 对比学习 结合位点预测
📋 核心要点
- 现有蛋白质模型通常只关注单一模态数据，限制了对蛋白质复杂特性的全面理解。
- OneProt通过ImageBind框架，轻量级地对齐蛋白质结构、序列、文本和结合位点数据的潜在空间，实现多模态融合。
- 实验表明，OneProt在蛋白质检索、酶功能预测和结合位点分析等任务中表现出色，并能有效区分进化相关序列。
📝 摘要（中文）
本文提出了OneProt，一种用于蛋白质的多模态人工智能模型，它集成了结构、序列、文本和结合位点数据。OneProt利用ImageBind框架，通过轻量级的微调方案对齐蛋白质模态编码器的潜在空间，该方案侧重于与序列数据的成对对齐，而非完全匹配。这种新方法结合了图神经网络和Transformer架构。OneProt在检索任务中表现出色，并通过广泛的下游基线（包括酶功能预测和结合位点分析）展示了多模态系统在蛋白质机器学习中的有效性。此外，OneProt能够将来自专门编码器的表征信息转移到序列编码器，从而增强了区分进化相关和不相关序列的能力，并展示了进化相关蛋白质在潜在空间中沿相似方向对齐的表征特性。作者还广泛研究了模态消融，以确定对预测性能贡献最大的编码器，突出了结合位点编码器的重要性，该编码器以前未在类似模型中使用。这项工作扩展了多模态蛋白质模型的视野，为药物发现、生物催化反应规划和蛋白质工程中的变革性应用铺平了道路。
🔬 方法详解
问题定义：现有蛋白质机器学习方法通常依赖于单一模态的数据，例如序列或结构，无法充分利用蛋白质的多方面信息。这限制了模型在复杂任务中的性能，例如药物发现和蛋白质工程。此外，整合不同模态的数据通常需要大量的计算资源和复杂的训练流程。
核心思路：OneProt的核心思路是利用ImageBind框架，通过轻量级的微调方案，将蛋白质的结构、序列、文本和结合位点数据映射到统一的潜在空间中。这种方法避免了从头开始训练大型多模态模型的需求，并允许不同模态的信息相互补充，从而提高模型的性能。
技术框架：OneProt的整体框架包括四个主要的模态编码器：蛋白质序列编码器（基于Transformer）、蛋白质结构编码器（基于图神经网络）、蛋白质文本描述编码器（基于Transformer）和蛋白质结合位点编码器（基于图神经网络）。这些编码器将各自模态的数据映射到潜在空间。然后，利用ImageBind框架，通过对比学习的方式，将这些潜在空间对齐，使得来自同一蛋白质的不同模态的表征在潜在空间中彼此靠近。
关键创新：OneProt的关键创新在于其多模态融合方法和对结合位点信息的利用。首先，它采用ImageBind框架进行模态对齐，这是一种轻量级且高效的方法。其次，它首次将蛋白质结合位点信息纳入多模态蛋白质模型中，这对于理解蛋白质功能至关重要。
关键设计：OneProt的关键设计包括：1) 使用预训练的蛋白质序列模型作为序列编码器的初始化，以加速训练并提高性能；2) 使用图神经网络来编码蛋白质结构和结合位点信息，以捕捉蛋白质的几何特征；3) 使用对比学习损失函数来对齐不同模态的潜在空间，使得来自同一蛋白质的不同模态的表征在潜在空间中彼此靠近；4) 通过模态消融实验来评估不同模态对模型性能的贡献。
🖼️ 关键图片
📊 实验亮点
实验结果表明，OneProt在蛋白质检索任务中表现出色，能够准确地检索与给定蛋白质相关的其他模态数据。此外，OneProt在酶功能预测和结合位点分析等下游任务中也取得了显著的性能提升。模态消融实验表明，结合位点编码器对模型性能的贡献最大，突出了结合位点信息的重要性。
🎯 应用场景
OneProt在药物发现、生物催化反应规划和蛋白质工程等领域具有广泛的应用前景。例如，它可以用于预测蛋白质与小分子的相互作用，从而加速药物筛选过程。此外，它还可以用于设计具有特定功能的蛋白质，例如具有更高催化效率的酶。
📄 摘要（原文）
Recent advances in Artificial Intelligence have enabled multi-modal systems to model and translate diverse information spaces. Extending beyond text and vision, we introduce OneProt, a multi-modal AI for proteins that integrates structural, sequence, text, and binding site data. Using the ImageBind framework, OneProt aligns the latent spaces of protein modality encoders in a lightweight fine-tuning scheme that focuses on pairwise alignment with sequence data rather than requiring full matches. This novel approach comprises a mix of Graph Neural Networks and transformer architectures. It demonstrates strong performance in retrieval tasks and showcases the efficacy of multi-modal systems in Protein Machine Learning through a broad spectrum of downstream baselines, including enzyme function prediction and binding site analysis. Furthermore, OneProt enables the transfer of representational information from specialized encoders to the sequence encoder, enhancing capabilities for distinguishing evolutionarily related and unrelated sequences and exhibiting representational properties where evolutionarily related proteins align in similar directions within the latent space. In addition, we extensively investigate modality ablations to identify the encoders that contribute most to predictive performance, highlighting the significance of the binding site encoder, which has not been used in similar models previously. This work expands the horizons of multi-modal protein models, paving the way for transformative applications in drug discovery, biocatalytic reaction planning, and protein engineering.