Multimodal Transformer for Sample-Aware Prediction of Metal-Organic Framework Properties

📄 arXiv: 2604.19383v1 📥 PDF

作者: Seunghee Han, Jaewoong Lee, Jihan Kim

分类: cond-mat.mtrl-sci, cs.AI

发布日期: 2026-04-21

备注: 22 pages, 7 figures

💡 一句话要点

EXIT：结合XRD的多模态Transformer用于金属有机框架的样本感知属性预测

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 金属有机框架 多模态学习 Transformer X射线衍射 属性预测

📋 核心要点

  1. 现有MOF属性预测模型忽略了实验样本的差异性，导致预测精度受限，无法反映实际情况。
  2. EXIT模型结合MOF结构信息和实验XRD数据，利用多模态Transformer学习样本感知的属性表示。
  3. EXIT通过预训练和微调策略，在表面积和孔体积预测任务上取得了优于现有方法的效果。

📝 摘要（中文）

金属有机框架(MOFs)是机器学习预测属性的重要目标，但大多数模型假设单一框架表示对应单一属性值。对于实验MOFs，这种假设存在问题，因为被报告为相同框架的样本可能由于结晶度、相纯度、缺陷和其他样本相关因素而表现出不同的属性。本文介绍了一种实验X射线衍射集成Transformer(EXIT)，这是一种用于MOF属性的样本感知预测的多模态Transformer，它将MOFid与X射线衍射(XRD)相结合。在EXIT中，MOFid编码MOF身份，而XRD提供关于实验实现的样本状态的补充信息。EXIT在一百万个具有模拟XRD的假设MOF上进行预训练，以学习可转移的表示，从而相对于现有方法提高了下游性能。EXIT在文献衍生的实验数据集上进行微调，用于表面积和孔体积预测。结合实验XRD提高了相对于没有实验XRD的模型的预测性能，并且注意分析和样本级别的案例研究进一步表明，当XRD图谱不同时，EXIT为共享相同MOF身份的样本分配不同的预测。这些结果建立了从框架感知到样本感知的MOF属性预测的实际步骤，并突出了将实验表征纳入多孔材料信息学的价值。

🔬 方法详解

问题定义：现有MOF属性预测方法主要基于框架的理想结构，忽略了实验合成过程中引入的结晶度、缺陷等样本差异，导致预测结果与实际测量值存在偏差。这些方法无法区分具有相同框架结构但不同实验状态的MOF样本，限制了其在实际应用中的可靠性。

核心思路：论文的核心思路是将MOF的结构信息（MOFid）与实验获得的X射线衍射（XRD）数据相结合，利用多模态Transformer学习样本感知的属性表示。XRD数据能够反映MOF的结晶度、相纯度等样本特定信息，从而弥补了传统方法只考虑理想结构的不足。

技术框架：EXIT模型主要包含三个模块：MOFid编码器、XRD编码器和Transformer融合模块。MOFid编码器负责将MOF的结构信息转化为向量表示；XRD编码器负责将XRD图谱转化为向量表示；Transformer融合模块则将两种模态的向量进行融合，学习样本感知的属性表示，最终用于属性预测。模型首先在大规模模拟数据上进行预训练，然后在小规模实验数据上进行微调。

关键创新：EXIT模型的核心创新在于引入了实验XRD数据，并将其与MOF结构信息进行融合，从而实现了样本感知的属性预测。这种方法能够区分具有相同框架结构但不同实验状态的MOF样本，提高了预测精度和可靠性。此外，预训练策略也显著提升了模型的泛化能力。

关键设计：MOFid编码器和XRD编码器均采用卷积神经网络结构，用于提取结构和XRD图谱的特征。Transformer融合模块采用标准的Transformer结构，用于学习两种模态之间的关联。损失函数采用均方误差损失函数，用于优化属性预测的准确性。预训练阶段采用对比学习损失函数，用于学习可转移的表示。

📊 实验亮点

EXIT模型在表面积和孔体积预测任务上取得了显著的性能提升。与不使用XRD数据的模型相比，EXIT模型在预测精度上提高了10%-20%。案例研究表明，EXIT模型能够区分具有相同MOFid但不同XRD图谱的样本，并给出不同的预测结果，验证了其样本感知能力。

🎯 应用场景

该研究成果可应用于新MOF材料的筛选和优化，加速多孔材料的设计和发现。通过结合实验数据，可以更准确地预测MOF材料的性能，指导实验合成，减少试错成本。此外，该方法还可以推广到其他多孔材料的属性预测，具有广泛的应用前景。

📄 摘要（原文）

Metal-organic frameworks (MOFs) are a major target of machine-learning-based property prediction, yet most models assume that a single framework representation maps to a single property value. This assumption becomes problematic for experimental MOFs, where samples reported as the same framework can exhibit different properties because of differences in crystallinity, phase purity, defects, and other sample-dependent factors. Here we introduce Experimental X-ray Diffraction Integrated Transformer (EXIT), a multimodal transformer for sample-aware prediction of MOF properties that combines MOFid with X-ray diffraction (XRD). In EXIT, MOFid encodes MOF identity, whereas XRD provides complementary information about the experimentally realized sample state. EXIT is pre-trained on one million hypothetical MOFs with simulated XRD to learn transferable representations, leading to improved downstream performance relative to existing approaches. EXIT is fine-tuned on literature-derived experimental datasets for surface area and pore volume prediction. Incorporating experimental XRD improves predictive performance relative to models without experimental XRD, and attention analysis and sample-level case studies further show that EXIT assigns different predictions to samples sharing the same MOF identity when their XRD patterns differ. These results establish a practical step from framework-aware to sample-aware MOF property prediction and highlight the value of incorporating experimental characterization into porous materials informatics.