aLLoyM: A large language model for alloy phase diagram prediction

📄 arXiv: 2507.22558v2 📥 PDF

作者: Yuna Oikawa, Guillaume Deffrennes, Taichi Abe, Ryo Tamura, Koji Tsuda

分类: cond-mat.mtrl-sci, cs.AI

发布日期: 2025-07-30 (更新: 2025-08-10)

备注: 24 pages, 6 figures

💡 一句话要点

提出aLLoyM：一种用于合金相图预测的大语言模型

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 合金相图预测 大语言模型 材料科学 Mistral 迁移学习

📋 核心要点

  1. 现有材料科学中，合金相图预测依赖耗时的实验或复杂计算，缺乏高效方法。
  2. aLLoyM通过微调大型语言模型，学习合金成分、温度与相信息间的关系，实现快速相图预测。
  3. 实验表明，aLLoyM在相图预测任务上性能显著提升，并具备生成新相图的潜力。

📝 摘要（中文）

本文介绍aLLoyM，一个经过微调的大语言模型（LLM），专门用于合金成分、温度及其对应相信息的预测。为了开发aLLoyM，我们利用开源计算相图数据库（CPDDB）和基于CALPHAD的评估，为二元和三元相图整理了问答（Q&A）对。我们针对两种不同的问答格式（多项选择和简答题）对Mistral（一个开源预训练LLM）进行了微调。基准评估表明，微调显著提高了多项选择相图问题的性能。此外，aLLoyM的简答题模型展示了仅从其成分生成新相图的能力，突显了其加速发现先前未探索材料系统的潜力。为了促进进一步的研究和应用，我们已在Hugging Face上公开发布了aLLoyM的简答题微调版本以及完整的基准测试Q&A数据集。

🔬 方法详解

问题定义：论文旨在解决合金相图预测问题。传统的相图预测方法，如实验测量和第一性原理计算，耗时且成本高昂。现有方法难以快速预测新合金体系的相图，阻碍了新材料的发现和设计。

核心思路：论文的核心思路是利用大型语言模型（LLM）强大的知识学习和推理能力，将相图预测问题转化为一个问答任务。通过在包含大量相图数据的问答数据集上微调LLM，使其能够学习合金成分、温度与相信息之间的复杂关系，从而实现快速准确的相图预测。

技术框架：aLLoyM的整体框架包括以下几个主要步骤：1) 数据收集与整理：从CPDDB和CALPHAD评估中收集二元和三元合金的相图数据，并将其整理成问答对的形式。2) 模型选择：选择Mistral作为预训练LLM的基础模型。3) 模型微调：使用整理好的问答数据集对Mistral进行微调，得到aLLoyM。论文考虑了两种问答格式：多项选择和简答题。4) 模型评估：使用基准测试数据集评估aLLoyM的性能。

关键创新：论文的关键创新在于将大型语言模型应用于合金相图预测领域，并成功地训练了一个能够生成新相图的模型。与传统的相图预测方法相比，aLLoyM具有更高的效率和更强的泛化能力。此外，论文还构建了一个包含大量相图数据的问答数据集，为后续研究提供了宝贵资源。

关键设计：论文针对两种不同的问答格式（多项选择和简答题）对Mistral进行了微调。对于多项选择题，模型需要从多个选项中选择正确的相图。对于简答题，模型需要根据给定的合金成分和温度生成相应的相图。具体的损失函数和网络结构等技术细节在论文中未详细说明，属于未知信息。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

基准测试表明，aLLoyM在多项选择相图问题上的性能得到了显著提升。更重要的是，aLLoyM的简答题模型能够仅根据合金成分生成新的相图，这表明该模型具有强大的泛化能力和创造性，为发现新的合金材料体系提供了可能。具体的性能提升数据在摘要中未给出，属于未知信息。

🎯 应用场景

aLLoyM可应用于新合金材料的快速筛选与设计，加速材料研发进程。通过预测合金相图，可以指导实验人员选择合适的成分和工艺参数，从而降低实验成本，缩短研发周期。此外，aLLoyM还可用于材料数据库的构建与完善，为材料科学研究提供更全面的数据支持。

📄 摘要（原文）

Large Language Models (LLMs) are general-purpose tools with wide-ranging applications, including in materials science. In this work, we introduce aLLoyM, a fine-tuned LLM specifically trained on alloy compositions, temperatures, and their corresponding phase information. To develop aLLoyM, we curated question-and-answer (Q&A) pairs for binary and ternary phase diagrams using the open-source Computational Phase Diagram Database (CPDDB) and assessments based on CALPHAD (CALculation of PHAse Diagrams). We fine-tuned Mistral, an open-source pre-trained LLM, for two distinct Q&A formats: multiple-choice and short-answer. Benchmark evaluations demonstrate that fine-tuning substantially enhances performance on multiple-choice phase diagram questions. Moreover, the short-answer model of aLLoyM exhibits the ability to generate novel phase diagrams from its components alone, underscoring its potential to accelerate the discovery of previously unexplored materials systems. To promote further research and adoption, we have publicly released the short-answer fine-tuned version of aLLoyM, along with the complete benchmarking Q&A dataset, on Hugging Face.