Towards Democratizing Multilingual Large Language Models For Medicine Through A Two-Stage Instruction Fine-tuning Approach
作者: Meng Zhou, Surajsinh Parmar, Anubhav Bhatti
分类: cs.CL
发布日期: 2024-09-09
备注: Technical Report v1, work in progress
🔗 代码/项目: GITHUB
💡 一句话要点
提出双阶段指令微调方法以解决多语言医疗大模型的适应性问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 多语言模型 医疗大模型 指令微调 知识注入 任务微调 计算效率 开源数据集
📋 核心要点
- 现有方法在医疗领域适应性不足，持续预训练计算成本高且不切实际。
- 提出双阶段指令微调方法，第一阶段注入一般医疗知识，第二阶段微调特定任务。
- 在英语和多语言基准测试中取得了竞争性结果，提升了模型的性能和效率。
📝 摘要（中文）
开源的多语言医疗大语言模型（LLMs）有潜力为不同地区的语言多样性人群服务。将通用LLMs适应于医疗领域通常需要持续的预训练，但这种方法计算成本高且不切实际。针对这一挑战，本文引入了两个多语言指令微调数据集MMed-IFT和MMed-IFT-MC，包含超过20万条高质量医疗样本，涵盖六种语言。我们提出的双阶段训练范式，第一阶段通过MMed-IFT注入一般医疗知识，第二阶段使用MMed-IFT-MC微调特定任务的多项选择题。我们的方法在英语和多语言基准测试中均取得了竞争性结果，平衡了计算效率与性能。未来我们计划公开数据集和模型权重。
🔬 方法详解
问题定义：本文旨在解决现有多语言医疗大模型在特定任务适应性不足的问题。传统的持续预训练方法计算成本高且难以实施，导致模型在多样化场景中的表现不佳。
核心思路：我们提出的双阶段指令微调方法，通过分阶段的训练策略，首先注入一般医疗知识，然后针对特定任务进行微调，以提高模型的适应性和性能。
技术框架：整体架构分为两个主要阶段：第一阶段使用MMed-IFT数据集进行一般医疗知识的注入，第二阶段使用MMed-IFT-MC数据集进行特定任务的多项选择题微调。
关键创新：最重要的创新在于提出了双阶段训练范式，解决了传统方法在特定任务上表现不佳的问题，显著提升了模型的多语言适应能力。
关键设计：在训练过程中，使用了高质量的医疗样本和针对性的损失函数设计，以确保模型在多语言环境下的有效学习和推理能力。
🖼️ 关键图片
📊 实验亮点
实验结果显示，我们的方法在英语和多语言基准测试中均取得了竞争性表现，具体性能数据表明，相较于基线模型，提升幅度显著，验证了双阶段微调方法的有效性。
🎯 应用场景
该研究的潜在应用领域包括多语言医疗咨询、临床决策支持系统以及医疗信息检索等。通过提供高质量的多语言医疗大模型，能够更好地服务于语言多样性的患者群体，提升医疗服务的可及性和有效性。
📄 摘要（原文）
Open-source, multilingual medical large language models (LLMs) have the potential to serve linguistically diverse populations across different regions. Adapting generic LLMs for healthcare often requires continual pretraining, but this approach is computationally expensive and sometimes impractical. Instruction fine-tuning on a specific task may not always guarantee optimal performance due to the lack of broader domain knowledge that the model needs to understand and reason effectively in diverse scenarios. To address these challenges, we introduce two multilingual instruction fine-tuning datasets, MMed-IFT and MMed-IFT-MC, containing over 200k high-quality medical samples in six languages. We propose a two-stage training paradigm: the first stage injects general medical knowledge using MMed-IFT, while the second stage fine-tunes task-specific multiple-choice questions with MMed-IFT-MC. Our method achieves competitive results on both English and multilingual benchmarks, striking a balance between computational efficiency and performance. We plan to make our dataset and model weights public at \url{https://github.com/SpassMed/Med-Llama3} in the future.