LLM4EHR: Aligning Clinical Time Series with Medical Event Sequences via Large Language Models

📄 arXiv: 2607.15447 📥 PDF

作者: Jingteng Li, Alexander Capstick, Louise Rigny, Iona Biggart, Neil J Sebire, Payam Barnaghi

分类: cs.LG

发布日期: 2026-07-20

💡 一句话要点

提出LLM4EHR以解决临床时间序列与医疗事件序列对齐问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 临床机器学习 电子健康记录 时间序列分析 大型语言模型 模型迁移学习

📋 核心要点

  1. 现有方法未能充分利用临床事件与时间序列观察之间的共享时间结构，导致临床基础模型的鲁棒性和适应性不足。
  2. 本文提出LLM4EHR，通过将大型语言模型与时间序列编码器结合，进行EHR事件与时间序列的对齐，旨在提升模型性能。
  3. 实验结果显示，LLM4EHR在多个临床任务上表现优异，学习的时间序列嵌入可迁移至新队列，提升了模型的通用性。

📝 摘要（中文）

近年来，临床机器学习的研究重点已从定制的监督模型转向基础模型，利用现代表示学习方法。现有方法通常使用电子健康记录（EHR）提供丰富的患者观察数据，但未充分探索临床事件与EHR中记录的时间序列（TS）观察之间的共享时间结构。为此，本文提出LLM4EHR，一个基于ICU EHR数据的新型临床基础模型，通过将领域适应的大型语言模型与变换器时间序列编码器相结合，进行EHR事件与时间序列的时间对齐。实验结果表明，LLM4EHR在多个下游临床任务中表现出竞争力，且其学习的EHR时间序列嵌入能够通过k-shot适应性迁移到新队列。

🔬 方法详解

问题定义：本文旨在解决现有临床基础模型未能充分利用EHR中临床事件与时间序列之间的时间结构这一问题，导致模型性能不足。

核心思路：LLM4EHR结合领域适应的大型语言模型与变换器时间序列编码器，通过时间对齐的方式学习EHR事件与时间序列的嵌入，旨在提高模型的鲁棒性和适应性。

技术框架：整体架构包括三个主要模块：领域适应的大型语言模型、变换器时间序列编码器和正则化对比目标。首先，利用语言模型生成EHR事件嵌入，然后通过时间序列编码器对时间序列进行编码，最后通过对比学习优化嵌入。

关键创新：LLM4EHR的主要创新在于引入正则化对比目标，以学习条件于EHR事件嵌入的鲁棒时间序列表示。这一方法与传统的单一模型训练方法本质上不同，能够更好地捕捉时间结构。

关键设计：在模型设计中，采用了正则化对比损失函数，确保学习到的时间序列嵌入与EHR事件嵌入之间的有效对齐。此外，模型的参数设置经过精细调整，以优化学习效果。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，LLM4EHR在多个下游临床任务中表现出竞争力，学习的EHR时间序列嵌入在k-shot适应性迁移到新队列时，显著提升了模型的通用性和性能，具体性能数据未知。

🎯 应用场景

LLM4EHR的研究成果可广泛应用于临床决策支持系统、患者监测和预后评估等领域。通过提升临床基础模型的性能，该模型有助于实现更精准的医疗干预和个性化治疗方案，未来可能对临床实践产生深远影响。

📄 摘要（原文）

Recent research in clinical machine learning, focusing on outcome predictions in intensive care unit (ICU), has shifted from bespoke supervised models to foundation models, utilising modern representation learning methods. Here, foundation models are pre-trained on mixtures of complex clinical data modalities, useful for various downstream tasks. Existing works often utilise Electronic Health Records (EHR) to provide rich and diverse patient observations to train clinical foundation models. However, existing methods do not sufficiently explore the shared temporal structures between clinical events and time series (TS) observations recorded in EHRs. This limitation potentially leads to less robust and adaptive clinical foundation models, resulting in reduced performance on downstream tasks. To fully exploit this temporal structure, we propose LLM4EHR, a new clinical foundation model trained on ICU EHR data. Combining domain adapted large language models with a transformer TS encoder, we pre-trained LLM4EHR by temporally aligning the EHR events and TS. For this, we propose a regularised contrastive objective to learn robust EHR TS representations conditioned on EHR event embeddings produced by the domain adapted LLM. Supported by an ablation study, we find that learnt EHR TS embeddings from LLM4EHR improve performance on various downstream clinical tasks with competitive performance. Further, we empirically demonstrate that LLM4EHR learns transferable clinical TS embeddings that can be deployed to new cohorts via k-shot adaptation. These findings provide a step towards building more generalisable and performant clinical foundation models.