Semi-supervised Clustering Through Representation Learning of Large-scale EHR Data

📄 arXiv: 2505.20731v1 📥 PDF

作者: Linshanshan Wang, Mengyan Li, Zongqi Xia, Molei Liu, Tianxi Cai

分类: stat.ME, cs.LG

发布日期: 2025-05-27

💡 一句话要点

提出SCORE框架以解决电子健康记录数据建模挑战

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 电子健康记录 半监督学习 表示学习 多发性硬化症 数据建模 算法优化 患者嵌入

📋 核心要点

  1. 现有方法在处理电子健康记录时面临稀疏性和异质性等挑战，缺乏标准化的真实标签使得预测建模更加复杂。
  2. 本文提出的SCORE框架通过患者嵌入实现半监督表示学习，利用PALM模型和混合EM-GVA算法来捕捉疾病特征。
  3. 实验结果显示，SCORE在有限标记数据下的性能优于现有方法，尤其在多发性硬化症患者的残疾状态预测中表现突出。

📝 摘要（中文）

电子健康记录（EHR）提供了丰富的个性化医疗数据，能够深入了解疾病进展、治疗反应和患者结果。然而，由于数据的稀疏性、异质性和高维性，建模变得困难，缺乏标准化的真实标签进一步复杂化了预测建模。为了解决这些挑战，本文提出了SCORE，一个半监督表示学习框架，通过患者嵌入捕捉多领域疾病特征。SCORE采用了泊松适应潜在因子混合（PALM）模型，并引入混合期望最大化（EM）和高斯变分近似（GVA）算法，以处理大规模数据的计算挑战。理论上证明了该混合方法的收敛性，并量化了GVA的误差。实验结果表明，SCORE在多个多发性硬化症相关条件下，生成的患者嵌入比现有方法更具信息性和预测性。

🔬 方法详解

问题定义：本文旨在解决电子健康记录数据建模中的稀疏性、异质性和高维性问题，现有方法在缺乏标准化标签的情况下难以有效建模。

核心思路：SCORE框架通过半监督表示学习，利用患者嵌入捕捉多领域疾病特征，结合PALM模型和混合EM-GVA算法来优化数据处理。

技术框架：SCORE的整体架构包括数据预处理、患者嵌入生成、特征提取和模型训练等主要模块，采用混合算法来处理大规模数据。

关键创新：SCORE的核心创新在于引入混合EM和GVA算法，理论上证明了其收敛性，并量化了误差，这在现有方法中尚未实现。

关键设计：在模型设计中，采用了预训练的代码嵌入来表征特征，设置了适当的损失函数以优化患者嵌入的生成过程，同时确保了对有限标记数据的有效利用。

📊 实验亮点

实验结果表明，SCORE在有限标记数据下的性能显著优于现有方法，尤其在多发性硬化症患者的残疾状态预测中，SCORE生成的患者嵌入在信息性和预测性上均有明显提升，具体性能数据未提供，但实验结果显示其具有较高的准确性和鲁棒性。

🎯 应用场景

该研究的潜在应用领域包括个性化医疗、疾病预测和患者管理等。通过更准确的患者嵌入，医疗机构可以更好地理解疾病进展，优化治疗方案，从而提高患者的生活质量。未来，该方法有望推广至其他医疗数据分析场景，推动智能医疗的发展。

📄 摘要（原文）

Electronic Health Records (EHR) offer rich real-world data for personalized medicine, providing insights into disease progression, treatment responses, and patient outcomes. However, their sparsity, heterogeneity, and high dimensionality make them difficult to model, while the lack of standardized ground truth further complicates predictive modeling. To address these challenges, we propose SCORE, a semi-supervised representation learning framework that captures multi-domain disease profiles through patient embeddings. SCORE employs a Poisson-Adapted Latent factor Mixture (PALM) Model with pre-trained code embeddings to characterize codified features and extract meaningful patient phenotypes and embeddings. To handle the computational challenges of large-scale data, it introduces a hybrid Expectation-Maximization (EM) and Gaussian Variational Approximation (GVA) algorithm, leveraging limited labeled data to refine estimates on a vast pool of unlabeled samples. We theoretically establish the convergence of this hybrid approach, quantify GVA errors, and derive SCORE's error rate under diverging embedding dimensions. Our analysis shows that incorporating unlabeled data enhances accuracy and reduces sensitivity to label scarcity. Extensive simulations confirm SCORE's superior finite-sample performance over existing methods. Finally, we apply SCORE to predict disability status for patients with multiple sclerosis (MS) using partially labeled EHR data, demonstrating that it produces more informative and predictive patient embeddings for multiple MS-related conditions compared to existing approaches.