Can large language models be privacy preserving and fair medical coders?

📄 arXiv: 2412.05533v1 📥 PDF

作者: Ali Dadsetan, Dorsa Soleymani, Xijie Zeng, Frank Rudzicz

分类: cs.LG, cs.CR

发布日期: 2024-12-07

💡 一句话要点

研究差分隐私下大型语言模型在医疗编码中的隐私保护与公平性权衡

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 差分隐私 大型语言模型 医疗编码 隐私保护 公平性 MIMIC-III ICD分类

📋 核心要点

  1. 医疗领域应用机器学习面临患者隐私泄露风险，差分隐私是常用的隐私保护手段，但其有效性有待考察。
  2. 该研究考察了在医疗编码任务中，应用差分隐私保护大型语言模型时，隐私保护与模型效用、公平性之间的权衡。
  3. 实验表明，差分隐私显著降低了模型性能（F1降低40%），并加剧了性别间的公平性差距（召回率差距增加3%）。

📝 摘要（中文）

在医疗保健领域部署机器学习算法时，保护患者数据隐私至关重要。差分隐私（DP）是保护此类环境中隐私的常用方法。本文研究了将DP应用于医疗编码（ICD分类）这一NLP任务中的两个关键权衡。关于隐私-效用权衡，我们观察到隐私保护模型的性能显著下降，在MIMIC-III数据集中，前50个标签的micro F1分数降低了40%以上。从隐私-公平性权衡的角度来看，我们还观察到DP模型中男性和女性患者之间的召回率差距增加了3%以上。进一步理解这些权衡将有助于应对现实部署的挑战。

🔬 方法详解

问题定义：论文旨在研究在医疗编码任务中使用大型语言模型时，应用差分隐私（DP）对模型性能和公平性的影响。现有方法在保护隐私的同时，往往会牺牲模型的效用，并且可能引入或加剧已有的偏见，例如性别偏见。因此，如何平衡隐私保护、模型性能和公平性是一个关键问题。

核心思路：核心思路是量化差分隐私对医疗编码任务中大型语言模型的影响，具体考察其对模型效用（通过F1分数衡量）和公平性（通过性别间的召回率差距衡量）的负面影响。通过实验分析，揭示隐私保护与模型性能、公平性之间的权衡关系。

技术框架：该研究的技术框架主要包括以下几个步骤：1) 使用MIMIC-III数据集进行医疗编码任务的训练和评估；2) 应用差分隐私机制保护训练数据，例如通过添加噪声；3) 训练带有差分隐私保护的大型语言模型；4) 评估模型的性能（F1分数）和公平性（性别召回率差距）；5) 分析隐私预算（epsilon）对模型性能和公平性的影响。

关键创新：该研究的关键创新在于，它系统地研究了差分隐私对医疗编码任务中大型语言模型的影响，并量化了隐私保护与模型效用、公平性之间的权衡关系。以往的研究可能更多关注隐私保护本身，而忽略了其对模型性能和公平性的潜在影响。

关键设计：研究中使用了MIMIC-III数据集，这是一个包含大量患者电子病历的公开数据集，常用于医疗编码任务。差分隐私的实现可能采用了梯度裁剪和噪声添加等技术，以限制模型对单个样本的敏感度。模型的评估指标包括micro F1分数（用于衡量整体性能）和性别召回率差距（用于衡量公平性）。隐私预算epsilon是一个关键参数，控制着隐私保护的强度，epsilon越小，隐私保护越强，但模型性能可能越差。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，在MIMIC-III数据集上，应用差分隐私保护的大型语言模型在医疗编码任务中，性能显著下降，前50个标签的micro F1分数降低了40%以上。同时，性别间的公平性也受到影响，男性和女性患者之间的召回率差距增加了3%以上。这些结果突显了在医疗领域应用差分隐私时，需要仔细权衡隐私保护与模型性能、公平性之间的关系。

🎯 应用场景

该研究成果可应用于医疗健康领域，指导如何在保护患者隐私的前提下，安全有效地利用大型语言模型进行医疗编码、辅助诊断等任务。研究结果有助于开发更负责任、更公平的医疗AI系统，避免因隐私保护措施不当而损害模型性能或加剧社会偏见。未来的研究可以探索更先进的隐私保护技术，以在隐私、效用和公平性之间取得更好的平衡。

📄 摘要（原文）

Protecting patient data privacy is a critical concern when deploying machine learning algorithms in healthcare. Differential privacy (DP) is a common method for preserving privacy in such settings and, in this work, we examine two key trade-offs in applying DP to the NLP task of medical coding (ICD classification). Regarding the privacy-utility trade-off, we observe a significant performance drop in the privacy preserving models, with more than a 40% reduction in micro F1 scores on the top 50 labels in the MIMIC-III dataset. From the perspective of the privacy-fairness trade-off, we also observe an increase of over 3% in the recall gap between male and female patients in the DP models. Further understanding these trade-offs will help towards the challenges of real-world deployment.