Enhancing Multi-Attribute Fairness in Healthcare Predictive Modeling

📄 arXiv: 2501.13219v1 📥 PDF

作者: Xiaoyang Wang, Christopher C. Yang

分类: cs.LG, cs.CY

发布日期: 2025-01-22

备注: Accepted to the 13th IEEE International Conference on Healthcare Informatics (IEEE ICHI 2025)

💡 一句话要点

提出一种多属性公平性优化方法，提升医疗AI预测模型的公平性

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 医疗AI 公平性 多属性优化 均衡机会差异 预测模型

📋 核心要点

  1. 现有医疗AI公平性方法主要关注单一敏感属性，忽略了属性间公平性的相互影响。
  2. 提出一种两阶段优化方法，先优化预测性能，再通过顺序或同时策略微调多属性公平性。
  3. 实验表明，该方法能显著降低多属性的均衡机会差异，且优于单属性公平性方法。

📝 摘要（中文）

人工智能(AI)系统在医疗保健领域展现出改善患者预后的巨大潜力。然而，如果设计时没有考虑到公平性，它们也可能存在延续或加剧现有健康差异的风险。尽管已经提出了许多公平性增强技术，但大多数都集中在单一敏感属性上，而忽略了优化一个属性的公平性可能对其他敏感属性的公平性产生的更广泛影响。本文介绍了一种新的医疗AI多属性公平性优化方法，同时解决多个人口属性的公平性问题。我们的方法遵循两阶段方法：首先优化预测性能，然后进行微调以实现多个敏感属性的公平性。我们使用顺序和同时两种策略开发了所提出的方法。结果表明，在保持高预测准确率的同时，多个属性的均衡机会差异(EOD)显著降低。值得注意的是，我们证明了单属性公平性方法可能会无意中增加非目标属性的差异，而同时多属性优化可以实现所有属性之间更平衡的公平性改进。这些发现突出了医疗AI中综合公平性策略的重要性，并为该关键领域未来的研究提供了有希望的方向。

🔬 方法详解

问题定义：现有医疗AI预测模型中的公平性增强方法通常只关注单个敏感属性（如性别、种族），而忽略了优化一个属性的公平性可能对其他属性的公平性产生负面影响。这种孤立的优化方式可能导致在某些群体中公平性得到改善，但在其他群体中公平性反而下降，从而加剧整体的不公平现象。因此，需要一种能够同时考虑多个敏感属性的公平性优化方法。

核心思路：本文的核心思路是采用一种两阶段的优化策略，首先训练一个具有良好预测性能的基线模型，然后在第二阶段通过微调来优化多个敏感属性的公平性。这种方法将预测性能和公平性优化解耦，避免了在训练初期就引入公平性约束可能导致的性能下降。同时，论文提出了顺序和同时两种微调策略，以探索不同优化方式对多属性公平性的影响。

技术框架：该方法包含两个主要阶段：1) 预测性能优化阶段：使用标准的机器学习算法（如逻辑回归、神经网络等）训练一个基线预测模型，目标是最大化预测准确率。2) 多属性公平性优化阶段：在基线模型的基础上，通过微调模型的参数来降低多个敏感属性之间的公平性差异。论文提出了两种微调策略：顺序策略和同时策略。顺序策略依次针对每个敏感属性进行公平性优化，而同时策略则同时优化所有敏感属性的公平性。

关键创新：该方法最重要的技术创新点在于提出了一个多属性公平性优化的框架，并探索了顺序和同时两种优化策略。与传统的单属性公平性方法相比，该方法能够更全面地考虑不同属性之间的公平性关系，避免了在某些群体中改善公平性而损害其他群体公平性的问题。同时，通过两阶段的优化策略，可以在保证预测性能的同时，有效地提高模型的公平性。

关键设计：论文使用均衡机会差异（Equalized Odds Disparity, EOD）作为公平性度量指标，EOD衡量了不同敏感属性群体在真阳性率和假阳性率上的差异。在公平性优化阶段，可以通过调整模型的预测概率来实现EOD的降低。具体的实现方式可能包括调整模型的决策阈值、修改模型的损失函数等。论文中具体使用的损失函数和优化算法未知。

🖼️ 关键图片

fig_0

📊 实验亮点

实验结果表明，该方法能够显著降低多个敏感属性的均衡机会差异(EOD)，同时保持较高的预测准确率。与单属性公平性方法相比，该方法能够避免在非目标属性上增加差异，实现更平衡的公平性改进。具体的数据提升幅度未知，但结论表明多属性优化策略优于单属性策略。

🎯 应用场景

该研究成果可广泛应用于医疗健康领域的AI预测模型，例如疾病诊断、风险评估、治疗方案推荐等。通过提升模型在不同人口群体中的公平性，可以减少医疗资源分配不均，避免AI系统加剧现有的健康差距，从而促进医疗公平和社会公正。该研究为开发更负责任和可信赖的医疗AI系统提供了有价值的参考。

📄 摘要（原文）

Artificial intelligence (AI) systems in healthcare have demonstrated remarkable potential to improve patient outcomes. However, if not designed with fairness in mind, they also carry the risks of perpetuating or exacerbating existing health disparities. Although numerous fairness-enhancing techniques have been proposed, most focus on a single sensitive attribute and neglect the broader impact that optimizing fairness for one attribute may have on the fairness of other sensitive attributes. In this work, we introduce a novel approach to multi-attribute fairness optimization in healthcare AI, tackling fairness concerns across multiple demographic attributes concurrently. Our method follows a two-phase approach: initially optimizing for predictive performance, followed by fine-tuning to achieve fairness across multiple sensitive attributes. We develop our proposed method using two strategies, sequential and simultaneous. Our results show a significant reduction in Equalized Odds Disparity (EOD) for multiple attributes, while maintaining high predictive accuracy. Notably, we demonstrate that single-attribute fairness methods can inadvertently increase disparities in non-targeted attributes whereas simultaneous multi-attribute optimization achieves more balanced fairness improvements across all attributes. These findings highlight the importance of comprehensive fairness strategies in healthcare AI and offer promising directions for future research in this critical area.