Parameter-efficient Prompt Tuning of Vision Foundation Model With Adaptive Focal Loss for Interpretable MCI Screening
作者: Javad Khoramdel, Farhad Hoseyni, Amirhossein Nikoofard
分类: cs.CV, cs.AI, cs.LG
发布日期: 2026-07-16
💡 一句话要点
提出基于自适应焦点损失的高效提示调优方法以解决轻度认知障碍检测问题
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 轻度认知障碍 自适应焦点损失 可解释性 深度学习 神经心理学 多模态学习 注意力机制
📋 核心要点
- 现有方法在轻度认知障碍的自动检测中面临数据稀缺、类别不平衡和诊断模糊等挑战,导致检测效果不佳。
- 本文提出了一种参数高效的提示调优框架,利用冻结的DINOv2-Small模型和可学习的提示令牌,直接实现空间可解释性。
- 实验结果显示,所提方法在MCI类别的F1得分为0.641,AUC为0.795,显著优于传统的ResViT基线,提升幅度达到0.110。
📝 摘要(中文)
轻度认知障碍(MCI)是认知衰退的早期阶段,常常是阿尔茨海默病的前兆。然而,从神经心理绘图测试中自动检测MCI受到数据稀缺、类别不平衡和临床边界模糊等限制。现有方法通常依赖于计算成本高昂的完全微调混合架构,缺乏内在的空间可解释性。本文提出了一种参数高效的框架,利用冻结的DINOv2-Small模型,通过三个特定模态的可学习提示令牌进行适配,操作时仅使用119万可训练参数。通过这些注意力图直接实现空间可解释性,并通过注意力模块融合任务条件嵌入,以量化每个受试者的模态重要性。为处理边界模糊,提出了一种MoCA适应的焦点损失,将连续认知评分整合到训练目标中。经过分层五折交叉验证,所提架构在MCI类别的F1得分为0.641,AUC为0.795,超越了计算更重的ResViT基线0.110的F1得分提升。
🔬 方法详解
问题定义:本文旨在解决轻度认知障碍(MCI)的自动检测问题,现有方法由于数据稀缺和类别不平衡,导致检测效果不理想,且缺乏内在的可解释性。
核心思路:提出一种参数高效的框架,通过冻结的DINOv2-Small模型和三个可学习的提示令牌,利用共享的交叉注意力层实现空间可解释性,从而提高MCI检测的准确性和可解释性。
技术框架:整体架构包括三个主要模块:首先是冻结的DINOv2-Small模型,接着是三个模态特定的可学习提示令牌,最后是一个注意力模块用于融合任务条件嵌入,量化模态重要性。
关键创新:最重要的创新在于引入了自适应焦点损失,该损失函数将连续认知评分整合到训练目标中,克服了传统软标签方法的局限性,增强了模型对边界模糊的处理能力。
关键设计:模型使用119万可训练参数,采用注意力机制直接生成空间可解释性,损失函数设计为MoCA适应的焦点损失,支持样本加权和损失调制,确保模型在训练过程中能够有效学习。
🖼️ 关键图片
📊 实验亮点
实验结果显示,所提架构在MCI类别的F1得分为0.641,AUC为0.795,显著超越了计算更重的ResViT基线,F1得分提升幅度达到0.110,验证了该方法在轻度认知障碍检测中的有效性和优势。
🎯 应用场景
该研究的潜在应用领域包括医疗影像分析、神经心理学评估和老年痴呆症早期筛查等。通过提高轻度认知障碍的检测准确性和可解释性,能够为临床医生提供更可靠的决策支持,进而改善患者的治疗效果和生活质量。未来,该方法有望推广至其他认知障碍或神经疾病的检测与评估中。
📄 摘要(原文)
Mild Cognitive Impairment is a critical early stage of cognitive decline that frequently precedes Alzheimer's disease, yet its automated detection from neuropsychological drawing tests remains fundamentally constrained by data scarcity, class imbalance, and diagnostic ambiguity near clinical boundaries. Existing methodologies attempt to bypass these constraints using computationally expensive, fully fine-tuned hybrid architectures that relegate spatial explainability to a post-hoc approximation rather than an intrinsic model property. We propose a parameter-efficient framework utilizing frozen DINOv2-Small model adapted via three modality-specific learnable prompt tokens while Operating with 1.19 million trainable parameters, each token serves as a query in a shared cross-attention layer over the source image patch tokens. Crucially, spatial explainability is achieved directly through these attention maps; as a structural consequence of the architecture. Then task-conditioned embeddings fused via an attention module to quantify modality-level importance per subject. To handle boundary ambiguity, a MoCA-adapted focal loss introduced that integrates continuous cognitive scores into the training target, loss modulation, and adaptive sample weighting, strictly generalizing standard soft-label approaches. Under stratified five-fold cross-validation, the proposed architecture yields an MCI-class F1 of 0.641 and an AUC of 0.795, outperforming the computationally heavier ResViT baseline by 0.110 in MCI-class F1.