Flattening the Connectome Spectrum: A Spectral Filter for FC Induces a Pretraining Target for fMRI Encoders
作者: Giovanni Marraffini, Victoria Shevchenko, Carlo Alberto Barbano, Demian Wassermann
分类: cs.AI, cs.LG, q-bio.NC
发布日期: 2026-09-29
💡 一句话要点
提出谱滤波器以优化fMRI编码器的预训练目标
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 功能连接 脑基础模型 自监督学习 谱滤波器 fMRI 个体表型预测 神经科学
📋 核心要点
- 现有的功能连接矩阵预测个体表型的准确性高于任何脑基础模型，但其特征值校准存在问题。
- 论文提出了一种谱滤波器，旨在重新校准功能连接矩阵的特征值，以提高模型对个体间变异性的利用。
- 通过对多个数据集的实验，论文展示了新模型在性能上与KRR持平或超越，尤其在短扫描和小型队列中表现更佳。
📝 摘要（中文）
自监督预训练在语言和视觉领域的预测中产生了深远影响，脑基础模型（BFMs）也继承了这一潜力。尽管基于功能连接（FC）矩阵的核岭回归（KRR）在个体表型预测中表现优于任何测试的BFM，但我们发现KRR的权重受FC特征值的误校准影响。本文提出了一种高效的谱滤波器，重新校准每个受试者的FC矩阵特征值，从而更好地利用个体间的变异性。通过对5个数据集、11个分区和6个预测目标的测试，我们的模型在性能上与KRR基线持平或超越。基于此，我们在约4000小时的fMRI数据上预训练了一个小型编码器模型，结果显示该模型在短扫描和小型队列中表现优于FC，特别是在指纹识别任务中。我们发布了预训练模型权重、代码及预处理数据。
🔬 方法详解
问题定义：本文旨在解决现有功能连接矩阵在个体表型预测中的误校准问题，导致模型性能受限。现有的核岭回归方法在这一领域表现优异，但未能充分利用个体间的变异性。
核心思路：论文提出了一种高效的谱滤波器，通过重新校准每个受试者的功能连接矩阵特征值，使模型能够更好地捕捉个体间的差异，从而提升预测性能。
技术框架：整体流程包括对功能连接矩阵应用谱滤波器，校准特征值后，利用这些特征值进行模型预训练。模型通过对比录音片段的嵌入相似性与校准后的连接组之间的相似性进行优化。
关键创新：最重要的创新在于提出了谱滤波器的使用，解决了特征值误校准的问题，使得模型能够更有效地利用个体间的变异性，与传统KRR方法相比，显著提升了预测能力。
关键设计：在模型设计中，采用了小型编码器结构，训练过程中使用了对比损失函数，确保了嵌入空间的相似性对齐。模型参数设置经过精心调整，以保证在较小数据集上的优越性能。
🖼️ 关键图片
📊 实验亮点
实验结果表明，提出的编码器模型在多个数据集上与KRR基线持平或超越，尤其在短扫描和小型队列中表现优越。模型参数量显著减少，且在指纹识别任务中表现突出，显示出良好的实用性。
🎯 应用场景
该研究的潜在应用领域包括神经科学、个体化医疗和脑机接口等。通过优化fMRI数据的处理和分析，能够更准确地理解个体的脑功能动态，推动个性化治疗方案的制定，具有重要的实际价值和未来影响。
📄 摘要（原文）
Self-supervised pretraining reshaped prediction in language and vision, and brain foundation models (BFMs) inherited its promise. Representations learned from large unlabelled corpora should capture individual functional dynamics and generalise across cohorts. However, kernel ridge regression (KRR) fitted on functional connectivity (FC) matrices still predicts individual phenotypes more accurately than any BFM we tested. In this paper, we show that KRR is weighted by the eigenvalues of the FC which are miscalibrated for phenotype prediction. We apply an efficient spectral filter to recalibrate the eigenvalues of each subject's FC matrix, enabling the model to exploit more inter-individual variance. Across the 5 datasets, 11 parcellations and 6 prediction targets we tested, we match or exceed the KRR baseline. Based on this finding, we then pretrain a small encoder model on about 4,000 hours of fMRI from 162 open datasets, whereby we align the pairwise similarities between the embeddings of recording snippets with those between the recalibrated connectomes. Our model performs on par with the best of the 6 published BFMs we tested while having an order of magnitude fewer parameters. Our encoder performs better than FC on short scans and in smaller cohorts, especially in fingerprinting. We release the pretrained model weights, the code and the pretraining data, preprocessed and parcellated.