TReND: Transformer derived features and Regularized NMF for neonatal functional network Delineation

📄 arXiv: 2503.02685v1 📥 PDF

作者: Sovesh Mohapatra, Minhui Ouyang, Shufang Tan, Jianlin Guo, Lianglong Sun, Yong He, Hao Huang

分类: q-bio.NC, cs.CV, eess.SP, q-bio.QM

发布日期: 2025-03-04

备注: 10 Pages, 5 figures

💡 一句话要点

提出TReND框架，利用Transformer和正则化NMF进行新生儿功能网络划分

🎯 匹配领域: 支柱八：物理动画 (Physics-based Animation)

关键词: 新生儿功能网络 静息态fMRI Transformer 自编码器 非负矩阵分解 脑网络 自监督学习

📋 核心要点

  1. 现有方法难以直接将成人功能网络划分应用于新生儿，缺乏标准化的新生儿功能图谱，限制了对早期大脑发育的研究。
  2. TReND框架利用Transformer自编码器提取时空特征，结合正则化非负矩阵分解进行聚类，从而实现对新生儿功能网络的划分。
  3. 实验结果表明，TReND在新生儿功能网络划分方面优于传统方法，具有更好的空间连续性和功能同质性。

📝 摘要（中文）

精确划分早期发育人脑的功能网络(FNs)是识别发育障碍生物标志物和理解功能发育的根本基础。静息态fMRI (rs-fMRI) 能够对功能变化进行体内探索，但由于网络成熟不完全，成人FN划分不能直接应用于新生儿。目前还没有标准化的新生儿功能图谱。为了解决这个根本问题，我们提出了一种新颖的、完全自动的自监督transformer-autoencoder框架TReND，该框架集成了正则化非负矩阵分解(RNMF)来揭示新生儿的FNs。TReND有效地解开了体素rs-fMRI数据中的时空特征。该框架将置信度自适应掩码集成到transformer自注意力层中，以减轻噪声影响。自监督解码器作为调节器来细化编码器的潜在嵌入，这些嵌入作为可靠的时间特征。对于空间连贯性，我们将基于大脑表面的测地距离作为空间编码，以及来自时间特征的功能连接。TReND聚类方法在稀疏性和平滑性约束下处理这些特征，产生鲁棒且生物学上合理的划分。我们针对可比较的传统特征提取和聚类技术，在三个不同的rs-fMRI数据集（模拟、dHCP和HCP-YA）上广泛验证了我们的TReND框架。结果表明，TReND框架在新生儿FNs的划分方面具有优越性，具有明显更好的空间连续性和功能同质性。总而言之，我们建立了TReND，一个用于新生儿FN划分的新颖而鲁棒的框架。TReND衍生的新生儿FNs可以作为围产期人群健康和疾病的新生儿功能图谱。

🔬 方法详解

问题定义：论文旨在解决新生儿功能网络划分的问题。现有方法，如直接应用成人功能网络图谱，由于新生儿大脑发育不完全，网络结构与成人存在差异，因此效果不佳。缺乏标准化的新生儿功能网络图谱是该领域的一个主要痛点，阻碍了对新生儿大脑功能发育的研究和相关疾病的诊断。

核心思路：论文的核心思路是利用Transformer自编码器学习rs-fMRI数据中的时空特征，并结合正则化非负矩阵分解（RNMF）进行聚类，从而实现对新生儿功能网络的精确划分。Transformer能够有效捕捉时间序列中的依赖关系，而RNMF则可以提取具有生物学意义的稀疏和光滑的特征。

技术框架：TReND框架主要包含以下几个模块：1) 使用置信度自适应掩码的Transformer自编码器，用于提取体素级别的时空特征；2) 自监督解码器，用于正则化编码器的潜在嵌入，提高时间特征的可靠性；3) 基于大脑表面的测地距离的空间编码，增强空间连贯性；4) 在稀疏性和平滑性约束下，使用RNMF对提取的特征进行聚类，得到最终的功能网络划分。

关键创新：TReND的关键创新在于：1) 将Transformer自编码器应用于新生儿rs-fMRI数据分析，能够有效捕捉时间依赖关系；2) 引入置信度自适应掩码，减轻噪声的影响；3) 结合空间编码和RNMF，保证了划分结果的空间连续性和生物学合理性。与传统方法相比，TReND能够更准确地划分新生儿功能网络。

关键设计：Transformer自编码器使用多头自注意力机制，置信度自适应掩码根据体素的信号强度动态调整掩码权重。空间编码使用基于大脑表面的测地距离，以保证空间连续性。RNMF的目标函数包含稀疏性和平滑性约束，以提取具有生物学意义的特征。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在模拟数据、dHCP和HCP-YA三个数据集上的实验结果表明，TReND框架在新生儿功能网络划分方面优于传统的特征提取和聚类方法。TReND能够产生具有更好空间连续性和功能同质性的划分结果，表明其能够更准确地反映新生儿大脑的功能组织。

🎯 应用场景

TReND框架可用于构建新生儿功能网络图谱，为研究新生儿大脑发育和相关疾病提供基础。该图谱可用于识别发育障碍的生物标志物，评估早产儿的神经发育风险，并指导早期干预措施的制定。此外，TReND框架也可推广到其他年龄段或疾病状态的功能网络分析。

📄 摘要（原文）

Precise parcellation of functional networks (FNs) of early developing human brain is the fundamental basis for identifying biomarker of developmental disorders and understanding functional development. Resting-state fMRI (rs-fMRI) enables in vivo exploration of functional changes, but adult FN parcellations cannot be directly applied to the neonates due to incomplete network maturation. No standardized neonatal functional atlas is currently available. To solve this fundamental issue, we propose TReND, a novel and fully automated self-supervised transformer-autoencoder framework that integrates regularized nonnegative matrix factorization (RNMF) to unveil the FNs in neonates. TReND effectively disentangles spatiotemporal features in voxel-wise rs-fMRI data. The framework integrates confidence-adaptive masks into transformer self-attention layers to mitigate noise influence. A self supervised decoder acts as a regulator to refine the encoder's latent embeddings, which serve as reliable temporal features. For spatial coherence, we incorporate brain surface-based geodesic distances as spatial encodings along with functional connectivity from temporal features. The TReND clustering approach processes these features under sparsity and smoothness constraints, producing robust and biologically plausible parcellations. We extensively validated our TReND framework on three different rs-fMRI datasets: simulated, dHCP and HCP-YA against comparable traditional feature extraction and clustering techniques. Our results demonstrated the superiority of the TReND framework in the delineation of neonate FNs with significantly better spatial contiguity and functional homogeneity. Collectively, we established TReND, a novel and robust framework, for neonatal FN delineation. TReND-derived neonatal FNs could serve as a neonatal functional atlas for perinatal populations in health and disease.