SOTER: A Generative Time-Series Foundation Model for Wearable Human Physiological Signals

📄 arXiv: 2609.16804v1 📥 PDF

作者: Fangke Chen, Sirry Chen, Wei Chen, Zhongyu Wei

分类: cs.LG, cs.AI

发布日期: 2026-09-15


💡 一句话要点

提出SOTER以解决可穿戴生理信号建模问题

🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture) 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 时间序列模型 可穿戴设备 生理信号 深度学习 专家网络 动态建模 信号处理

📋 核心要点

  1. 现有时间序列模型在处理可穿戴生理信号时,无法有效应对多通道、非均匀采样和噪声等挑战。
  2. SOTER通过结合跨通道耦合、频谱引导的专家网络和连续时间动态建模,提供了一种新的解决方案。
  3. 在多个基准数据集上,SOTER在零样本预测和插补任务中均取得了最佳性能,显示出其强大的实用性。

📝 摘要(中文)

时间序列基础模型在跨领域迁移中表现出色,但其架构假设与可穿戴生理信号的特性不匹配。本文提出SOTER,一个针对可穿戴生理时间序列的生成基础模型,统一了跨通道耦合、频谱引导的专家专业化和连续时间潜在演化。SOTER结合了空间特征感知的主干网络、基于功率谱密度的专家混合层以及神经控制微分方程解码器。通过在2260亿个时间点上进行预训练,SOTER在零样本预测、线性探测分类和连续时间插补等任务中表现优异,显示出其在可穿戴生理信号建模中的潜力。

🔬 方法详解

问题定义:本文旨在解决可穿戴生理信号建模中的多通道耦合、非均匀采样和噪声问题。现有方法常常无法有效处理这些复杂性,导致预测和插补性能不足。

核心思路:SOTER的核心思路是通过统一建模跨通道耦合、频谱特征和连续时间动态,来提升可穿戴生理信号的建模能力。这种设计使得模型能够更好地捕捉信号之间的依赖关系和动态变化。

技术框架:SOTER的整体架构包括三个主要模块:1) 空间特征感知主干网络,用于建模信号间的依赖关系;2) 基于功率谱密度的专家混合层,通过固定频谱带路由表示到相应的专家;3) 神经控制微分方程解码器,支持在任意时间戳进行预测和插补。

关键创新:SOTER的主要创新在于其频谱引导的专家网络和连续时间潜在演化机制,这与传统模型的静态假设形成鲜明对比,使得模型在处理动态信号时更具灵活性和准确性。

关键设计:在设计中,SOTER采用了非学习的规则来路由信号到专家,确保了模型的可解释性。此外,模型在预训练阶段使用了2260亿个时间点的数据,增强了其泛化能力。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在实验中,SOTER在6个数据集的零样本预测中取得了4个数据集的最佳均方根误差(RMSE)和5个数据集的最佳平均绝对误差(MAE)。此外,在分类任务中,SOTER达到了最高的平均Macro-AUROC,并在75%缺失率下实现了最低的插补误差。这些结果表明SOTER在处理可穿戴生理信号时的卓越性能。

🎯 应用场景

SOTER的研究成果在健康监测、运动分析和个性化医疗等领域具有广泛的应用潜力。通过准确建模可穿戴设备收集的生理信号,能够为用户提供实时健康反馈和预测,进而改善健康管理和疾病预防策略。未来,该模型还可以扩展到其他生理信号的分析和处理,推动个性化医疗的发展。

📄 摘要(原文)

Time-series foundation models have demonstrated strong cross-domain transfer, yet their common architectural assumptions remain poorly aligned with wearable physiological signals, which are multichannel, irregularly sampled, noisy, and governed by coupled continuous-time dynamics spanning distinct spectral scales. We present SOTER, a generative foundation model for wearable physiological time series that unifies cross-channel coupling, spectrum-guided expert specialization, and continuous-time latent evolution within a single pre-training framework. SOTER combines a spatial feature-aware backbone that models inter-signal dependencies, a power spectral density (PSD)-guided mixture-of-experts layer that routes representations to experts associated with fixed spectral bands through an inspectable, non-learned rule, and a neural controlled differential equation decoder that supports prediction and imputation at arbitrary timestamps. We pre-train SOTER on 226 billion time points from five public physiological datasets and evaluate the same pre-trained model across out-of-distribution zero-shot forecasting, frozen-encoder linear-probe classification, and continuous-time imputation on wearable benchmarks. SOTER achieves the best RMSE on 4 of 6 datasets and the best MAE on 5 of 6 in zero-shot forecasting, the highest average Macro-AUROC in classification, and the lowest imputation error on all six datasets at 75% missingness. It further remains robust to additive acquisition noise, matching or surpassing baselines evaluated on clean inputs even under the strongest corruption. These results indicate that domain-specialized foundation models for wearable physiology benefit from jointly modeling channel structure, spectral scale, and continuous-time dynamics.