FOCUS: A Lightweight Mamba-2 Model for EEG-Based Cognitive Workload Classification
作者: Ioannis Kyprakis, Stefanos Gkikas, Chariklia Chatzaki, Zongyi Jiang, Randy Gomez, Raul Fernandez Rojas
分类: cs.AI
发布日期: 2026-10-23
💡 一句话要点
提出FOCUS模型以解决EEG认知负荷分类问题
🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture)
关键词: EEG信号 认知负荷 深度学习 轻量级模型 生理信号处理 自适应系统 高风险环境
📋 核心要点
- 现有方法在EEG信号处理和认知负荷分类中面临数据受限和模型复杂度高的挑战。
- FOCUS模型通过固定FFT分解和深度可分离卷积,优化了EEG信号的处理,降低了模型复杂度。
- 在初步实验中,FOCUS模型在准确率上达到了74.75%,并且在权重共享配置下表现出更好的性能提升。
📝 摘要(中文)
在高风险环境中,从生理信号估计认知负荷的需求日益增加,能够实现持续且不干扰的监测,以支持自适应系统和安全干预。本文提出FOCUS(频带优化认知负荷超轻量SSM),这是一个基于Mamba-2的紧凑模型,旨在在受限数据条件下进行EEG的二元负荷分类。FOCUS通过固定的FFT分解对多通道EEG进行编码,覆盖五个经典EEG频段。该模型结合了深度可分离卷积和权重共享的编码-瓶颈Mamba-2对,参数量仅为0.04百万,计算量为0.11 GFLOPs。在一项包含11名参与者的初步研究中,FOCUS在三种认知任务下的留一法交叉验证中,达到了74.75%的准确率,GPU模型前向延迟为0.08毫秒。
🔬 方法详解
问题定义:本文旨在解决在受限数据条件下进行EEG信号的认知负荷分类问题。现有方法通常依赖于复杂的模型和大量数据,导致在高风险环境中的应用受限。
核心思路:FOCUS模型通过固定的FFT分解对EEG信号进行编码,避免了从数据中学习频率敏感性的问题,同时结合深度可分离卷积以降低模型复杂度。
技术框架:FOCUS的整体架构包括数据预处理、固定FFT分解、深度可分离卷积层和权重共享的编码-瓶颈结构。该框架旨在提高分类效率并减少计算成本。
关键创新:FOCUS的主要创新在于其轻量级设计和固定的频带编码方式,这与传统方法依赖于复杂模型和动态频率学习的方式有本质区别。
关键设计:FOCUS模型的参数量为0.04百万,计算量为0.11 GFLOPs,采用深度可分离卷积和权重共享配置,优化了模型的性能与计算效率。
🖼️ 关键图片
📊 实验亮点
FOCUS模型在初步实验中表现出74.75%的准确率,相较于非共享配置提高了4.55个百分点,尽管该提升未达到统计显著性($p=0.083$)。模型的前向延迟仅为0.08毫秒,显示出良好的实时性能。
🎯 应用场景
FOCUS模型在高风险环境中的应用潜力巨大,例如航空、医疗和工业等领域。通过实时监测认知负荷,FOCUS能够为自适应系统提供支持,提升安全性和效率。未来,该模型有望在智能监控和人机交互等领域发挥重要作用。
📄 摘要(原文)
Cognitive workload estimation from physiological signals is increasingly relevant in high-risk environments, where continuous and unobtrusive monitoring can inform adaptive systems and safety interventions. This paper presents FOCUS (Frequency-band Optimized Cognitive-load Ultralight SSM), a compact Mamba-2-based model for EEG-based binary workload classification under constrained data conditions. Rather than learning frequency sensitivity from data, FOCUS encodes preprocessed multi-channel EEG using a fixed FFT decomposition that covers the five canonical EEG bands. The proposed model combines depthwise-separable convolution and a weight-shared encoder-bottleneck Mamba-2 pair, with 0.04 million parameters and 0.11 GFLOPs. Evaluated in a pilot study with 11 participants under leave-one-subject-out cross-validation across three cognitively distinct tasks, FOCUS achieves 74.75% accuracy on the full dataset at 0.08 ms GPU model-forward latency. In the weight-sharing ablation, the shared configuration achieves 4.55 percentage points higher accuracy on the full dataset than the non-shared variant while reducing the SSM parameter budget; however, this difference does not reach statistical significance under a two-sided Wilcoxon signed-rank test ($p=0.083$). Overall, the selected FOCUS configuration provides a favorable trade-off between classification performance and computational cost within this controlled pilot setting.