Abstract
为了精准捕获和有效应对跨受试者运动想像脑电信号(MI-EEG)的多维度特征差异,从高维脑源空间对域适应(DA)方法进行研究,提出一种基于时频变换和黎曼流行的域适应网络(TFRMDANet)。借助脑源成像技术重构神经电活动,计算分区等效皮层偶极子,并结合小波变换构建多子带时频特征数据;设计两级基于压缩-激励模块的多分支时-频-空特征提取器,依次提取各子带特征数据的局部特征和跨尺度全局特征,并引入通道注意力与多尺度综合特征增强机制;利用基于黎曼流形嵌入的结构特征提取器提取高阶结构特征;通过对抗训练学习域不变特征。在公共数据集BCI Competition IV dataset 2a和High-Gamma上进行实验,TFRMDANet分别取得77.82%和90.47%的分类准确率、0.704和0.826的Kappa值以及0.780和0.905的F1值。结果表明,皮层偶极子具有精确的MI时频特征表征能力,且与所提网络特有的多分支结构和强大的时-频-空-结构特征提取能力相匹配,使从脑源空间提升域适应效果成为可能。
Keywords: 运动想象, 脑源成像, 时-频-空特征, 黎曼流形, 领域自适应
Abstract
To accurately capture and address the multi-dimensional feature variations in cross-subject motor imagery electroencephalogram (MI-EEG), this paper proposes a time-frequency transform and Riemannian manifold based domain adaptation network (TFRMDANet) in a high-dimensional brain source space. Source imaging technology was employed to reconstruct neural electrical activity and compute regional cortical dipoles, and the multi-subband time-frequency feature data were constructed via wavelet transform. The two-stage multi-branch time–frequency–spatial feature extractor with squeeze-and-excitation (SE) modules was designed to extract local features and cross-scale global features from each subband, and the channel attention and multi-scale feature fusion were introduced simultaneously for feature enhancement. A Riemannian manifold embedding-based structural feature extractor was used to capture high-order discriminative features, while adversarial training promoted domain-invariant feature learning. Experiments on public BCI Competition IV dataset 2a and High-Gamma dataset showed that TFRMDANet achieved classification accuracies of 77.82% and 90.47%, with Kappa values of 0.704 and 0.826, and F1-scores of 0.780 and 0.905, respectively. The results demonstrate that cortical dipoles provide accurate time–frequency representations of MI features, and the unique multi-branch architecture along with its strong time–frequency–spatial–structural feature extraction capability enables effective domain adaptation enhancement in brain source space.
Keywords: Motor imagery, Electroencephalogram source imaging, Spatio-temporal-spectral features, Riemannian manifold, Domain adaptation
0. 引言
近年来,脑卒中发病率持续攀升,高致残率更是触目惊心,而肢体功能障碍尤为普遍,对智能运动康复技术有着巨大的需求[1-3]。运动想象(motor imagination,MI)作为脑机接口(brain-computer interface,BCI)中的经典范式,通过解码其产生的脑电(electroencephalography,EEG)信号,构建“意念-设备”的直接控制通路,可有效促进脑卒中患者的运动功能重建[4-6]。深度学习方法能够自动学习和分类MI-EEG的特征表示,但不同受试者的数据分布差异会降低模型泛化能力,采用域适应(domain adaptation,DA)技术提取域不变特征,有助于改善模型跨受试者的识别性能[7-8]。
DA技术主要通过缩小源域与目标域之间的分布差异来提升模型在目标域的性能,在MI-EEG的分类研究中已取得一定的进展和应用[9-11]。例如,Zhao[12]等提出深度表征域适应方法DRDA,利用时间卷积和空间卷积提取时-空特征,并联合优化特征提取器、分类器和领域判别器,通过对抗学习策略匹配源域和目标域之间的特征分布变化。Li等[13]提出一种原型对比域适应网络PCDA,使用时间卷积和空间卷积进行时-空特征提取,并通过条件域对抗网络和原型对比学习模块实现在源域和目标域之间的特征自监督对齐。Wang团队[14]通过动态网络和增强的自训练策略来实现域适应,稳定处理多源域、大偏移场景下的域适应任务。但传统的卷积网络在面对跨受试者差异性方面表现不佳,为了能更好地选择特征与进行跨受试者适配,一些研究在卷积层中加入注意力机制进行动态调整。例如,Zhang等[15]提出动态加权滤波器组域适应方法DWFBDA,引入对抗DA技术和注意力机制,有效降低了源域和目标域受试者之间的差异;She等[16]提出一种基于Wasserstein距离的改进域适应网络,基于通道注意力机制和二维卷积网络进行特征提取,再通过对抗学习策略来调整源域和目标域的数据分布;Zhang团队[17]提出一种基于对抗学习的双注意力域自适应网络MI-DABAN,由两个独立的注意力块分别保留源域和目标域的特定信息,再通过卷积网络与对抗学习实现域适应;Wei等[18]提出一种时空模式差异引导的脑解码对抗网络BDAN-SPD,采用通道、时间注意力和Transformer网络进行特征提取,结合域对抗技术与空间时间模式差异来增强特征辨别性。本研究基于此,在特征提取器中加入注意力机制,以更好地进行跨受试者特征学习。
此外,在传统欧几里得空间中,难以提取到脑电信号的高阶统计特征。为了突破这一局限,一些研究引入流形提取高阶特征,提高识别效果[19]。例如,Gao等[20]提出基于多流形嵌入分布式对齐的域适应算法MMDA,引入黎曼流形和格拉斯曼流形的多流形嵌入,使用切空间变换进行特征提取,通过流形分布对齐的方法实现特征对齐。本研究基于此类文献,引入黎曼流形技术,以在流形空间提取高阶特征,丰富特征提取。
但此类研究均基于头皮EEG信号进行特征提取与识别,尚未完全利用MI-EEG信号高维的时间信息与空间信息。基于先进的脑源成像(EEG source imaging,ESI)技术,可利用低维电极空间EEG数据逆向重建脑源域神经电活动,获得高维时空脑皮层偶极子(cortical dipole,CD)估计,极大地提升MI-EEG信号的时间分辨率与空间分辨率,有利于优化MI识别性能[21-23]。例如,Wang等[24]采用ESI技术和时频分析生成六个子频带的功率谱图像,并计算每个子带功率谱图像的重要性加权,输入至含通道注意力的三维卷积网络进行分类。为了实现更加个性化的特征提取,一些研究采用手动选择的方式进行实验。如,Hou等[25]利用加权最小范数估计算法将头皮EEG信号映射为CD数据,再选择感兴趣区域(region of interest,ROI),并对ROI内的偶极子进行小波变换,得到二维时频图输入给二维卷积神经网络进行识别。Fang等[26]提出使用ESI技术,结合连续小波变换和感兴趣时间(time of interest,TOI)提取最优的判别性特征,并采用多层卷积神经网络进行分类。综上,ESI技术可重塑脑源神经电活动,有利于特征表达精细化,在MI-EEG识别中具有潜在应用前景。但现有研究主要通过TOI和ROI的选择增强方法减小个体差异的自适应性对识别结果的负面影响,过程较为繁琐耗时,难以推广。
为此,本文将基于时空偶极子估计,提出一种时频变换与黎曼流形相结合的域适应网络(domain adaptation network with time-frequency transform and Riemannian manifold,TFRMDANet),结合ESI与域适应技术,在充分利用MI-EEG信号的同时自适应地减少跨受试者分布差异。首先,借助ESI技术和小波变换,在高分辨率脑皮层空间获得等效CD的多子带时频表达;然后,设计两级多分支时-频-空特征提取器相继进行局部和跨尺度全局时-频-空特征的深度提取与融合,并引入通道注意力和多尺度综合特征增强特征表达;进而,完成时-频-空特征至黎曼流形的映射与黎曼结构特征的计算;再采用域对抗技术完成特征提取器与域签别器的联合优化,提高模型对跨受试者特征差异的鲁棒性。
1. 方法
本文基于ESI技术、连续小波变换和黎曼流形嵌入等方法,设计了一种域适应网络TFRMDANet,其整体工作流程如图1所示。该网络主要由数据预处理与信号变换、基于压缩-激励(squeeze-and-excitation,SE)[27]模块的两级时-频-空特征提取器、基于黎曼流形嵌入(Riemannian manifold embedding,RME)的结构特征提取器以及类、域鉴别器组成。 TFRMDANet的工作流程分为四步:第一步,对头皮EEG数据进行基线校正等预处理与脑源估计,并通过频带划分与连续小波变换形成脑源空间的多频带分区等效CD序列的时频特征数据;第二步,利用基于SE模块的两级时-频-空特征提取器对脑源空间时频特征数据进行由局部到全局的时-频-空特征深度提取,特别是加入SE块和综合特征提取块(integrated feature extraction block,IFEB)以有效增强全尺度特征表示;第三步,利用基于RME的结构特征提取器进一步提取高阶结构特征,并增加残差连接(residual connection,RC)操作抑制梯度消失;第四步,通过特征提取器与域鉴别器对抗训练,减小源域与目标域的分布差异,提升对目标域数据的分类效果。
图 1.

Overall flowchart of TFRMDANet
TFRMDANet总体流程图
1.1. 数据预处理与信号变换
本节通过对头皮EEG数据进行多步骤的预处理与信号变换,得到多频带分区等效CD时频图数据,以进行后续训练。主要处理步骤如图2所示。
图 2.

Steps of data preprocessing and signal transformation
数据预处理与信号变换的步骤
(1)数据预处理:对每个导联数据进行基线校正,删除眼电(electrooculography,EOG)通道信号,对校正后的MI-EEG进行40 Hz低通滤波并进行4~6 s时间截取。
(2)偶极子源估计:sLORETA算法[28]是一种经典的分布式脑电源定位算法。假设头皮EEG信号为
,领导域矩阵为
,在Brainstorm软件环境下采用sLORETA算法进行脑源估计,获得偶极子时间序列
Nc和Nd分别为EEG导联数与CD数,T表示时间采样点数。
(3)分区等效偶极子:采用Desikan-Killiany(D-K)分区(
个脑区)将第
个D-K分区内的全部偶极子进行平均,得到该分区的等效CD时间序列
。
(4)频带划分:将第i个分区等效CD时间序列
分为带宽F = 8 Hz的
个子频带:1~8、9~16、17~24、25~32、33~40 Hz,记为
。
(5)连续小波变换:对子频带信号进行连续小波变换法[29],获得多尺度时频特征,计算式为:
![]() |
1 |
其中,
为小波系数,
为小波基函数,采用Morlet函数,aj、bj为尺度因子与平移量,从而获得每一位受试者的脑源空间数据,记为
,
。
1.2. 基于SE的两级时-频-空特征提取器
本节提出的两级时-频-空特征提取器采用级联式设计,包含基于SE的多分支局部特征提取模块(multi-branch local feature extraction block with SE,MBLFESE)和基于SE的多分支跨尺度特征提取模块(multi-branch cross-scale feature extraction block with SE,MBCFESE)。前者通过多分支并行结构提取各子带局部时-频-空特征,后者则专注于跨子带的全局特征提取,实现从局部到全局的多尺度特征融合。
1.2.1. 第一级时-频-空特征提取块
即MBLFESE,具有
个分支,单分支结构如图3所示。
图 3.

Single-branch local feature extraction block
单分支局部特征提取块
第j个单分支局部特征提取块采用
个大小为
的卷积核,对分区等效CD第j个子带信号的脑源空间时频特征数据
进行卷积,提取并聚合时-频-空特征。特别地,卷积层采用全覆盖频谱维度的卷积核,在高效提取局部时-频-空特征的同时,还能将空间和频谱维度压缩至单一维度,为SE操作提供合适的特征表示。
进而,采用SE模块,依据式(2)将提取的时-频-空特征送入压缩操作
,产生特征
:
![]() |
2 |
其中
为前一层得到的特征,
为平均操作。随后,根据式(3)进行激励操作
,将
映射到一组权重
:
![]() |
3 |
其中,
和
分别为第一层和第二层的权重矩阵,缩减率为
。
为ReLU激活函数,
为sigmoid激活函数,
为整体权重矩阵。最后依照式(4)将
作为
的注意力权重向量,获得优化后的特征:
![]() |
4 |
其中,
为用于缩放操作的逐分区乘法,
为用于残差连接的元素求和操作。
1.2.2. 综合特征提取块
对各分支MBLFESE的输出进行拼接,形成跨频带综合特征
,并与各分支局部特征共同输入MBCFESE。
1.2.3. 第二级时-频-空特征提取块
即MBCFESE,具有
个分支,单分支结构如图4所示。
图 4.
Single-branch cross-scale feature extraction block
单分支跨尺度特征提取块
MBCFESE与MBLFESE结构相同,不同处在于卷积层采用
个大小为
的卷积核,同时对各子带局部特征与综合特征进行跨尺度时-频-空全局特征深度提取。再经全连接层完成特征展平与特征融合,获得融合特征
。
1.3. 基于RME的结构特征提取器
本节设计了基于RME的结构特征提取器,通过将提取到的特征映射到黎曼流形上,提取具有几何特征不变性的高阶特征,进一步提取结构特征。
首先,依式(5)计算空间协方差,以将上一模块提取到的特征M映射到黎曼流形上:
![]() |
5 |
其中,
表示通过计算空间协方差得到的协方差矩阵,
为协方差矩阵转换函数,
为通道数量。进而,对协方差矩阵进行特征值分解,其计算式为:
![]() |
6 |
其中,
为包含
的特征向量的正交矩阵;
为包含
所对应特征值的对角矩阵。使用Log-Eig层[30]将流形降至平坦空间,获得对数映射后的特征
:
![]() |
7 |
其中,
为矩阵对数,
表示特征值分解后得到的特征值,
为
的特征向量,
为
的特征值。此外,本文还在结构特征提取器中使用RC技术,并将得到的特征展平为一维向量,以便输入到全连接层进行分类。
1.4. 类鉴别器与域鉴别器
通过类鉴别器(全连接层和Softmax层)与结合GRL的域鉴别器进行联合优化:
![]() |
8 |
其中,
分别为类鉴别器损失和域鉴别器损失,均采用交叉熵[31]进行计算,
为平衡系数,C为类别数,
和
为真实标签和预测标签,
和
分别为源域和目标域的标签,
和
则分别为域鉴别器对源域和目标域样本的预测概率。
2. 实验研究
为了验证TFRMDANet的有效性,基于公共数据集进行一系列实验研究,主要包括小波基函数选择、脑皮层数据的必要性、模型结构合理性等,并对实验结果进行分析与讨论。
2.1. 数据集描述与预处理
本文实验采用两个常用的公共数据集:数据集1为第四届脑机接口竞赛2a数据集(BCI Competition IV dataset 2a,简称BCIIV2a数据集)。该数据集包含9名健康受试者22个EEG通道和3个EOG通道的信号,采样频率为250 Hz。每名受试者执行左手、右手、双脚及舌头四种运动想象任务,在两个不同时段共完成576次试验。该数据集主要用于验证脑皮层空间数据的必要性、小波基函数的影响及各类消融与对比实验。数据集2为High-Gamma数据集(简称HGD数据集)。该数据集包含14名受试者128通道的EEG信号,采样频率为500 Hz,涵盖左手、右手、脚和休息四类任务。在排除信号质量不佳的第14名受试者后,采用13名受试者的数据,并将其降采样至250 Hz,用于识别任务、流行方法对比及性能评估。
对数据集进行源域与目标域的划分:将每位受试者的MI-EEG数据按实验时段划分为训练集(session 1)和测试集(session 2)。每次选取一名受试者作为目标受试者,将其测试集作为目标域,其余8名受试者的训练集构成源域。这种划分方式和实验设计保证了数据分布的独立性,又符合实际应用场景中对跨时段稳定性的评估需求。
2.2. 实验环境与实验细节
本文实验基于MatlabR2022a中的Brainstorm工具箱(版本v2023,Tadel等开发,法国/美国)和python3.9(Facebook AI Research,FAIR,美国)环境下的pytorch2.4完成,硬件设备为Intel(R) Core(TM) i5-14600KF CPU和NVIDIA GeForce RTX 4070 SUPER GPU的Windows 11服务器。具体实验细节详见附件1。同时,本文采用的性能评估指标包括F1值和Kappa值,其具体定义和计算方法详见附件2。
2.3. 脑皮层空间数据的必要性
为验证本文使用CD数据的优势,在BCIIV2a数据集上分别利用CD数据和头皮EEG数据(即去掉数据预处理部分的源估计步骤)进行实验研究。进行此实验时网络模型结构不变,只需调整输入维度参数,结果如图5所示。
图 5.
Performance comparison between EEG and CD data based on BCIIV2a
基于BCIIV2a 的EEG数据与CD数据的性能对比结果
由图5可见,利用CD数据进行网络训练,平均准确率达77.82%,而使用头皮EEG数据时则仅为58.41%,且所有目标受试者在CD数据上的分类准确率均高于EEG数据,其中S3提升近20%。这是因为源估计方法将有限电极信号转化为高分辨率皮层数据,增强了特征表达,同时有效抑制了容积传导效应,改善了数据质量,从而有效提升了分类性能,证明了采用CD数据的必要性与优越性。
2.4. 小波基函数对识别性能的影响
对分区等效CD子带信号进行连续小波变换时,采用不同的小波基函数会得到不同的时频数据,影响网络识别性能。实验表明,Morlet小波因其复振荡特性能同时提取能量与相位信息,最契合CD数据的时频特性,使得TFRMDANet模型取得了77.82%的最高识别准确率(详细分析过程参见附件3)。
2.5. 消融实验
基于BCIIV2a数据集进行消融实验,以验证TFRMDANet中各模块的有效性。
2.5.1. 基于SE的两级时-频-空特征提取器结构的合理性
对特征提取器中的改进细节进行多种组合,其余部分不进行改动,得到五种网络,即SE与IFEB均无、仅有SE、仅有IFEB和仅无MBCFESE的网络,以及TFRMDANet完整网络,结果如图6所示。
图 6.
Ablation study results of the two-level time-frequency-spatial feature extractor with SE modules on the BCIIV2a
BCIIV2a上基于SE的两级时-频-空特征提取器消融实验结果
从图6可知,完整网络取得最优平均准确率77.82%,证明基于SE的两级时-频-空特征提取器结构合理。单独移除SE模块使分类准确率略微下降至75.61%,是由于采用SE进行通道注意力加权增强了空间特征,丰富了特征维度;单独移除IFEB导致平均分类准确率下降至68.71%,主要由于IFEB提取到了全局尺度有效信息,与局部特征互补;SE与IFEB共同作用可提取更全面的时-频-空特征,二者同时移除时平均准确率下降至73.14%。移除MBCFESE时平均准确率最低,仅为65.58%,出现此结果是因为MBCFESE具有进一步提取跨尺度全局特征的能力,移除该块会导致网络无法提取到全面有效的跨尺度时-频-空信息。
2.5.2. 基于RME的结构特征提取器结构的合理性
对结构特征提取器中的模块进行组合,得到如下三种网络:RC与RME均无、仅有RME,以及RC与RME同时有的TFRMDANet网络,准确率结果如图7所示。
图 7.
Ablation results of the RME-based Riemannian space feature extractor on the BCIIV2a
BCIIV2a上基于RME的黎曼空间特征提取器消融实验结果
结果表明,TFRMDANet完整网络取得最优平均准确率77.82%;由于RC可以有效抑制梯度消失和传递流形特征的结构信息,而移除RC会导致流形结构特征在模型训练过程中无法有效传递,平均准确率降低至68.75%;同时移除RC和RME平均分类准确率为75.38%,由于同时移除RC和RME,网络无法将特征投影到黎曼空间以进一步学习高阶结构特征,且未引入残差连接辅助,导致性能下降。结果显示了RME和RC相结合的合理性。
2.6. 识别效果展示
利用TFRMDANet在BCIIV2a数据集和HGD数据集上开展域适应实验,结果如表1与图8所示。可见,所提网络在两个数据集上的平均准确率分别为77.82%和90.47%,并得到较高的Kappa值(分别为0.704和0.826)和F1值(分别为0.780和0.905)。证明该网络对于CD数据具有较好的域适应能力、可迁移性和稳定可靠性。
表 1. Recognition results of TFRMDANet based on BCIIV2a.
基于BCIIV2a的TFRMDANet识别结果
| 受试者 | S1 | S2 | S3 | S4 | S5 | S6 | S7 | S8 | S9 | 平均 |
| 准确率(%) | 83.33 | 58.33 | 93.06 | 72.57 | 75.00 | 65.28 | 84.73 | 84.03 | 84.03 | 77.82 |
| Kappa值 | 0.778 | 0.444 | 0.907 | 0.634 | 0.667 | 0.537 | 0.796 | 0.787 | 0.787 | 0.704 |
| F1值 | 0.834 | 0.583 | 0.931 | 0.728 | 0.755 | 0.659 | 0.848 | 0.842 | 0.841 | 0.780 |
图 8.
Recognition results of TFRMDANet based on HGD
基于HGD的TFRMDANet识别结果
2.7. 与流行网络的对比
本研究将TFRMDANet与现有域适应网络DRDA[12]、GAT[32]、She Qingshan等的方法[16]、PCDA[13]、BDAN-SPD[18],以及流行的分类网络EEGNet[33]、DAFS[34]在BCIIV2a数据集上进行识别性能对比。所有对比网络均基于EEG数据进行实验以确保实验条件的一致性,采用平均准确率、标准差、平均Kappa值以及准确率P值对结果进行描述,准确率P值使用配对样本Wilcoxon符号秩检验比较网络性能。将所提网络与各对比网络在各受试者上的识别准确率一一配对,检验水准α=0.05。若P值小于0.05,则拒绝零假设,认为两者性能差异具有统计学意义。结果如表2所示,其中,平均准确率与平均Kappa值数据由对比网络原文献给出,准确率P值由本文结果与对比网络原文结果计算得出。
表 2. Recognition performance comparison between TFRMDANet and existing networks based on BCIIV2a.
基于BCIIV2a数据集TFRMDANet与现有网络识别性能对比
| 网络 | 准确率(%)及显著性检验 | 平均Kappa值 | |
| 均值 ± 标准差 | P值 | ||
| 注:–表示原文中未给出,或因必要数据不全而无法计算 | |||
| EEGNet | 70.22 ± 10.72 | 0.003 | 0.663 |
| DAFS | 75.85 ± 10.47 | 0.101 | 0.678 |
| DRDA | 74.74 ± 12.96 | 0.048 | 0.663 |
| GAT | 76.58 ± 15.98 | 0.710 | 0.688 |
| She Qingshan等 | 77.60 ± 10.85 | 0.360 | 0.695 |
| PCDA | 62.42 ± 19.67 | 0.002 | — |
| BDAN-SPD | 77.49 ± 15.22 | — | 0.700 |
| TFRMDANet | 77.82 ± 9.80 | — | 0.704 |
表2显示,TFRMDANet在多项指标上表现较优,相对现有流行方法取得最高平均准确率77.82%、最优Kappa值0.704和最小标准差9.80。其中,与DRDA相比,平均准确率提升3.08%,且差异具有统计学意义,这得益于其引入频率特征维度和多尺度学习;与DAFS相比提升虽无统计学意义,但准确率提高约2%,证明网络在整体受试者上效果较好;与BDAN-SPD和GAT相比,标准差显著降低,这是由于基于RME的结构特征提取器利于稳定性的改进;与She等的方法相比提升有限,可能因其域对齐策略更优,但也侧面印证了本网络特征提取器的有效性。作为基于皮层空间偶极子的域适应模型,TFRMDANet通过高维表征和抑制体积传导效应,使分类准确率和稳定性得以改善。
接着,将TFRMDANet与现有域适应方法在HGD数据集上进行识别性能对比,其中包括域适应网络DAAN[35]、CDAN[14]、ISMDA[36]与SSTDA[37],以及流行的分类网络EEGNet[33],结果如表3所示。在HGD数据集上,本文方法同样表现出显著优势,平均识别准确率达到90.47%,且对绝大多数受试者的识别准确率均显著优于对比方法,证明所提模型的可迁移性与鲁棒性。
表 3. Recognition performance comparison between TFRMDANet and existing networks based on HGD.
基于HGD 数据集TFRMDANet与现有网络的识别性能对比
| 模型 | EEGNet | DAAN | CDAN | ISMDA | SSTDA | TFRMDANet |
| 平均准确率(%) | 63.60 | 77.62 | 78.34 | 83.38 | 80.40 | 90.47 |
为评估方法实用性,我们在BCIIV2a数据集上对比了TFRMDANet与现有域适应方法的训练成本,结果表明,虽然TFRMDANet因处理更复杂的CD数据及网络结构导致参数量较大,但其单样本推理时间相较EEGNet仅小幅增加。这证明模型在显著提升准确率与泛化能力的同时,保持了可接受的效率水平(详细分析过程参见附件4)。
2.8. 类别识别性能展示
如图9所示,TFRMDANet在BCIIV2a与HGD数据集上表现出类别间的性能差异。
图 9.

Confusion matrix of TFRMDANet based on BCIIV2a and HGD
基于BCIIV2a和HGD的TFRMDANet的混淆矩阵
在BCIIV2a数据集上,右手想象任务识别率较低,可能因为右利手受试者的右手想象激活模式较为弥散,特征区分度不足;而在HGD数据集上,脚部动作识别率更高,可能得益于其对应的皮层中线激活区域具有更强的空间独特性。这些差异不仅印证了模型能够捕获有效特征,也体现了其处理跨数据集、跨类别任务的稳健性。未来研究将结合源成像技术,定量分析不同动作的皮层激活模式,并开发针对识别准确率较低类别的自适应算法,以提升整体系统的均衡性与实用性。同时,我们在BCIIV2a数据集中对每类动作F1值与召回率进行了实验,在HGD数据集中,模型各类性能均达0.9;但在BCIIV2a数据中,右手任务表现最弱。这表明模型的优异表现依赖于数据规模与质量,同时揭示了同侧运动想象任务本身存在分类难度高的固有特性,未来需提升模型在小样本数据上的实用性(详细分析过程参见附件5)。本研究还基于t-SNE可视化展示了跨域适应结果,t-SNE可视化显示,TFRMDANet提取的四类运动想象特征在跨被试场景中具有良好的聚类性和域对齐效果,目标域特征均能自然地融入源域特征空间。这证明模型能有效学习域不变特征,实现了更稳健的跨被试知识迁移,但其结论仍需未来通过定量指标进一步验证(详细分析过程参见附件6)。
3. 结论
本研究针对MI-EEG的个体差异性,提出一种基于时空偶极子源估计的域适应网络TFRMDANet。该网络由数据预处理与信号变换、基于SE的两级时-频-空特征提取器、基于RME的结构特征提取器以及类、域鉴别器构成。基于BCIIV2a数据集与HGD数据集进行实验研究,结果表明:数据预处理与信号变换部分可利用高维时空CD构建精确的多子带时频特征数据;基于SE的两级时-频-空特征提取器独特的多分支结构,为多子带特征数据局部和跨尺度全局特征的深度提取与融合创造了条件,通道注意力SE和综合特征提取块IFE的加入使时-频-空特征表达得以有力增强;基于RME的结构特征提取器则进一步完成时-频-空特征到黎曼流形的映射与高阶结构特征的计算,有效增大特征可分性;特征提取器与域鉴别器的对抗训练与联合优化,使TFRMDANet具备学习域不变特征、自适应跨受试者数据分布差异的能力,取得相对于其他流行网络更好的识别效果和稳定性。同时,我们发现ESI技术和时频分析方法能够使特征数据变得丰富精准,但也增大了计算量,这可能限制了本文方法的在线应用和普及。因此,未来研究将致力于探索新的数据表达方法和算法框架,提高信号处理效率,以克服现有方法的局限性。
重要声明
利益冲突声明:本文全体作者均声明不存在利益冲突。
作者贡献声明:齐琪负责研究的方法设计与实现、实验执行、数据收集与处理、结果分析、论文初稿的撰写与修改;李明爱负责研究方向的指导、论文的审阅与修订,以及项目的监督与管理。
本文附件见本刊网站的电子版本(biomedeng.cn)。
Funding Statement
国家自然科学基金(62173010)
References
- 1.赵苗苗, 王莉, 陈满满, 等 老年脑卒中患者老化态度现状及影响因素分析. 护理学杂志. 2024;39(14):16–20. doi: 10.3870/j.issn.1001-4152.2024.14.016. [DOI] [Google Scholar]
- 2.李丹, 刘玲玉, 靳令经, 等 基于脑机接口的康复训练在脑卒中上肢康复中的研究进展. 中国康复. 2023;38(10):621–625. [Google Scholar]
- 3.GBD 2019 Stroke Collaborators Global, regional, and national burden of stroke and its risk factors, 1990-2019: A systematic analysis for the Global Burden of Disease Study 2019. Lancet Neurol. 2021;20(10):795–820. doi: 10.1016/S1474-4422(21)00252-0. [DOI] [PMC free article] [PubMed] [Google Scholar]
- 4.吴雪健, 褚亚奇, 赵新刚, 等 基于空-频特征图学习三维卷积神经网络的运动想象脑电解码方法. 生物医学工程学杂志. 2024;41(6):1145–1152. doi: 10.7507/1001-5515.202407038. [DOI] [PMC free article] [PubMed] [Google Scholar]
- 5.Coscia M, Wessel M J, Chaudary U, et al Neurotechnology-aided interventions for upper limb motor rehabilitation in severe chronic stroke. Brain. 2019;142(8):2182–2197. doi: 10.1093/brain/awz181. [DOI] [PMC free article] [PubMed] [Google Scholar]
- 6.Huang Q, Zhang Z, Yu T, et al An EEG-/EOG-based hybrid brain-computer interface: application on controlling an integrated wheelchair robotic arm system. Front Neurosci. 2019;13:1243. doi: 10.3389/fnins.2019.01243. [DOI] [PMC free article] [PubMed] [Google Scholar]
- 7.潘林聪, 孙新维, 王坤, 等 基于黎曼空间滤波与域适应的跨时间运动想象-脑电解码研究. 生物医学工程学杂志. 2025;42(2):272–279. doi: 10.7507/1001-5515.202411035. [DOI] [Google Scholar]
- 8.Jiang J, Shu Y, Wang J, et al. Transferability in deep learning: A survey. arXiv, 2022: 2201.05867.
- 9.Shi, Y J, Ying X H, Yang J F Deep unsupervised domain adaptation with time series sensor data: A survey. Sensors. 2022;15:5507. doi: 10.3390/s22155507. [DOI] [PMC free article] [PubMed] [Google Scholar]
- 10.刘拓, 叶阳阳, 王坤, 等 运动想像脑电信号分类算法的研究进展. 生物医学工程学杂志. 2021;38(5):995–1002. doi: 10.7507/1001-5515.202101089. [DOI] [PMC free article] [PubMed] [Google Scholar]
- 11.Dong Y R, Hu D Y, Wang S R, et al Heterogeneous domain adaptation for intracortical signal classification using domain consensus. Biomed. Signal Process Control. 2023;82:104540. doi: 10.1016/j.bspc.2022.104540. [DOI] [Google Scholar]
- 12.Zhao H, Zheng Q, Ma K, et al Deep representation-based domain adaptation for nonstationary EEG classification. IEEE Trans Neural Netw Learn Syst. 2021;32(2):535–545. doi: 10.1109/TNNLS.2020.3010780. [DOI] [PubMed] [Google Scholar]
- 13.Li D, Xu J, Zhang Y, et al Prototypical contrastive domain adaptation network for nonstationary EEG classification. IEEE Trans Instrum Meas. 2024;73:1–13. doi: 10.1109/tim.2024.3476618. [DOI] [Google Scholar]
- 14.Long M, Cao Z, Wang J, et al. Conditional adversarial domain adaptation// 32nd Conference on Neural Information Processing Systems (NeurIPS 2018). Montréal: NIPS, 2018: 1-11.
- 15.Zhang Y, Qiu S, Wei W, et al Dynamic weighted filter bank domain adaptation for motor imagery brain–computer interfaces. IEEE Trans Cogn Dev Syst. 2022;15(3):1348–1359. [Google Scholar]
- 16.She Q, Chen T, Fang F, et al Improved domain adaptation network based on Wasserstein distance for motor imagery EEG classification. IEEE Trans Neural Syst Rehabil Eng. 2023;31:1137–1148. doi: 10.1109/TNSRE.2023.3241846. [DOI] [PubMed] [Google Scholar]
- 17.Li H, Zhang D, Xie J MI-DABAN: A dual-attention-based adversarial network for motor imagery classification. Comput Biol Med. 2023;152:106420. doi: 10.1016/j.compbiomed.2022.106420. [DOI] [PubMed] [Google Scholar]
- 18.Wei F, Xu X, Li X, et al BDAN-SPD: A brain decoding adversarial network guided by spatiotemporal pattern differences for cross-subject MI-BCI. IEEE Trans Industr Inform. 2024;12:14321–14329. doi: 10.1109/tii.2024.3450010/mm1. [DOI] [Google Scholar]
- 19.Li H, An J, Juan R, et al Manifold-based multi-branch transfer learning for MI-EEG decoding. Chaos Solitons Fractals. 2025;196:116326. doi: 10.1016/j.chaos.2025.116326. [DOI] [Google Scholar]
- 20.Gao Y, Liu Y, She Q, et al Domain adaptive algorithm based on multi-manifold embedded distributed alignment for brain-computer interfaces. J Biomed Health Inform (J-BHI) 2023;27(1):296–307. doi: 10.1109/JBHI.2022.3218453. [DOI] [PubMed] [Google Scholar]
- 21.Ahn M, Hong J H, Jun S C. Source space based brain computer interface// 17th International Conference on Biomagnetism Advances in Biomagnetism–Biomag2010. Berlin, Heidelberg: Springer, 2010: 366-369.
- 22.Zaitcev A, Cook G, Liu W, et al. Feature extraction for BCIs based on electromagnetic source localization and multiclass Filter Bank Common Spatial Patterns// 2015 37th Annual International Conference of the IEEE Engineering in Medicine and Biology Society (EMBC). Lisbon: IEEE, 2015: 1773-1776.
- 23.Sohrabpour A, He Bin Exploring the extent of source imaging: Recent advances in noninvasive electromagnetic brain imaging. Curr Opin Biomed Eng. 2021;18:100277. doi: 10.1016/j.cobme.2021.100277. [DOI] [PMC free article] [PubMed] [Google Scholar]
- 24.Wang L, Li M Decoding motor imagery based on dipole feature imaging and a hybrid CNN with embedded squeeze-and-excitation block. Biocybernet Biomed Eng. 2023;43(4):751–762. doi: 10.1016/j.bbe.2023.10.004. [DOI] [Google Scholar]
- 25.Hou Y, Zhou L, Jia S, et al A novel approach of decoding EEG four-class motor imagery tasks via scout ESI and CNN. J Neural Eng. 2020;17(1):016048.1–016048.15. doi: 10.1088/1741-2552/ab4af6. [DOI] [PubMed] [Google Scholar]
- 26.Fang T, Song Z, Zhan G, et al Decoding motor imagery tasks using ESI and hybrid feature CNN. J Neural Eng. 2022;19(1):015003. doi: 10.1088/1741-2552/ac4ed0. [DOI] [PubMed] [Google Scholar]
- 27.Hu J, Shen L, Sun G, et al Squeeze-and-excitation networks. IEEE Trans Pattern Anal Mach Intell. 2020;42(8):2011–2023. doi: 10.1109/TPAMI.2019.2913372. [DOI] [PubMed] [Google Scholar]
- 28.Pascual-Marqui R D. Standardized low-resolution brain electromagnetic tomography (sLORETA): technical details. Methods Find Exp Clin Pharmacol, 2002, 24(Suppl D): 5-12.
- 29.唐向宏, 李齐良. 时频分析与小波变换. 北京: 科学出版社, 2008: 118-126.
- 30.Huang Z, Gool L V. A riemannian network for SPD matrix learning. arXiv, 2016: 1608.04233.
- 31.Mao A Q, Mohri M, Zhong Y T. H-consistency bounds for comp-sum losses// Proceedings of the 40th International Conference on Machine Learning. Honolulu: PMLR, 2023: 123-130.
- 32.Song Y H, Zheng Q Q, Wang Q, et al Global adaptive transformer for cross-subject enhanced EEG classification. IEEE Trans Neural Syst Rehabil Eng. 2023;31:2767–2777. doi: 10.1109/TNSRE.2023.3285309. [DOI] [PubMed] [Google Scholar]
- 33.Lawhern V J, Solon A J, Waytowich N R, et al EEGNet: A compact convolutional neural network for EEG-based brain-computer interfaces. J Neural Eng. 2018;15(5):056013. doi: 10.1088/1741-2552/aace8c. [DOI] [PubMed] [Google Scholar]
- 34.Phunruangsakao C, David A, Mitsuhiro H Deep adversarial domain adaptation with few-shot learning for motor-imagery brain-computer interface. IEEE Access. 2022;10:57255–57265. doi: 10.1109/ACCESS.2022.3178100. [DOI] [Google Scholar]
- 35.Yu C, Wang J, Chen Y, et al. Transfer learning with dynamic adversarial adaptation network// 2019 IEEE International Conference on Data Mining (ICDM). Beijing: IEEE, 2019: 778-786.
- 36.Wang H, Chen P, Zhang M, et al EEG-based motor imagery recognition framework via multisubject dynamic transfer and iterative self-training. IEEE Trans Neural Netw Learn Syst. 2023;35(8):10698–10712. doi: 10.1109/tnnls.2023.3243339. [DOI] [PubMed] [Google Scholar]
- 37.Chen P, Liu X, Ma C, et al Unsupervised domain adaptation with synchronized self-training for cross-domain motor imagery recognition. IEEE J Biomed Health Inform. 2025;29(5):3664–3677. doi: 10.1109/JBHI.2025.3525577. [DOI] [PubMed] [Google Scholar]













