基于改进卷积神经网络的房颤筛查算法

Abstract

Atrial fibrillation (AF) is a common arrhythmia, which can lead to thrombosis and increase the risk of a stroke or even death. In order to meet the need for a low false-negative rate (FNR) of the screening test in clinical application, a convolutional neural network with a low false-negative rate (LFNR-CNN) was proposed. Regularization coefficients were added to the cross-entropy loss function which could make the cost of positive and negative samples different, and the penalty for false negatives could be increased during network training. The inter-patient clinical database of 21 077 patients (CD-21077) collected from the large general hospital was used to verify the effectiveness of the proposed method. For the convolutional neural network (CNN) with the same structure, the improved loss function could reduce the FNR from 2.22% to 0.97% compared with the traditional cross-entropy loss function. The selected regularization coefficient could increase the sensitivity (SE) from 97.78% to 98.35%, and the accuracy (ACC) was 96.62%, which was an increase from 96.49%. The proposed algorithm can reduce the FNR without losing ACC, and reduce the possibility of missed diagnosis to avoid missing the best treatment period. Meanwhile, it provides a universal loss function for the clinical auxiliary diagnosis of other diseases.

引言

心房颤动（以下简称房颤）是 21 世纪的心血管流行病，目前我国大于 35 岁居民中房颤患病率为 0.71%，且仍处于上升状态^[1-2]。房颤发生时心房失去有效收缩，影响心脏排血功能，一方面易形成附壁血栓脱落后发生动脉栓塞，另一方面心输出量减少使血压降低易加重或诱发心绞痛、心力衰竭等^[3]。研究表明，房颤引起脑卒中的概率为一般人群的 5 倍，是迫切需要医学观察的心血管疾病^[4]。通常情况下，房颤的早期阶段表现为阵发性和无症状性，若不及时终止，可能发展为持续性甚至永久性房颤，增加复律难度^[5-6]。因此，准确诊断房颤是阻止房颤进一步发展为其他心脏疾病和脑卒中并发症的关键^[7]。

近几年得益于人工智能技术的发展，针对心电信号的房颤智能筛查，国内外已经出现大量具有指导意义的成果。Andreotti 等^[8]使用残差网络（residual networks，ResNets）进行房颤检测，网络中的剩余连接有助于解决梯度消失的问题，从而可以训练更深的网络。Xiong 等^[9]提出了一个 16 层一维卷积神经网络（1D convolutional neural network，1-D CNN），通过跳过连接来提高整个网络的信息传输速率。Fan 等^[10]提出了一种多尺度融合的深卷积神经网络（multi-scaled fusion of deep convolutional neural networks，MS-CNN），采用两条具有不同尺寸过滤器的卷积网络结构来捕获不同规模的特征。Andersen 等^[11]提出结合 CNN 和递归神经网络（convolutional- and recurrent-neural networks，CNN-RNN）的方法，采用端到端模型，以从 RR 间隔（RR intervals，RRIs）的片段中提取高级特征。Shi 等^[12]提出了由 CNN 和长短期记忆（long short-term memory，LSTM）网络组成多输入深度神经网络（multiple-input deep neural network，MIDNN），并通过主动学习（active learning，AL）和迁移学习（transfer learning，TL）相结合来选择样本和更新模型。Jin 等^[13]提出了一种多域双注意力卷积长短期记忆神经网络（twin-attentional convolutional long short-term memory neural network，TAC-LSTM）方法，结合了时域和频域特征并采用注意机制提高了模型的可解释性。Mousavi 等^[14]提出了一种分层注意网络，使用波形、心跳和窗口三个注意机制级别来对导致 AF 的心电图（electrocardiogram，ECG）模式进行多分辨率分析。目前大部分基于深度学习的房颤智能筛查的研究着重于提出可以更好地处理分类任务的强大架构，但是却采用通用的模型框架和损失函数，无差别对待阳性和阴性样本的代价成本，无法满足单纯追求低假阴性率的需求。然而，临床上往往希望算法能够尽量降低假阴性率，减少漏诊量以避免耽误最佳治疗时期。

为此，本文研究了基于 CNN 的心电信号房颤判别算法。为了降低假阴性率，对交叉熵函数进行了改进：通过在原有交叉熵损失函数中引入正则化系数，使其惩罚方向可控，通过合理设置参数，可使 CNN 在训练时加大对假阴性的惩罚。

1. 方法

采用深度学习的方法进行房颤检测，检测流程如图 1 所示，将预处理后的心电信号作为对比试验的数据，选出所改进损失函数理想的正则化系数，最后基于改进的低假阴性率卷积神经网络（convolutional neural network with low false-negative rate，LFNR-CNN）对房颤进行筛查。

图 1.

Flow chart of atrial fibrillation diagnosis algorithm based on LFNR-CNN

基于 LFNR-CNN 的房颤诊断算法流程图

1.1. 数据集和预处理

本方法所用房颤筛查数据集由上海数创医疗科技有限公司采集的三甲医院临床数据组成，其中 17 085 条数据作为训练集，3 992 条数据作为测试集，如表 1 所示。数据集为医院实地采集的门诊和住院患者短心电记录，已进行数据脱敏且得到合作单位的数据使用授权。本方法均选取Ⅱ型导联的心电记录作为数值实验数据，采样频率为 500 Hz，持续时间为 10 s。数据集中有效心脏疾病标签种类为 64 个，其中只含单个标签的记录占 17.8%，大部分心电记录包含多个疾病标签，单条记录中最高标签数量达 7 个。目前很多大型医院都设有房颤中心，在房颤中心应用的算法更关注哪些是房颤患者，因此本文是对房颤的单独筛检，只分为房颤和非房颤两类。同一样本出现多标签的情况下若其中包含房颤则判定为房颤，否则判为非房颤。心电信号是一种微弱的体表生物电信号，且极易受环境干扰^[15-16]。ST 段频带（0.7～2 Hz）与基线漂移（0.05～1.5 Hz）有部分重叠，因此选择小波变换去除基线漂移^[17]。

表 1. Distribution of experimental data.

实验数据分布

数据集	房颤数量	非房颤数量	合计
训练集	8 885	8 200	17 085
测试集	1 760	2 232	3 992
合计	10 645	10 432	21 077

1.2. 卷积神经网络

CNN 有着从输入数据中提取良好特征的巨大潜力，可以避免人工提取特征的过程中由于缺乏基础心电知识而导致的特征质量低和冗余的问题^[18]。CNN 通常由特征提取器和完全连接的多层感知器（multilayer perceptron，MLP）两部分组成，特征提取器部分包括卷积层和池化层^[19]。对于房颤检测这个二分类问题，全连接层选用简单的 sigmoid 分类器。本方法所用网络结构如图 2 所示。首先进行前向传播，计算层与层之间的特征图。一旦前向传播获得了预测输出 ，则使用损失函数来计算预测误差。然后执行反向传播，预测误差逐层在每个参数上反向传播，并且通过所计算的权重梯度来调整权重^[20]。重复执行向前和向后传播，直到达到特定数量的迭代或满足其他任何停止标准为止。

图 2.

The structure of the CNN

卷积神经网络结构

房颤筛查本质上是互相排斥的二分类问题，因此选用交叉熵损失函数来对正负样本分类计算各自的损失。传统的交叉熵损失函数^[21]定义为：

1

式中， 表示损失值大小， 为样本个数， 为样本 对应的真实值， 为当前的网络模型以样本 为输入计算所得的输出值。选用 sigmoid 激活函数配合交叉熵损失函数^[22]，则

2

式中， 为激活前的输出值，化简后有

3

式中， 为样本 对应的真实值， 为最后一个全连接层的输出矩阵， 为最后一个全连接层的权重矩阵， 为最后一个全连接层的偏置，根据链式求导法则求得 关于权重 和偏置 的偏导数：

4

5

式中， 为当前卷积层的索引， 为学习率。求得的偏导数则为网络中参数的变化率，根据式（8）和式（9）一步步地反向更新参数 和 ，更新过程为：

6

7

从式（5）可发现， 本质上是一个关于权重 和偏置 的函数，所用梯度下降的目的则是寻找一组 、 使得 最小，因此，调整 本质上是一个调整参数 、 的过程。在整个调整权重的过程中对于阳性样本 和阴性样本 的力度是相同的。网络模型预测结果 越接近真实值 ，表明模型的预测能力越强，则其对应的损失函数值 越小，否则，损失函数值 越大。

1.3. 改进的交叉熵损失函数

损失函数在神经网络中可以起到让预测值逼近真实值的作用，而传统的损失函数没有单独考虑阳性样本和阴性样本的代价成本，不能控制其惩罚的方向。因此，提出一种改进的交叉熵损失函数。改进的交叉熵损失函数定义为，

8

式中 、 为正则化系数，原交叉熵损失函数本质上有 ，为了更好地研究 、 对神经网络预测结果的影响，设置 。所涉及的房颤分类问题本质上是一个二分类问题，其真实值只有 （即阴性）和 （即阳性），则有

9

结合 sigmoid 激活函数 ，其中 ，根据链式求导法求出 关于权重 和偏置 的偏导数：

10

11

考虑到真实值只有 （即阴性）和 （即阳性），对两种情况分开研究，则有，

12

13

当样本为阳性（）时，假设 ，改进损失函数后根据式 (11) 必有 ，根据式 (14) 随之有 ， 沿着梯度的反方向更新 ，则 的更新幅度随之增大，参数更新的方向始终朝着使得损失值减小的方向。当样本为阳性时，损失值小的方向则指向 的方向，因此，本方法所改进的损失函数 ，其参数 、 的更新可以更大幅度地朝着 的方向进行。

1.4. 评价指标

采用准确率（accuracy，ACC）、灵敏度（sensitivity，SE）、特异度（specificity，SP）、假阳性率（false positive rate，FPR）、假阴性率（false negative rate，FNR）五个指标来评价算法，其计算方式如式 (16)～式 (20) 所示。SE 表示实验方法正确检测出房颤的能力，其数值越高表明实验方法对房颤的正确检出能力越强。SP 表示实验方法对非房颤的检出能力。FPR 又称误诊率，FPR 越低表明实验方法的房颤误诊率越低。FNR 又称漏诊率，表示实验方法漏诊房颤的情况。

14

15

16

17

18

式中，TP 为真阳性（ture positive），表示将给定房颤正确判别为房颤的数目；FP 为假阳性（false positive），表示将给定其他类型误判为房颤的数目，即误诊量；TN 为真阴性（ture negative），表示实际为其他类型且被正确检测为非房颤的数目；FN 为假阴性（false negative），表示实际为房颤却被漏判为非房颤的数目，即漏诊量。

2. 实验及结果分析

2.1. 实验方法

针对房颤筛查，选用简单的一维卷积神经网络，由七个卷积层、七个池化层和一个全连接层组成，每个卷积层后面都跟有一个池化层。卷积层的激活函数选用计算更加高效的 Relu 函数^[23]，全连接层则选用可区分细微特征的 sigmoid 函数，各层的参数如表 2 所示。损失值由公式 (5) 中所提到的 计算。学习率初始值设置为一个较大的值 0.01，并根据每次迭代中的损失值 进行更改。为了验证上述基于改进损失函数的房颤自动筛查方法的效果，用随机抽取的方式选择 17 085 条不同患者心电记录作为评估算法效果的训练集，改变损失函数 的正则化系数 、，在固定其他参数的前提下进行对比试验。为了避免固定迭代次数 epoch 对对比试验结果的影响，选用较大迭代次数 ，并设置早停机制，监测训练准确率的变化，当其 10 次迭代中没有变化，则提前结束训练。

表 2. Parameters of each layer of LFNR-CNN.

LFNR-CNN 各层具体参数

层	层的类型	卷积核或 神经元数量	卷积核 尺寸	步长	输出尺寸
Input Layer	输入层	－	－	－	5 000 × 1
Conv1 Layer	卷积层	5	29	1	4 972 × 5
Max-pooling	池化层	1	2	2	2 486 × 5
Conv2 Layer	卷积层	5	15	1	2 472 × 5
Max-pooling	池化层	1	2	2	1 236 × 5
Conv3 Layer	卷积层	5	13	1	1 224 × 5
Max-pooling	池化层	1	2	2	612 × 5
Conv4 Layer	卷积层	10	5	1	608 × 10
Max-pooling	池化层	1	2	2	304 × 10
Conv5 Layer	卷积层	10	5	1	300 × 10
Max-pooling	池化层	1	2	2	150 × 10
Conv6 Layer	卷积层	10	3	1	148 × 10
Max-pooling	池化层	1	2	2	74 × 10
Conv7 Layer	卷积层	10	3	1	72 × 10
Max-pooling	池化层	1	2	2	36 × 10
flatten_1	扁平化层	－	－	－	360
dense_1	全连接层	10	－	－	10
dense_2	输出层	1	－	－	1

2.2. 交叉熵损失函数改进结果

对于改进的交叉熵损失函数，通过设置不同的正则化系数，得到图 3 关于 、 与损失值的关系曲线。假设样本 真实值 （即样本为房颤），则有 。从图中可以看出，当 时，除两端点外均有 ，反之，则有 。当 时，随着 值的增大，损失值 增大，表明其对网络的惩罚随之增大，迫使参数的更新倾向于使 更接近真实值 1 的方向。假设样本 真实值 （即样本为非房颤），则有 。可以发现，当 时，除两端点外均有 。当 时，随着 值的增大，损失值 减小，表明其对网络的惩罚随之减小。

图 3.

The loss curve of loss function with different α and β values when the sample y_i is different

不同样本 y_i 时不同 α、β 取值的损失曲线

2.3. 实验结果及分析

如何在不牺牲准确率的前提下降低假阴性率以满足临床应用是本研究的出发点。提出了一种基于 LFNR-CNN 的房颤智能筛查方法，通过改进损失函数来实现假阴性率的降低，并在包含 21 077 条短心电图的患者间临床数据集中验证所改进损失函数的有效性。表 3 列出了在不同正则化系数 、 下，基于 LFNR-CNN 的房颤筛查结果。可以发现，除去 和 两端点外，模型的最高 ACC 为 96.62%。当 时，FNR 最高为 11.99%，当 时，FNR 最低达 0.97%，表明本方法降低 FNR 的效果显著，可以明显降低房颤漏诊的数量。综合考虑 ACC 和 SE，选择正则化系数 ，。用所选正则化系数优化损失函数后，FNR 由原来的 2.22% 降低至 1.65%，SE 由 97.78% 提升至 98.35%，ACC 为 96.62% 亦较原来的 96.49% 有所提升，SP 为 95.25% 较原来的 95.47% 略有下降，但仍在可接受范围内。结果表明使用所改进的损失函数可以在兼顾准确率的前提下降低假阴性率。从图 4 中可发现改进损失函数后 FN 由 39 降低为 29，下降率达 25.64%，为患者的早确诊早治疗提供了可能性。

表 3. Experimental results of atrial fibrillation diagnosis based on LFNR-CNN in clinical data.

基于 LFNR-CNN 的临床数据房颤筛查实验结果

α	ACC（%）	SE（%）	SP（%）	FPR（%）	FNR（%）		α	ACC（%）	SE（%）	SP（%）	FPR（%）	FNR（%）
0	55.91	0.00	100.00	0.00	100.00		1.1	96.42	97.78	95.34	4.66	2.22
0.1	92.48	88.01	96.01	3.99	11.99		1.2	96.22	97.61	95.12	4.88	2.39
0.2	94.44	91.99	96.37	3.63	8.01		1.3	96.47	97.95	95.30	4.70	2.05
0.3	95.34	95.28	95.39	4.61	4.72		1.4	96.62	98.35	95.25	4.75	1.65
0.4	95.04	95.00	95.07	4.93	5.00		1.5	96.39	98.41	94.80	5.20	1.59
0.5	95.07	94.94	95.16	4.84	5.06		1.6	95.82	97.67	94.35	5.65	2.33
0.6	95.94	96.19	95.74	4.26	3.81		1.7	95.92	98.52	93.86	6.14	1.48
0.7	95.57	96.31	94.98	5.02	3.69		1.8	96.42	98.98	94.40	5.60	1.02
0.8	96.09	96.59	95.70	4.30	3.41		1.9	95.82	99.03	93.28	6.72	0.97
0.9	95.89	96.65	95.30	4.70	3.35		2.0	44.09	100.00	0.00	100.00	0.00
1.0	96.49	97.78	95.47	4.53	2.22

图 4.

The trend of FP and FN in the prediction results of LFNR-CNN with the change of α and β

随着 α、β 的变化，LFNR-CNN 预测结果中 FN 和 FP 的变化趋势

在公开数据库 MIT-BIH Atrial Fibrillation Database（AFDB）中进一步验证所提方法，分别采用患者内和患者间两种数据处理形式。从表 4 中可发现，使用改进损失函数后患者内数据集中 FN 由原来的 136 下降为 65，这一现象在患者间数据集中同样存在。优化损失函数正则化系数后患者间数据集中 SE 由原来的 87.53% 提高至 95.83%，FN 由 1 825 下降至 610，下降率达 66.58%。且两种数据处理形式下实验准确率均有所提升，进一步证明了本方法可在兼顾准确率的前提下降低房颤筛查的漏诊量。

表 4. Experimental results of atrial fibrillation diagnosis based on LFNR-CNN in AFDB.

基于 LFNR-CNN 的 AFDB 公开数据库房颤筛查实验结果

数据方式	α	TP	FN	FP	TN	ACC（%）	SE（%）	SP（%）
患者内	1.0	10 940	136	92	16 311	99.17	98.77	99.44
	1.4	11 011	65	184	16 219	99.09	99.41	98.88
患者间	1.0	12 808	1 825	3 298	10 776	82.15	87.53	76.57
	1.4	14 023	610	3 233	10 841	86.61	95.83	77.03

为了研究 LFNR-CNN 中正则化系数 、 变化与其阳性预测能力的关系，在其他参数固定的情况下进行对比试验，同时也研究了使用原始交叉熵损失函数（、 时 ）的实验结果。从图 5 中可以发现，就 FNR 而言，随着 的逐步增大，其大致呈下降趋势。当 时，均有 LFNR-CNN 的 FNR 大于原始 CNN 的现象；当 时，大多数 LFNR-CNN 的 FNR 小于原始 CNN，但是少数点存在异常波动，其可能是由于随机初始化导致损失函数值落入局部极小值的现象产生。而训练神经网络时，通常并不关心精确的全局最小值，只要在求解空间内损失值小到可以接受的范围即可^[24]。FNR 的多项式拟合曲线为 ，当 时，始终存在 FNR 拟合曲线的一阶导数 ，则表明其呈递减趋势，进一步说明随着 的增大，其 FNR 大致随之减小。

图 5.

The relationship between the change of α and β and the FNR of LFNR-CNN

α、β 变化与 LFNR-CNN 假阴性率的关系

图 5 给出了随着 、 的变化，LFNR-CNN 预测结果中 FN 和 FP 的变化趋势。可以看出，随着 的增大，FN 大致呈下降趋势，同时随着 的减小，FP 也同样大致呈下降趋势。从对比实验的结果来看，LFNR-CNN 中增大 ，可以迫使参数的更新倾向于使 更接近真实值 1 的方向，可获得较低的假阴性率。反之，减小 ，可以迫使参数的更新倾向于使 更接近真实值 0 的方向，则可获得较低的误诊数量。值得注意的是，当 时，会导致部分阴性样本被误分为阳性类别，但这种假阳性样本可以通过后期医生的进一步检查得以排查，5% 的假阳性比例在临床上是可以接受的，医生可以通过有限的工作量进行核减，而假阴性样本则会错过最佳的治疗时间，延误病情。本研究的目的是让阳性样本尽可能地被预测为阳性类别，降低漏诊的可能性，让患者及时得到治疗。另外，本文所用临床静息心电数据其长度固定为 10 s，因此，上述规律均基于 10 s 长度数据进行实验和总结，后期将进一步研究数据长度对所改进损失函数效果的影响。

3. 讨论

将所提算法性能与其他方法进行对比，如表 5^{[13-14,25-29]}所示。文献[25]采用融合特征工程和线性支持向量机的方法，花费大量精力提取空窗格比率和由 RR 间隔差值变化网格图所构造的概率密度分布，而本方法则采用深度学习。可看出本方法所得 ACC、SE 和 SP 均优于文献[25]在 AFDB 中的表现。本方法所选用的 CNN 网络其分层数据处理性质可产生高度描述性和信息性的特征，这种端到端模式可以避免人工提取特征的繁琐，同时降低了研究过程中对于心电图基础医学知识的准入门槛。与同样采用深度学习的文献相比，在 AFDB 数据集中采用患者内数据方法的实验结果亦优于文献[13-14]、[26-28]，但这种患者内数据的实验对临床的实际意义有待考究^[30]。与患者间实验相比，在 MIT-BIH 心律不齐数据库（MIT-BIH arrhythmia database，MITDB）中文献[29]获得了高于本方法的 SE，然而相比于 SE（73.24% vs. 68.00%），该文献所获得的 ACC（73.21% vs. 90.29%）和 SP（73.02% vs. 92.50%）却明显低于本文方法。在 AFDB 数据集中相比于文献[14]，本文方法的 ACC（86.61% vs. 79.55%）、SE（95.82% vs. 89.20%）和 SP（77.03% vs. 74.38%）均有所提升，这进一步证明本方法可实现在不牺牲准确率的前提下提高灵敏度（降低假阴性率）的目标，可为其他疾病的智能筛查提供新的损失函数。值得注意的是，从表 6 中可看出本方法与其他作者所用数据集不同，但本方法所用临床数据的受试者数量（21 077 例）要远大于其他作者所用数据集（AFDB 中 23 例，MITDB 中 48 例），且临床环境中的心电图来自不同的患者，患者之间存在年龄、性别和并发症等个体差异。所用数据集中疾病种类（64 种）也明显大于其他作者所用数据集（AFDB 中含 4 种，MITDB 中含 27 种）。同时可保证用于训练和测试的心电图来自不同的受试者，即患者间的分类，因此本研究的实验更接近临床环境，对于临床应用具有更大的参考意义。

表 5. Comparison of the results of this method with other methods.

本文所提方法与其他方法结果对比

数据集	数据方法	作者	年份	方法	ACC（%）	SE（%）	SP（%）
注：IAP：患者内实验（intra-patient）；IEP：患者间实验（inter-patient）。FS：特征工程（feature selection）；LSVM：线性支持向量机（linear support vector machine）；DARN：域自适应残差网络（Domain Adaptive Residual Network）；CNN-MENN：结合卷积神经网络和改进的 Elman 神经网络的方法（convolutional- and modified Elman neural network）；BRNN：双向递归神经网络（bidirectional recurrent neural network）；ADANN：非对称域自适应神经网络（asymmetric domain adaptation neural network）
AFDB	IAP	Li 等[25]	2017	FS+LSVM	95.90	95.30	96.30
		Faust 等[26]	2018	RRI+LSTM	98.51	98.32	98.67
		Jin 等[13]	2020	TAC-LSTM	98.51	98.14	98.76
		Jin 等[27]	2020	DARN	98.84	98.97	98.75
		Wang[28]	2020	CNN-MENN	97.40	97.90	97.10
		Mousavi 等[14]	2020	BRNN	98.81	99.08	98.54
		本文提出的方法	2020	LFNR-CNN	99.09	99.41	98.88
AFDB	IEP	Mousavi 等[14]	2020	BRNN	79.55	89.20	74.38
		本文提出的方法	2020	LFNR-CNN	86.61	95.83	77.03
MITDB	IEP	Ammour[29]	2018	ADANN	73.21	73.24	73.02
		本文提出的方法	2020	LFNR-CNN	90.29	68.00	92.50
CD-21077	IEP	本文提出的方法	2020	LFNR-CNN	96.62	98.35	95.25

表 6. Comparison of databases.

数据库对比分析

数据集	受试者数量	持续时间	采样频率	患者数量	有效疾病标签种类
AFDB	23	10.19 h	250	23	4
MITDB	48	0.5 h	360	47	27
CD-21077	21 077	10 s	500	21 077	64

4. 结论

提出了一种改进的低假阴性率卷积神经网络，通过改进交叉熵损失函数，添加合理的正则化系数最低可得到 0.97% 的假阴性率。本方法在包含大量受试者的临床患者间数据集中得到验证，实验结果表明，本方法可在保证准确率的同时降低假阴性率，为疾病的早确诊早治疗提供可能性，同时可为其他疾病的临床辅助筛查提供具有通用性的损失函数。

利益冲突声明：本文全体作者均声明不存在利益冲突。

Funding Statement

国家自然科学基金（61801454）；浙江省自然科学基金（LQ18F010006）

The National Natural Science Foundation of China; The National Natural Science Foundation of Zhejiang Province