基于改進深度殘差收縮網絡的心電信號分類算法

龔玉曉, 高淑萍

(西安電子科技大學 數學與統計學院, 西安 710126)

0 引 言

根據世界衛生組織提供的資料顯示,心血管疾病是危害人類生命最嚴重的疾病之一, 每年因心血管疾病死亡的人數約占世界死亡人數的1/3[1]．心電圖(electrocardiogram,ECG)以其簡單、無創的特點[2]被廣泛應用于診斷各種心臟異常、預測心血管發病率和死亡率．其診斷需要臨床醫生仔細檢查和識別搏動間和搏動內的模式,這個過程既耗時又容易出錯[3]．因此,設計一種高準確率、低漏診率的心電信號分類算法顯得尤為重要．

目前,國內外研究者們已提出了多種心電信號分類算法,可分為基于波形形態、波形特征和深度學習三類．基于波形形態的分類算法是利用心電圖的P波、T波以及QRS波群等特征進行分類．例如,李勝藍等[4]使用形態學方法對QRS波群進行描述,提取了有效特征信息,并使用模糊網絡和神經網絡對心律失常進行識別,在4類心律失常識別中達到了95.87%的準確率．但該分類算法對噪聲敏感,準確率較低,不利于應用于實際．基于波形特征的分類算法是通過高階統計特征[5]、 Hermite系數[6]、 小波變換[7]等算法提取心電信號特征,再通過多層感知機或支持向量機(support vector machine,SVM)等算法進行分類．例如,Mondéjar-Guerra等[8]通過小波變換、局部二值模式和高階統計特征進行特征提取,并使用SVM進行分類,在4類心電信號分類中達到了94.5%的準確率．但此類分類算法需要較多的先驗知識,且魯棒性較差,也不利于廣泛應用于實際．基于深度學習的分類算法是通過搭建端到端的神經網絡進行分類,其具有較好的特征提取能力和泛化能力,越來越多的研究者將卷積神經網絡(convolutional neural network,CNN)、殘差網絡(residual network,ResNet)、長短期記憶網絡(long short-term memory,LSTM)等應用在心電信號分類領域中．例如,陳鵬等[9]提出了一種基于GAN和2DCNN的心電信號分類算法(GAN+2DCNN),該算法通過GAN生成高質量合成樣本,實現了二維心電圖的樣本類別平衡,實驗驗證了樣本類別平衡有助于提高分類性能．Sowmya等[10]提出了一種基于LSTM和CNN的混合神經網絡心律失常識別模型(CNN+LSTM),該模型可以自動提取信號的空間特征和時間特征,實驗驗證了其比單一CNN模型的分類性能好．Zhang[11]提出了一種基于CNN和LSTM_ATTENTION的混合神經網絡心電信號分類算法(CNN+LSTM_ATTENTION),該算法在預處理階段使用小波閾值變換和合成少數類過采樣技術(synthetic minority over-sampling technique,SMOTE)進行去噪處理與樣本類別平衡,并將注意力機制嵌入到LSTM上為重要時間特征賦予較大權重,在MIT-BIH心律失常數據庫上取得了較好的分類性能．郭煒倫等[12]提出了一種基于SE-CNN-LSTM的心電信號識別算法,該算法將壓縮激勵(squeeze-and-excitation,SE)模塊嵌入到CNN和LSTM中進行心電信號的分類,在MIT-BIH心律失常數據庫上取得了95.8%的準確率．由于CNN在深層網絡結構中需要訓練大量可學習參數,且容易出現梯度消失和網絡退化等現象,許多研究者也常使用ResNet代替CNN進行空間特征提取,其可以減輕深度網絡的訓練難度．例如,Han等[13]提出了一種多導聯殘差神經網絡心電圖識別模型(ML-ResNet),其考慮了心電信號的多導聯,提高了算法的泛化性能,在PTB數據庫中取得了95.49%的準確率．秦博等[14]提出將殘差結構和注意力機制結合進行心電圖分類(ResNet+AM),其使用注意力機制解決了ResNet對任何位置特征相同處理的問題,大大提高了樣本數量少的類別敏感性．

上述基于深度學習的分類算法雖然取得了較好的分類結果,但仍存在一些不足之處:① 當以一維心電信號作為輸入時,需要在預處理階段進行小波變換[15]或其他去噪操作,其通常需要大量先驗知識且去除噪聲后可能會改變心電信號的含義．② 當以二維圖像作為輸入時,需要將一維心電信號數據轉化為二維圖像,并建立多個復雜的生成模型進行數據類別平衡,操作繁瑣且模型復雜耗時,不利于應用于實際．對此,本文根據心電信號的特點對深度殘差收縮網絡(deep residual shrinkage network,DRSN)進行改進,使其可以在高噪聲心電信號中提取重要局部特征并達到自動去除噪聲的目的,并將改進深度殘差收縮網絡(improved DRSN,IDRSN)與SMOTE、LSTM結合,提出了一種基于改進深度殘差收縮網絡(IDRSN)的心電信號分類算法DRSL．該算法不僅可以降低樣本數量少的類別漏診率,還能降低預處理操作的復雜性,同時也避免了因網絡層加深造成的網絡退化現象．

1 相關理論知識

1.1 DRSN

為了加強深度神經網絡從含噪聲信號中提取有用特征的能力,Zhao等[16]以殘差網絡為基礎,融合注意力機制和軟閾值函數,提出了DRSN,其結構圖如圖1所示．該網絡結構是在經典殘差網絡的輸出之前嵌入一個壓縮激勵和軟閾值化子網絡．其中ResNet[17-18]可以解決網絡層加深導致的梯度消失和網絡退化問題．SE網絡[19]通過學習通道特征的相關性評估通道的重要程度,從而得到一組閾值．軟閾值函數[20]通過將部分特征置為0實現對噪聲和冗余信息的抑制．具體實現過程如下:

① ResNet變換 使用堆疊兩層卷積而成的ResNet學習殘差信息,記ResNet的輸入特征為X=[x1,x2,…,xC],X∈H×W×C,第一層卷積輸出特征為U′=[u′1,u′2,…,u′C″],第二層卷積特征輸出為U=[u1,u2,…,uC′],U∈H′×W′×C′,即SE單元的輸入特征．

u′C″=vC″*X,uC′=vC′*U′,

(1)

其中,H,W,C分別表示特征矩陣的高度、寬度和通道數;*表示卷積乘號;vC″和vC′分別為兩次卷積的二維卷積核．

② 壓縮操作Fsq使用絕對值函數與全局平均池化(GAP)將每個通道上的全局空間特征通過空間維度H′×W′壓縮生成通道描述符,該描述符的統計信息表示此通道的全局特征,從而得到一個1×1×C′的通道統計量A．A的第C′個元素計算如下:

(2)

③ 激勵操作Fex通過sigmoid映射的門控機制對通道之間的相關性進行計算,得到每個通道的閾值算子α(如式(3)所示)．為了限制模型的復雜度以及強化泛化能力,使用兩個全連接用于降維和升維．

α=Fex(A,WA)=σ(g(A,WA))=σ(WA2δ(WA1,A)),α∈C′,

(3)

其中,δ為ReLU映射;WA1,WA2分別是降維和升維層的可學習參數,WA1∈C′/r×C′,WA2∈C′×C′/r,r為降維層的縮放比,該參數用于降低計算量．

④ 閾值計算 將通道特征AC′和閾值算子αC′乘積得到該通道的閾值tC′(如式(4)所示),從而得到通道閾值T=[t1,t2,…,tC′]∈C′．該閾值是通過神經網絡訓練自主學習得到的,其不需要先驗知識人工設置,閾值的高低與通道特征的重要程度成正相關,閾值越接近0,通道特征越不重要．

tC′=αC′AC′．

(4)

(5)

其中,sgn(·)表示符號函數．

(6)

1.2 LSTM

為了解決循環神經網絡梯度消失或爆炸和長期依賴問題,Hochreiter等[21]提出了LSTM模型,其引入了門控機制和細胞狀態兩個概念．LSTM單元結構如圖2所示．LSTM單元[22]由三種不同的門和兩種不同的狀態組成:輸入門it,遺忘門ft,輸出門ot,細胞狀態ct和隱藏狀態ht．其中輸入門it決定哪些信息應該被添加到當前細胞狀態中;遺忘門ft用來丟棄前一刻細胞狀態中無用的信息;輸出門ot決定當前細胞狀態中哪些信息應該被輸出;輸入門it和遺忘門ft共同更新t時刻的細胞狀態ct;輸入門it、遺忘門ft和輸出門ot共同決定t時刻輸出的隱藏狀態ht．LSTM單元一次更新過程如下:

(7)

其中,⊙為Hadamard積,σ和tanh為非線性激活函數,

(8)

式中,Wxf,Whf,Wxi,Whi,Wxo,Who,Wxc,Whc為權重矩陣;bf,bi,bo,bc為偏差向量．

圖1 DRSN結構圖Fig. 1 The structure of DRSN

圖2 LSTM單元內部結構圖Fig. 2 The internal structure of an LSTM unit

2 本文提出的DRSL分類算法

DRSN網絡的提出是應用于機械故障檢測中,處理的是機械振動信號,其閾值是自動獲取的,不需要人工設置．大量實驗證明了其對含有噪聲的數據訓練效果好．心電信號是一種頻率范圍為0.05～100 Hz的非線性毫伏級別生理信號,在采集過程中會產生基線漂移、工頻干擾和肌電干擾等噪聲[23],研究者通常需要在預處理階段對這些噪聲進行處理．因此,本文首先使用SMOTE對小樣本類別數據進行數據擴充．其次根據心電信號自身特點以及其與機械振動信號的不同之處對DRSN網絡進行改進,使其可以在高噪聲心電信號中提取重要局部特征并達到自動去除噪聲的目的．將改進DRSN與LSTM結合,提出了一種基于IDRSN的心電信號分類算法DRSL．

IDRSN的結構如圖3所示,其中IDRSN(a)網絡用于前后通道數一致時,可用于提取深層特征;IDRSN(b)網絡用于通道數不一致時,可用于減低模型復雜度．主要改進之處如下:

① 機械信號值是連續跳躍變化的,平均池化可以統計機械信號中跳躍值的平均情況．而心電信號數據是連續且呈現近似周期性變化的,在一個心拍周期內有持續增長到波峰再下降的情況,故在壓縮操作Fsq中使用全局最大池化(GMP)代替GAP(如式(9)所示),其有利于提取通道數中的波峰特征．

AC′=Fsq(uC′)=max(uC′(i,j)),A∈C′．

(9)

② 考慮到心電信號部分波段電壓值為負數,本文使用LeakyReLU激活函數代替ReLU函數(如式(10)所示),保留心電信號的負值特征以及避免網絡的稀疏性．

(10)

③ 由于心電信號是一維數據,所有網絡層在訓練時均使用一維類型,在ResNet變換中卷積層的卷積核大小取(3,1),其可以加快訓練速度,縮短訓練時間．

圖4直觀地展現了DRSL分類算法的結構流程．DRSL網絡主要由輸入層、1個CNN層、10個IDRSN層、1個LSTM層和2個dense層組成,每層結構詳細描述如下:

輸入層 將預處理后的心電心拍數據與SMOTE合成心拍數據進行融合,作為DRSL網絡的輸入．其可以使訓練樣本達到類別平衡狀態,從而降低樣本數量少的類別漏診率．

CNN層 對輸入的心拍數據使用一維CNN層和max pooling層提取特征．為了避免第一次卷積提取的信息丟失,在max pooling層后使用tanh函數作為激活函數．

(a) IDRSN(a)結構圖(a) The structure of IDRSN(a)

(b) IDRSN(b)結構圖(b) The structure of IDRSN(b)圖3 IDRSN結構圖Fig. 3 The structure of IDRSN

IDRSN層 心電信號具有高噪聲且不同類別心拍之間存在明顯的局部性差異,在CNN層后使用IDRSN(a)網絡和IDRSN(b)網絡交替堆疊的10層IDRSN網絡來學習心電信號的局部特征．

LSTM層 心電信號具有時序性,在IDRSN層后使用LSTM用于挖掘心電信號的時間特征．

Dense層 該層可以綜合LSTM層輸出的主要特征信息并輸出最終的分類結果．

圖4 DRSL算法流程圖Fig. 4 The flow chart of the DRSL algorithm

DRSL算法步驟如下:

Step1(數據預處理) 對心電信號數據進行歸一化,心拍分割,訓練集樣本類別平衡等預處理操作．其中,采用分層采樣方法將樣本類別平衡前的心拍數據按7∶1∶2的比率劃分為訓練集、驗證集和測試集．

Step2(訓練DRSL網絡) 將類別平衡后的訓練集數據輸入到DRSL網絡中,并使用Adam優化器進行訓練．

Step3(調節網絡層數與超參數) 訓練DRSL網絡得到驗證集數據的loss值以及準確率,根據其變化趨勢以及數值大小調整網絡中的卷積核個數,卷積窗口大小,神經元數量,訓練批大小,迭代次數,學習率等超參數,并反復實驗確定超參數值和網絡層數,減少無用的學習,從而得到最佳DRSL模型．

Step4(輸出分類結果) 將測試集數據輸入到訓練好的DRSL模型中,得到分類結果．

3 實驗及其結果分析

3.1 數據來源與性能評價指標

本文實驗數據來自MIT-BIH心律失常數據集[24],該數據集包含48條時長為30 min、采樣頻率為360 Hz的心電信號記錄．每條心電信號記錄均是由兩個導聯組成,兩位專家對其進行R峰標記和注釋．由于102,104,107和217這4條心電信號記錄包含起搏器節律,因此本文使用44條記錄中的MLII導聯心電信號記錄作為本文的數據集,并按照美國醫療儀器促進協會標準(association for the advancement of medical instrumentation,AAMI)[24]將心律失常分為4種類別:正常心跳(N)、室上性異位心跳(S)、室性異位心跳(V)和融合心跳(F)．具體分類標準如表1所示．

本文使用混淆矩陣以及分類性能評價指標對心電信號分類性能進行評估,其中混淆矩陣可以清晰地展現出每個類別的詳細分類結果．具體分類性能評價指標[25]有:準確率(accuracy,Acc)、敏感性(sensitivity,Sen)、特異性(specificity,Spec)和陽性預測值(positive predictive value,PPV)．4個性能評價指標值均為越接近1分類性能越好,其中敏感性指標值對小樣本類別分類性能影響較大,具體計算如下:

(11)

(12)

(13)

(14)

式中,NTP指樣本實際屬于目標類別,分類結果也屬于目標類別的心拍數;NFN指樣本實際屬于目標類別,分類結果不屬于目標類別的心拍數;NTN指樣本實際不屬于目標類別,分類結果也不屬于目標類別的心拍數;NFP指樣本實際不屬于目標類別,分類結果屬于目標類別的心拍數．

3.2 數據預處理

Step1(歸一化) 為消除不同被測主體造成的影響, 對心拍數據進行min-max歸一化處理, 具體計算 如下:

(15)

其中,xt為心電信號數值,xmax和xmin分別是心電信號數值的最大值和最小值．

Step2(心拍分割) 根據專家標記的R峰信息對心電信號進行心拍分割,每個心拍由300個采樣點組成(R峰前110個采樣點,R峰后189個采樣點),每條心電記錄的前3個心拍和最后1個心拍舍棄．根據AAMI標準,本文提取了正常心跳(N)、室上性異位心跳(S)、室性異位心跳(V)和融合心跳(F)4種類別的100 588個心拍,如表1所示．

Step3(數據集劃分) 隨機選擇20 000個N類樣本與全部的S、 V、 F類樣本作為實驗數據集, 并按照 7∶1∶2分層采樣劃分為訓練集、驗證集和測試集,如表2所示．

Step4(訓練集樣本平衡) 使用SMOTE技術[26]將訓練集中的S、 V、 F類樣本數量擴充到14 000個使訓練集達到樣本平衡,如表2所示．

表2 類別平衡前后的數據集

3.3 參數設置

在DRSL網絡訓練過程中有許多超參數,這些超參數的設置會影響最終的分類結果．本文在已有文獻[27]的超參數設計基礎上,利用驗證集loss值與實驗法找到DRSL網絡的最優超參數,其中IDRSN模塊的壓縮激勵操作中的縮放比為r=16時,模型在復雜度和精度之間可以取得較好的平衡[19]．具體超參數設置如表3所示,其中Ffilter表示卷積核數,Dcs表示卷積窗口大小,padding表示填充方式,kernel_regularizer表示正則化方式, pooling_size表示池化層大小,strides表示步長,a表示激活函數,Cout表示輸出的通道數量,units表示神經元數量．

表3 DRSL網絡的超參數設置

本文利用Adam優化器和交叉熵損失函數求解模型的最優權重矩陣以及偏差向量,共迭代20次,每批次訓練64個樣本．初始學習率為0.002,迭代次數每增加10次,學習率變為原來的0.1倍,可減少因輪數增加導致網絡陷入局部最優的問題．使用L2正則化以避免網絡過擬合,其權重衰減系數設置為0.000 1．在GAP層中使用LeakyReLU激活函數,保留心電信號負值特征,避免神經元無法學習的問題．

3.4 結果分析

本文使用SMOTE對訓練集進行樣本類別平衡,驗證集和測試集不做處理,以體現模型真實的泛化能力,類別平衡數據如表2所示．將類別平衡數據輸入到DRSL網絡中訓練,為了使模型簡單的同時又能夠提取到深層特征,最終設置10層IDRSN提取空間特征．為了縮短網絡訓練時間,設置epoch為20,訓練過程中的loss值(Lloss)變化和準確率變化如圖5和圖6所示．可以看出,該模型結構對該數據集的訓練收斂速度快且無大幅度震蕩,在15次迭代之后loss值和準確率均趨于水平狀態,模型擬合效果較好．

圖5 Loss值與迭代次數的關系圖6 準確率與迭代次數的關系Fig. 5 Relationships between the training loss Fig. 6 Relationships between the accuracy and the number of iteration times and the number of iteration times

將測試集數據輸入到訓練好的DRSL模型中得到分類結果,其混淆矩陣如圖7所示．通過觀察可以看出,DRSL算法在該數據集上可以正確識別大多數的心電樣本類別．通過計算性能評價指標得到各類別的δAcc,δSen,δSpec,δPPV值,其中各性能評價指標的平均值作為總體評價結果．由表4可知,平均δAcc,δSen,δSpec,δPPV值分別為98.98%,95.02%,99.11%,94.34%．由于F類的真實訓練數據和測試數據最少,其敏感性和陽性預測值均不到90%,S類與N類波形差異較小,部分S類被劃分為N類,造成其敏感性僅達到95.5%．

圖7 混淆矩陣Fig. 7 Confusion matrix

表4 DRSL算法在測試集上的分類結果

為驗證DRSL模型和IDRSN模型的有效性,本文進行了一組模型結構消融實驗,實驗結果如表5所示,其中加黑部分為最優值,后同．該消融實驗是基于DRSN、IDRSN和本文所提出的DRSL三種模型展開的．IDRSN是根據心電信號特點對DRSN進行改進得到的模型,通過對比可以看出其提高了準確率、敏感性和特異性．DRSL是通過IDRSN模塊從高噪聲的心電信號中提取重要局部特征,然后使用LSTM獲得特征中的長期依賴關系,其獲得了最優的準確率,相對于單一的IDRSN模型也獲得了更好的敏感性和特異性,降低了漏診率．

表5 DRSL算法與其消融實驗的總體分類性能比較

為了驗證DRSL算法的有效性,本文將其與文獻[9,11-12]中的算法進行對比,為了使比較結果更具有說服力,所有算法均在表2數據集上進行實驗,需要樣本平衡的算法均僅對訓練集進行平衡,保持驗證集和測試集一致．總體性能比較結果如表6所示,對比文獻[9,11-12]中的算法,本文所提的DRSL算法具有最優的準確率、特異性以及陽性預測值,僅敏感性低于CNN+LSTM_ATTENTION算法,由于本文算法可降低預處理操作的復雜性,且分類性能不受IDRSN層數的加深的影響,因此本文算法更適合應用于實際．

表6 DRSL算法與其他算法的總體分類性能比較

由于S類心電信號與正常心電信號(N類)的差異較小,若算法對S類的識別較差,則對患者而言是非常危險的[25],因此正確識別S類心電信號類別也是檢驗算法有效性的重要指標．表7為上述6種算法的S類分類性能的比較結果．通過觀察得知本文所提的DRSL算法具有最好的準確率和敏感性,特異性和陽性預測值僅低于IDRSN算法．由于漏診率是醫務人員最關注的評價指標,而DRSL算法比IDRSN算法的敏感性高2.51%,因此本文算法對S類分類總體更優．

表7 DRSL算法與其他算法的S類分類性能比較

4 結 束 語

面對高噪聲、大規模、類別不平衡的一維心電信號數據集,本文提出了一種基于IDRSN的心電信號分類算法DRSL．該算法使用SMOTE解決了心電數據類不平衡問題,降低了樣本數量少的類別漏診率．根據心電信號特點改進了DRSN模型,使其可以在高噪聲信號中提取重要局部特征達到自動去除噪聲的目的,降低了預處理操作過程的復雜性,同時也避免了因網絡層加深造成的網絡退化現象．最后,結合LSTM提取了局部特征的依賴關系．在MIT-BIH數據集上進行了分類實驗,實驗表明,DRSL算法可以有效地提高分類準確率、敏感性、特異性和陽性預測值,分類總體性能優于其他5種算法．

本文在預處理階段將心電信號按心拍進行了等長分割,忽略了心拍與心拍之間的特征信息,且在實際臨床診斷時不同心拍的長度是非等長的．因此,研究使用非等長心電信號作為模型輸入的識別分類算法是筆者下一步的工作．