基于知識蒸餾的房顫信號提取方法

甘兆明　林家榮　楊其宇

摘要：針對基于雙時域卷積網絡的房顫信號提取網絡模型存在的參數量大、運算資源要求高和實時性差等問題，提出基于知識蒸餾的房顫信號提取方法。該方法的教師網絡和學生網絡分別采用3層、1層的基于時域卷積網絡（TCN），維度分別為256和32。實驗結果表明，采用知識蒸餾的方法可以提高學生網絡的性能，且用蒸餾后的房顫信號提取的學生網絡相比于教師網絡，其網絡模型更小、運算資源要求更低、實時性更高，為部署到資源有限的嵌入式設備提供了理論依據。

關鍵詞：知識蒸餾；房顫信號提取；時域卷積網絡；教師網絡；學生網絡

中圖分類號：R318;TN911.7文獻標志碼：A 文章編號：1674-2605（2023）03-0005-06

DOI：10.3969/j.issn.1674-2605.2023.03.005

Method for Extracting Atrial Fibrillation Signals Based on? ? ? ? ? Knowledge Distillation

GANZhaoming LIN JiarongYANG Qiyu

（Guangdong University ofTechnology， Guangzhou 510006， China）

Abstract： A knowledge distillation based method for extracting atrial fibrillation signals is proposed to address the problems of large parameter quantities， high computational resource requirements， and poor real-time performance in the dual time domain convolutional network based atrial fibrillation signal extraction network model. The teacher network and student network of this method adopt a 3-layer and 1-layer time-domain convolutional network （TCN） with dimensions of 256 and 32， respectively. The experimental results show that using knowledge distillation can improve the performance of student networks， and compared to teacher networks， student networks extracted from distilled atrial fibrillation signals have smaller network models， lower computational resource requirements， and higher real-time performance， providing a theoretical basis for deploying to embedded devices with limited resources.

Keywords： knowledge distillation; extraction of atrial fibrillation signals; time domain convolutional network; teacher network; student network

0 引言

房顫是常見的心血管疾病[1]，它會引發患者的并發癥，如腦卒中、心衰、心肌梗死或老年癡呆等。然而，目前從患者體表采集的心電圖（electrocardiogram， ECG）信號為心房和心室的混疊信號，即房顫信號與心室信號在時域和頻域上都存在混疊[2]。因此，對房顫信號的實時提取具有重要的現實意義。

房顫信號的提取方法分為多導聯方法和單導聯方法。其中，多導聯方法包括盲源分離算法[3]、時空消除算法[4]和神經網絡算法[5]等，該方法需要連接多個電極，存在較大的局限性；單導聯方法包括加權平均模板對消法[6]、擴展卡爾曼濾波法[7]等，該方法存在對心室形態變異性敏感、依賴高精度R峰檢測算法、需要人工調參等缺點。LU等[8]利用全卷積時域音頻分離網絡（fully convolutional time domain audio separa-tion network，Conv-Tasnet），提出了雙路時間卷積房顫信號提取網絡（dual temporal convolution f-wave extraction network，DT-FENet），將Conv-Tasnet的單路編解碼結構擴展為雙路。DT-FENet具有較高的房顫信號提取精度，但網絡模型參數量大[8]、運算資源要求高、實時性差，難以在資源受限的嵌入式設備中部署。

知識蒸餾作為一種深度神經網絡的壓縮方法，在行人檢測、語義分割、圖像超采樣等應用場景都取得了良好的效果。為解決DT-FENet對運算資源要求高的問題，本文提出一種基于知識蒸餾的房顫信號提取方法，利用知識蒸餾對DT-FENet模型進行壓縮。

1? 相關理論基礎

1.1 房顫心電信號模型

式中： 為心室信號， 為房顫信號， 為采樣點數。

1.2 DT-FENet方法

DT-FENet方法是通過兩組編解碼器分別進行心室信號和房顫信號的編解碼，以此進行心室信號和房顫信號的特征映射。DT-FENet的網絡結構如圖1所示。

將房顫患者的ECG信號x輸入到DT-FENet后，由房顫信號編碼器和心室信號編碼器分別輸出房顫成分編碼 和心室成分編碼 ； 和 分別送到估計器和解碼器；信息交互模塊利用房顫信號和心室信號的相關性，優化估計器輸出的自注意力編碼 和 ；在 上應用 、在 上應用 ，可分別得到帶有自注意力特征的"Z"? ?_"AA" 和Z ?_"VA" ；房顫信號解碼器和心室信號解碼器分別將高維的Z ?_"AA" 和Z ?_"VA" 解碼，得到一維的房顫信號Z ?_"AA"? 和心室信號Z ?_"VA" 。

1.3 知識蒸餾介紹

HINTON等[9]提出的知識蒸餾方法采用了“教師”和“學生”的概念，又被稱為“教師-學生結構”。知識蒸餾方法中重量級的模型是結構復雜、規模大、擬合能力強的教師模型，且通常已被預先訓練好；輕量化的學生模型模仿教師模型，吸收從教師模型中提煉出來的知識，具備更好的性能。ROMERO等[10]在Hinton等提出的知識蒸餾方法的基礎上，提出了基于中間層的知識蒸餾。在中間層的知識蒸餾中，學生模型的學習目標是使自身的特征空間盡量靠近教師模型的特征空間，其損失函數為

式中："H" 為交叉熵、均方誤差等的評價指標， 和 分別為真實標簽和模型輸出， 和 分別為教師模型和學生模型的中間層特征， 和 為對應中間層的特征映射函數，D為L1損失、L2損失等距離函數。

2基于知識蒸餾的房顫信號提取方法

2.1 框架設計

基于知識蒸餾的房顫信號提取方法以教師-學生結構為基本框架，以DT-FENet為教師網絡，以縮小尺寸的DT-FENet為學生網絡，對網絡的中間層進行知識蒸餾，其框架如圖2所示。

教師網絡輸出的編碼特征、心房掩碼、心室掩碼用于指導學生網絡，學生網絡輸出的f波和QRST波與數據集中的真實標簽進行比較。學生網絡在教師網絡標簽和真實標簽的監督下進行訓練。

2.2 知識蒸餾方法

本文采用的知識蒸餾方法包括FitNet方法和AT方法。FitNet方法的教師模型和學生模型之間使用一維卷積進行特征映射，即將維數較低的學生模型中間層特征，通過單層的一維卷積網絡映射到與教師模型中間層一致的維數，其損失函數為

式中：非線性函數r為一維卷積網絡，C為教師模型中間層的通道數，n為樣本長度。

AT方法的教師模型和學生模型都加入了注意力機制，作為教師模型和學生模型的特征轉換。距離函數選擇均方誤差（mean square error，MSE），其損失函數為

式中： 為教師模型的中間層通道數， 為學生模型的中間層通道數， 和 分別為教師模型和學生模型的注意力圖，n為樣本長度。

AT方法的注意力機制將中間層各通道的值求和并進行L2范數歸一化，使該層神經元整體的激活程度成為權重，令樣本的不同區域對應不同程度的注意力，并將該注意力信息通過知識蒸餾傳遞給學生網絡。

3實驗和結果分析

3.1 數據集

本實驗的訓練集和驗證集均源自Castilla-La Manch數據庫（CLMDB）[11]，測試集來源于PhysioNet的MIT-BIH Atrial Fibrillation數據庫（AFDB）[12]和PhysioNet/Computing in Cardiology Challenge 2017數據庫（Challenge 2017）[13]。CLMDB中的樣本被隨機劃分為訓練集（70%，168條）和驗證集（30%，72條），并被切割成時長為30 s的片段。為了抑制測試集樣本的基線漂移，采用截止頻率為0.01 Hz的一階巴特沃濾波器對AFDB和Challenge 2017中的樣本進行高通濾波。

3.2 損失函數

LU等在提出DT-FENet方法時，選擇信噪比（signal noise ratio， SNR）為訓練網絡時的損失函數，其定義為

式中： 為訓練集的批尺寸， 和 分別為從每條訓練樣本提取的房顫信號和心室信號的信噪比， 和 分別為訓練樣本的真實房顫信號和模型提取的房顫信號， 和 分別為訓練樣本的真實心室信號和模型提取的心室信號， = 0.05是心房通道和心室通道之間的折衷系數。

值得注意的是，房顫信號提取模型的訓練目標是最大化信噪比值，而神經網絡的訓練過程只能使目標值單調遞減，所以在信噪比前加負號，將模型的訓練方向設置為SNR值的最大化。這一設計是損失函數的值恒小于0且其絕對值逐漸變大。然而，知識蒸餾方法的距離函數采用了MSE，在進行知識蒸餾時的優化目標是最小化MSE，即損失函數的值恒大于0且其絕對值逐漸變小。因此，為了正常訓練損失和知識蒸餾損失有一致的趨勢，有必要對正常訓練損失進行調整。考慮到歸一化均方誤差（normalized mean squared error， NMSE）和SNR的計算公式在形式上有倒數的關系，本文將正常訓練損失由SNR改為NMSE，其定義為

綜上所述，知識蒸餾的損失函數由正常訓練損失L_"train" 和知識蒸餾損失L_"KD" 兩部分組成。采用FitNet方法時，L_"KD" 對應公式（15）；采用AT方法時，L_"KD" 對應公式（16）：

對于FitNet方法， 和 分別是編碼器輸出的心房編碼蒸餾特征和心室編碼蒸餾特征， 和 分別是TCN網絡輸出的心房編碼蒸餾特征和心室編碼蒸餾特征。AT方法類似，這里不再重復敘述。

3.3評價指標

因為測試集AFDB和Challenge2017都來源于臨床的ECG監測，僅包含心房和心室的混合信號，無法提供房顫信號作為真實值，所以在測試過程中無法直接使用模型提取的波形與真實值的擬合誤差來表示模型的提取精度。本文采用頻譜集中度（spectral concentration， SC）[14]替代SNR和NMSE來作為評價指標，房顫信號的頻譜較窄，絕大部分頻譜能量集中在3～12 Hz的區間內，若提取的房顫信號頻譜集中度較高，說明房顫信號的失真小，即算法的提取精度較高。SC的計算公式為

式中： 為樣本的采樣率， 為房顫信號的功率譜。

3.4實驗設置

教師模型和學生模型的參數設置如表1所示。

3.5實驗結果和分析

為驗證知識蒸餾對房顫信號提取的有效性，對比教師網絡、FitNet學生網絡和AT學生網絡的房顫信號提取效果，其在驗證集和測試集的提取精度分別如表2、表3所示。

由表2可以看出，SC與SNR、NMSE具有較好的一致性，從一定程度上證明了SC是一種有效的房顫信號提取精度評估指標，適用于數據集未提供實值時的房顫信號提取精度的評估。

由表3可以看出，使用FitNet方法知識蒸餾所得的學生網絡，在AFDB上的房顫信號提取精度優于AT方法網絡和教師網絡的提取精度。在Challenge2017上，使用FitNet方法和AT方法的知識蒸餾所得學生網絡的SC與正常訓練所得學生網絡的SC相當。

教師網絡、FitNet學生網絡和AT學生網絡模型的資源占用情況如表4所示。

由表4可知，學生模型的總參數量和總浮點運算數約是教師模型的三分之一。

結合表3可知，學生網絡用三分之一的資源開銷在Challenge2017測試集上取得了和教師網絡相當的效果，證明了基于知識蒸餾的房顫信號提取方法的有效性。

4 結論

針對現有的房顫信號提取網絡DT-FENet存在規模大、消耗資源多的問題，本文通過知識蒸餾的方法對DT-FENet網絡模型進行壓縮，學生網絡用三分之一的資源開銷在Challenge2017測試集上取得了和教師網絡相當的效果，解決了DT-FENet難以部署在嵌入式設備的問題。本文只利用知識蒸餾對DT-FENet進行壓縮，還可以利用剪枝和量化等方法進行下一步研究。

參考文獻

[1] 國家心血管病中心.中國心血管健康與疾病報告2020[J].心肺血管病雜志，2021，40（10）：5.

[2] LIN C H. Frequency-domain features for ECG beat discrimina-tion using grey relational analysis-based classifier[J]. Compu-ters& Mathematics with Applications， 2008，55（4）：680-690.

[3] CASTELLS F， RIETA J J， MILLET J， et al. Spatiotemporal blind source separation approach to atrial activity estimation in atrial tachyarrhythmias[J]. IEEE Transactions on Biomedical Engineering， 2005，52（2）：258-267.

[4] LEMAY M， JACQUEMET V， FORCLAZ A， et al. Spatiotem-poral QRST cancellation method using separate QRS and T-waves templates[C]//Computers in Cardiology， 2005. IEEE， 2005：611-614.

[5] V?SQUEZ C， HERN?NDEZ A， MORA F， et al. Atrial activity enhancement by Wiener filtering using an artificial neural network[J]. IEEE Transactions on Biomedical Engineering， 2001，48（8）：940-944.

[6] DAI H， JIANG S， LI Y. Atrial activity extraction from single lead ECG recordings： Evaluation of two novel methods[J]. Computers in Biology and Medicine， 2013，43（3）：176-183.

[7] ROONIZI E K， SASSI R. An extended Bayesian framework for atrial and ventricular activity separation in atrial fibrillation[J]. IEEE Journal of Biomedical and Health Informatics， 2016， 21（6）：1573-1580.

[8] LU J， LUO J， XIE Z， et al. Dual temporal convolutional network for single-lead fibrillation waveform extraction[J]. Neural Com-puting and Applications， 2021，33（22）：15281-15292.

[9] HINTON G， VINYALS O， DEAN J. Distilling the knowledge in a neural network[J]. arXiv preprint arXiv：1503.02531， 2015， 2（7）.

[10] ROMERO A， BALLAS N， KAHOU S E， et al. Fitnets： Hints for thin deep nets[J]. arXiv preprint arXiv：1412.6550， 2014.

[11] STRIDH M， SORNMO L. Spatiotemporal QRST cancellation techniques for analysis of atrial fibrillation[J]. IEEE Transac-tions on Biomedical Engineering， 2001，48（1）：105-111.

[12] ALCARAZ R， S?RNMO L， RIETA J J. Reference database and performance evaluation of methods for extraction of atrial fibrillatory waves in the ECG[J]. Physiological Measurement， 2019，40（7）：075011.

[13] CLIFFORD G D， LIU C， MOODY B， et al. AF classification from a short single lead ECG recording： The PhysioNet/ com-puting in cardiology challenge 2017[C]//2017 Computing in Cardiology （CinC）. IEEE， 2017：1-4.

[14] DAI H， JIANG S， LI Y. Atrial activity extraction from single lead ECG recordings： Evaluation of two novel methods[J]. Computers in Biology and Medicine， 2013，43（3）：176-183.

作者簡介：

甘兆明，男，1995年生，碩士研究生，主要研究方向：模式識別、機器學習、生物信號處理。E-mail： 1803158832@qq.com

林家榮，男，1997年生，碩士研究生，主要研究方向：模式識別、機器學習、生物信號處理。E-mail：1440645304@qq.com