基于輕量級(jí)神經(jīng)網(wǎng)絡(luò)的新冠肺炎CT新型識(shí)別技術(shù)

郭藝，杜秋晨，吳朦朦，馬鵬濤，李冠華

1.火箭軍特色醫(yī)學(xué)中心麻醉科，北京 100088；2.北京航空航天大學(xué)電子信息工程學(xué)院，北京 100191；3.火箭軍特色醫(yī)學(xué)中心影像科，北京 100088

前言

新型冠狀病毒肺炎（簡(jiǎn)稱(chēng)新冠肺炎）是指由2019新型冠狀病毒感染所導(dǎo)致的肺炎，具有傳染性強(qiáng)和隱蔽性高等特點(diǎn)。目前，新冠肺炎感染了全球2億人并導(dǎo)致500萬(wàn)人死亡，對(duì)經(jīng)濟(jì)發(fā)展和人民生活造成嚴(yán)重的影響。控制新冠肺炎最有效的方式是加強(qiáng)檢測(cè)，有效地控制傳染源。核酸檢測(cè)利用病毒中特異性RNA 序列區(qū)分新冠肺炎病毒，已成為新冠肺炎檢測(cè)的首要標(biāo)準(zhǔn)。但由于核酸檢測(cè)至少需要4 h 才能得到結(jié)果，并且陽(yáng)性準(zhǔn)確率約為50%，需連續(xù)檢測(cè)多次才能確診，并且在疫情爆發(fā)地區(qū)存在核酸檢測(cè)試劑數(shù)量不足的情況。對(duì)比之下，電子計(jì)算機(jī)斷層掃描（CT）設(shè)備普及程度高，各級(jí)醫(yī)院均可完成檢測(cè)，并且CT 檢測(cè)高效快捷、輻射量低、準(zhǔn)確性高，已成為新冠肺炎臨床檢測(cè)的標(biāo)準(zhǔn)［1］。

新冠肺炎的CT 影像具有與其他肺炎不同的特征，新冠病毒進(jìn)入人體后會(huì)在支氣管和肺泡的上皮細(xì)胞中大量繁殖，人體則產(chǎn)生淋巴細(xì)胞和單核細(xì)胞對(duì)抗病毒，導(dǎo)致肺間質(zhì)增厚、肺泡腔滲出增多，CT 影像呈現(xiàn)磨玻璃影。新冠肺炎早期的病灶多呈現(xiàn)于胸腔外圍、肺部下方，CT 圖像呈現(xiàn)小斑片狀磨玻璃影；隨著新冠肺炎的發(fā)展，病灶融合擴(kuò)大，磨玻璃影出現(xiàn)不規(guī)則狀，呈邊界模糊的扇形或楔形；重癥期病灶范圍大量增加，胸腔大部分呈現(xiàn)磨玻璃影，俗稱(chēng)“白肺”［2］。雖然新冠肺炎的CT 影像特征明顯，但由于患病初期的病灶范圍小，識(shí)別準(zhǔn)確率不高。

隨著人工智能（AI）技術(shù)迅速發(fā)展，AI技術(shù)已經(jīng)廣泛應(yīng)用于醫(yī)學(xué)影像分析［3］，在新冠肺炎CT識(shí)別方面取得了一定成果。研究表明，AI能夠有效輔助低年資的影像科醫(yī)師，提高新冠肺炎CT診斷的準(zhǔn)確性［4］。國(guó)家超級(jí)計(jì)算長(zhǎng)沙中心發(fā)揮AI和區(qū)塊鏈等新技術(shù)優(yōu)勢(shì)，利用高性能計(jì)算資源提高檢測(cè)效率和準(zhǔn)確性［5］。國(guó)家超級(jí)計(jì)算天津中心提出新冠肺炎CT影像綜合分析輔助系統(tǒng)，實(shí)現(xiàn)快速高效的新冠肺炎檢測(cè)［6］。深度神經(jīng)網(wǎng)絡(luò)是AI技術(shù)在醫(yī)學(xué)影像分析中的常用方法，深度神經(jīng)網(wǎng)絡(luò)可以從大量數(shù)據(jù)樣本中自動(dòng)學(xué)習(xí)新冠肺炎CT影像特征，但特征識(shí)別模型訓(xùn)練過(guò)程通常需要在高性能GPU上花費(fèi)大量的時(shí)間，并且訓(xùn)練出的模型參數(shù)龐大，不適合在基層醫(yī)院廣泛部署。

為了提高新冠肺炎CT 影像識(shí)別率的同時(shí)降低深度神經(jīng)網(wǎng)絡(luò)的運(yùn)算量，設(shè)計(jì)一種基于輕量級(jí)深度學(xué)習(xí)的新冠肺炎CT 新型識(shí)別技術(shù)，其創(chuàng)新點(diǎn)在于：（1）選取目前公開(kāi)的所有新冠肺炎CT 圖像數(shù)據(jù)集，經(jīng)過(guò)數(shù)據(jù)集清洗、樣本灰度圖均衡化等預(yù)處理后作為訓(xùn)練數(shù)據(jù)，通過(guò)大樣本提高深度學(xué)習(xí)的泛化能力，進(jìn)而提高新冠肺炎CT 診斷的準(zhǔn)確性；（2）提出基于DenseNet 的人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，采用GhostNet 卷積簡(jiǎn)化網(wǎng)絡(luò)參數(shù)，使深度學(xué)習(xí)模型能夠在無(wú)GPU 的醫(yī)用計(jì)算機(jī)上運(yùn)行，便于網(wǎng)絡(luò)的部署及CT 序列識(shí)別；（3）利用傳統(tǒng)圖像處理方法進(jìn)行肺部圖像分割，利用分割出的肺部位置引導(dǎo)深度學(xué)習(xí)網(wǎng)絡(luò)進(jìn)一步提高新冠肺炎CT 診斷的準(zhǔn)確性；（4）由于新冠肺炎檢測(cè)中漏檢比誤檢的風(fēng)險(xiǎn)更大，在損失函數(shù)中提出加權(quán)交叉熵函數(shù)，重點(diǎn)降低漏檢率。誤檢情況可通過(guò)增強(qiáng)CT或其他診療方法進(jìn)一步排查。

1 相關(guān)研究

新冠肺炎的CT 診斷方法引起越來(lái)越多的研究者重視，主流研究方法大多是基于神經(jīng)網(wǎng)絡(luò)的，從利用現(xiàn)有深度學(xué)習(xí)模型在新冠肺炎CT 圖像上訓(xùn)練發(fā)展到利用新冠肺炎CT 圖像的特點(diǎn)設(shè)計(jì)高精度的深度學(xué)習(xí)模型。

早期研究中，研究者利用現(xiàn)有的神經(jīng)網(wǎng)絡(luò)模型在新冠肺炎CT 數(shù)據(jù)集上進(jìn)行微調(diào)，取得了一定的成果。文獻(xiàn)［7］是最早將神經(jīng)網(wǎng)絡(luò)用于新冠肺炎CT 診斷的研究，作者利用AlexNet 識(shí)別新冠肺炎CT 圖像，提取COVID-CT 數(shù)據(jù)集中每位患者的一幅圖像作為訓(xùn)練集，達(dá)到80%的準(zhǔn)確率，盡管準(zhǔn)確率不高，但是證明了神經(jīng)網(wǎng)絡(luò)在新冠肺炎CT 圖像識(shí)別中的可行性。文獻(xiàn)［8］基于VGG模型進(jìn)行新冠肺炎遠(yuǎn)程診斷，結(jié)合CT影像和X光圖像使準(zhǔn)確率達(dá)到了90%。文獻(xiàn)［9］選擇GoogleNet和ResNet神經(jīng)網(wǎng)絡(luò)模型在COVID-19數(shù)據(jù)集上進(jìn)行試驗(yàn)，準(zhǔn)確率分別為90%和91%。文獻(xiàn)［10］采用ResNet152 和VGG16 網(wǎng)絡(luò)模型，在所收集的2 373幅新冠肺炎CT圖像中進(jìn)行試驗(yàn)，準(zhǔn)確率超過(guò)92%。上述方法采用通用的神經(jīng)網(wǎng)絡(luò)模型，沒(méi)有結(jié)合新冠肺炎CT圖像的特點(diǎn)，識(shí)別準(zhǔn)確率有待提高。

針對(duì)新冠肺炎CT 圖像識(shí)別準(zhǔn)確率不高的問(wèn)題，研究人員不斷對(duì)神經(jīng)網(wǎng)絡(luò)模型進(jìn)行改進(jìn)，探索適合新冠肺炎CT 圖像識(shí)別的模型。文獻(xiàn)［11］從新冠肺炎病理區(qū)域提取圖像塊作為訓(xùn)練集，利用禁忌遺傳算法獲取卷積神經(jīng)網(wǎng)絡(luò)模型中最優(yōu)的超參數(shù)組合，準(zhǔn)確率達(dá)到93%，不過(guò)該方法僅能利用圖像塊的局部信息，不能利用肺部圖像的整體信息。文獻(xiàn)［12］基于公開(kāi)的COVID-19 CT 分割數(shù)據(jù)集進(jìn)行訓(xùn)練，在UNet++網(wǎng)絡(luò)的基礎(chǔ)上引入注意力模塊和殘差模塊用于有效提取紋理和語(yǔ)義信息，不僅能夠判斷是否具有新冠肺炎，而且具有全自動(dòng)分割新冠肺炎病灶區(qū)域的能力。文獻(xiàn)［13］采用VGGNet 和ResNet 兩個(gè)卷積神經(jīng)網(wǎng)絡(luò)作為基礎(chǔ)的深度學(xué)習(xí)模型，引入可視化類(lèi)激活圖，提高新冠肺炎CT 識(shí)別的深度學(xué)習(xí)模型的可解釋性。

2 數(shù)據(jù)集構(gòu)建及數(shù)據(jù)預(yù)處理

2.1 數(shù)據(jù)集構(gòu)建

為了提高新冠肺炎圖像CT 識(shí)別的準(zhǔn)確性，構(gòu)建的深度學(xué)習(xí)數(shù)據(jù)集應(yīng)包含盡可能豐富的新冠肺炎CT圖像。在構(gòu)建數(shù)據(jù)集的過(guò)程中，本研究整合了目前公開(kāi)的新冠肺炎CT 影像數(shù)據(jù)集，構(gòu)建出包含大量樣本的數(shù)據(jù)集，該數(shù)據(jù)集優(yōu)勢(shì)在于：第一，使用公開(kāi)數(shù)據(jù)集方便與其他研究者進(jìn)行分析和對(duì)比，消除由于數(shù)據(jù)集中樣本分布不同對(duì)結(jié)果造成的影響；第二，將多個(gè)數(shù)據(jù)集中的影像圖像整合在一起，組合成大樣本數(shù)據(jù)集，大樣本量不僅能夠提供足夠多的新冠肺炎共性特征用于訓(xùn)練，而且能夠提供不同患者的個(gè)性特征，增強(qiáng)深度學(xué)習(xí)網(wǎng)絡(luò)泛化能力，從而提高新冠肺炎識(shí)別的準(zhǔn)確性。

本研究構(gòu)建的數(shù)據(jù)集整合了4種公開(kāi)的數(shù)據(jù)集，分別為COVID-CT識(shí)別數(shù)據(jù)集［14］、COVID-19 CT分割數(shù)據(jù)集［15］、COVID-CTset數(shù)據(jù)集［16］和SIRM COVID-19數(shù)據(jù)集［17］，4種數(shù)據(jù)集包含的新冠肺炎影像數(shù)量如表1所示。COVID-CT識(shí)別數(shù)據(jù)集是從medRxiv和bioRxiv預(yù)印本論文中提取的影像，多數(shù)為彩色PNG圖像，根據(jù)論文中描述的患者情況，獲取了216例肺炎患者的349張新冠CT影像。由于不同論文中影像的亮度、胸腔位置不同，數(shù)據(jù)集中的影像差異較大，COVID-CT識(shí)別數(shù)據(jù)集需要進(jìn)行預(yù)處理；COVID-19 CT分割數(shù)據(jù)集包含40例患者的100幅CT影像，均為JPG格式，每幅圖像有對(duì)應(yīng)的由放射專(zhuān)家分割出的新冠肺炎區(qū)域，由于COVID-19 CT分割數(shù)據(jù)集是用于影像分割而非識(shí)別的，所以沒(méi)有未感染新冠肺炎的影像；COVID-CTset是目前樣本數(shù)量最多的新冠肺炎CT影像數(shù)據(jù)集，包含95例患者的15 589幅新冠肺炎CT影像以及48 260幅正常肺部影像，影像采用16位的TIFF格式影像序列表示，比8位圖像包含更多的灰度級(jí)信息，但一些影像沒(méi)有顯示出肺窗，影像大小統(tǒng)一為512像素的正方形，TIFF格式影像不能直接顯示，需要轉(zhuǎn)化為灰度圖像才能正常顯示；SIRM COVID-19數(shù)據(jù)集包含60例患者的379幅圖像，不僅有胸腔橫向CT影像，而且有縱向CT影像。

表1 整合的4種公開(kāi)數(shù)據(jù)集對(duì)比Table 1 Comparison of 4 public datasets

2.2 CT影像預(yù)處理

預(yù)處理是CT 影像識(shí)別的前提條件，不同數(shù)據(jù)集中的影像亮度和尺寸不同，并且CT 影像序列中有部分圖像沒(méi)有包含肺窗，難以實(shí)現(xiàn)新冠肺炎識(shí)別。需要進(jìn)行預(yù)處理的CT影像如圖1所示。圖1a中肺部影像區(qū)域較小，包含的肺部特征較少，難以進(jìn)行新冠肺炎識(shí)別；圖1b 中肺部影像亮度較低，影像特征不明顯；圖1c 中肺部影像亮度過(guò)高，會(huì)引入肺部血管影響的干擾。因此，CT 影像預(yù)處理包括影像亮度均衡化和數(shù)據(jù)集清洗兩個(gè)步驟。亮度規(guī)范化是將不同數(shù)據(jù)集中亮度范圍不同的圖像規(guī)范化到同一范圍，數(shù)據(jù)集清洗是去掉數(shù)據(jù)集中不能用于識(shí)別的無(wú)肺窗影像。

（1）圖像亮度規(guī)范化：圖像亮度規(guī)范化是將數(shù)據(jù)集中所有圖像亮度規(guī)范化到同一范圍，目的是消除不同數(shù)據(jù)集中影像數(shù)據(jù)范圍的差異。例如COVIDCTset數(shù)據(jù)集中影像最大灰度值為5 000，其他數(shù)據(jù)集中影像最大灰度值為255，二者差距將近20 倍，特征差距太大會(huì)導(dǎo)致神經(jīng)網(wǎng)絡(luò)不容易收斂；此外，同一數(shù)據(jù)集中也會(huì)出現(xiàn)亮度差異很大的圖像，例如圖1b 和圖1c 均源自COVID-CT 識(shí)別數(shù)據(jù)集。考慮到CT 影像的特點(diǎn)主要分為胸壁和胸腔兩部分，分別以淺色和深色作為主要色調(diào)，將胸壁和胸腔分別規(guī)范化到兩個(gè)固定灰度級(jí)，圖像其他區(qū)域灰度級(jí)通過(guò)線(xiàn)性變換得出。圖1經(jīng)過(guò)亮度規(guī)范化后的結(jié)果圖像如圖2所示，可以看出所有數(shù)據(jù)集圖像亮度處于同一范圍。

（2）數(shù)據(jù)集清洗：數(shù)據(jù)集清洗的目的是剔除掉沒(méi)有肺窗區(qū)域的圖像，該類(lèi)圖像產(chǎn)生于CT 掃描的開(kāi)始階段和結(jié)束階段，對(duì)肺部CT 新冠肺炎識(shí)別沒(méi)有意義，去掉沒(méi)有肺窗的圖像可以防止對(duì)后續(xù)數(shù)據(jù)預(yù)處理過(guò)程造成影響。數(shù)據(jù)集清洗的方法是肺部圖像分割，采用傳統(tǒng)圖像處理方法分割出肺窗區(qū)域，計(jì)算肺窗區(qū)域占整幅圖像的比例。根據(jù)對(duì)數(shù)據(jù)集中圖像的分析，肺窗區(qū)域占整幅圖像的比例低于20%則認(rèn)為肺窗區(qū)域過(guò)小，不能包含足夠的特征用于檢測(cè)識(shí)別，應(yīng)該從數(shù)據(jù)集中去掉。

數(shù)據(jù)集清洗的具體步驟包括閾值分割、圖像形態(tài)學(xué)和圖像連通域操作。第一，閾值分割是對(duì)圖像進(jìn)行二值化處理，通過(guò)觀察可見(jiàn)，肺窗區(qū)域是胸腔CT影像中最大的兩個(gè)空洞，空洞的亮度值明顯低于周?chē)母骨槐冢梢酝ㄟ^(guò)二值化進(jìn)行區(qū)分，二值化的閾值使用經(jīng)典算法大津法（OSTU）實(shí)現(xiàn)。二值化的結(jié)果是將圖像大致分成3 個(gè)區(qū)域：外部區(qū)域、胸腔區(qū)域和胸壁區(qū)域；第二，經(jīng)過(guò)閾值分割的影像胸腔區(qū)域留有一些毛細(xì)血管的圖像，通過(guò)圖像形態(tài)學(xué)中的開(kāi)運(yùn)算去除，開(kāi)運(yùn)算是先對(duì)圖像進(jìn)行腐蝕，去除圖像細(xì)節(jié)部分，但胸壁區(qū)域會(huì)變薄；之后對(duì)圖像進(jìn)行膨脹，恢復(fù)影像中胸壁區(qū)域厚度，CT 影像經(jīng)過(guò)開(kāi)運(yùn)算后得到光滑的分割圖像；第三，通過(guò)計(jì)算連通域的面積確定胸腔區(qū)域占整幅圖像的比例，如果比例小于10%則認(rèn)為影像中沒(méi)有肺窗，無(wú)法進(jìn)行新冠肺炎識(shí)別，需從數(shù)據(jù)集中去掉。以圖2c 為例，進(jìn)行數(shù)據(jù)集清洗的過(guò)程圖像如圖3所示。

CT影像經(jīng)過(guò)上述步驟不僅完成數(shù)據(jù)集清洗，同時(shí)實(shí)現(xiàn)肺窗區(qū)域的分割，雖然這種分割方法不一定精確，但是大致位置是正確的，可以用來(lái)作為輔助信息提高CT影像識(shí)別的準(zhǔn)確性。新冠肺炎病灶集中在肺窗區(qū)域，新冠肺炎早期病灶集中在胸腔和胸壁交界處，正如圖3c中黑色和白色分界線(xiàn)區(qū)域，所以利用CT影像分割結(jié)果能夠?yàn)镃T影像識(shí)別提供有用信息。

3 新冠肺炎CT識(shí)別模型

由于新冠肺炎CT 影像特征不明顯，較淺的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)難以充分提取特征，識(shí)別準(zhǔn)確度較低；較深的神經(jīng)網(wǎng)絡(luò)中用于訓(xùn)練的參數(shù)過(guò)多，在樣本不足時(shí)容易過(guò)擬合，導(dǎo)致識(shí)別準(zhǔn)確性降低。綜合考慮現(xiàn)有網(wǎng)絡(luò)模型，考慮選用DenseNet作為CT 影像識(shí)別的主干網(wǎng)絡(luò)模型。由于DenseNet主要是通過(guò)拼接每個(gè)特征擴(kuò)大特征容量，網(wǎng)絡(luò)模型中參數(shù)量不會(huì)過(guò)大，有利于訓(xùn)練過(guò)程穩(wěn)定收斂，提高識(shí)別準(zhǔn)確性。新冠肺炎CT 識(shí)別模型如圖4所示，圖4a 表示組成DenseNet 的DenseBlock結(jié)構(gòu)，圖4b表示完整的DenseNet網(wǎng)絡(luò)。

3.1 模型輸入部分

新冠肺炎CT 識(shí)別模型的輸入部分包括亮度規(guī)范化后的CT 影像（Ctimg）以及在數(shù)據(jù)集清洗過(guò)程中得到的胸腔區(qū)域分割結(jié)果圖（Seg），Ctimg 為單通道灰度圖像，Seg 為二值圖像，二者融合方式為按通道拼接。首先將Ctimg 通過(guò)卷積核為3×3 的卷積層得到16 通道的特征圖I，之后將I 與Seg 按通道拼接，得到17通道的特征圖作為DenseNet識(shí)別部分的輸入。

3.2 DenseBlock結(jié)構(gòu)

DenseNet 是近年來(lái)提出的高精度網(wǎng)絡(luò)結(jié)構(gòu)，由于其高效利用了特征圖，一定程度上減少了訓(xùn)練參數(shù)的數(shù)量，并且減輕了反向傳播中的梯度消失，因此DenseNet 在圖像生成和識(shí)別任務(wù)中均取得了較好的效果。DenseNet 由多個(gè) DenseBlock 構(gòu)成，DenseBlock 建立起所有層之間的密集連接，后一層的輸入是前面所有輸出特征層的按通道級(jí)聯(lián)，實(shí)現(xiàn)特征層的重用。DenseBlock 的結(jié)構(gòu)如圖4a 所示，圖中的DenseLayer 包含兩個(gè)卷積層：第一個(gè)卷積層的卷積核大小為1、步長(zhǎng)為1、邊界填充為0、輸出特征通道數(shù)為128；第二個(gè)卷積層的卷積核大小為3、步長(zhǎng)為1、邊界填充為1、輸出特征通道數(shù)為32，每個(gè)卷積層之前都有BatchNorm 層和ReLU 層。DenseLayer 的輸入特征圖和輸出特征圖尺寸相同，輸出特征圖通道數(shù)固定為32，用于提取局部特征。

DenseLayer 是構(gòu)成DenseBlock 的主要元素，圖4a 中的DenseBlock 由3 個(gè)DenseLayer 級(jí)聯(lián)組成，分別稱(chēng)為DenseLayer1、DenseLayer2 和DenseLayer3。DenseLayer1 的輸入特征i0 為輸入部分得到的17 通道特征，經(jīng)過(guò)該層處理后得到淺層特征d1；DenseLayer2 的輸入特征i1 為DenseLayer1 的輸出特征d1 和DenseLayer1 前一層的d0 按通道拼接而成，通過(guò)DenseLayer2 的卷積運(yùn)算得到中層特征d2；同理，DenseLayer3 的輸入特征i2 為前面所有層的特征圖d0、d1 和d2 按通道拼接而成，通過(guò)DenseLayer3 后得到深層特征d3；整個(gè)DenseLayer 的輸出特征O 為d0、d1、d2和d3按通道拼接。

從圖4a 可以看出，由3 個(gè)DenseLayer 組成的DenseBlock，實(shí)際應(yīng)用中可由n個(gè)DenseLayer 組成DenseBlock，第i個(gè)DenseLayer 的輸入為之前所有DenseLayer 的輸出以及第一個(gè)DenseLayer 的輸入按通道拼接而成，DenseBlock 的輸出特征通道數(shù)為：輸入特征通道數(shù)+DenseLayer 數(shù)量×32。通過(guò)DenseBlock，深度神經(jīng)網(wǎng)絡(luò)各個(gè)階段的特征得到充分融合，有利于提取新冠肺炎特征。

3.3 DenseNet網(wǎng)絡(luò)

DenseNet由多個(gè)DenseBlock組成，如圖4b所示。圖像識(shí)別神經(jīng)網(wǎng)絡(luò)通常通過(guò)池化層或步長(zhǎng)大于1 的卷積層來(lái)減小特征圖的大小，但是DenseBlock 的密集連接需要保證特征圖大小一致，因此在每個(gè)DenseBlock 之間插入轉(zhuǎn)接層來(lái)減小特征圖尺寸。轉(zhuǎn)接層由BatchNorm 層、ReLU 層、卷積層（核尺寸為1，步長(zhǎng)為1）和平均池化層（核尺寸為2，步長(zhǎng)為2）級(jí)聯(lián)組成，經(jīng)過(guò)轉(zhuǎn)接層的特征圖通道數(shù)和尺寸均減小為輸入特征圖的一半。

新冠肺炎CT 識(shí)別的DenseNet 模型包含4 個(gè)DenseBlock，每個(gè)DenseBlock 包含的DenseLayer 數(shù)量分別為6、12、32和32，每個(gè)特征圖像的通道數(shù)標(biāo)注在特征圖向下方。最后通過(guò)全局池化層和線(xiàn)性層得到患病和正常的概率。

3.4 Ghost卷積

DenseNet 網(wǎng)絡(luò)的后半段 DenseBlock3 和DenseBlock4 中由于卷積層通道數(shù)過(guò)多，會(huì)一定程度上影響網(wǎng)絡(luò)的效率。文獻(xiàn)［18］提出Ghost 卷積用于解決卷積層通道數(shù)量過(guò)多的問(wèn)題，文獻(xiàn)中可視化了卷積特征圖中每個(gè)通道的圖像，發(fā)現(xiàn)多組相似的特征圖像，提出卷積層中的一半特征圖可利用另一半特征圖通過(guò)簡(jiǎn)單變換得到，如圖5所示。以輸入和輸出特征通道數(shù)分別為256 和32 的卷積層為例，Ghost卷積首先通過(guò)普通卷積層得到166通道特征圖L2，之后將L2 通過(guò)變換層得到L3，變換層通過(guò)通道可分離卷積實(shí)現(xiàn)，最后將L2 和L3 按通道拼接作為Ghost 卷積的輸出。在特征圖通道較多時(shí)會(huì)減少將近一半的計(jì)算量。

4 實(shí)驗(yàn)與分析

4.1 實(shí)驗(yàn)條件

實(shí)驗(yàn)中所用的硬件平臺(tái)CPU 為Intel i7-7700K，16 GB 內(nèi)存，顯卡為NVIDIA GTX1080，8 G 顯存。軟件系統(tǒng)為CentOS7，Python 版本為3.6.8，深度學(xué)習(xí)框架為PyTorch 1.3.1。實(shí)驗(yàn)數(shù)據(jù)集按照5：1 隨機(jī)劃分為訓(xùn)練集和測(cè)試集，訓(xùn)練前批尺寸（BatchSize）和學(xué)習(xí)率需要設(shè)置為固定值，批尺寸通常根據(jù)經(jīng)驗(yàn)值設(shè)置為4 或8，由于顯存限制，實(shí)驗(yàn)中設(shè)置批尺寸為4，能夠滿(mǎn)足穩(wěn)定收斂的要求。學(xué)習(xí)率首先通過(guò)經(jīng)驗(yàn)值設(shè)定為0.01 進(jìn)行訓(xùn)練，在訓(xùn)練中觀察誤差曲線(xiàn)，發(fā)現(xiàn)振蕩較大，難以穩(wěn)定收斂。改進(jìn)學(xué)習(xí)率為0.001 后進(jìn)行訓(xùn)練，發(fā)現(xiàn)誤差曲線(xiàn)下降緩慢并且訓(xùn)練集損失和測(cè)試集損失有一定誤差，表明網(wǎng)絡(luò)有一定的過(guò)擬合。因此選擇學(xué)習(xí)率為0.005。二分類(lèi)模型的評(píng)價(jià)標(biāo)準(zhǔn)通常采用精確率、召回率、準(zhǔn)確率和F1值，根據(jù)二分類(lèi)混淆矩陣計(jì)算。二分類(lèi)混淆矩陣包含TP、FP、TN 和FN 4個(gè)值，TP表示正確識(shí)別出的新冠肺炎影像數(shù)量，F(xiàn)P 表示把正常影像識(shí)別成新冠肺炎影像的數(shù)量，TN表示正確識(shí)別出的正常影像數(shù)量，F(xiàn)N 表示把新冠肺炎影像識(shí)別成正常影像的數(shù)量。

模型的精確率、召回率、準(zhǔn)確率和F1值定義如式（1）～式（4）所示：

在上述指標(biāo)中，召回率是新冠肺炎CT 識(shí)別中最重要的指標(biāo)，保證能夠完全檢測(cè)出感染者，允許部分的正常人誤檢為患者。因此在二分類(lèi)交叉熵?fù)p失函數(shù)的基礎(chǔ)上提出加權(quán)交叉熵?fù)p失函數(shù)，即增大假陰性的懲罰，損失函數(shù)L表達(dá)式如下：

其中，y表示真實(shí)類(lèi)別，患病為1，正常為0，y'表示網(wǎng)絡(luò)預(yù)測(cè)概率，w為權(quán)重，設(shè)置為0.7。

4.2 遷移學(xué)習(xí)

實(shí)驗(yàn)過(guò)程采用遷移學(xué)習(xí)的方式進(jìn)行訓(xùn)練。遷移學(xué)習(xí)利用新冠肺炎識(shí)別任務(wù)之間的相關(guān)性，把已經(jīng)訓(xùn)練好的模型參數(shù)遷移到新的模型中，賦予新的模型先驗(yàn)知識(shí)，使模型學(xué)習(xí)效率提高，容易實(shí)現(xiàn)更高的分類(lèi)精度［19］。本研究提出的網(wǎng)絡(luò)模型的初始參數(shù)值參考文獻(xiàn)［20］，文獻(xiàn)［20］中網(wǎng)絡(luò)結(jié)構(gòu)采用標(biāo)準(zhǔn)的DenseNet-169，與圖4b 中的DenseNet 部分一致。文獻(xiàn)［20］利用COVID-CT 識(shí)別數(shù)據(jù)集采用自監(jiān)督方式進(jìn)行訓(xùn)練，得到的精確率、召回率、準(zhǔn)確率和F1值分別為0.91、0.79、0.85、0.84，是目前CT 影像識(shí)別效果最好的模型之一。

本研究提出的網(wǎng)絡(luò)結(jié)構(gòu)在DenseNet-169 的基礎(chǔ)上增加輸入部分，替換后兩個(gè)DenseBlock 中的卷積層為Ghost 卷積并修改最后的線(xiàn)性層為全局池化層來(lái)減小訓(xùn)練參數(shù)量［21］。本研究提出的網(wǎng)絡(luò)結(jié)構(gòu)DenseNet 部分的前兩個(gè)DenseBlock 層（D0-T2）與文獻(xiàn)［20］中網(wǎng)絡(luò)結(jié)構(gòu)完全相同，利用文獻(xiàn)［20］中訓(xùn)練好的網(wǎng)絡(luò)參數(shù)作為初始值。DenseNet 部分的后兩個(gè)DenseBlock 層（T2-D4）使用Ghost卷積，Ghost卷積層中一半的參數(shù)從文獻(xiàn)［20］對(duì)應(yīng)的卷積層中選取，另一半的參數(shù)通過(guò)學(xué)習(xí)關(guān)系自動(dòng)生成。本研究提出網(wǎng)絡(luò)的輸入部分參數(shù)采用隨機(jī)數(shù)方式初始化。

4.3 實(shí)驗(yàn)結(jié)果

為了證明本研究所提網(wǎng)絡(luò)結(jié)構(gòu)的有效性，采用本研究數(shù)據(jù)集與其他常見(jiàn)網(wǎng)絡(luò)結(jié)構(gòu)的結(jié)果進(jìn)行對(duì)比。同時(shí)為了證明遷移學(xué)習(xí)的有效性，對(duì)本文網(wǎng)絡(luò)沒(méi)有使用遷移學(xué)習(xí)和使用遷移學(xué)習(xí)的情況進(jìn)行對(duì)比，結(jié)果如表2所示。由表2可知，隨著網(wǎng)絡(luò)層數(shù)的增加，從VGG-16、ResNet-50 到DenseNet-169 的效果逐漸變好。本研究網(wǎng)絡(luò)識(shí)別結(jié)果的召回率在所有對(duì)比方法中最高，表明加權(quán)交叉熵?fù)p失函數(shù)的有效性。雖然本研究網(wǎng)絡(luò)精確率不是很高，但是在所有對(duì)比方法中處于平均水平。本研究網(wǎng)絡(luò)在遷移學(xué)習(xí)中的效果好于無(wú)遷移學(xué)習(xí)的情況，表明遷移學(xué)習(xí)能夠?yàn)榫W(wǎng)絡(luò)參數(shù)提供先驗(yàn)知識(shí)，避免陷入局部最優(yōu)。在遷移學(xué)習(xí)情況下，本研究網(wǎng)絡(luò)召回率、準(zhǔn)確率和F1值達(dá)到最高，表明所提出方法的有效性。

表2 實(shí)驗(yàn)結(jié)果對(duì)比Table 2 Comparison of experimental results

將訓(xùn)練好的模型移植到普通醫(yī)用PC（CPU Intel i5-750，內(nèi)存8 G，無(wú)GPU）上，模型推理時(shí)間為236 ms，能夠達(dá)到快速識(shí)別的效果，能夠滿(mǎn)足對(duì)CT 影響序列的連續(xù)識(shí)別。雖然本研究網(wǎng)絡(luò)對(duì)單幅CT 影像識(shí)別率有限，但對(duì)CT 掃描過(guò)程中的多幅影像識(shí)別結(jié)果進(jìn)行綜合分析判斷后，能夠得出非常準(zhǔn)確的診斷結(jié)果。

5 結(jié)論

本研究提出的基于輕量級(jí)人工神經(jīng)網(wǎng)絡(luò)的新冠肺炎CT 影像識(shí)別方法，網(wǎng)絡(luò)結(jié)構(gòu)采用DenseNet主干網(wǎng)絡(luò)外加輕量級(jí)Ghost 卷積，大量增加網(wǎng)絡(luò)深度的同時(shí)沒(méi)有增加太多訓(xùn)練參數(shù)。整合所有公開(kāi)的新冠肺炎CT 影像數(shù)據(jù)集以提高網(wǎng)絡(luò)泛化能力，加入肺部區(qū)域分割圖像以提高網(wǎng)絡(luò)的識(shí)別能力，采用加權(quán)交叉熵?fù)p失函數(shù)降低新冠肺炎識(shí)別的漏診率，采用遷移學(xué)習(xí)的方法進(jìn)行訓(xùn)練。實(shí)驗(yàn)結(jié)果表明，本研究所提出的方法能夠有效識(shí)別新冠肺炎CT 影像，精確率、召回率、準(zhǔn)確率和F1 值分別為83%、96%、90%和88%，后三項(xiàng)均優(yōu)于對(duì)比方法，精確率處于所有對(duì)比方法的平均水平。這表明實(shí)驗(yàn)結(jié)果降低了漏診率，能夠保證有效地控制新冠疫情。所提方法雖然在新冠肺炎CT 識(shí)別方面取得了較好的效果，但隨著新冠肺炎病毒不斷變異，新冠肺炎CT 影響可能會(huì)呈現(xiàn)新的變化，網(wǎng)絡(luò)模型應(yīng)該快速適應(yīng)這種變化，在實(shí)際使用中，應(yīng)進(jìn)一步提高人工網(wǎng)絡(luò)模型微調(diào)的效率，以適應(yīng)新冠病毒變化，保證網(wǎng)絡(luò)識(shí)別效率始終在較高水平。