基于密集神經網絡的肺結節假陽性篩查模型

楊靖祎 ，張翠肖 ，戴 健，郝杰輝，王 森

(1.石家莊鐵道大學 信息科學與技術學院，河北 石家莊 050043；2.河北醫科大學第二醫院 信息中心，河北 石家莊 050000)

0 引 言

肺癌是全球發病率和死亡率最高的惡性腫瘤[1]，早期對肺結節的診斷與治療可預防肺癌的進展、延長患者的生存期[2]。傳統的檢測方法，主要通過影像科醫生閱讀CT圖像，尋找可疑的結節病灶，但是一組CT圖像有上百張切片，這種人工的檢測方法不僅工作量巨大，而且嚴重依賴于醫生水平。因此眾多計算機科學家提出了計算機輔助檢測系統(computer aided diagnosis，CAD)，用于幫助影像科醫生檢測肺結節[3]。

傳統的CAD系統普遍遵循兩階段：候選結節檢測和假陽性篩查。假陽性篩查是從形狀、位置、梯度和紋理特征及上下文信息組合進行分析[4]，該階段是結節檢測的關鍵部分。李慶玲使用最近鄰算法進行候選結節篩查，取得了94.88%的準確率[5]。Torres使用前饋神經網絡對候選結節進行檢測，平均每個掃描假陽性個數為8.0，敏感性為80.0%[6]。Pulagam從候選結節中提取二維和三維特征并利用SVM算法進行假陽性篩查，該算法在測試集上敏感度為94.3%，每個掃描假陽性個數僅為2.6[7]。但是，這些算法都是以一些簡單的先驗知識為基礎，從形狀、位置、梯度和紋理等特征進行分析[4]，或者采用傳統的機器學習方法，算法整體流程繁瑣、局限性強。

近些年，隨著計算機運算能力的顯著提升以及深度學習技術的迅速發展，卷積神經網絡在醫學圖像識別領域取得了極大的成功。卷積神經網絡以圖像特征的識別和分類訓練模型，并利用準確率等評價標準進行反向指導特征的提取，從而實現端到端的映射學習。Liu等[8]通過提取肺實質區域、獲取候選結節、特征的提取和訓練以及結節分類作為基本流程進行結節檢測。高慧明等[9]提出一種基于多尺度卷積神經網絡的肺結節假陽性篩查方法，將每個候選結節輸入到不同尺度的網絡模型進行訓練，融合三個模型的輸出結果獲取最終的分類。尤堃等[10]提出了一種基于殘差網絡的肺結節假陽性篩查模型，通過使用單連接路徑重復利用特征并重組特征的方法進行假陽性篩查。劉一鳴等[11]設計了一個161層的深度神經網絡，對經過精細預處理的2D結節圖像進行訓練，取得了92.3%的準確率。上述方法利用卷積神經網絡進行肺結節檢測識別，其模型性能遠強于傳統的檢測方法。

該文設計了一種基于密集神經網絡的肺結節假陽性篩查模型，在以結節為中心的64*64的圖像區域上訓練網絡，學習結節特征。

1 密集神經網絡

隨著CNN層數的增加，模型識別準確率有所提高，但是梯度消失問題亦愈發嚴重，模型的訓練難度隨之增大。為了解決該問題，何凱明等在CNN中加入了殘差單元，通過殘差路徑可以有效地解決梯度在反向傳播中隨著網絡層數的增加而消失的問題，提高優化率和訓練速度[12]。但是殘差網絡以及傳統的深度神經網絡，每一層的特征只使用了一次，較低的特征重用率使得網絡的學習效率提升困難。2017年的CVPR上，Huang等[13]提出了一種密集連接的網絡模型-密集神經網絡(DenseNet)，模型創新性地提出了稠密塊(Dense Block)和傳遞層(Transition Layer)。在稠密塊中，每層網絡均由密集連接組成，使得每層學習到的特征都可以被后面任一層利用。以第L層為例，其公式如式(1)所示。XL為第L層的輸出特征圖，函數HL由批標準化、ReLU和3*3的卷積組成。第L層的輸入[X0,X1,…,XL-1]由第0層至第L-1層網絡的輸出在通道維度上進行拼接組成，如果K0為輸入層的維度，則第L層的維數為K0+K*(L-1)，其中K為超參數-增長率。稠密塊雖然強化了特征的傳遞，但是由于其通道維度的拼接，導致每個稠密塊結束后的輸出特征圖的channel很大，使得網絡的參數冗余。因此，在每個稠密塊之間添加1*1的卷積作為傳遞層，降低參數冗余。

XL=HL([X0,X1,…,XL-1])

(1)

2 基于密集神經網絡的結節假陽性篩查模型

2.1 算法流程

根據胸部CT影像的特點，以密集神經網絡為基礎，構建了肺結節假陽性篩查模型。算法主要包括4個步驟：(1)數據預處理。對LIDC數據集，選取候選數據，并利用圖像學方法提取肺區；(2)以結節區域為中心，截取64*64的圖像作為正樣本輸入數據，劃分數據集，并對正樣本進行數據增廣；(3)構建網絡模型，進行模型訓練、參數的調整；(4)對訓練好的模型在測試集上進行測試，并根據評價指標對模型進行評估。算法流程如圖1所示。

圖1 算法流程

2.2 網絡結構

該文提出的結節假陽性篩查模型由輸入層、卷積層、池化層、稠密塊、傳遞層和全連接層組成，其網絡結構如圖2所示。輸入層是經預處理后的64*64的結節圖像，首先通過一個具有7*7卷積核的卷積層和一個3*3的最大池化層，再依次經過稠密塊和傳遞層，最后通過全連接層進行預測結果的輸出。稠密塊由BN層、ReLU激活函數、1*1卷積、BN層、ReLU、3*3卷積和dropout順序組成，其結構如圖3所示。傳遞層由BN層、ReLU、1*1卷積和2*2的平均池化層組成。

圖2 網絡結構

圖3 稠密塊中的一層網絡結構

2.3 參數設置

卷積層Conv中使用7*7的卷積，步長為2。模型的增長率K設置為24，Conv產生2K個特征映射，其余所有層產生4K個特征映射。池化層Pooling layer采用3*3的最大池化操作(Max Pooling 3*3)，步長設置為2。稠密塊DB_1中包含6個卷積組合操作(Conv1*1+Conv3*3),步長均為1。稠密塊DB_2中包含12個卷積核操作(Conv1*1+Conv3*3)，步長設置為1。稠密塊DB_3中包含24個卷積組合操作(Conv1*1+Conv3*3)，步長為1。傳遞層TL_1和傳遞層TL_2由卷積和池化組合操作(Conv1*1+AVG Pooling)組成，卷積操作步長為1，平均池化操作步長為2。模型的最后一層是全連接層，使用Sigmoid作為激活函數。該模型共有參數2 444 813個，模型設置細節如表1所示。

表1 模型參數設置

3 實驗及結果分析

該文使用公開的數據集LIDC，選取層厚小于等于2.5 mm的共888組CT圖像；選取3位及以上專家共同標注的直徑大于等于3 mm的結節共計1 186個。

3.1 數據預處理

肺結節只存在于肺實質中，模型訓練前需要對圖像進行預處理，旨在縮小算法的問題空間，減少無關信息對模型的干擾。CT的單位是HU(Hounsfiled Unit)，代表了人體不同組織對X射線的衰減系數的相對值。數據集存儲的是圖像的像素值，該文利用DICOM圖像的像素值與HU值之間的轉換公式，對數據進行HU值轉換，如式(2)所示。

HU=RescaleSlope*PixelArray+RescaleIntercept

(2)

其中，PixelArray為像素的灰度值，RescaleSlope為縮放斜率，RescaleIntercept為截取。

人體的HU值范圍在-1 000 ～+1 000 HU。肺區的HU值為-900～-500。為了減少實驗過程中肺區的損失，以-350 HU作為閾值，對CT圖像進行肺區分割。由于胸膜粘連的結節與胸膜在灰度級上近似，導致閾值法分割時出現肺區邊界凹陷，如圖4(a)所示。對閾值分割后的圖像，采用形態學閉運算修補肺區凹陷，再進行孔洞填充，完成肺區的分割，如圖4所示。

圖4 肺區分割

使用閾值截斷法[14]，對肺區分割后的圖像CT值大于400 HU的置為400，CT值小于-1 000 HU的置為-1 000，最后使用max-min標準化方法映射到[0,1]。肺區圖像的大小為512*512，大部分為肺區組織和背景，結節只占據極小的區域。因此，該文采用切塊的方式縮小樣本大小，以結節的標注輪廓為中心裁剪成64*64的圖像，得到8 802幅結節圖像。結節圖像如圖5所示。將結節圖像作為正樣本集，按照7∶2∶1的比例分為訓練集、驗證集和測試集。

圖5 預處理后的肺結節圖像

3.2 數據增廣

深度神經網絡的訓練往往需要大量的數據，研究學者提出了多種數據擴展方法，如平移、旋轉、添加噪聲和翻轉等[8,15-16]。為了充分利用擴展的數據對本模型進行訓練，在不改變樣本的大小和質量的前提下，以結節樣本的橫斷面為基準，對上、下、左、右四個方向分別平移兩個體素再進行90°、180°、270°三個角度的旋轉。經過上述操作，訓練集擴展75倍。隨機截取等量的無肺結節的樣本作為負樣本集，分別放入訓練集、驗證集和測試集中。

3.3 模型訓練

該文設計的模型使用python3.6編寫，使用pytorch1.0作為后端框架。使用Adam優化器，網絡中添加隨機失活(dropout)，以提升網絡的收斂速度和泛化性能。模型使用交叉熵損失函數，公式如式(3)所示：

J(w,b)=

(3)

3.4 實驗結果

該文通過計算FROC(free-response ROC，FROC)曲線下的競爭性指標(competition performance metric，CPM)作為模型性能的評估標準。FROC曲線的橫坐標為平均每個CT中假陽性樣本的數量，縱坐標為敏感度。CPM選取FROC曲線中7個具有代表性的點[0.125, 0.25, 0.5, 1, 2, 4, 8]，通過計算其敏感度均值可以反映模型的綜合查全能力[17]。

模型訓練過程中，其損失值在訓練集和驗證集上的變化曲線如圖6所示。模型完成訓練后，在測試集上的準確率達到了95.82%，召回率為94.48%，特異度為97.17%，假陽性率為2.83%，AUC值為0.987。FROC曲線如圖7所示，模型的CMP值為0.772。

圖6 模型訓練損失

圖7 FROC曲線

3.5 模型對比與分析

文獻[11]提出的模型，在測試集上的準確率為92.3%，召回率為92.61%，特異度為92.6%，均低于文中模型。亦與文獻[6,9,10,18]中的方法進行了對比，這四種模型均采用了LIDC數據集，對比實驗結果如表2所示。

表2 不同模型肺結節假陽性篩查CPM指標對比

文獻[11]使用2D圖像進行訓練，其模型僅通過深度的增加以提高模型的性能，雖然添加了dropout以增強網絡的泛化能力，但是該模型僅取得了92.3%的準確率，顯著低于文中取得的95.82%的準確率。而且文中設計的模型，模型參數數量顯著低于文獻[11]設計的模型。Torres使用傳統的機器學習方法，CMP為0.742[6]。Dobrenkii等采用3D殘差網絡，首先對CT圖像進行重采樣，然后提取結節的VOI(volume of interest)3D樣本，進行模型的訓練[18]。Dobrenkii設計的模型雖然利用了結節的三維空間特征，同時3D網絡導致模型的參數量增加，并且網絡訓練前需要進行圖像的重采樣，但是該方法的CPM僅為0.735，其表現甚至低于Torres使用的傳統機器學習方法。尤堃等[10]首先對肺區進行分割，并采用最鄰近插值算法進行重采樣提取結節的VOI，再設計單連接路徑的3D CNN網絡進行模型訓練，其CMP值為0.747。文中提出的方法CPM為0.772，高于表3中的前3種方法。高慧明等[9]提出的方法取得了0.827的CPM，但該方法是以訓練三個卷積神經網絡，并對每個網絡的輸出結果加權求均值為代價得到的，相對于文中方法并沒有顯著性優勢。

4 結束語

提出了一種基于密集神經網絡的肺結節假陽性降低方法，用于從大量候選結節中篩查真實結節。實驗結果表明，該方法能夠有效解決肺結節檢測系統中候選結節篩查階段假陽性高的問題。雖然該方法在計算量和參數量上有其優勢，但是未能利用結節的空間特征。生成式對抗網絡(generative adversarial networks，GAN)在圖像生成領域表現出了巨大的優勢。因此，在未來的研究工作中，將重點利用GAN進行結節圖像的數據增強，并研究3D密集神經網絡的假陽性篩查模型。