基于AlexNet-SN網絡的煤與煤矸石分類方法

鄭 爽，梁云浩，武俊峰，喬 壯，劉付剛

(黑龍江科技大學，黑龍江 哈爾濱 150022)

0 引 言

煤矸石作為煤炭生產過程中產生的副產物，在煤炭形成過程中與煤一同產生，但含碳量較低，混合在原煤中燃燒會降低原煤的燃燒效率，加劇大氣污染。一直以來，分選煤矸石是煤炭生產加工過程中的重要環節，傳統的人工選矸方式存在工人勞動強度大、不易管理、生產環境差、易發生安全事故等問題。隨著科學技術的發展，挖掘和利用煤矸石的內在屬性，利用數字信號處理的方式進行煤矸石分揀已成為眾多學者的研究熱點。其中，來文豪等[1]提出了一種基于多光譜成像技術和目標檢測的煤矸石智能分離方法，該方法不僅能夠識別出煤和煤矸石，還能獲取兩者的相對位置和相對大小，對煤矸石的識別和分離具有重要的指導意義；曹珍貫等[2]提出一種基于熱成像技術和深度學習算法的煤矸石圖像識別方法，利用熱成像技術進行煤矸石圖像采集，采用卷積神經網絡構建煤矸石圖像識別模型，并與兩個可見光煤矸石圖像進行對比實驗研究，實驗結果表明利用熱成像技術能顯著提升煤和矸石圖像的差異性，具有良好的識別效果；陳雪梅等[3]根據煤和煤矸石表面粗糙度的不同，利用差分二維法來計算表面紋理不同的煤與煤矸石圖像的粗糙度，達到識別煤矸石的效果。以上的煤矸石分選方法大都是基于人工設計的灰度、密度、紋理等特征數據，存在提取特征過程復雜、識別精度低等問題。隨著計算機科學和人工智能技術的進步，利用卷積神經網絡(convolutional neural network，CNN)自動提取特征的圖像分類技術[4-7]，該技術已用于人臉識別、醫療圖像處理、遙感圖像分類、垃圾分類等領域，有望解決傳統煤矸石分揀技術中的弊端。本文基于深度學習技術對煤與煤矸石分類方法進行研究，改進了AlexNet分類網絡，并通過風格遷移數據增強的方法對煤與煤矸石數據集進行處理，提高煤與煤矸石分類的準確率。

1 AlexNet-SN網絡的提出

AlexNet網絡是一種經典的卷積神經網絡，由ALEX最先提出[8]。AlexNet網絡由5個卷積層、6個池化層和3個全連接層組成，第三個全連接層的輸出連接到一個1 000路的Softmax層，進行1 000個類別的預測輸出。 為了提高模型的準確率，AlexNet網絡給出了局部歸一化LRN層進行神經激活的放大或抑制[9]，使用LRN層和Dropout來減小網絡的過擬合[10-11]，針對不同訓練任務LRN層的位置會存在很大的差異，因此在圖像分類任務中使用LRN層反而增加了網絡調優的困難，使圖像分類任務變得更加繁瑣。

由于BN層具有提高網絡泛化性能的特點，可以代替LRN層和Dropout的作用。隨著卷積神經網絡越來越深入，在數據訓練過程中非線性激活的數據分布會變得越來越發散，導致在進行梯度更新時產生梯度消失，這時訓練就會收斂的很慢甚至停止。BN層的主要作用就是解決訓練過程中梯度數據分布變化可能引起的梯度消失問題[12-13]，進而提高網絡的訓練速度。

BN層使用批量歸一標準化的方法來平均神經網絡每一層神經元的輸入值，使其重新分布到均值為0，方差為1的正態分布，使越來越失真的分布返回到更標準的分布，使這些訓練的數據重新回落到非線性激活函數的有效區域進行梯度更新，從而避免了梯度消失的問題。當進行反向傳播時，經過該層的梯度乘以對應層的參數，即當前向傳播，表達式見式(1)。

(1)

反向傳播時表達式見式(2)。

(2)

考慮從l層傳到k層的情況，可以得出式(3)。

(3)

式中，ωi的累乘就是問題所在，當ωi小于1時就會發生梯度彌散，當ωi大于1時就會產生梯度爆炸問題。BN層的作用減小了ωi影響，因此BN層可以消除梯度消失和爆炸問題。

AlexNet網絡在前幾個卷積層中使用較大的卷積核進行特征提取，從網絡訓練參數的角度分析，使用較大的卷積核會增加網絡的參數量，減緩訓練的速度。而使用數量多且較小的卷積核更容易增大感受野，同時減少了網絡模型的參數，加快網絡的訓練速度，本文選用3×3的卷積核代替原網絡前幾層中較大的卷積核，利用BN層代替LRN層和Dropout，并將改進后的網絡命名為AlexNet-SN，主要測算依據式(4)～式(7)。

2×3×3×C2/5×5×C2=72%

(4)

(28-5)/1+1=24

(5)

(28-3)/1+1=26

(6)

(26-3)/1+1=24

(7)

假設計算滿足式(4)，即兩層大小為3×3的卷積核的參數量，相較于大小為5×5的卷積核參數量減少了28%；從感受野角度分析[14-15]，設特征圖的大小為28×28，卷積步長為1，使用一層5×5的卷積核，由式(5)可得，其輸出特征圖的感受野為24×24。

當使用兩層3×3的卷積核，第一層由式(6)可得，輸出特征圖的大小為26×26，繼續經過第二層3×3的卷積核，由式(7)可得，輸出特征圖的大小為24×24，即感受野大小為24×24。

由上述結果可知，兩層大小為3的卷積核與一層大小為5的卷積核所帶來的感受野是一樣的。因此，使用數量多且較小的卷積核更容易增大感受野，同時減少了網絡模型的參數，加快了網絡的訓練速度。 本文改進后的AlexNet-SN網絡結構如圖1所示。

圖1 AlexNet-SN網絡結構圖Fig.1 Structure diagram of AlexNet-SN

2 利用風格遷移增強數據集

為了提高數據多樣性，避免樣本不均衡，進一步提高分類的準確率，本文利用風格遷移的方法對數據集進行擴充，通過數據增強手段增加數據數量，降低樣本不均衡比例。

2.1 風格遷移網絡

風格遷移網絡是指在不改變圖像的高層語義內容特征的基礎上，快速將圖像A的風格藝術應用到圖像B上，生成一幅具有圖像A風格和圖像B內容的圖像C。這樣就可以得到具有相同內容但風格不同的圖像，對于理解圖像和圖片表示的研究具有很重要的意義。圖2為圖像快速風格遷移網絡。由圖2可知，快速風格遷移網絡由兩部分組成：圖像轉換網絡fw和損失網絡Φ。圖像轉換網絡的主體是深度殘差網絡[12]，通過迭代訓練去更新權重參數W；損失網絡采用VGG-19網絡[16]，對于損失網絡分別定義特征(內容)損失lfeat和風格損失lstyle來衡量內容和風格上的差距。

圖2 圖像快速風格遷移網絡Fig.2 Image fast style migration network

2.2 圖像轉換網絡

本文采用的圖像轉換網絡由4個用于卷積特征計算的卷積層、5個增加網絡深度的殘差層和2個用于細節還原的反卷積層組合而成[17]。卷積層和反卷積層分別采用短步長進行下采樣和上采樣。除了輸出層外每個卷積層和反卷積層之外，是Relu激活層。 經過兩次非線性變換后，輸入數據及其初始值通過殘差層相加，然后將相加后的值再輸入到Relu激活層[18]。圖像轉換網絡的整體結構如圖3所示。

圖3 圖像轉換網絡結構圖Fig.3 Structure diagram of image conversion network

(8)

2.3 損失網絡

本文利用內容損失函數和風格損失函數兩個感知損失函數來衡量兩張圖片之間內容和風格的差別。每一張輸入的圖像x都有一個內容目標yc和一個風格目標ys，圖像風格遷移就是把風格ys結合到內容x=yc上。這里損失網絡雖然也是卷積神經網絡，但是參數不做更新，只用來做內容損失和風格損失的計算。為了確保這個損失網絡在內容和風格上具備優良的提取能力，本文采用了VGG-19網絡模型，網絡結構如圖4所示。

圖4 VGG-19網絡結構Fig.4 VGG-19 network structure

1) 內容損失函數。本文定義的內容損失函數見式(8)。

式中：φj(y)為網絡φ的第j層；y為輸入；Cj×Hj×Wj為特征圖譜的形狀。該函數懲罰了生成圖像與目標圖像的內容偏差，要求生成圖像在內容細節上與輸入的目標圖像極其相似。該損失函數的值越小，表示處理前后的圖在內容上越相似，反之越大。

2) 風格損失函數。內容損失懲罰了生成圖像與目標圖像的內容偏差，所以也希望風格損失去懲罰風格上的偏離，如顏色、紋理、共同模式等方面。為達到此效果，本文提出了風格重建的損失函數，見式(9)。

(9)

式中：φj(x)為網絡φ的第j層；x為輸入；Cj×Hj×Wj為特征圖譜的形狀。

2.4 風格圖像與模型的選擇

本文從不同繪畫風格的圖像中選取6種風格圖像(抽象、漫畫、印象、星空、素描、海浪)，然后利用這6種不同的風格圖像訓練得到6個快速風格遷移模型，6種風格圖像如圖5所示。

圖5 不同風格圖像Fig.5 Different style images

利用6個風格遷移模型在目標圖像上進行風格遷移，得到的遷移效果圖如圖6所示。

圖6 圖像風格遷移效果Fig.6 Image style transfer effect

本文利用經典的Grad-CAM算法[20-21]對給定圖像進行熱力激活，并通過熱力激活強度，得到給定圖像相對其所在類別的置信度，這個置信度通過給定圖像被激活的熱力面積來表示，熱力激活的表示分布在0～1之間，得到的結果越靠近1，表示給定圖像對其所在類別的置信度越高，反之越低。通過Grad-CAM算法，對6種快速風格遷移模型遷移后的數據進行熱力激活，得到不同風格熱力激活統計表，見表1。

表1 不同風格熱力激活統計表Table 1 Statistics of thermal activation of different styles

由表1可知，煤與煤矸石數據利用星空風格和海浪風格進行風格遷移后，熱力激活值最高，數值分別為0.93和0.94。因此，得出星空和海浪快速風格遷移模型，最適合對煤與煤矸石二分類數據進行數據增強。

3 實驗分析

本文首先將AlexNet網絡與改進后的AlexNet網絡進行實驗驗證分析。將采集的1 600張大顆粒煤與煤矸石圖像數據集，按照煤與煤矸石各800張，大小在100～150 mm之間，分別輸入到原始AlexNet網絡和改進的AlexNet-SN網絡進行二分類訓練，其中訓練集的數據700張，驗證集的數據100張。 訓練參數的設置具體為：batch_size設置為32，訓練輪數為100個epoch，steps_per_epoch為100，學習率為0.000 1，使用RMSprop優化器，binary_crossentropy為損失函數。最終驗證集中的正確率(acc)變化如圖7所示，損失值(loss)變化如圖8所示。

圖7 煤與煤矸石驗證集正確率Fig.7 Accuracy rate of coal and coal gangue verification set

圖8 煤與煤矸石驗證集損失值Fig.8 Coal and coal gangue verification set loss value

由圖7和圖8可知，改進的網絡相較于原網絡在準確率上有一定提升，同時，改進后的AlexNet-SN網絡的訓練損失值相較原網絡更低，因此改進后的網絡性能相較原網絡有一定的提升。

為了體現風格遷移數據增強的優勢，對煤與煤矸石分類數據集中的訓練集圖像隨機利用旋轉、裁剪、加噪等數據增強方式，進行一倍數量的增強擴充得到一個新的數據集；利用快速風格遷移模型，對數據集中的訓練集數據也進行一倍數量的增強擴充，得到一個擴充后的數據集，將擴充后的數據集在AlexNet-SN網絡模型中進行試驗。

利用AlexNet-SN網絡，分別對數據增強后的煤與煤矸石二分類數據集進行訓練，訓練過程中，使用RMSprop優化器，binary_crossentropy損失函數，batch_size設置為32，訓練100個epoch，steps_per_epoch為100，學習率設置為0.000 1。兩個數據集經該分類網絡訓練后，驗證集上的正確率(acc)變化如圖9所示，損失值(loss)變化如圖10所示。

圖9 煤與煤矸石驗證集正確率Fig.9 Accuracy rate of coal and coal gangue verification set

圖10 煤與煤矸石驗證集損失值Fig.10 Coal and coal gangue verification set loss value

由圖9和圖10可知，快速風格遷移增強的數據集，相較于傳統方法增強的數據集，從訓練開始的階段到訓練結束的階段，在分類訓練的準確率和損失值上都有明顯的改善。本文對訓練結束后得到的數據進行記錄，見表2。由表2可知，相比于傳統增強方法，利用快速風格遷移增強的方法，在準確率上提高了約1.8%，在損失值上降低了約2.0%。

表2 AlexNet-SN訓練結果表Table 2 Results of AlexNet-SN training

4 結 論

1) 對AlexNet網絡進行了改進，選用3×3的卷積核代替原網絡前幾層中較大的卷積核，利用BN層代替LRN層和Dropout，減少了網絡模型的參數,加快了網絡的訓練速度，并在煤與煤矸石分類準確率方面有了一定的提升。

2) 提出了一種風格遷移的數據增強方式，并將該數據增強方法與改進的AlexNet-SN分類網絡相結合，與傳統的旋轉、裁剪、加噪等數據增強相比，該方法的準確率提高了1.8%，損失率下降了約2.0%，該方法為煤與煤矸石的智能分選提供了新思路。