基于改進AlexNet模型的抓毛織物質量檢測方法

金守峰，侯一澤，焦 航，張 鵬，李宇濤

(1.西安工程大學 機電工程學院，陜西 西安 710600；2.西安工程大學 西安市現代智能紡織裝備重點實驗室，陜西 西安 710600)

在織物表面進行抓毛工藝處理，抓毛后織物表面絨毛的長度和形態較為復雜。不合格抓毛織物的表面特征表現為絨毛厚度不致密且分布不均勻的特征，此種織物表面不能滿足外觀以及舒適性要求。由于抓毛織物表面的紋理特征、形態特征復雜，不同特征需要不同的算法提取，傳統人工特征提取算法計算復雜已不能滿足在光照不勻等影響因素下對抓毛織物的特征提取[1-2]。目前對抓毛織物絨毛質量的檢測主要是通過有經驗的工藝人員視覺判斷和觸覺判斷的方法實現的，大量的視覺檢測工作易導致疲勞、漏檢以及工作效率不高等問題[3-4]，因此，研究一種能夠有效提取特征的算法自動提取具有分辨力的抓毛織物特征，具有較高準確率的分類模型顯得尤為重要，對于實現高效、準確、無接觸的抓毛織物檢測具有重要意義。

傳統的織物檢測方法通過人工設計的織物特征提取方法來獲取織物特征,然后將提取到的織物特征經過一系列的轉化分解，判定出織物的疵點，研究人員在優秀特征的提取方法上取得了許多成果。汪亞明等[5]根據織物絨毛與織物不平整會引起不同的高低頻噪聲，通過Gabor濾波去除織物紋理噪聲，最后得到織物起球的分割圖。夏雨薇等[6]通過提取織物圖像的紋理特征以及局部目標形狀特征,通過PCA數據降維得到織物特征，最后通過K-近鄰、決策樹等多分類方法，最終得到96.8%的分類結果。然而，上述人工提取到的織物特征計算量大，提取算法復雜，且無法獲得具有較高分辨力的優秀特征，往往只適用于特定光照背景下的識別檢測，織物圖像在明暗不均情況下容易受到干擾影響檢測準確率。

相對于傳統的機器學習方法，卷積神經網絡方法在特征提取技術領域具有巨大的優越性[7]。王理順等[8]基于GoogLeNet網絡架構，利用人工標注的不同種類織物圖片構建織物缺陷數據庫，以卷積神經網絡模型進行分類訓練、測試，得到較高的檢測正確率。張家瑋[9]采用深度支持向量數據描述(deep support vector data description,Deep SVDD)對織物表面缺陷進行分類檢測，以正常樣本數據集進行訓練，具有一定的分類精度和模型準確率，但是模型訓練時間較長、硬件配置高。金守峰等[10]采用Freeman鏈碼方法提取絨毛織物表面特征信息，并作為BP神經網絡的輸入進行模型訓練，準確率為93.02%，但是該方法在進行Freeman鏈碼提取絨毛的特征時，對絨毛的細微信息提取誤差較大。

由于卷積神經網絡需要大量的訓練樣本學習提取圖像特征的能力[11-12]，遷移學習在ImageNet數據集上經訓練具有了較好的特征提取能力，可以減小網絡模型訓練所需的樣本數量[13-14]。針對抓毛織物表面特征難以提取且識別準確率低的問題，本文采用在ImageNet數據集上預訓練的模型，對抓毛織物圖像進行數據增強，在AlexNet模型的基礎上，設計全連接層模塊，采用SGDM、RMSProp和Adam 3種優化算法進行全新學習和遷移學習的訓練，并利用卷積神經網絡的不同深度池化層提取抓毛織物特征作為輸入，擬合SVM分類器對輸入的抓毛織物圖像進行分類，實現對抓毛織物質量檢測。

1 卷積神經網絡構建

1.1 抓毛織物圖像數據集

用幀率為45幀/s、焦距為10 mm的工業相機采集了如圖1所示的抓毛織物圖像數據。圖1(a) 為絨毛厚度分布均勻且致密的合格抓毛圖像1 000張，圖1(b)～(f)為5種不同顏色的不合格抓毛圖像各1 000張，其中表面存在絨毛分布不均勻、稀疏及長度不一等特征。實驗采集抓毛織物圖像樣本共計6 000張，將采集的圖像80%用于訓練集，20%用于測試集。

圖1 抓毛圖像示例Fig.1 Example of scratching image.(a) Wool catching fabric A；(b) Wool catching fabric B；(c) Wool catching fabric C；(d) Wool catching fabric D；(e) Wool catching fabric E；(f) Wool catching fabric F

1.2 數據擴充

由于原始采集的抓毛織物不合格數據集占比較小，為了擴充不合格抓毛圖像，獲得更多的訓練圖像，本文將訓練圖像在[-90°,90°]范圍內進行隨機旋轉，在[1,2]范圍內進行隨機縮放以及加入噪聲等操作，得到了用于訓練的抓毛圖像數據集共計 14 400 張。由于AlexNet網絡模型要求輸入固定維度，將抓毛圖像的尺寸統一轉化為227像素×227像素的樣本，數據擴充如圖2所示。

圖2 數據擴充Fig.2 Data expansion.(a) Original drawing；(b) Image scaling；(c) Noise image

1.3 模型構建

本文使用改進AlexNet模型進行遷移學習，AlexNet包括輸入層、卷積層、池化層、全連接層和輸出層共25層，激活函數采用線性整流單元(rectified linear units,ReLU)位于每個卷積層與全連接層之后，其中有3層池化層采用最大池化以對神經元壓縮來提高模型運算效率，除池化層之外的所有參數信息如表1所示。

表1 AlexNet網絡參數表Tab. AlexNet network parameter table

由于本文采集了6類抓毛織物圖像，故將FCL8的神經元個數修改為6，為了減少模型計算量與模型大小，同時在一定程度上提高模型的泛化能力，將全連接層FCL6神經元個數修改為1 000，并將原始全連接層FCL7進行刪除，最后將經過擴充的抓毛數據集進行網絡訓練，利用不同優化算法完成CNN模型訓練，結合的改進模型(見圖3)與流程圖(見圖4)，在保持卷積層、池化層參數不變的情況下，將訓練輸出的一維特征向量作為支持向量機(SVM)的輸入參數，用于6種抓毛織物的分類。

圖3 改進模型示意圖Fig.3 Schematic diagram of improved model

圖4 遷移學習用于抓毛織物識別流程圖Fig.4 Flow chart of wool catching fabric recognition method

1.4 CNN織物特征提取

卷積神經網絡是通過提取特征對圖像進行分類，網絡在訓練過程中自行學習這些特征，可以將學習的特征進行可視化[15-17]。網絡的每一層卷積層輸出多個三維數組，將這些三維數組整體稱作為特征圖，而特征圖是由不同卷積核卷積運算得到的二維數據堆疊在一起組成，每個數組對應于輸入的過濾器，全連接層輸出的通道對應于較淺層學習特征的高級組合。AlexNet網絡中有5個卷積層，隨著網絡卷積層數的增加，相應的卷積層的感受野在不斷增大，從開始階段學習較小的低級特征，到終端的卷積層較大感受野時學習更高級的特征。將數據及可視化處理后的結果稱為激活映射圖，激活映射圖的計算公式為

(1)

(2)

全連接層FCL6神經元個數修改為1 000，并將原始全連接層FCL7進行刪除，最后將經過擴充的抓毛網絡提取不同類型的抓毛織物圖像，本文將輸入抓毛織物圖像進行卷積層特征可視化處理，圖5示出卷積神經網絡AlexNet的CL2層提取的6類抓毛織物圖像特征。由圖5可知卷積神經網絡提取前后的致密均勻的抓毛織物表面特征與稀疏不均勻的抓毛織物表面特征有明顯區別。

注：樣品1#～5#為5類稀疏不均勻類型織物的原圖和特征圖。圖5 抓毛織物圖像在AlexNet網絡CL2層的特征圖Fig.5 Fleece fabric image outputs feature image in the CL2 layer of the AlexNet network.(a)Compact uniformity of original image；(b)Compact uniformity of feature image；(c)Sparse and uneven of original image；(d)Sparse and uneven of feature image

為進一步探究卷積獲得抓毛織物的特征情況，選取致密均勻的抓毛織物進行表面卷積層可視化處理，結果如圖6所示。可知從第1層到第5層的卷積過程，AlexNet模型學習的特征從整體到局部逐漸細化，網絡經過一系列的特征提取和高度抽象化處理，將抓毛織物的熱點區域保留、圖像特征平滑清晰、對比度較大。提取的特征更加細微，而較淺層中的通道只能學習到抓毛織物的紋理、形狀等簡單特征。因此本文改進AlexNet模型能夠提取到更為復雜的抓毛織物表面的絨毛細微圖像信息，進行特征的描述。

圖6 卷積層特征可視化Fig.6 Visualization of convolution layer features

2 實驗分析

2.1 實驗環境及參數設定

由于深度神經網絡訓練對硬件配置的要求更高，為了進行有效的實驗，本文采用了GTX1060、6 G顯存的配置，MatLab語言搭建MatLab R2021a及CUDA環境，通過GPU進行訓練以加快數據的運算,提高實驗效率。

綜合考慮硬件設備的性能以及訓練效果，實驗設置MiniBatchSize為32(即每批次訓練采用32張圖片)，動量參數設置為0.9，學習率作為影響模型的一個重要參數，設置過小會降低模型的收斂速度，使得模型的訓練時間增加，設置過大的會引起損失函數值梯度爆炸，破壞遷移學習中預訓練的權重信息，使得遷移學習失去意義，因此通過分別設置LearnRate為0.000 1與0.001進一步實驗。

2.2 模型評價標準

本文通過使用預測準確率、過擬合率以及模型訓練時間綜合評判模型在抓毛織物上的分類能力和泛化能力[18-19]，預測準確率P1用的公式為

(3)

式中：nT表示用于驗證模型的測試樣本集數量；mTA表示測試樣本集中分類準確的樣本數量。

過擬合率O1可表示為

(4)

式中：T1為訓練準確率，%；T2為測試準確率，%。

2.3 實驗結果及分析

為了驗證提出模型對抓毛織物檢測的有效性，本文在相同實驗條件下采用分類對比的實驗方法對網絡性能進行評估，通過多次實驗測試發現，若訓練收斂，則迭代訓練700次后的訓練準確率變化范圍在1個百分點以內，損失函數變化范圍在0.01以內。因此將所有模型總訓練迭代次數均設置為 800次，每迭代20次記錄一次訓練集與測試集上的準確率，對實驗數據進行評估并保存如表2所示。

表2 不同模型檢測結果Tab.1 Recognition results by different models

為了比較卷積神經網絡不同層提取的特征對分類效果的影響，抽取了遷移學習算法經過SGDM訓練的AlexNet模型的pool1、pool2、pool3、pool4、pool5層的特征，分別用于擬合SVM的分類，各層分類成功率的對比結果如圖7所示。

圖7 采用不同層特征的分類成功率對比Fig.7 Comparison of classification success rates using different layer features

由圖7可知，隨著卷積層的層數增高，抓毛織物表面特征越來越明顯，抽取的特征越抽象，用于分類檢測的效果越好。

2.3.1 優化算法對模型的影響

不同的優化算法對于模型訓練中參數的更新有著重要影響，選擇合適的優化算法可以使模型的輸出參數達到最優。由表2可知，SGDM優化算法較RMSProp、Adam優化算法有著更高的預測準確率和較快的收斂速度。SGDM優化算法在每次選取部分抓毛織物樣本數據進行訓練的同時，引入了動量因子更新模型參數，因此在訓練速度及預測準確率上優于RMSProp、Adam兩種算法，因此，本文模型以SGDM作為優化算法更新模型。

2.3.2 數據增強對模型的影響

在其他參數和網絡結構相同的實驗條件下，為了驗證原始數據集和擴充后數據集對模型的影響，本文在基于SGDM優化算法進行遷移學習并采用相同的學習率0.000 1，對原始數據集和擴充后數據集進行訓練，結果如圖8所示。由圖可知，擴充后數據集的測試準確率比未擴充的原始數據集的測試準確率高，表明數據擴充能夠增加數據的多樣性，有效避免了訓練過程中出現過擬合現象。此外，原始數據在訓練過程中，訓練準確率很容易出現波動，造成訓練曲線不穩定；擴充后數據在訓練過程中的準確率曲線比較平緩，波動小。由于訓練數據的增加，學習抓毛織物表面特征類型更加詳細，使得訓練準確率更加穩定、波動平緩，能夠有效提高模型的魯棒性。

圖8 數據增強對模型影響Fig.8 Impact of data enhancement on model

2.3.3 遷移學習對模型的影響

為研究遷移學習在抓毛織物圖像數據增強情況下的泛化能力，基于SGDM優化算法，以學習率為0.000 1進行訓練，對比結果如表3所示，準確率如圖9所示。由圖可知，數據集經過圖像數據擴充后，增加了數據的多樣性，全新學習與遷移學習的準確率均有所提高。但是全新學習收斂速度最慢，且具有較大的波動在一定時間內很難適應數據擴充帶來的數據多樣性；遷移學習的收斂速度比全新學習快，表明遷移學習縮短了網絡收斂時間。

表3 學習方式對比結果Tab.2 Comparison and recognition results of learning styles

圖9 不同學習方式對模型的影響Fig.9 Influence of different learning methods on model

3 結 論

本文以抓毛織物為研究對象，采用深度學習的方法對合格抓毛織物與5種不合格抓毛織物進行質量檢測，得到如下主要結論。

1)以卷積神經網絡對抓毛織物進行特征提取，能夠自動提取具有高分辨力的優質特征。

2)SGDM優化算法在訓練速度以及預測準確率上較其他優化算法而言有所優勢，SGDM優化算法更新網絡可以提高網絡的分類性能，擴充后的抓毛織物圖像數據集可以提高模型的識別率，獲得性能良好的網絡模型，有效提高模型的魯棒性。

3)與AlexNet全新學習相比，本文采用遷移學習縮短網絡收斂時間，提升了模型的識別性能，在抓毛織物質量檢測方面具有較高的準確率。

4)基于改進AlexNet模型的pool5層提取抓毛織物特征擬合SVM分類器，對織物的識別準確率明顯提高。

FZXB