999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

基于改進GoogLeNet的玉米葉片病害識別及其可解釋性研究

2025-01-19 00:00:00牛潘婷張寶林潘麗杰郭建鵬
中國農機化學報 2025年1期
關鍵詞:深度學習

摘要:

為加強農作物病害的識別,減少病害發生的頻率與強度,提高農作物產量與品質,基于遷移學習構建5種深度學習網絡,對玉米葉片銹病、大小斑病和灰斑病進行識別分類研究。通過對比AlexNet、VGG19、ResNet50、GoogLeNet和MobileNetV2深度學習網絡,GoogLeNet的識別準確率最高,達到96.3%,模型收斂效果最好。通過進一步優化GoogLeNet模型架構,在inception模塊中插入卷積注意力模塊CBAM,使用LeakyReLU激活函數替換ReLU函數,改進后網絡通道注意力增強,測試集的識別準確率達到99.0%,識別準確率提高2.7%。采用CAM和LIME算法對模型的可解釋性分析,改進后網絡的可解釋性增強,更好地關注葉片病害部分。

關鍵詞:深度學習;玉米葉片病害;遷移學習;可解釋性;圖像處理

中圖分類號:TP391.4; S435.131

文獻標識碼:A

文章編號:2095-5553 (2025) 01-0204-09

Identification and explainability of maize leaf diseases based on

improved GoogLeNet

Niu Panting1, Zhang Baolin1, 2, 3, Pan Lijie1, Guo Jianpeng1

(1. College of Chemistry and Environmental Sciences, Inner Mongolia Normal University, Hohhot, 010020, China;

2. Inner Mongolia Key Laboratory of Environmental Chemistry, Hohhot, 010020, China;

3. Inner Mongolia Water-saving Agriculture Engineering Research Center, Hohhot, 010020, China)

Abstract:

In order to strengthen the identification of crop diseases, reduce the frequency and intensity of disease occurrence, and increase crop yield and quality, five kinds of deep learning frameworks based on transfer learning was used to identify and classify maize leaf diseases, including corn rust, leaf blight and gray spot. Compared with AlexNet, VGG19, ResNet50, GoogLeNet and MobileNetV2 deep learning networks, the recognition accuracy of GoogLeNet is the highest by 96.3%, and the model convergence effect is the best. By further optimizing the GoogLeNet model architecture, the Convolutional Block Attention Module (CBAM) is inserted into the inception module, and the LeakyReLU activation function is used to replace the ReLU function. After the improvement, the network channel attention is strengthened, the recognition accuracy of the test dataset reaches 99.0%, and the recognition accuracy is increased by 2.7%. CAM(Class Activation Mapping) and LIME(Local Interpretable Model-Agnostic Explanations) algorithms are used to analyze the model interpretability, the interpretability of the improved network shows higher explainability, with more attention on disease affected leaf regions.

Keywords:

deep learning; maize leaf disease; transfer learning; explainability; image processing

0"引言

玉米是我國的重要糧食作物,種植范圍廣、面積大。玉米葉部病害危害較重,影響玉米的產量和質量[1]。要在保護生態的基礎上提高病蟲害防治水平,需要優化病害識別方法與技術,以減少病害發生頻率與強度。因此,農作物病蟲害的無損檢測是精準農業、智慧農業發展的必然需求。

由于深度學習具有自主學習和特征提取等優點,在圖像識別、語義分割等領域取得了重大突破,也成為農業植物保護和環境保護的研究熱點[2]。深度學習的出現為病蟲害防治提出了新的思路與方法,農作物病蟲害識別已進入第3個階段,即基于深度學習的人工智能階段。學者們將以AlexNet[3]、VGG[4]、GoogLeNet[5]、ResNet[6]、DenseNet[7]、MobileNet[8]等為代表的深度神經網絡應用到農作物病蟲害識別、監測中,取得了不錯的效果。基于GoogLeNet搭建的蘋果樹葉片病害診斷模型在葉片病害識別精確率達98.4%[9]。李恩霖等[10]采用遷移學習構建了5種卷積神經網絡,CNN的病蟲害識別模型在玉米3種病害上表現出良好的效果,準確率達99.73%。許景輝等[11]采用遷移學習方法,基于VGG16構建了新的全連接層,實現了大斑病與玉米銹病的智能識別。李靜等[12]通過改進GoogLeNet模型,對玉米螟蟲害圖像識別準確率達到96.44%。楊長磊等[13]采用遷移學習,改進MobileNet,在5萬余張農作物圖像上進行訓練,病害識別準確率達到了99.67%。Mohanty等[14]利用GoogleNet識別14種作物的26種疾病,準確率達到99.35%。

雖然深度學習在圖像分類、語義分割、視頻處理和關鍵點檢測等多個領域都取得了優秀的成果,但在可解釋性方面,與機器學習算法相比,深度學習有很大的滯后性,給研究帶來了很大的阻礙[15]。深度學習網絡的可解釋性是指理解網絡的決策過程和內部機制的能力[16]。在深度學習中,網絡通常由許多層和節點組成,層和節點之間的關系非常復雜,使得人們很難理解網絡的決策過程和內部機制。因此,深度學習網絡模型的可解釋性一直是一個熱門話題。近年來,研究人員提出了許多方法以增強深度學習的可解釋性。2016年,Zhou等[17]提出CAM算法,在圖像分類任務中生成熱力圖,對深度學習網絡進行了可解釋與顯著性分析,同時展現了可幫助圖像分類模型解決定位問題的能力。2017年,根據CAM算法衍生出的Grad-CAM[18],對CAM進行優化改進,可以分析深度學習網絡的任意一層。LIME算法[19]是基于局部代理模型來對單個樣本進行解釋,與網絡無關,可用性很高。然而,在目前的植物病害識別領域中,模型在特征提取階段學習到了什么,依據什么進行分類依舊是一種“黑盒”問題,可解釋性分析罕見報導。黑盒問題導致深度學習在玉米病害識別分類的可解性研究很少,亟需進行研究探索,助力人工智能在農業領域的應用和智慧農業的發展。

本文以玉米葉片銹病、大小斑病和灰斑病為研究對象,采用遷移學習構建AlexNet、VGG19、ResNet50、GoogLeNet和MobileNetV2五種卷積神經網絡進行玉米葉片病害的識別、分類評估,選出最佳模型并進行優化,為病害監督管理方面提出新的方法;進而利用CAM、LIME算法對模型的可解釋性進行探索,觀察網絡在圖像分類任務中的學習情況,對深度學習網絡的“學習”內容進行分析,明確網絡模型改進的方向。基于深度學習技術的玉米病害葉片分類監測和可解釋性研究,將有助于玉米病害的識別,做到及時防治,提高作物產量和品質。

1"材料與方法

1.1"數據集構建

數據圖像是訓練模型的基礎,數據集越大,網絡模型學習到的圖像特征越全面,在測試集上運行效果更好。本研究的數據集由公開數據集、實地拍攝和網絡下載的圖像構成。實地拍攝圖像和網絡下載圖像有大量的無關信息,需要進行數據的預處理,增強圖像分類識別的有效性。采用GrabCut進行圖像分割,去除圖像中的無關信息(如雜草、土壤、莖稈等)(圖1),得到健康玉米葉片圖像554張、玉米銹病圖像1239張、大小斑病圖像1094張、玉米灰斑病圖像555張,共計3442張圖像數據。同時,通過數據增強擴充數據集。為防止數據樣本不均衡、數據樣本差距較大等導致的一系列問題,在進行數據擴充時,對玉米灰斑病和健康圖像進行多次擴充。經過數據擴充后,玉米健康葉片圖像為3324張,玉米銹病圖像3717張,大小斑病圖像3330張,玉米灰斑病圖像3286張,共計13657張(表1)。按8∶2的比例隨機劃分數據集為訓練集與測試集。

1.2"研究方法

由于深度學習在眾多領域的成功應用,國內外學者將深度學習與農業領域相結合,其中CNN得到廣泛應用。CNN基本結構包括卷積層(Conv)、池化層(Pooling)、激活函數(ReLU)、歸一化層(BN)和全連接層(FC)。對于農作物病蟲害圖像,可以通過卷積層運算提取特征,應用池化層減少數據處理量并保留有用特征,通過完全連接層權重矩陣重建局部特征[2]。遷移學習是將在某個任務上訓練出來的網絡模型參數,經過微調后直接運用到新的任務中,可減少網絡模型訓練時間,使模型的泛化能力得到提高[20]。遷移學習的訓練成本低,在沒有深度學習機器的情況下也可以進行。遷移學習也可運用于小數據集,解決部分數據不足或原有數據少的問題。基于此,利用遷移學習構建深度學習模型。

1.2.1"技術路線

使用Python語言,基于Pytorch框架搭建網絡模型。采用遷移學習方法,構建AlexNet、VGG19、ResNet50、GoogLeNet和MobileNetV2模型,并對網絡參數進行微調。采用相同的數據,相同的超參數設計進行訓練,篩選出運行效果最好的網絡模型并進行優化。通過比較模型改進前后的混淆矩陣、識別準確率(Accuracy)、精確率(Precision)、召回率(Recall)和語義特征降維可視化,分析模型優化效果。最后,對深度學習網絡進行可解釋性分析,將其作為重要的指標之一進行網絡評價。技術路線如圖2所示。

1.2.2"激活函數

在很多模型中使用ReLU作為激活函數,如果輸入激活函數是大于0的信號,信號就將向后傳遞,其他輸出為0。ReLU是當前使用最頻繁的激活函數。

f(x)=

xxgt;0

0x≤0

(1)

LeakyReLU是ReLU激活函數的一種變形,是為了解決ReLU激活函數的神經元“死亡”問題提出的。LeakyReLU與ReLU的輸出僅在xlt;0時有差異,在ReLU中輸入小于0時,輸出為0;而LeakyReLU輸入小于0時,輸出為負值,梯度非常小。這樣,當LeakyReLU激活函數輸入小于0的信號時,也能夠通過計算得到梯度。

f(x)=

xx≥0

axxlt;0

(2)

1.2.3"神經網絡模型評價指標

基于深度學習的農作物病蟲害監測識別中,常用于評價分類模型的指標主要有準確率、靈敏度、召回率、精確率和F1分數等[21]

1) "識別準確率。

準確率(Accuracy)是正確預測占所有預測的比例,計算如式(3)所示。

Accuracy=TN+TPTN+TP+FN+FP

(3)

式中:

TP——被網絡模型預測為正類的正樣本;

TN——被網絡模型預測為負類的負樣本;

FP——被網絡模型預測為正類的負樣本;

FN——被網絡模型預測為負類的正樣本。

2) "精確率。

精確率(Precision)是對網絡模型判斷出的所有正例(TP+FP)來說,真正例(TP)占的比例,計算如式(4)所示。

Precision=TPTP+FP

(4)

3) "召回率。

召回率(Recall)又稱查全率,表示的是分類器中判定為真的正例占總正例的比率,計算如式(5)所示。

Recall=TPTP+FN

(5)

4) "F1分數,計算如式(6)所示。

F1-Score=2×Precision×RecallPrecision+Recall

(6)

1.2.4"神經網絡模型可解釋性

識別準確率不是評價網絡模型的唯一指標,模型具有良好的可解釋性也是必要的。在深度學習發展中一直有一個困擾人們的問題,就是“黑盒”難題。在深度學習中,常用的CNN普遍被認為是個黑盒,可解釋性不高。復雜的神經網絡結構導致模型有很大的不透明性,可解釋性相較于機器學習很差[22]

在圖像分類任務中,第一個步驟是對數據集進行訓練,第二個步驟是對數據集進行測試,而不管是訓練還是測試,網絡結構的內容都是不透明的。只知道模型從訓練中學到特征,再應用到測試集,得到數據的分類結果;但不知道網絡模型究竟提取了何種特征,按照何種特征進行分類,有哪些側重點。因此,對模型的可解釋性進行研究,有助于對模型進行評估,發現模型的不足。對于模型的可解釋性分析,可分為敏感性分析和梯度分析。敏感度分析就是分析模型對哪個特征更為敏感、更感興趣;梯度分析就是將數據集中的特征通過梯度變化,來說明數據集中的哪些特征是分類的依據。目前,網絡可解釋性研究的常用的方法包括CAM、LIME、Grad-CAM[23]、SmoothGrad[24]等。本文使用CAM、LIME對模型進行可解釋性研究,并將可解釋性作為模型的重要評價指標。CAM是類激活圖算法,計算簡單,可以有效地反映網絡在輸入中關注的特征,并繪制出相應的熱力圖,可以發現模型在原圖的注意力,關注哪些區域。LIME算法是一種局部可解釋性模型算法,主要用于文本類與圖像類模型中,具有很強的通用性,性能優越。

2"結果與分析

2.1"基于遷移學習的玉米葉片病害識別

2.1.1"試驗超參數設置

采用遷移學習方法構建AlexNet、VGG19、ResNet50、GoogLeNet和MobileNetV2進行訓練,對ImageNet圖像識別大賽網絡的權重參數進行微調網絡。在訓練網絡時,學習率過高網絡不穩定,過低模型收斂很慢。采用學習率衰減法,每經過10次迭代,學習率減半。模型Batchsize設置為64,采用Adam進行參數優化。

2.1.2"模型性能評價

1) "模型穩定性。

深度學習網絡的損失函數可以反映模型在訓練過程中的穩定性。如果訓練集和測試集的損失函數值都趨于穩定,表明模型訓練穩定;比較模型在訓練集與測試集上的訓練結果,二者間差距越小,說明模型在數據集上的表現越穩定。根據模型在測試集上損失的變化可知,AlexNet的收斂最差,曲線波動最大,穩定性不好(圖3)。通過比較不同模型在訓練集和測試集上的誤差,可知全部網絡整體誤差很小(表2)。GoogLeNet與VGG19模型的泛化能力較好,誤差很小,模型表現良好。MobileNetV2的曲線波動很小,收斂效果優于AlexNet、VGG19和ResNet50。比較模型在訓練集與測試集的損失,可以發現ResNet50模型損失最小,AlexNet損失最大,說明AlexNet模型穩定性最差。

2) "模型分類能力。

根據模型損失函數的變化(圖3),可以發現GoogLeNet的性能優于其他模型,收斂效果和損失上表現較優。AlexNet損失函數曲線在epoch=29和epoch=33時驟減,導致曲線波動很大,其原因可能是學習率設置不合理,導致網絡訓練的收斂效果不好。VGG19和GoogLeNet在識別準確率上相差不大,但VGG19在損失上表現較差,兩個網絡運行效果遠優于其他網絡。在擴充數據集上,GoogLeNet模型的損失值遠小于其他網絡,識別準確率優于其他網絡(圖4、表3),沒有出現過擬合的現象,模型運行效果最好。

根據模型分類混淆矩陣(圖5),可以觀察到單個病害的識別效果,識別效果最好的是玉米銹病,其次是健康葉片,大小斑病和灰斑病分類效果較差。VGG19的運行效果也很優秀,存在單個病害識別優于GoogLeNet網絡的現象。

2.2"基于改進GoogLeNet算法的玉米葉片病害識別

2.2.1"模型架構改進

根據不同模型在數據集上的表現(表3),GoogLeNet性能最為優秀,收斂效果好,準確率最高,達到96.3%。因此,對GoogLeNet改進,推出一個更為優秀的網絡結構。GoogLeNet采用的inceptionModule結構,較好地解決了增加網絡深度帶來的梯度消失問題,同時采用了不同尺寸的卷積核和池化層來解決網絡規模可能造成的過擬合問題。

在改進GoogLeNet時,引入注意力機制。注意力機制可以讓網絡更加關注重要的特征,從而提高網絡性能,增強圖像分類識別效果。常用的注意力機制模塊有SENet、CBAM、ECA和RFB等。CBAM[25]是常用于圖像分類的注意力機制,可以增強模型的表達能力,幫助網絡更好地捕捉圖像中的重要特征,提高模型的性能。CBAM有兩個并行的塊:通道注意力模塊和空間注意力模塊(圖6)。通道注意力模塊通過學習特定通道的重要性來加權每個通道的特征圖,空間注意力模塊通過自適應地調整不同空間位置的特征響應來提高模型的空間感知能力。CBAM可以自適應地學習哪些特征最重要,并將其加權到模型中。加入CBAM模塊后,可以在通道維度和空間維度上進行特征的重要性評估和特征的重新縮放,更好地捕捉具有不同大小和位置的對象,提高對圖像細節的感知,更好地捕捉圖像中的重要特征,提高網絡性能。采用CBAM注意力機制進行網絡優化,在GoogLeNet中加入注意機制,以改進網絡性能。

在inception模塊中加入CBAM模塊,ReLU激活函數可能會出現Dead ReLU情形,因此采用LeakyReLU激活函數替代ReLU激活函數。LeakyReLU激活函數比ReLU函數更加穩定,可以解決神經元的“死亡”問題,相對于ReLU激活函數有更快的收斂速度。

在新的網絡模型中,在GoogLeNet的每個inception Module中添加CBAM模塊,以增強模型的注意力,增強特征表達能力,以提高模型分類準確率和泛化能力。同時,將模型中的ReLU激活函數替換為LeakyReLU激活函數,改進后GoogLeNet的inception結構如圖7(b)所示。

2.2.2"模型性能改進

1) "模型穩定性。

模型改進前后穩定性變化較大,網絡模型運行曲線可以反映出模型在訓練過程中的穩定性。改進后的GoogLeNet模型損失函數曲線波動更小,收斂效果更好,模型的穩定性更好(圖8)。同時,對比訓練集與測試集測試誤差(表4)可知,改進后的GoogLeNet模型在訓練集與測試集上的表現差距相較改進前更小,說明改進后GoogLeNet網絡模型在數據集上的表現更穩定。

2) "模型準確率。

將通過添加注意力機制和替換激活函數后的新模型,應用于試驗數據,采用與之前試驗相同的參數設計,對比改進前后模型運行的效果。可以看出,改進后的GoogLeNet在識別準確率方面的表現遠優于優化前的模型(圖9)。根據改進后GoogLeNet的混淆矩陣(圖10),可以看出模型對所有的玉米病害的識別性能都有所提升,其中,玉米大小斑病的提升效果最好,灰斑病與大小斑病錯誤識別的情形明顯減少。

對比模型改進前后的模型評價指標(表5),可以發現,改進后的GoogLeNet在識別準確率、精確率、召回率和F1分數上均優于改進前的GoogLeNet。模型的精確率提高了,錯誤率降低了,網絡模型分類效果明顯有提升;F1分數增加,說明網絡模型分類效果變好。改進后GoogLeNet模型的性能參數平均為99.0%,接近于1,模型達到穩態,模型性能良好。改進后GoogLeNet模型的性能遠優于優化前的網絡模型。

3) "特征可視化。

對訓練好的模型進行語義特征降維可視化研究,通過測試集數據的降維可視化,觀察模型將不同數據劃分到什么位置,有助于理解模型在面對圖像進行了怎樣的判斷。將數據投影到二維空間,可以觀察到模型的聚類情況,采用t-SNE(t-Distributed Stochastic Neighbor Embedding)函數對測試集的數據圖像降維可視化(圖11)。可以發現,測試集的數據圖像的可分性很好,同類別之間間隔小,不同類之間間隔大。同時,也可以發現模型對灰斑病與大小斑病的分類存在混淆情況,分類效果遠不如玉米的健康葉片,造成這一情況的主要原因可能是因為玉米葉片灰斑病與大小斑病的病狀存在相似性。

2.2.3"數據集大小對模型的影響

為探究數據集的大小對模型訓練的影響,利用擴充前的原始數據(3442張)與數據增強后的擴充數據(13657張)分別進行試驗。采用提出的新模型進行對比,學習率設置為當test_loss經過8次迭代沒有減小時,學習率減小為原學習率的10%;Batchsize設置為64;采用Adam進行優化參數。可以發現,擴充數據集運行的結果遠優于原始數據集,可知數據集的擴充會使模型在測試集上表現更好(圖12)。

2.3"模型可解釋性研究

采用CAM算法對AlexNet、VGG19、ResNet50、GoogLeNet、MobileNetV2和改進GoogLeNet算法進行可解釋分析,可以發現改進后的網絡可解釋性更好(圖13)。模型在提高網絡準確率的同時,增強了神經網絡模型的可解釋性。注意力機制可以將網絡的決策集中在輸入的特定區域或局部,改進GoogLeNet算法可以更好地關注圖像中的病害部分。

同時,AlexNet網絡的可解釋性相對于其他網絡較差,模型的重點關注區域錯誤。因為在AlexNet網絡深層次結構中,存在大量的卷積層和池化層,使得網絡中的每一個神經元都難以解釋其具體的作用和含義,使AlexNet網絡的可解釋性較差。對所提出的改進GoogLeNet網絡進行LIME可解釋分析(圖14),綠色區域代表圖像當前的類別一致,紅色則相反,玉米大小斑病病狀區域被識別出,LIME算法進行可解釋分析效果良好。

3"討論

3.1"注意力機制對模型性能的影響

在網絡結構中加入注意力機制可以提升模型的精度、泛化能力和網絡可解釋性。注意力機制可以幫助網絡消除輸入中的噪聲和干擾,增強網絡可解釋性。根據模型優化前后的運行結果、混淆矩陣和語義降維可視化,可以發現改進的算法在識別精度與算法性能方面都遠優于優化前的網絡。改進后,識別準確率提高2.7%,模型收斂效果更好,穩定性有所增高。在深度學習網絡中添加注意力機制可以提升精度,這與其他學者的研究結果一致。在YOLOv5s的骨干網絡中加入CBAM注意力機制模塊,提高了識別精度,實現對溫室番茄快速識別[26]。YOLOv5s引入優化后的CBAM模塊與改進前相比農作物病蟲害識別中精度提高了5%[27]。在輕量化Efficient網絡中引入CBAM模塊,在水稻常見病害數據集上的識別準確率95.63%,提高了1.75%[28]。綜上所述,在網絡中添加注意力機制模塊確實可以避免無關信息的干擾,提升模型的性能,增強模型的特征提取能力,保留圖像的關鍵特征,提高模型分類能力。研究中,將CBAM模塊添加到inception模塊中提高了模型的表達能力、泛化能力和精度。

CNN的淺層卷積提取的都是顏色、紋理、邊緣和斑塊等特征,可以依據實際任務進行改進優化神經網絡。inception模塊能夠提取不同尺度的特征圖,而CBAM模塊能夠自適應地對不同通道和空間位置進行注意力加權,能夠使得網絡更加關注重要的特征,加強特征圖的表達能力,提升模型的泛化能力。在后續研究中,可以嘗試在GoogLeNet模型的其他地方插入CBAM模塊,或者替換GoogLeNet中前幾層的卷積層。

3.2"激活函數對模型性能的影響

在優化GoogLeNet模型時,引入LeakyReLU激活函數,因為在實際訓練中發現ReLU會出現神經元死亡情況。采用LeakyReLU激活函數可以規避ReLU的“死亡”問題,提高網絡性能。LeakyReLU的引入使得梯度在小于0的區域不為0,從而減少訓練過程中的抖動,使得訓練更加穩定。李靜等[12]基于GoogLeNet優化識別玉米螟蟲研究中,將ReLU更換為Sigmoid激活函數。但是張瑞青等[29]基于AlexNet模型進行改進識別花生莢果等級的研究中,分析討論了激活函數的影響,發現更換為LeakyReLU激活函數時網絡模型訓練提升效果微弱。本文采用LeakyReLU激活函數,沒有做不同激活函數對模型運行結果的影響,有待于進一步研究。

3.3"玉米葉片病害誤判的原因分析

通過各種不同模型的運行結果、混淆矩陣的比較,可以發現每個模型中玉米銹病的識別準確率都高于另外兩種病害。對模型進行語義降維可視化,發現玉米大小斑病與灰斑病有相互誤判的情況。其原因可能是數據圖像存在錯標、病害情形復雜,存在混合病害,識別難度大,又或者因為灰斑病與大小斑病的發病性狀有相似性。灰斑病發病時,癥狀起初為橢圓形至矩圓形灰色至淡褐色,邊緣不太明顯,后期會變為褐色,病斑區域多局限于平行的葉脈之間[30]。玉米大小斑病發病癥狀呈橢圓形、近球形、柱形或倒棍棒形,中間或中間稍下處最寬,兩端漸細小,褐色至深褐色。由此可知大小斑病與灰斑病癥狀有相似性,可能導致模型在這兩種病害上的識別分類精度不如玉米銹病。

3.4"玉米葉片病害識別模型可解釋性

通過對所有搭建的網絡進行CAM熱力圖進行可解釋研究,發現改進后的模型網絡可解釋性更好,這與其他學者研究一致。優化后的網絡在提高網絡準確率的同時,增強了網絡的可解釋性。王昕等[27]對優化后的YOLOv5算法通過Grad-CAM進行了可解釋分析,發現優化前后的網絡關注點不同,優化前的網絡更關注局部卷積,優化后的網絡可以很好地將局部卷積與全局部卷積結合。于雪瑩等[31]通過采用特征圖和熱力圖對CBAM-ResNet進行可視化分析,了解模型對蘋果病害的識別機制。通過分析與對比,優化后的網絡可以更好地注意病害部分,降低對背景的關注。注意力機制模塊可以更加準確地關注輸入數據的重要特征,增強網絡可解釋性。本研究對網絡進行了LIME算法可解釋性研究,發現本研究的可解釋性、可行性很好。LIME算法有很強的通用性,但是運行速度比CAM慢。因為LIME算法通過干擾數據樣本的輸入變量去理解預測是如何變化來理解分類模型,本研究中數據樣本的輸入變量為圖像中的每個像素[32]

在玉米病害圖像識別分類任務,對深度學習網絡進行可解釋分析,可以發現深度學習網絡模型在數據圖像上的注意力,在關注什么區域,依據什么特征進行分類。對深度學習模型進行可解釋分析,有助于進一步對模型的評估,也可以發現模型的缺點,思考模型為什么分類錯誤,并提出改進優化方向。在后續研究中,為提高深度學習網絡的可解釋性,可以嘗試一些特殊的技術和方法,例如可視化、解釋性對抗訓練和局部敏感性分析等,可以多采用一些可解釋性算法對深度學習圖像分類任務進行分析。

4"結論

1) 基于AlexNet、VGG19、ResNet50、GoogLeNet和MobileNetV2,通過遷移學習方法構建5種深度學習網絡,對3種玉米葉片病害進行識別分類,研究表明GoogLeNet的識別準確率最高,達到96.3%。

2) 通過在inception模塊中加入CABM改進GoogLeNet,深度學習網絡在數據測試集上最高識別準確率達到99.0%,較改進前提高2.7%。研究表明在GoogLeNet中添加CBAM注意力機制模塊,提升了模型的穩定性與識別精度,可以幫助網絡更好地學習特征表示,提高識別準確率。

3) 網絡的可解釋分析表明改進后的網絡對葉片病害部分更加關注,決策依據集中于病害區域,使可解釋性得到增強。因此,模型的可解釋性分析可以作為改進網絡的參考。

參"考"文"獻

[1]

劉麗娟, 劉仲鵬, 張麗梅. 基于圖像處理技術的玉米葉部病害識別研究[J]. 吉林農業科學, 2014, 39(1): 61-65.

Liu Lijuan, Liu Zhongpeng, Zhang Limei. Studies on image processing of maize leaf diseases [J]. Journal of Jilin Agricultural Sciences, 2014, 39(1): 61-65.

[2]

翟肇裕, 曹益飛, 徐煥良, 等. 農作物病蟲害識別關鍵技術研究綜述[J]. 農業機械學報, 2021, 52(7): 1-18.

Zhai Zhaoyu, Cao Yifei, Xu Huanliang, et al. Review of key techniques for crop disease and pest detection [J]. Transactions of the Chinese Society for Agricultural Machinery, 2021, 52(7): 1-18.

[3]

Krizhevsky A, Sutskever I, Hinton G. ImageNet classification with deep convolutional neural networks [C].Advances in Neural Information Processing Systems, 2012.

[4]

Simonyan K, Zisserman A. Very deep convolutional networks for large-scale image recognition [J]. arXiv preprint arXiv: 1409. 1556, 2014.

[5]

Szegedy C, Liu W, Jia Y, et al. Going deeper with convolutions [C]. 2015 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2015.

[6]

He K, Zhang X, Ren S, et al. Deep residual learning for image recognition [C]. 2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2016.

[7]

Huang G, Liu Z, Van Der Maaten L, et al. Densely connected convolutional networks [C]. 2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2017.

[8]

Howard A, Zhu M, Chen B, et al. MobileNets: Efficient convolutional neural networks for mobile vision applications [J]. arXiv preprint arXiv: 1704. 04861, 2017.

[9]

宋晨勇, 白皓然, 孫偉浩, 等. 基于GoogLeNet改進模型的蘋果葉病診斷系統設計[J]. 中國農機化學報, 2021, 42(7): 148-155.

Song Chenyong, Bai Haoran, Sun Weihao, et al. Design of apple leaf disease diagnosis system based on GoogLeNet improved model [J]. Journal of Chinese Agricultural Mechanization, 2021, 42(7): 148-155.

[10]

李恩霖, 謝秋菊, 蘇中濱, 等. 基于深度學習的玉米葉片病斑識別方法研究[J]. 智慧農業導刊, 2021, 1(10): 1-10.

Li Enlin, Xie Qiuju, Su Zhongbin, et al. Research on maize leaf disease spot recognition based on deep learning [J]. Journal of Smart Agriculture, 2021, 1(10): 1-10.

[11]

許景輝, 邵明燁, 王一琛, 等. 基于遷移學習的卷積神經網絡玉米病害圖像識別[J]. 農業機械學報, 2020, 51(2): 230-236.

Xu Jinghui, Shao Mingye, Wang Yichen, et al. Recognition of corn leaf spot and rust based on transfer learning with convolutional neural network [J]. Transactions of the Chinese Society for Agricultural Machinery, 2020, 51(2): 230-236.

[12]

李靜, 陳桂芬, 安宇. 基于優化卷積神經網絡的玉米螟蟲害圖像識別[J]. 華南農業大學學報, 2020, 41(3): 110-116.

Li Jing, Chen Guifen, An Yu. Image recognition of pyrausta nubilalis based on optimized convolutional neural network [J]. Journal of South China Agricultural University, 2020, 41(3): 110-116.

[13]

楊長磊, 李彩林, 王佳文, 等. 基于改進深度神經網絡的農作物病害識別研究[J]. 農業與技術, 2021, 41(6): 1-3.

[14]

Mohanty S P, Hughes D P, Salathé M. Using deep learning for image-based plant disease detection [J]. Frontiers in Plant Science, 2016, 7: 1419.

[15]

楊朋波, 桑基韜, 張彪, 等. 面向圖像分類的深度模型可解釋性研究綜述[J]. 軟件學報, 2023, 34(1): 230-254.

Yang Pengbo, Sang Jitao, Zhang Biao, et al. Survey on interpretability of deep models for image classification [J]. Journal of Software, 2023, 34(1): 230-254.

[16]

陳沖, 陳杰, 張慧, 等. 深度學習可解釋性綜述[J]. 計算機科學, 2023, 50(5): 52-63.

Chen Chong, Chen Jie, Zhang Hui, et al. A Review of interpretability in deep learning [J]. Computer Science, 2023, 50(5): 52-63.

[17]

Zhou B, Khosla A, Lapedriza A, et al. Learning deep features for discriminative localization [C]. 2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2016.

[18]

Selvaraju R R, Cogswell M, Das A, et al. Grad-CAM: Visual explanations from deep networks via gradient-based localization [C]. 2017 IEEE International Conference on Computer Vision (ICCV), 2017.

[19]

Ribeiro M T, Singh S, Guestrin C. “Why should i trust you?” explaining the predictions of any classifier [C]. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 2016: 1135-1144.

[20]

莊福振, 羅平, 何清, 等. 遷移學習研究進展[J]. 軟件學報, 2015, 26(1): 26-39.

Zhuang Fuzhen, Luo Ping, He Qing, et al. Survey on transfer learning research [J]. Journal of Software, 2015, 26(1): 26-39.

[21]

Ishengoma F S, Rai I A, Said R N. Identification of maize leaves infected by fall armyworms using UAV-based imagery and convolutional neural networks [J]. Computers and Electronics in Agriculture, 2021, 184: 106124.

[22]

蘇炯銘, 劉鴻福, 項鳳濤, 等. 深度神經網絡解釋方法綜述[J]. 計算機工程, 2020, 46(9): 1-15.

Su Jiongming, Liu Hongfu, Xiang Fengtao, et al. Survey of interpretation methods for deep neural networks [J]. Computer Engineering, 2020, 46(9): 1-15.

[23]

Selvaraju R R, Cogswell M, Das A, et al. Grad-CAM: Visual explanations from deep networks via gradient-based localization [C]. IEEE International Conference on Computer Vision. IEEE, 2017.

[24]

Smilkov D, Thorat N, Kim B, et al. SmoothGrad: Removing noise by adding noise [J]. arXiv Preprint arXiv: 1706. 03825, 2017.

[25]

Woo S, Park J, Lee J, et al. CBAM: Convolutional block attention module [C]. Proceedings of the 15th European Conference on Computer Vision (ECCV), 2018.

[26]

張俊寧, 畢澤洋, 閆英, 等. 基于注意力機制與改進YOLO的溫室番茄快速識別[J]. 農業機械學報, 2023, 54(5): 236-243.

Zhang Junning, Bi Zeyang, Yan Ying, et al. Fast recognition of greenhouse tomato targets based on attention mechanism and improved YOLO [J]. Transactions of the Chinese Society for Agricultural Machinery, 2023, 54(5): 236-243.

[27]

王昕, 董琴, 楊國宇. 基于優化CBAM改進YOLOv5的農作物病蟲害識別[J]. 計算機系統應用, 2023, 32(7): 261-268.

Wang Xin, Dong Qin, Yang Guoyu. YOLOv5 improved by optimized CBAM for crop pest identification [J]. Computer Systems amp; Applications, 2023, 32(7): 261-268.

[28]

衛雅娜, 王志彬, 喬曉軍, 等. 基于注意力機制與EfficientNet的輕量化水稻病害識別方法[J]. 中國農機化學報, 2022, 43(11): 172-181.

Wei Yana, Wang Zhibin, Qiao Xiaojun, et al. Lightweight rice disease identification method based on attention mechanism and EfficientNet [J]. Journal of Chinese Agricultural Mechanization, 2022, 43(11): 172-181.

[29]

張瑞青, 李張威, 郝建軍, 等. 基于遷移學習的卷積神經網絡花生莢果等級圖像識別[J]. 農業工程學報, 2020,36(23): 171-180.

Zhang Ruiqing, Li Zhangwei, Hao Jianjun, et al. Image recognition of peanut pod grades based on transfer learning with convolutional neural network [J]. Transactions of the Chinese Society of Agricultural Engineering, 2020, 36(23): 171-180.

[30]

周慧升. 玉米灰斑病的發生及綜合防治[J]. 云南農業, 2020(8): 56-58.

[31]

于雪瑩, 高繼勇, 王首程, 等. 基于生成對抗網絡和混合注意力機制殘差網絡的蘋果病害識別[J]. 中國農機化學報, 2022, 43(6): 166-174.

Yu Xueying, Gao Jiyong, Wang Shoucheng, et al. Apple disease recognition based on wassersteingenerative adversarialnetworks and hybrid attention mechanism residual network [J]. Journal of Chinese Agricultural Mechanization, 2022, 43(6): 166-174.

猜你喜歡
深度學習
從合坐走向合學:淺議新學習模式的構建
面向大數據遠程開放實驗平臺構建研究
基于自動智能分類器的圖書館亂架圖書檢測
搭建深度學習的三級階梯
有體驗的學習才是有意義的學習
電子商務中基于深度學習的虛假交易識別研究
現代情報(2016年10期)2016-12-15 11:50:53
利用網絡技術促進學生深度學習的幾大策略
考試周刊(2016年94期)2016-12-12 12:15:04
MOOC與翻轉課堂融合的深度學習場域建構
大數據技術在反恐怖主義中的應用展望
深度學習算法應用于巖石圖像處理的可行性研究
軟件導刊(2016年9期)2016-11-07 22:20:49
主站蜘蛛池模板: 亚洲午夜片| 亚洲AⅤ无码日韩AV无码网站| 这里只有精品在线播放| a色毛片免费视频| 国产成人夜色91| 亚洲天堂区| 亚洲国产日韩欧美在线| 国产91av在线| 日韩欧美国产综合| 国产一级做美女做受视频| 天天色天天综合| 99久久精品国产麻豆婷婷| 国产a在视频线精品视频下载| 狠狠操夜夜爽| 欧美日韩国产精品综合| 天天躁狠狠躁| 国产在线视频二区| 国产白浆在线| 国产亚洲精品yxsp| 亚洲成av人无码综合在线观看| 秋霞午夜国产精品成人片| 国产亚洲欧美日韩在线一区二区三区 | 伊人大杳蕉中文无码| 欧美日韩精品在线播放| 国产免费网址| 在线观看欧美国产| 都市激情亚洲综合久久| 亚洲高清资源| 亚洲国产天堂久久综合| 国产成人精品在线1区| 亚洲无码在线午夜电影| 超碰免费91| 呦女亚洲一区精品| 亚洲水蜜桃久久综合网站| 亚洲综合色在线| 国产精品漂亮美女在线观看| 日本在线欧美在线| 日韩精品免费在线视频| 91热爆在线| 54pao国产成人免费视频| 国产日韩欧美视频| 日本色综合网| 欧美日韩中文字幕在线| 国产特一级毛片| 欧美五月婷婷| 中文字幕 91| 欧美精品在线免费| 国产女人18毛片水真多1| a级毛片视频免费观看| 四虎影视国产精品| 国产Av无码精品色午夜| 91成人在线免费观看| 99色亚洲国产精品11p| 国产噜噜在线视频观看| 日韩毛片免费观看| 午夜欧美理论2019理论| 大香伊人久久| 久久久久久久久久国产精品| 9999在线视频| 秋霞午夜国产精品成人片| a级免费视频| 国产精品第一区| 呦视频在线一区二区三区| 福利在线免费视频| 国产区福利小视频在线观看尤物| 97视频在线精品国自产拍| 在线观看亚洲精品福利片| 真人免费一级毛片一区二区| 色一情一乱一伦一区二区三区小说| 国产欧美又粗又猛又爽老| 欧美亚洲第一页| 亚洲国产亚综合在线区| 国产成+人+综合+亚洲欧美| 久久影院一区二区h| 国产三区二区| 青青草一区二区免费精品| 9966国产精品视频| 国产视频你懂得| 国产毛片基地| 亚洲一区二区三区麻豆| 青青国产视频| 国产精品性|