高效運(yùn)算網(wǎng)絡(luò)在作物葉部病害識(shí)別中的研究*

孫圓龍，徐曉輝，宋濤，崔迎港，司玉龍

(河北工業(yè)大學(xué)電子信息工程學(xué)院，天津市，300401)

0 引言

作物病害是導(dǎo)致作物產(chǎn)量下降的主要原因，實(shí)時(shí)有效的作物病害識(shí)別技術(shù)是防治的關(guān)鍵?；跈C(jī)器視覺(jué)的病害識(shí)別技術(shù)可以檢測(cè)作物相似的特征，成為病害識(shí)別的有效途徑。

傳統(tǒng)機(jī)器學(xué)習(xí)，其往往是在可見(jiàn)光波段提取特定作物的紋理、顏色和形狀等特征[1]，然后進(jìn)行模式識(shí)別，但傳統(tǒng)機(jī)器視覺(jué)一般局限于某一作物。深度學(xué)習(xí)的發(fā)展不斷催生新的網(wǎng)絡(luò)模型，這些模型也不斷的遷移到果蔬的病害識(shí)別上，在其葉部病害識(shí)別中[2]，遷移的網(wǎng)絡(luò)模型參數(shù)量巨大，VGG16參數(shù)內(nèi)存為526 MB，AlexNet參數(shù)內(nèi)存為127 MB。Durmus等使用AlexNet和SqueezeNet分別對(duì)番茄進(jìn)行病害識(shí)別，發(fā)現(xiàn)AlexNet識(shí)別準(zhǔn)確率高于SqueezeNet，但模型內(nèi)存和運(yùn)行時(shí)間消耗翻倍。

為減小參數(shù)量，Geetharamani等[3]將深度CNN模型簡(jiǎn)化為9個(gè)層，對(duì)plantvillage提供的數(shù)據(jù)集進(jìn)行識(shí)別，最高準(zhǔn)確率達(dá)到96.46%。劉洋等[4]在移動(dòng)端使用輕量級(jí)網(wǎng)絡(luò)MobileNet進(jìn)行葉部病害二分類(lèi)識(shí)別，識(shí)別率在95%左右，參數(shù)內(nèi)存17.1 MB，計(jì)算量消耗為575 M。王冠等[5]對(duì)輕量化網(wǎng)絡(luò)MobileNet進(jìn)行優(yōu)化，多作物病害識(shí)別準(zhǔn)確率為96.23%。蒲秀夫等[6]提出二值化網(wǎng)絡(luò)將信息壓縮以加快葉部病害的識(shí)別效率。郭小清等[7]以多個(gè)感受野優(yōu)化AlexNet模型，對(duì)番茄早中晚三類(lèi)疫病進(jìn)行識(shí)別，識(shí)別準(zhǔn)確率為92.7%，模型的內(nèi)存消耗為29 MB。譚文軍[8]將殘差網(wǎng)絡(luò)中的普通卷積替換為深度卷積可分離，并引入全局池化和批歸一化得到DW-ResNe模型，在對(duì)作物多病害識(shí)別中實(shí)現(xiàn)98.59%的準(zhǔn)確率，在病害嚴(yán)重程度識(shí)別實(shí)現(xiàn)89.16%的準(zhǔn)確率，參數(shù)內(nèi)存僅2.1 MB，但對(duì)硬件計(jì)算力(Floating point operations，F(xiàn)LOPs)的要求為481.415 M。

當(dāng)前很多模型過(guò)于復(fù)雜，消耗大量的計(jì)算資源，只能部署在服務(wù)器端，導(dǎo)致普及性和實(shí)時(shí)性差；輕量化的模型存在模型復(fù)雜度高，對(duì)優(yōu)化方式依賴(lài)性大，調(diào)參復(fù)雜。復(fù)雜背景下，大量病斑和背景分割耗費(fèi)時(shí)力，且僅提取人工標(biāo)定的有限特征，會(huì)忽略了圖像中的全局和上下文信息。為將神經(jīng)網(wǎng)絡(luò)用在實(shí)際生產(chǎn)中，必須解決效率問(wèn)題，考慮到模型會(huì)占用巨大的內(nèi)存空間和硬件的計(jì)算資源，試驗(yàn)設(shè)計(jì)了高效殘差模塊和恒等殘差模塊，減小參數(shù)內(nèi)存，采用模塊化的殘差結(jié)構(gòu)搭建高效運(yùn)算網(wǎng)絡(luò)，提升網(wǎng)絡(luò)對(duì)整體信息的感知能力，在保證網(wǎng)絡(luò)識(shí)別精度的同時(shí)，加快網(wǎng)絡(luò)的收斂速度，提升網(wǎng)絡(luò)抗干擾能力，減小模型對(duì)硬件資源的消耗，降低硬件開(kāi)發(fā)的成本。

1 數(shù)據(jù)集

Plantvillage提供了很多病害數(shù)據(jù)，采用其中部分?jǐn)?shù)據(jù)集包括健康葉片、玉米葉斑病、葉枯病、桃樹(shù)瘡痂病、甜椒瘡痂病、草莓葉枯病，蘋(píng)果黑星病、灰斑病、雪松銹病等作為基礎(chǔ)數(shù)據(jù)，測(cè)試了高效殘差網(wǎng)絡(luò)模型，簡(jiǎn)單背景下驗(yàn)證了模型的有效性。為驗(yàn)證模型的魯棒性，在實(shí)際生產(chǎn)環(huán)境中拍攝和搜集了包含復(fù)雜背景、不同角度和光照下的作物圖像，制作了800張馬鈴薯晚疫病、780張黃瓜霜霉病、635張黃瓜白粉病、1 200張馬鈴薯健康和1 000張黃瓜健康數(shù)據(jù)集，進(jìn)行復(fù)雜場(chǎng)景下的病害識(shí)別測(cè)試，部分?jǐn)?shù)據(jù)集如圖1所示。

圖1 農(nóng)作物病害隨機(jī)示例Fig. 1 Random examples of crop diseases

2 病害識(shí)別網(wǎng)絡(luò)模型及損失函數(shù)

2.1 卷積神經(jīng)網(wǎng)絡(luò)

深度卷積神經(jīng)網(wǎng)絡(luò)模型內(nèi)存占用過(guò)大，且對(duì)硬件性能要求過(guò)高，實(shí)時(shí)性差且不易在邊緣端的設(shè)備上布署。二值化網(wǎng)絡(luò)壓縮了信息數(shù)量，丟失太多的病害特征。輕量化網(wǎng)絡(luò)MobileNet在識(shí)別精度和效率進(jìn)行了均衡，但對(duì)優(yōu)化方式依賴(lài)性大。

模型的參數(shù)數(shù)量與卷積核的尺寸大小、通道數(shù)量和卷積核的數(shù)量有關(guān)。大的卷積核可由多個(gè)小的卷積核代替，減少參數(shù)數(shù)量。單通道5×5的卷積核可由兩個(gè)3×3的卷積核代替[9]。卷積空間可分離將空間位置信息和深度信息分開(kāi)進(jìn)行學(xué)習(xí)，然后進(jìn)行信息融合[10]，但存在信息通暢問(wèn)題。Lin等提出了1×1的卷積核用來(lái)跨通道信息交互。Howard等使用卷積空間可分離和1×1的卷積核實(shí)現(xiàn)了MobileNet。輕量級(jí)網(wǎng)絡(luò)ShuffleNet的通道混合和分組卷積結(jié)構(gòu)進(jìn)一步優(yōu)化了MobileNet的信息通暢問(wèn)題和計(jì)算量，但是精度有所下降。不同的卷積核有不同的感受野，卷積分解之后可以在不同方向的感受野上來(lái)提取圖片的特征。Freeman等將卷積分解和池化分解結(jié)合起來(lái)，搭建了EffNet，提升了識(shí)別精度，但浮點(diǎn)數(shù)運(yùn)算量高于MobileNet。

引入卷積分解、池化分解、卷積深度可分離、多個(gè)小卷積核替代大卷積核的結(jié)構(gòu)豐富卷積核尺寸，減少模型參數(shù)，用殘差連接解決信息通暢問(wèn)題，且防止了梯度消失和網(wǎng)絡(luò)退化。設(shè)計(jì)了兩個(gè)高效模塊，通過(guò)級(jí)聯(lián)操作形成的高階殘差結(jié)構(gòu)，分別提取細(xì)節(jié)和全局的信息以提高模型的識(shí)別精度，模塊化搭建了高效運(yùn)算網(wǎng)絡(luò)，減少模型參數(shù)和計(jì)算量，以解決作物葉部病害識(shí)中硬件門(mén)檻高的問(wèn)題。

2.2 損失函數(shù)的優(yōu)化

交叉熵是分類(lèi)中常用的損失函數(shù)，試驗(yàn)首先采用交叉熵(Cross entropy)作為損失函數(shù)，進(jìn)行簡(jiǎn)單背景的病害識(shí)別，傳統(tǒng)的交叉熵函數(shù)如式(1)所示。

(1)

式中：p(xi)——真實(shí)概率分布；

q(xi)——模型預(yù)測(cè)概率分布；

n——樣本總數(shù)目。

可以看出當(dāng)預(yù)測(cè)值為真時(shí)，損失值很小，當(dāng)模型預(yù)測(cè)值為假時(shí)，損失值很大。交叉熵函數(shù)對(duì)正負(fù)樣本的預(yù)測(cè)權(quán)重一樣，無(wú)法應(yīng)對(duì)不均衡樣本，為此，He等提出了用于目標(biāo)檢測(cè)的二分類(lèi)任務(wù)的focalloss損失函數(shù)。

FL(pt)=-αt(1-pt)γlogpt

(2)

(3)

(4)

式中：pt——模型預(yù)測(cè)概率；

p——真實(shí)值為1的模型預(yù)測(cè)概率；

αt——損失值加權(quán)因子；

α——對(duì)應(yīng)類(lèi)別為1時(shí)的損失函數(shù)加權(quán)因子；

γ——調(diào)制因子，取值為2。

focaloss是針對(duì)二分類(lèi)問(wèn)題，論文將其優(yōu)化為帶權(quán)值的多分類(lèi)muti_focaloss，從而進(jìn)行數(shù)據(jù)均衡控制，表達(dá)式如式(5)和式(6)所示。

(5)

(6)

式中：yt——當(dāng)前樣本的真實(shí)的概率分布；

pt——模型預(yù)測(cè)概率；

αt——加權(quán)因子。

試驗(yàn)首先統(tǒng)計(jì)所有的樣本總數(shù)，然后將每一類(lèi)樣本數(shù)目除以樣本總數(shù)目求得加權(quán)因子αt的值，用來(lái)平衡權(quán)重。

為防止模型訓(xùn)練過(guò)程出現(xiàn)過(guò)擬合情況，試驗(yàn)在交叉熵?fù)p失函數(shù)的基礎(chǔ)上加上L2正則化用來(lái)對(duì)損失函數(shù)進(jìn)行限制，衰減權(quán)重，從而降低損失函數(shù)值，提高模型泛化能力。其表達(dá)式如下

(7)

式中：C——新的損失函數(shù)；

C0——原來(lái)的交叉熵?fù)p失函數(shù)；

從而得到新的損失函數(shù)

(8)

式中：λ——權(quán)值衰減的衰減系數(shù)。

3 高效運(yùn)算模塊結(jié)構(gòu)設(shè)計(jì)

網(wǎng)絡(luò)架構(gòu)在卷積神經(jīng)網(wǎng)絡(luò)中起著重要的作用，一般認(rèn)為不同的卷積核有不同的感受野和識(shí)別敏感度，且多個(gè)小的卷積核可替代大的卷積核。論文提出的簡(jiǎn)化運(yùn)算網(wǎng)絡(luò)，主要包含兩個(gè)設(shè)計(jì)的高效模塊：高效殘差卷積模塊和恒等殘差模塊。高效殘差卷積模塊如圖2所示模塊擁有多種大小的卷積核。首先借助卷積核1×1減少通道數(shù)量為N/2，然后進(jìn)行深度可分離卷積DwConv1×3完成橫向卷積；在水平方向進(jìn)行2×1的最大池化，步長(zhǎng)為(2，1)；接著完成縱向深度可分離卷積DwConv3×1，此時(shí)的張量橫向尺寸變?yōu)樵瓉?lái)的一半，縱向尺寸不變，通道數(shù)為原來(lái)的一半；接著對(duì)以上輸出的張量進(jìn)行普通Conv2×1(N)的卷積，步長(zhǎng)為1×2，完成池化分解的縱向效果，此時(shí)的輸出尺寸為輸入尺寸的一半，通道數(shù)為N。在數(shù)據(jù)輸入處引入步長(zhǎng)為1×1的最大池化Maxpool(2×2)和通道數(shù)為N的Conv1×1卷積以統(tǒng)一尺寸和通道數(shù)目，并和以上輸出相加做到局部和整體信息的融合，從而提升網(wǎng)絡(luò)對(duì)上下文信息的感知能力。豐富的卷積核尺寸，進(jìn)一步提升了網(wǎng)絡(luò)的識(shí)別準(zhǔn)確率。每一次卷積操作之后均加入批歸一化(BN)和激活函數(shù)以增加網(wǎng)絡(luò)的稀疏性和收斂速度。

以上結(jié)構(gòu)完成了對(duì)3×3×N卷積核的替代，而且豐富的卷積結(jié)構(gòu)模擬了多種不同大小的卷積核，以便提取更多的信息特征。高效殘差卷積模塊特點(diǎn)是：模型的輸出大小變?yōu)檩斎氲囊话?，通道?shù)增多為預(yù)設(shè)數(shù)目；模塊將第一層提取的整體信息，與后三次不同大小卷積核提取的局部信息進(jìn)行相加，不僅精細(xì)化了圖像信息，做到局部和整體的結(jié)合，而且減少了計(jì)算消耗，與普通3×3卷積相比，計(jì)算量減少到38.9%。

圖2 高階殘差卷積模塊Fig. 2 Efficient residual convolution module

試驗(yàn)優(yōu)化了恒等殘差模塊，如圖3所示，通道數(shù)變化為原始通道的1/8，試驗(yàn)參數(shù)可進(jìn)一步減少，與普通3×3卷積相比，計(jì)算量減少到25%。模塊的特點(diǎn)是經(jīng)過(guò)三次卷積之后與輸入層相加，實(shí)現(xiàn)殘差學(xué)習(xí)以突出細(xì)節(jié)信息，且輸入和輸出保持一致，不會(huì)改變特征映射的大小，因此可以連續(xù)堆疊以加深網(wǎng)絡(luò)，提升網(wǎng)絡(luò)的擬合能力，以適應(yīng)不同要求的識(shí)別任務(wù)。

圖3 恒等殘差模塊Fig. 3 Identical residual module

優(yōu)秀的模型一般包含很多可以重復(fù)利用的模塊，以上設(shè)計(jì)的兩個(gè)模塊具有高的性能和低的復(fù)雜度。表1為高效運(yùn)算網(wǎng)絡(luò)的結(jié)構(gòu)組成，高效運(yùn)算網(wǎng)絡(luò)的高階殘差卷積模塊Effres_block(a，b)×n和恒等殘差模塊Idenres_block(a，b)×n組成，其中a代表輸入的通道數(shù)，b代表輸出的通道數(shù),n代表連續(xù)堆疊的層數(shù)?；趦蓚€(gè)模塊的特點(diǎn)，可以將多個(gè)恒等殘差模塊堆疊在高效殘差卷積模塊后邊形成高階殘差效果，充分提取各層的特征，做到精細(xì)化過(guò)濾，并且與輸入的全局特征相加融合，充分利用底層特征的細(xì)節(jié)描述和高層特征的抽象表達(dá)，優(yōu)化了網(wǎng)絡(luò)的信息感知能力和抗干擾能力，提升網(wǎng)絡(luò)的識(shí)別精度。

表1 高效運(yùn)算網(wǎng)絡(luò)模塊化結(jié)構(gòu)Tab. 1 Modular structure of Efficient computing network

論文先用簡(jiǎn)化運(yùn)算的兩個(gè)高效模塊替代Res50結(jié)構(gòu)，搭建了高效運(yùn)算網(wǎng)絡(luò)，表1為其中高效運(yùn)算網(wǎng)絡(luò)的結(jié)構(gòu)，經(jīng)過(guò)表1中每一行的模塊后，特征尺寸減半。

4 模型訓(xùn)練

4.1 試驗(yàn)平臺(tái)

采用Ubuntu16.04操作系統(tǒng)，搭載AMD Ryzen 74800U with Radeon Graphic處理器，頻率為1.8 GHz。內(nèi)存為16 G。選用基于tensorflow的keras深度學(xué)習(xí)框架。以python語(yǔ)言為基礎(chǔ)，進(jìn)行代碼編寫(xiě)。

4.2 試驗(yàn)參數(shù)設(shè)置

試驗(yàn)采用批量訓(xùn)練的方法，將數(shù)據(jù)集分為多個(gè)batch，batch的值設(shè)置為64。epochs設(shè)置為24，損失函數(shù)選取交叉熵，優(yōu)化器選擇Adam，初始學(xué)習(xí)率lr_start設(shè)置為0.000 1，最終學(xué)習(xí)率lr_end設(shè)置為0.000 01，每一個(gè)epoch之后，讓學(xué)習(xí)率進(jìn)行衰減按照(lr_end/lr_start)(1/epochs)逐漸衰減，使得模型參數(shù)不斷穩(wěn)定。使用Dropout防止模型發(fā)生過(guò)擬合，失活率設(shè)置為0.2。試驗(yàn)對(duì)每一份數(shù)據(jù)的80%作為訓(xùn)練集，20%作為驗(yàn)證集。

4.3 試驗(yàn)和結(jié)果分析

試驗(yàn)以設(shè)計(jì)的高效結(jié)構(gòu)為基礎(chǔ)，降低模型對(duì)硬件的需求，用Plantvillage提供的多病害數(shù)據(jù)，進(jìn)行簡(jiǎn)單背景下的病害識(shí)別，以?xún)?yōu)化網(wǎng)絡(luò)模型，提升識(shí)別準(zhǔn)確率，加快收斂速度，然后將高效網(wǎng)絡(luò)模型用于自制的數(shù)據(jù)集，進(jìn)行復(fù)雜背景下的病害識(shí)別，測(cè)試了模型的參數(shù)內(nèi)存，并與經(jīng)典網(wǎng)絡(luò)進(jìn)行對(duì)比。

4.3.1 簡(jiǎn)單背景下多種作物病害識(shí)別

論文采用高效運(yùn)算網(wǎng)絡(luò)對(duì)Plantvillage提供的簡(jiǎn)單背景下的部分健康葉片、玉米葉斑病、葉枯病、桃樹(shù)瘡痂病、甜椒瘡痂病、草莓葉枯病，蘋(píng)果黑星病、灰斑病、雪松銹病等加入高斯噪聲后進(jìn)行分批次識(shí)別，交叉熵?fù)p失作為損失函數(shù)，網(wǎng)絡(luò)的輸入為(256×256×3)，采用Relu激活函數(shù)得到24個(gè)迭代周期的識(shí)別結(jié)果如圖4和圖5所示。

圖4 Relu作為激活函數(shù)的多病害識(shí)別準(zhǔn)確率Fig. 4 Recognition accuracy of multiplediseases using Relu as activation function

圖5 Relu作為激活函數(shù)的多病害識(shí)別損失值Fig. 5 Loss value of multiple diseasesidentification using Relu as activation function

訓(xùn)練集識(shí)別準(zhǔn)確率不斷上升，最終穩(wěn)定在99%附近，驗(yàn)證集識(shí)別準(zhǔn)確率在22個(gè)epoch后達(dá)到99%左右的識(shí)別準(zhǔn)確率，損失值降到0.073附近，識(shí)別準(zhǔn)確率最高達(dá)到99.37%，可以完成常見(jiàn)病害的識(shí)別任務(wù)，但模型在8個(gè)epoch之后，驗(yàn)證集識(shí)別準(zhǔn)確率以90%為中心進(jìn)行波動(dòng)，幅度較大，收斂性差。

為進(jìn)一步提升模型的識(shí)別效率，加快收斂速度，論文將激活函數(shù)變?yōu)長(zhǎng)eakyRelu，改用加入L2正則化優(yōu)化的交叉熵作為損失函數(shù)，權(quán)重衰減系數(shù)λ設(shè)置為0.000 01，改變網(wǎng)絡(luò)的稀疏性，再次進(jìn)行多病害識(shí)別，得到24個(gè)迭代周期的識(shí)別結(jié)果如圖6和圖7所示。

如圖6和圖7所示，在前8個(gè)迭代周期，驗(yàn)證集準(zhǔn)確率先波動(dòng)上升達(dá)到90%以上，9個(gè)epoch之后識(shí)別準(zhǔn)確率便在94%之上波動(dòng)，且波動(dòng)幅度比較小，收斂速度明顯加快，而且驗(yàn)證集損失值與訓(xùn)練集的損失值不斷波動(dòng)下降，最終收斂在0.066以下。訓(xùn)練集最高準(zhǔn)確率為99.68%，驗(yàn)證集的準(zhǔn)確率最終穩(wěn)定在99%附近，優(yōu)化的高效運(yùn)算網(wǎng)絡(luò)具有更好的收斂性和穩(wěn)定性，識(shí)別效率更高。

圖6 LeakyRelu作為激活函數(shù)的多病害識(shí)別準(zhǔn)確率Fig. 6 Recognition accuracy of multiplediseases using LeakyRelu as activation function

圖7 LeakyRelu作為激活函數(shù)的多病害識(shí)別損失值Fig. 7 Loss value of multiple diseasesidentification using LeakyRelu as activation function

4.3.2 復(fù)雜背景下病害識(shí)別測(cè)試

為進(jìn)一步測(cè)試實(shí)際生產(chǎn)環(huán)境中高效運(yùn)算網(wǎng)絡(luò)的高效性，進(jìn)行復(fù)雜背景下的作物病害識(shí)別，實(shí)驗(yàn)將優(yōu)化的muti-focaloss損失函數(shù)加入高效運(yùn)算網(wǎng)絡(luò)中，形成新高效運(yùn)算網(wǎng)絡(luò)，以應(yīng)對(duì)數(shù)據(jù)不均衡問(wèn)題。首先計(jì)算總的樣本數(shù)目，然后將每類(lèi)樣本數(shù)量除以總樣本數(shù)量的值，作為優(yōu)化的muti_focaloss損失函數(shù)的加權(quán)因子，來(lái)解決數(shù)據(jù)不均衡問(wèn)題。復(fù)雜背景下的加權(quán)因子α1、α2、α3、α4、α5分別為0.181、0.177、0.144、0.272、0.273，對(duì)應(yīng)數(shù)據(jù)集的黃瓜霜霉病、黃瓜白粉病、黃瓜健康、馬鈴薯晚疫病和馬鈴薯健康葉片的權(quán)重，然后進(jìn)行病害識(shí)別，并與經(jīng)典網(wǎng)絡(luò)對(duì)比，識(shí)別結(jié)果如表2所示。

如表2所示，與Res50相比，MobileNet極大降了參數(shù)冗余，參數(shù)內(nèi)存由90 MB降到12.4 MB，但準(zhǔn)確率有所下降。高效運(yùn)算網(wǎng)絡(luò)的高階殘差結(jié)構(gòu)和豐富的卷積核尺寸提供了更加全面的病害特征，不僅解決了廣義識(shí)別模型對(duì)細(xì)粒度特征提取弱的問(wèn)題，將識(shí)別準(zhǔn)確率從MobileNet的86.3%和Res50的87%提升到88.6%，當(dāng)采用優(yōu)化的muti_focaloss損失函數(shù)后，識(shí)別準(zhǔn)確率提升到92.6%，可以滿(mǎn)足實(shí)際生產(chǎn)的識(shí)別要求，且將參數(shù)內(nèi)存降低到3.15 MB，從而提升網(wǎng)絡(luò)的識(shí)別效率。

表2 復(fù)雜背景下作物病害識(shí)別結(jié)果Tab. 2 Recognition results of crop diseases incomplex background

4.4 模型性能分析討論

卷積神經(jīng)網(wǎng)絡(luò)參數(shù)內(nèi)存冗余太大，對(duì)硬件計(jì)算力(FLOPs)的要求過(guò)高，導(dǎo)致普及性差，一般只能用于服務(wù)器端。卷積神經(jīng)網(wǎng)絡(luò)要想廣泛用于實(shí)際的生產(chǎn)場(chǎng)景，提升識(shí)別效率，必須降低對(duì)硬件的門(mén)檻要求，適用于大多數(shù)的嵌入式設(shè)備，且模型參數(shù)內(nèi)存越小，相同硬件資源下，推理速度就越快，為了更加全面評(píng)價(jià)高效運(yùn)算網(wǎng)絡(luò)模型，論文從模型的識(shí)別準(zhǔn)確率、參數(shù)量、激活函數(shù)、對(duì)硬件計(jì)算力要求(Floating point operations，F(xiàn)LOPs)和參數(shù)內(nèi)存幾個(gè)方面進(jìn)行了分析，識(shí)別準(zhǔn)確率為簡(jiǎn)單背景下多種混合作物的病害識(shí)別準(zhǔn)確率。

表3 多病害識(shí)別模型的性能Tab. 3 Performance of multi disease recognition model

由表3可知，以Relu為激活函數(shù)的Res50(Relu)在簡(jiǎn)單背景下多病害識(shí)別中的準(zhǔn)確率為95.02%，硬件計(jì)算力需求為94.862 8 M，參數(shù)內(nèi)存要求超過(guò)90 MB，占用過(guò)多的硬件資源，在硬件計(jì)算力資源相同的情況下，內(nèi)存占用越大，識(shí)別消耗時(shí)間就越長(zhǎng)。MobileNet (Relu)，以Relu為激活函數(shù)，在保持95.02%的識(shí)別精度的同時(shí)，將參數(shù)內(nèi)存降低到12.4 MB，對(duì)硬件計(jì)算力的要求降到2.6 M左右，使得網(wǎng)絡(luò)識(shí)別模型可以布署在邊緣側(cè)的移動(dòng)設(shè)備上，很大程度上提升了神經(jīng)網(wǎng)絡(luò)的普適性。高效運(yùn)算網(wǎng)絡(luò)(Relu)在進(jìn)一步降低參數(shù)內(nèi)存到3.15 MB的情況下，相比MobileNet(Relu)，把簡(jiǎn)單背景下作物病害識(shí)別準(zhǔn)確率提升到99%以上，將對(duì)硬件計(jì)算力的要求降低到1.714 M左右，改用激活函數(shù)為L(zhǎng)eakyRelu后，高效運(yùn)算網(wǎng)絡(luò)(LeakyRelu)將簡(jiǎn)單背景下作物病害識(shí)別準(zhǔn)確率提升到99.3%。

為解決實(shí)際生產(chǎn)中環(huán)境多變的問(wèn)題，將加入muti_focaloss損失函數(shù)的新高效運(yùn)算網(wǎng)絡(luò)(LeakyRelu)用于復(fù)雜背景下的識(shí)別，相比高效運(yùn)算網(wǎng)絡(luò)(LeakyRelu)，將識(shí)別精度提升到92.6%。與經(jīng)典網(wǎng)絡(luò)相比，新高效運(yùn)算網(wǎng)絡(luò)硬件計(jì)算力的需求僅1.71 M左右，進(jìn)一步降低了模型對(duì)硬件計(jì)算力要求的門(mén)檻，節(jié)約了開(kāi)發(fā)硬件開(kāi)發(fā)成本，且參數(shù)內(nèi)存小，具有更好的實(shí)時(shí)性，適合布署在邊緣側(cè)的設(shè)備上進(jìn)行邊緣計(jì)算。

5 結(jié)論

論文以設(shè)計(jì)的高效運(yùn)算模塊為基礎(chǔ)，用于減少參數(shù)冗余和計(jì)算量，結(jié)合優(yōu)化的損失函數(shù)搭建了高效運(yùn)算網(wǎng)絡(luò)，在提升了識(shí)別精度的同時(shí)，加快了網(wǎng)絡(luò)收斂速度，降低了硬件資源消耗，從而解決了邊緣端作物病害識(shí)別適用性差的問(wèn)題，具體結(jié)論如下。

1) 高效運(yùn)算網(wǎng)絡(luò)對(duì)簡(jiǎn)單背景下多種作物進(jìn)行病害識(shí)別，準(zhǔn)確率在99%附近；優(yōu)化損失函數(shù)后，病害識(shí)準(zhǔn)確率達(dá)到99%以上，具有很好的細(xì)粒度特征提取能力；為進(jìn)一步驗(yàn)證模型的魯棒性，再次將模型用于復(fù)雜背景下的作物病害識(shí)別，采用改進(jìn)的損失函數(shù)的新高效運(yùn)算網(wǎng)絡(luò)應(yīng)對(duì)實(shí)際生產(chǎn)中的數(shù)據(jù)不均衡問(wèn)題，準(zhǔn)確率達(dá)到92.6%，試驗(yàn)證明模型具有很好的抗干擾能力，可以用于實(shí)際生產(chǎn)場(chǎng)景的病害識(shí)別。

2) 在簡(jiǎn)單背景下多病害識(shí)別中，交叉熵作為損失函數(shù)，8個(gè)epoch后驗(yàn)證集準(zhǔn)確率以90%為中心波動(dòng)，幅度較大，改用加入L2正則化的損失函數(shù)后，9個(gè)epoch之后驗(yàn)證集準(zhǔn)確率便在94%之上，且波動(dòng)幅度小，驗(yàn)證集的準(zhǔn)確率最終穩(wěn)定在99%附近，收斂速度明顯加快。

3) 高效運(yùn)算網(wǎng)絡(luò)的參數(shù)內(nèi)存僅占3.15 MB，對(duì)硬件性能(FLOPs)的要求僅為1.714 M，不僅識(shí)別效率高，而且極大降低了硬件成本，適合用于邊緣端實(shí)時(shí)檢測(cè)作物病害，便于后續(xù)作物病害監(jiān)測(cè)系統(tǒng)的開(kāi)發(fā)和普及。