基于改進深度置信網絡的大棚冬棗病蟲害預測模型

張善文，張傳雷，丁 軍

?

基于改進深度置信網絡的大棚冬棗病蟲害預測模型

張善文，張傳雷※，丁 軍

（西京學院信息工程學院，西安 710123）

導致冬棗病蟲害發生的原因很多而且很復雜，利用傳統的數學方法和神經網絡（neural network, NN）很難建立正確的病蟲害預測模型。由于典型的深度置信網絡（deep belief network, DBN）的各層之間缺乏有監督訓練，使得網絡誤差逐層向上傳遞，降低了預測模型的預測率。針對這些問題，引入冬棗病蟲害的先驗信息，提出一種基于環境信息和改進DBN的冬棗病蟲害預測模型。在該模型中，通過無監督訓練和有監督微調從冬棗生長的環境信息序列中獲取可表征冬棗病蟲害發生的深層特征的隱層參數，并形成新的特征集，然后在預測模型的頂層通過一個后向傳播神經網絡（back propagation neural network, BPNN）進行病蟲害預測。從2014—2017年的4 a時間內，利用農業物聯網傳感器采集30個大棚冬棗常見的2種蟲害和3種病害發生的環境信息序列6 000多條，由此驗證所提出的預測模型，平均預測正確率高達84.05%。與基于強模糊支持向量機、改進型NN和BPNN的3種病蟲害預測模型進行了試驗比較，預測正確率提高了20多個百分點。試驗結果表明，該模型極大提高了大棚冬棗病蟲害的預測正確率。該研究可為大棚冬棗病蟲害預測提供技術參考。

病害；預測；模型；冬棗生長環境信息；蟲害；深度置信網絡；改進深度置信網絡

0 引 言

近年來，陜西省大荔縣大棚冬棗病蟲害發生頻繁，常見危害較大的病蟲害有20多種。對近5 a來（2012－2016）大荔大棚冬棗病蟲害發生趨勢的調查研究表明，冬棗病蟲害發生、發展和流行與其生長的大棚內外環境信息緊密相關[1]。研究冬棗病蟲害發生規律和了解與其有關的氣候、氣象、地域、土壤等自然環境信息，對冬棗病蟲害預防具有一定的參考價值[2]。近年來，模式識別、專家系統和人工神經網絡（neural network, NN）被廣泛應用于作物病蟲害預測預報中，并取得了成功[3-6]。姚衛平[7]在逐步回歸分析的基礎上建立了一個貴池區小麥赤霉病發生級別中期預測模型，預測正確率高達88%以上。李麗等[8]利用日照時數、最低氣溫、平均氣溫、降雨量等信息，構建了基于徑向基NN的蘋果病蟲害發生等級預測模型，該模型能夠預測蘋果20余種常見病蟲害。楊志民等[9]利用寧波市1995—2007年的稻瘟病氣象數據，構建了基于強模糊支持向量機（support vector machines, SVM）的稻瘟病氣象預警模型。楊志民等[9]利用雨日數、降雨量、平均濕度、平均溫度、光照指標等環境信息，建立了一種基于NN的作物病害預警系統。宋啟堃等[10]根據1982—2010年的黔南州統計的作物病情、蟲情數據和氣象數據，開發了一套黔南州主要作物病蟲害監測預警專家系統。Sannakki等[11]利用改進的最近鄰方法和前饋神經網絡以及氣候、濕度和溫度等環境信息預測葡萄病害發生，為果農提供了病害信息。Shi[12]以小麥紋枯病為預測對象，提出了一種基于徑向基函數神經網絡（radical basis function neural network, RBFNN）的植物病害預測模型，仿真試驗表明該模型對植物病害中短期預測是有效可行的。辜麗川等[13]提出了一種基于支持向量回歸和動態特征選擇的作物病害預測方法，并應用于酥梨黑星病預測。近年來，物聯網技術的發展為作物病蟲害預測研究帶來了機遇[14-15]。陳光絨等[16]設計了一種基于物聯網的作物病蟲害自動預測系統。已有的作物病蟲害預測系統和模型為病蟲害防治提供了科學依據[17-18]。但由于農作物的生產環境是一個開放、復雜的生態系統，而且病蟲害的發生和發展與溫度、濕度、光照等很多環境信息緊密相關，而且這些環境信息是動態不斷變化的。因此，在作物病蟲害預測中需要結合病蟲害發生的特點，研究動態、開放、實用性高的作物病蟲害預測模型。

目前深度學習是機器學習中較為熱門的研究領域[19-21]。與很多機器學習方法相比[22-24]，深度學習能夠從復雜圖像和大量無標簽復雜數據中自動學習有效的分類特征，具有較強的數據分類識別和數據預測能力，并且在很多復雜的、具有內在表現特征學習方面取得了成功應用[25-26]。特別在植物物種識別[27-28]和植物病害檢測[29]中取得了較高的識別率。深度置信網絡（deep belief network, DBN）是一種應用廣泛的深度學習模型[30-31]，已經被成功應用于身份識別[32]、交通擁堵預測[33]、用戶投訴預測[34]、在線視頻熱度預測[35]等很多實際問題。雖然DBN可以通過有監督學習方法對模型中的權值進行微調，但DBN本質上屬于無監督學習網絡，因為DBN沒有利用樣本類別的先驗信息，學習到的特征與具體的預測任務無關，所以得到的預測率不高。Larochelle等[36]將類別標號信息引入到限制波爾茲曼機（restricted boltzmann machines, RBM）中，增加DBN的監督性能。丁軍等[37]在學習過程中通過約束特征向量之間的相似性增加網絡的監督性。由于作物病蟲害預測的復雜性，目前還鮮有利用深度學習和與作物病蟲害發生相關的環境信息預測病蟲害的綜合應用實例報道。針對大棚冬棗病蟲害預測問題，本文提出了一種基于改進深度置信網絡的大棚冬棗病蟲害預測模型。該模型充分利用了作物病蟲害的先驗信息，能夠從復雜的冬棗生長環境信息中預測病蟲害發生，以期為有效防治病蟲害提供技術指導。

1 材料與方法

1.1 作物病蟲害環境信息獲取

在陜西省大荔縣20多萬hm2的冬棗種植基地建立了大棚農業物聯網工作站，利用各種傳感器和視頻設備從30個大棚中采集與冬棗的常見病蟲害發生相關的環境信息，建立一個病蟲害信息數據庫。采集到的大棚冬棗生長的環境信息主要包括：土壤信息（地域、土壤溫度、相對濕度、土壤水分、土壤鹽分、土壤是否連種、土壤pH值以及微生物含量等）、氣象信息（季節、是否雨季、空氣溫度、空氣濕度、光照強度、光合有效輻射、降雨量、下雨天、氣壓、風速、風向、二氧化碳濃度等）和病蟲害信息（農藥使用量、病蟲害類型、病蟲害等級）。針對冬棗常見的2種蟲害（食芽象甲和紅蜘蛛）和3種病害（棗銹病、棗炭疽病、黑點病），從2014—2017年期間的2—6月，在病蟲害發生前和發生初期，每天從 7:00—17:00間隔1小時采集1次共采集10次環境信息數據，將采集到的數據進行標準化和歸一化預處理[9,1-14]，再按照時間順序堆疊為冬棗生長的環境信息序列共6000條，用于病蟲害預測研究。

1.2 深度置信網絡

深度置信網絡DBN由多層無監督的限制性玻爾茲曼機（restricted boltzmann machine, RBM）和1個反向傳播神經網絡（back propagation neural network, BPNN）組成[31-35]，其基本結構如圖1所示。

在圖1中，每個RBM包含可視層、隱含層和輸出層。DBN模型的基本過程描述為：首先將預處理后的原始數據輸入第一個RBM開始進行無監督訓練，確定其權重及偏置，底層RBM的輸出作為下一層RBM的輸入，訓練下一個RBM，依次重復訓練所有的RBM，反復訓練多次，實現模型參數的初始化；再通過前向傳播在最頂層加上標簽層，進行無監督學習，確定模型參數后，使用反向傳播將誤差自頂向下傳播至每層RBM，由自下而上反饋學習方法調整所有RBM的模型參數，使DBN能夠學習復雜數據內在的規律；最后，利用訓練好的網絡進行數據預測。

圖1 深度置信網絡基本結構

訓練DBN包括無監督預訓練和有監督微調2個過程。在訓練過程中，以重構誤差函數作為目標函數，對RBM逐層進行訓練；在微調過程中，利用帶標簽的訓練樣本訓練分類器，將已經調整好的參數作為微調的初始值，利用隨機梯度下降法通過最大化對數似然函數的方式學習得到模型中的參數，由此提取樣本較精細的特征。

1.3. 改進深度置信網絡

在圖1中，上一層RBM經過學習得到的特征輸出作為下一層的輸入，使每層能更好地抽象出上一層的特征，逐層提取深度特征，并且各層獨立地對參數進行學習。第一層RBM以原始輸入數據0訓練，將其映射到特征空間0，重構后的特征1盡可能多地保留原數據特征信息，且保留權值；再將1輸入第二層RBM進行訓練，得到第二層重構后的特征空間1，RBM的每一層輸出都是特征的重新選擇。在自下向上的過程中，從原始數據中逐漸提取到更抽象的特征，并在最后一層RBM后設置一個BP網絡分類器，接收最后一層RBM得到的輸出特征變量，有監督地訓練網絡權值參數。頂層的BP網絡由輸入層、隱含層和輸出層組成，用于冬棗病蟲害預測。

注：表示網絡權值，表示待引入的先驗信息，RBM1、RBM2和RBM3為三層限制波爾茲曼機。

待預測病蟲害的環境信息向量與數據庫中往年同一天（或同一時期）病蟲害發生的環境信息之間的相似度定義為余弦距離。由多種病蟲害和多條數據庫中的環境信息之間的余弦距離構建相似度矩陣，再對該矩陣進行奇異值分解，構造與式（1）類似的能量函數

加入判別信息后的RBM可以看作由兩部分混合而成，一部分由輸入數據生成，另一部分由引入的判決信息生成。兩部分通過共享隱變量和權值綁定操作進行融合[36-37]。

模型初步訓練完后，利用BP算法對網絡參數進行微調，使損失函數最小化。其損失函數表示為

在BP網絡中，隱含層的神經元的輸出

輸出神經元的輸出為，

2 冬棗病蟲害預測

2.1. 冬棗病蟲害預測模型

在冬棗病蟲害預測問題中，需要提供帶標簽的學習樣本數據集對模型進行訓練。待分類器通過學習具有分類能力后才能利用新輸入的病蟲害信息數據預測病蟲害發生的概率。圖3為基于MDBN的冬棗病蟲害識別模型的流程圖。

圖3 基于改進深度置信網絡的大棚冬棗病蟲害預測模型

主要過程描述如下：

1）數據采集和預處理采集與冬棗病蟲害發生相關的環境信息，包括氣象信息（氣溫、日照、濕度等）、土壤信息（田地連種和施肥情況、含水量、土壤重金屬等）和生物學信息（根系吸水能力、葉面等）、農業基礎措施信息等組成原始數據集；

2）根據病蟲害發生規律結合當地歷史數據資料，進行綜合分析，建立與冬棗病蟲害發生相關的環境信息數據庫，然后對采集到的數據進行歸一化預處理，再劃分為訓練數據集和測試數據集；

3）構建MDBN 采用試驗方法對DBN模型進行最優化設置，包括輸入層結點的個數、隱含層結點的個數和RBM隱含層的層數等；

4）構造MDBN的冬棗病蟲害預測模型利用訓練數據訓練DBN模型。為了加速訓練過程，計算實際輸出和目標輸出的誤差，利用與模型權重相關的函數表示該誤差；再利用共軛梯度算法調整權重矩陣；得到誤差函數達到最小的網絡權重矩陣；

5）測試階段將測試數據輸入到改進的DBN預測模型中，計算冬棗病蟲害的預測結果；

2.2 模型分析評價指數

由于本文所采用的數據庫中的樣本都是針對2種蟲害和3種病害發生和發生期間的環境信息序列，預測某種病蟲害發生的預測結果只有2種：病蟲害發生和病蟲害不發生，所以冬棗病蟲害預測的正確性指，預測到病蟲害發生，而且病蟲害的確發生了。則預測正確率表示為

采用均方根誤差（root mean square error, RMSE）評價模型性能與標準值之間的誤差以及一致性，計算公式如下

因為錯誤預測的樣本數等于總樣本數減正確預測的樣本數，故用預測率與RMSE評價指標所反映的情況一致，且計算預測率的過程中去除了總樣本數的影響，可以方便使用不同的方法進行評估和比較。

3 試 驗

3.1試驗方法

2014—2017年對大棚冬棗2種蟲害和3種病害進行病蟲害預測試驗，并與現有的3種作物病蟲害預測方法進行試驗比較：基于強模糊支持向量機（SFSVM）的[4]、基于改進型神經網的（INN）[5]和基于BP神經網絡的（back propagation neural network, BPNN）[16]。采用深度學習工具箱中的DBN結構（https://github.com/rasmusbergpalm/ DeepLearn Toolbox）構建MDBN。試驗硬件環境為：內存32 G，CPU Intel(R) Core(TM) i7—4790 8*3.60 GHZ，GPU GeForce GTX Titan X。

將RBM層數設置為2、3和4，隱含層的結點個數設置為4、8、12、16和20。訓練每個RBM時參數設置：學習率為1，分組訓練為32，反向傳播微調時學習率為1，動量為0.5。在試驗中，尋找預測率最高時對應的輸入層結點數和隱含層結點數；然后增加新的隱含層，判斷新的隱含層中結點數的變化對預測效果的影響，從而確定最佳結點數，同時也確定了隱含層的層數。經過多次試驗得出預測率較好的DBN網絡隱含層神經元設為200，微調循環次數為50。采用十折交叉驗證法進行10次試驗，即將數據集劃分為10份，輪流將其中9份作為訓練數據，剩余的1份作為測試數據。訓練集用于進行網絡模型的構建、參數調整和訓練；測試集用于進行網絡模型預測率的測試。反復訓練得到的最佳參數為：DBN模型的層數為3，每層節點數為20（20維環境信息向量），最后一層的神經元數為5（5種病蟲害），迭代次數為50，學習速率為0.001，在微調階段的學習速率改為0.1。

3.2試驗結果

本文采用正確預測率表示各個預測方法的預測結果。表1中給出了本文方法和其他3種方法的預測結果。從表1可以看出，基于改進DBN的冬棗病蟲害預測模型的預測精度比其他的預測模型有了很大的提升，其主要原因是訓練數據集包含了更多與病蟲害發生相關的生長環境信息數據，因此預測模型在處理測試集數據時的正確率較高。

表1 基于不同方法的5種大棚冬棗病蟲害的預測正確率和方差

由表1可知，3個傳統方法（SFSVM、INN和BPNN）對5種大棚冬棗病蟲害的最高正確預測率分別為61.24%、61.54%和65.13%，平均預測正確率分別為55.92%、54.85%和63.12%，而本文模型對5種病蟲害的最低正確預測率為81.64%，平均預測正確率為84.05%，比3種傳統方法的平均預測正確率分別高28.13、29.2和20.93個百分點（均提高了20多個百分點）?？梢钥闯觯疚奶岢龅念A測模型明顯優于其他方法。主要原因是基于改進DBN的病蟲害預報模型從冬棗生長的環境信息中自動學習到的特征能夠很好地表達病蟲害發生與冬棗生長的自然環境信息因素之間的本質聯系，由此得到較高的預報正確度，同時也充分表明改進DBN模型在基于農業物聯網的大數據挖掘中能夠表現良好的特征學習性能。在構建冬棗病蟲害預測模型中，若隱含層的結點數過少，則可能出現模型失效；若隱含層的結點過多，雖然能夠表現出更加強大的預測能力，但可能出現過擬合現象。所以，在模型性能優化過程中，根據不同的數據集、不同的應用領域構建出不同隱含層數的DBN模型，采用試驗方法通過改變隱含層數和各個隱含層的結點數優化模型，確定DBN模型的最優結構。訓練過程中，若同時進行整個網絡所有層的訓練，可能導致時間復雜度過高，所以采用貪婪逐層學習算法進行訓練，即將完整的改進DBN模型進行分層學習，每一層進行無監督學習，所有模型的網絡層學習完后，再對整個改進DBN模型進行有監督學習微調。

4 結 論

盡管深度置信網絡的訓練速度較快，但是由于在各層之間缺乏有監督訓練，使得網絡誤差逐層向上傳遞，影響了網絡的預測效果。針對冬棗病蟲害預測問題，提出了一種改進深度置信網絡模型。與現有的深度置信網絡的不同之處在于，該模型引入了冬棗病蟲害的環境先驗信息，通過先驗信息和當前信息之間的約束特征向量的相似性，增加預測模型的監督性和預測能力。利用該模型能夠自動從復雜的環境信息序列中學習到高層的非線性特征，對5種病蟲害的最低正確預測率為81.64%，平均預測正確率為84.05%，比3種傳統方法的平均預測正確率分別高28.13、29.2和20.93個百分點。試驗結果表明本文提出的病蟲害預測模型的有效性，也從側面表明了深度學習在農業大數據分析領域的可行性。下一步研究重點為將DBN模型每層的各個神經元數設置為不同值，利用與病蟲害發生相關的信息對病蟲害模型進行多分類預測。

[1] 劉昭武，田世芹，孫衛衛. 沾化冬棗常見的氣象災害及其防御措施[J]. 北方果樹，2015(6)：25－27. Liu Zhaowu, Tian Shiqin, Sun Weiwei. Common meteorological disasters and their defensive measures in winter jujube of Zhanhua[J]. North Fruit Tree, 2015(6): 25－27. (in Chinese with English abstract)

[2] 李新良，秦玉玲. 棗樹主要病蟲害的防治措施[J]. 現代園藝，2016(13)：147－148.Li Xinliang, Qin Yuling. Control measures of main diseases and insect pests of jujube trees[J]. Modern Horticulture, 2016(13): 147－148. (in Chinese with English abstract)

[3] Anuradha, Kuldeep Kaswan, Sugandha Singh. Two stage classification model for crop disease prediction[J]. International Journal of Computer Science and Mobile Computing, 2015, 4(6): 254－259.

[4] 袁昌洪，劉文軍，王世華，等. 小麥赤霉病流行程度的農業氣象動態預測模型[J]. 安徽農業科學，2009，37(1)： 204－206. Yuan Changhong, Liu Wenjun, Wang Shihua, et al. Agrometeorological dynamic forecasting models for epidemic degree of fusariumgr a minearum[J]. Journal of Anhui Agri Sci, 2009, 37(1): 204－206. (in Chinese with English abstract)

[5] 徐云，陳愛玉，洪冠中，等. 南通地區小麥赤霉病發生潛勢氣象預報模型的建立及檢驗[J]. 江蘇農業科學，2013，41(8)：144－145. Xu Yun, Chen Aiyu, Hong Guanzhong, et al. Establishment and test of a potential weather forecast model for wheat scab in Nantong region[J]. Jiangsu Agricultural Sciences, 2013, 41(8): 144－145. (in Chinese with English abstract)

[6] 呂昭智，沈佐銳，程登發，等. 現代信息技術在害蟲種群密度監測中的應用[J]. 農業工程學報，2005，21(12)： 112－115.Lü Zhaozhi, Shen Zuorui, Cheng Dengfa, et al. Application of information technologies in monitoring the population density of pests[J]. Transactions of the Chinese Society of Agricultural Engineering (Transactions of the CSAE), 2005, 21(12): 112—115. (in Chinese with English abstract)

[7] 姚衛平. 貴池區小麥赤霉病發病程度中期預測模型[J]. 基層農技推廣，2016，4(3)：20－24.Yao Weiping. Mid-season prediction model of wheat scab degree in Guichi area[J]. Primary Agricultural Technology Extension, 2016, 4(3): 20－24. (in Chinese with English abstract)

[8] 李麗，李道亮，周志堅，等. 徑向基函數網絡與WebGIS融合的蘋果病蟲害預測[J]. 農業機械學報，2008，39(3)：116－119. Li Li, Li Daoliang, Zhou Zhijian, et al. Forecast of disease and pest in apple orchards based on fusion of radial basis function neural network and WebGIS[J]. Transactions of the Chinese Society for Agricultural Machinery, 2008, 39(3): 116－119. (in Chinese with English abstract)

[9] 楊志民，梁靜，劉廣利. 強模糊支持向量機在稻瘟病氣象預警中的應用[J]. 中國農業大學學報，2010，15(3)： 122－128. Yang Zhimin, Liang Jing, Liu Guangli. Application of strong fuzzy support vector machine on weather early warning of rice blast[J]. Journal of Chinese Agricultural University, 2010, 15(3): 122－128. (in Chinese with English abstract)

[10] 宋啟堃，鄭松，宋彥棠. 黔南州主要作物病蟲害監測預警專家系統的構建與實現[J]. 云南地理環境研究，2011，23(1)：34－37. Song Qikun, Zheng Song, Song Yantang. The construction and realization of the Qiannan main plant diseases and insects monitoring warning expert system[J]. Yunnan Geographic Environment Research, 2011, 23(1): 34－37. (in Chinese with English abstract)

[11] Sannakki S, Rajpurohit V S, Sumira F, et al. A neural network approach for disease forecasting in grapes using weather parameters[C]//IEEE International Conference on Computing, 2013: 1－5.

[12] Shi Mingwang. Based on time series and RBF network plant disease forecasting[J]. Procedia Engineering, 2011(15): 2384－2387.

[13] 辜麗川，鐘金琴，張友華，等. 一種基于支持向量回歸和動態特征選擇的梨黑星病預測方法[J]. 計算機科學，2009，36(7)：215－217.Gu Lichuan, Zhong Jinqin, Zhang Youhua, et al. Method of predecison on pear scab based on SVM and dynamical feature selection[J]. Computer Science, 2009, 36(7): 215－217. (in Chinese with English abstract)

[14] 王翔宇，溫皓杰，李鑫星，等. 農業主要病害檢測與預警技術研究進展分析[J]. 農業機械學報，2016，47(9)： 266－277.Wang Xiangyu, Wen Haojie, Li Xinxing, et al. Research progress analysis of mainly agricultural disease detection and early warning technologies[J]. Transactions of the Chinese Society for Agricultural Machinery, 2016, 47(9): 266－277. (in Chinese with English abstract)

[15] 王文山，柳平增，臧官勝，等. 基于物聯網的果園環境信息監測系統的設計[J]. 山東農業大學學報：自然科學版，2012，43(2)：239－243. Wang Wenshan, Liu Pingzeng, Zang Guansheng, et al. Design of environment information monitoring system for orchard based on the internet of things[J]. Journal of Shandong Agricultural University: Natural Science, 2012, 43(2): 239－243. (in Chinese with English abstract)

[16] 陳光絨，李小琴. 基于物聯網技術的作物病蟲害自動測報系統[J]. 江蘇農業科學，2015，43(4)：406－410. Chen Guangrong, Li Xiaoqin. Automatic measuring and reporting system of crop diseases and insect pests based on Internet of things[J]. Jiangsu Agricultural Science, 2015, 43(4): 406－410. (in Chinese with English abstract)

[17] Yun H K, Yoo S J, Gu Y H, et al. Crop pests prediction method using regression and machine learning technology: Survey[J]. IERI Procedia, 2014, 6(4): 52－56.

[18] 陳濤，高必梵，艾菊梅. 基于BP神經網絡的作物蟲害預測系統的研究[J]. 數字技術與應用，2015(1)：91－93. Chen Tao, Gao Bifan, Ai Jumei. Prediction system research of crop pests based on BP neural network[J]. Digital Technology and Application, 2015(1): 91－93. (in Chinese with English abstract)

[19] LeCun Y, Bengio Y, Hinton G. Deep learning[J]. Nature, 2015, 521(7553): 436－444.

[20] Schmidhuber J. Deep Learning in neural networks: An overview[J]. Neural Networks the Official Journal of the International Neural Network Society,2014(61):85－117.

[21] 尹寶才，王文通，王立春. 深度學習研究綜述[J]. 北京工業大學學報，2015，41(1)：48－59. Yin Baocai, Wang Wentong, Wang Lichun. Review of deep learning[J]. Journal of Beijing University of Technology, 2015, 41(1): 48－59. (in Chinese with English abstract)

[22] Li Shuai, You Zhuhong, Guo Hongliang, et al. Inverse-free extreme learning machine with optimal information updating[J]. IEEE Transactions on Cybernetics, 2015, 1(99): 1－7.

[23] You Zhuhong, Li Xiao, Chan Keith C C. An improved sequence-based prediction protocol for protein-protein interactions using amino acids substitution matrix and rotation forest ensemble classifiers[J]. Neurocomputing, 2016, 228(8): 277－282.

[24] You ZhuHong, Zhou Mengchu, Luo Xin, et al. Highly efficient framework for predicting interactions between proteins[J]. IEEE Transactions on Cybernetics, 2017, 47(3): 721－733.

[25] Wang Yanbin, You Zhuhong, Li Xiao, et al. Predicting protein-protein interactions from protein sequences by stacked sparse auto-encoder deep neural network[J]. Molecular BioSystems, 2017, 13(7): 1336－1344.

[26] Wang Lei, You Zhuhong, Chen Xing, et al. Computational methods for the prediction of drug-target interactions from drug fingerprints and protein sequences by stacked auto- encoder deep neural network[J]. International Symposium on Bioinformatics Research and Applications (ISBRA). Honolulu, USA, 2017: 46－58.

[27] Sue Han Lee, Chee Seng Chan, Simon Joseph Mayo, et al. How deep learning extracts and learns leaf features for plant classification[J]. Pattern Recognition, 2017(71): 1－13.

[28] Jeon W S, Rhee S Y. Plant leaf recognition using a convolution neural network[J]. International Journal of Fuzzy Logic & Intelligent Systems, 2017, 17(1): 26－34.

[29] Sladojevic S, Arsenovic M, Anderla A, et al. Deep neural networks based recognition of plant diseases by leaf image classification[J]. Computational Intelligence and Neuroscience, 2016(6): 1－11.

[30] Zhao Zhiqiang, Jiao Licheng, Zhao Jiaqi, et al. Discriminant deep belief network for high-resolution SAR image classification[J]. Pattern Recognition, 2017(61): 686－701.

[31] Zhou Shusen, Chen Qingcai, Wang Xiaolong. Discriminative deep belief networks for image classification[C]// IEEE 17th International Conference on Image Processing, Hong Kong, 2010: 1561－1564.

[32] 張媛媛，霍靜，楊婉琪，等. 深度置信網絡的二代身份證異構人臉核實算法[J]. 智能系統學報，2015，10(2)： 193－200. Zhang Yuanyuan, Huo Jing, Yang Wanqi, et al. A deep belief network-based heterogeneous face verification method for the second-generation identity card[J]. CAAI Transactions on Intelligent Systems, 2015, 10(2): 193－200. (in Chinese with English abstract)

[33] 譚娟，王勝春. 基于深度學習的交通擁堵預測模型研究[J]. 計算機應用研究，2015，32(10)：2951－2954. Tan Juan, Wang Shengchun. Research prediction model for traffic congestion based on deep learning[J]. Application Research of Computers, 2015, 32(10): 2951－2954. (in Chinese with English abstract)

[34] 周文杰，嚴建峰，楊璐. 基于深度學習的用戶投訴預測模型研究[J]. 計算機應用研究，2017(5)：1428－1432. Zhou Wenjie, Yan Jianfeng, Yang Lu. Research on prediction model of complaint based on deep learning[J]. Application Research of Computers, 2017(5): 1428－1432. (in Chinese with English abstract)

[35] 陳亮，張俊池，王娜，等. 基于深度置信網絡的在線視頻熱度預測[J]. 計算機工程與應用，2017，53(9)：162－169. Chen Liang, Zhang Junchi, Wang Na, et al. Deep belief networks based popularity prediction for online video services[J]. Computer Engineering and Applications, 2017, 53(9): 162－169. (in Chinese with English abstract)

[36] Larochelle H, Bengio Y. Classification using discriminative restricted Boltzmann machines[C]//International Conference on Machine Learning, New York, 2008: 536－543.

[37] 丁軍，劉宏偉，陳渤，等. 相似性約束的深度置信網絡在SAR圖像目標識別的應用[J]. 電子信息學報，2016，38(1)：97－103.Ding Jun, Liu Hongwei, Chen Bo, et al. Similarity constrained deep belief networks with application to SAR image target recognition[J]. Journal of Electronics & Information Technology, 2016, 38(1): 97－103. (in Chinese with English abstract)

張善文，張傳雷，丁 軍. 基于改進深度置信網絡的大棚冬棗病蟲害預測模型[J]. 農業工程學報，2017，33(19)：202－208. doi：10.11975/j.issn.1002-6819.2017.19.026 http://www.tcsae.org

Zhang Shanwen, Zhang Chuanlei, Ding Jun. Disease and insect pest forecasting model of greenhouse winter jujube based on modified deep belief network[J]. Transactions of the Chinese Society of Agricultural Engineering (Transactions of the CSAE), 2017, 33(19): 202－208. (in Chinese with English abstract) doi：10.11975/j.issn.1002-6819.2017.19.026 http://www.tcsae.org

Disease and insect pest forecasting model of greenhouse winter jujube based on modified deep belief network

Zhang Shanwen, Zhang Chuanlei※, Ding Jun

(710123,)

The diseases and insect pests of greenhouse winter jujube are one of the main factors that restrict the yield and quality of winter jujube. The timely prediction of the jujube diseases and insect pests is the prerequisite to prevent and control diseases and insect pests. It is difficult to establish an accurate forecasting model of diseases and insect pests using traditional mathematical method and neural network (NN) because of many complex factors that lead to the occurrence of diseases and insect pests of winter jujube, including the meteorological conditions (such as temperature, sunlight, humidity), soil conditions (such as moisture, soil heavy metals), and biological characteristics (such as roots, leaves). During the process of forecasting model training, due to the defects of artificial design features and the unpredictable complexity in the design process, the accuracy of disease and insect pest prediction and the efficiency of the design features can’t have a lot of space of ascension. It is possible to automatically forecast diseases and insect pests of winter jujube with the development of agricultural IOT (Internet of Things), smart camera equipment, high performance and large capacity data storage, computer and network technology as well as the massive complex data processing technology. Faced with the problem of complexity and uncertainty of diseases and insect pests prediction of winter jujube, a forecasting model of winter jujube diseases and insect pests is proposed based on the modified deep belief network (DBN). Due to the merits of the DBN, the prediction model of disease and insect pest based on modified DBN can not only utilize 20 kinds of environmental information data, but also introduce the similarity between the prior information and the constraints of the current information. The modified DBN consists of a visible input layer, several hidden layers, and an output layer. The visible layer inputs the data, whose range has been normalized into [0,1]; the hidden layers are invisible, in which binary values are used, and activated by the sigmoid kernel function. Via simulating neural connecting structure of human brain and introducing the supervised information by restricting the similarity between feature vectors in the learning process, the proposed model can automatically learn senior nonlinear hierarchical combination features from the environmental information of winter jujube growth, which is suitable for data classification and importing high-level features into traditional BP (back propagation) neural network classifier to improve the disease forecasting precision. The disease and insect pest prediction is conducted by BP network in the top level of DBN. Experiments on the actual database of disease and insect pest of greenhouse winter jujube are performed. After a large number of training samples and training times, the prediction accuracy rate of diseases and insect pests is greatly improved. The accuracy rate of forecasting result is over than 84%. The experimental results show that the proposed model has provided a technical basis and support for the automatic crop disease forecasting with environmental information obtained in fields, and has great application prospect in disease and insect pest prediction of greenhouse winter jujube. As there are many factors affecting crop diseases, practically, some factors vary with the time, how to use the environmental information of crop growth to build a powerful and practical crop disease forecasting method still needs further study.

diseases; forecasting; models;environmental information of winter jujube growth; insect pests; deep belief network (DBN); modified DBN

10.11975/j.issn.1002-6819.2017.19.026

S436.65

A

1002-6819(2017)-19-0202-07

2017-06-26

2017-09-16

國家自然科學基金項目(61473237)；陜西省自然科學基礎研究計劃(2016GY-141)

張善文，漢族，陜西西安人，博士，教授，博士生導師。研究領域為模式識別及其應用。Email：wjdw716@163.com.

※通信作者：張傳雷，漢族，山東淄博人，博士，副教授。研究領域為模式識別及其應用。Email：a17647@gmail.com.