基于OpenVINO加速CNN分類

董進(jìn)華　鄭力新

【摘 要】針對傳統(tǒng)農(nóng)業(yè)人工分揀金針菇造成的低效率與成本高的問題，設(shè)計一個架設(shè)在OpenVINO平臺加速推理CNN網(wǎng)絡(luò)分類的在線分揀系統(tǒng)，彌補(bǔ)農(nóng)產(chǎn)品（金針菇）分揀在視覺檢測上的缺口。通過測試表明，該系統(tǒng)具備農(nóng)產(chǎn)品分揀的準(zhǔn)確性和實時性，具有良好的應(yīng)用場景。

【關(guān)鍵詞】CNN;OpenVINO;金針菇;分類

中圖分類號： TS201.2文獻(xiàn)標(biāo)識碼： A文章編號： 2095-2457（2019）29-0078-002

DOI：10.19694/j.cnki.issn2095-2457.2019.29.035

Accelerating CNN Classification Based on OpenVINO

DONG Jin-hua1，2 ZHENG Li-xin*1，2

（1.College of Engineering， Huaqiao University， Quanzhou Fujian 362021， China;

2.Industrial Intelligence and System Research center of? Huaqiao University， Quanzhou Fujian 362021， China）

【Abstract】In order to solve the problem of low efficiency and high cost caused by traditional agricultural manual sorting of Enoki Mushroom， an online sorting system based on OpenVINO accelerated reasoning CNN classification was designed to make up for the gap in visual inspection of agricultural products （Enoki Mushroom） sorting. The test results show that the system has the accuracy and real-time of agricultural products sorting， and has a good application scenario.

【Key words】CNN; OpenVINO; Enoki Mushroom; Classification

0 引言

在中國這樣一個農(nóng)業(yè)大國，農(nóng)業(yè)是主要生產(chǎn)力之一。農(nóng)業(yè)生產(chǎn)的自動化將有助于優(yōu)化農(nóng)產(chǎn)品的產(chǎn)量，確保可持續(xù)的生產(chǎn)力[1]。金針菇是國內(nèi)四大主要食用菌品種之一，隨著生產(chǎn)力的發(fā)展，針對金針菇分揀階段還處于人工挑選，耗費人力和資源，對于企業(yè)而言，人工挑選帶來的成本不可估量。因此，對于金針菇分揀已成為生物科技企業(yè)的業(yè)內(nèi)難題[2]。

農(nóng)產(chǎn)品生長特性的不確定性，傳統(tǒng)特征融合機(jī)器學(xué)習(xí)的方法在農(nóng)產(chǎn)品檢測中經(jīng)常出現(xiàn)檢測不準(zhǔn)確[3]。卷積神經(jīng)網(wǎng)絡(luò)（CNN）對圖像的分類準(zhǔn)確性和泛化能力已經(jīng)高于傳統(tǒng)算法，但是CNN網(wǎng)絡(luò)參數(shù)龐大，運行速度慢，因此保證檢測速度和降低開發(fā)成本是十分必要的。

本文構(gòu)建一個基于OpenVINO加速模型推理，CNN為特征骨干網(wǎng)絡(luò)的檢測模型，最終使用OpenCV框架實現(xiàn)分揀模型。

1 基于OpenVINO的CNN模型方法

LeNet和AlexNet是卷板網(wǎng)絡(luò)（CNN）的開山里程碑[4]，其網(wǎng)絡(luò)定義了CNN基本架構(gòu)：卷積層、池化層、全連接等，如圖1展示。在之后的網(wǎng)絡(luò)模型的改進(jìn)無不是由此得到的啟發(fā)。

1.1 CNN框架

卷積神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程如下圖所示。

圖1 簡易CNN示意圖

本文使用的13層CNN框架如下描述：

1.1.1 輸入

Input層：以32×32×3的RGB樣本作為輸入

1.1.2 隱藏層

隱藏層包含8層，由卷積層（C）和池化層（S）混合構(gòu)成。

1.1.3 輸出層

輸出包含4個網(wǎng)絡(luò)層，2個全連接（F）、1個Softmax層和分類結(jié)果。

在CNN模型構(gòu)建之后，為提高網(wǎng)絡(luò)的泛化能力，需要對樣本進(jìn)行相應(yīng)的圖像增強(qiáng)[5]。

1.2 OpenVINO

OpenVINO整合OpenCV、OpenVX、OpenCL等[7]，該工具包可以通過基于Intel CPU及核顯Integrated GPU加速芯片。OpenVINO工具包運行架構(gòu)如圖2。

圖2 OpenVINO核心組件圖

2 實驗

2.1 實驗數(shù)據(jù)

樣本由江蘇省華綠科技有限公司提供采集，該數(shù)據(jù)有10000張金針菇菇帽幾個生長狀態(tài)，對其金針菇菇帽裁剪菇帽尺寸在56*56*3左右。

圖3 金針菇菇帽分類網(wǎng)絡(luò)模型圖

2.2 實驗步驟

神經(jīng)網(wǎng)絡(luò)通過多通道并行訓(xùn)練提高識別精度。本文檢測算法由三個部分組成。

a.收集的圖片，將金針菇分為4種人工確定的生長狀態(tài)圖片。

b.將圖像進(jìn)行增強(qiáng)算法。

c.樣本發(fā)送到經(jīng)過訓(xùn)練的分類模型，對所有圖像進(jìn)行分類。

d.IR模型轉(zhuǎn)換并使用OpenCV對其端口調(diào)用和檢測。分類網(wǎng)絡(luò)的模型圖如圖3。

2.3 實驗結(jié)果

實驗?zāi)Ｐ偷淖罱K的分類準(zhǔn)確率如下表1所示，每一類別測試達(dá)較高準(zhǔn)確率，其平均準(zhǔn)確率達(dá)98.35%。

表1 模型識別準(zhǔn)確率結(jié)果

在評估檢測速度結(jié)果中，本文采用三種對比形式，分別為GPU（1080Ti）、CPU（intel core i5-8500@3.00GHz）和OpenVINO平臺部署+CPU（i5-8500@3.00GHz）。統(tǒng)計單張樣本1024*1280*3（切割為多張圖32*32*3作為輸入）的幀率，如圖4。

在CPU平臺上檢測速度基本很慢，一批次樣本輸入基本在1秒2張左右，通過OpenVINO加速下雖然達(dá)

不到GPU的運行速度但是較單獨CPU平臺提高了近6倍。

圖4 不同平臺檢測幀率FPS（幀/秒）對比圖

3 結(jié)論

基于深度學(xué)習(xí)的研究已經(jīng)成為當(dāng)今人工智能領(lǐng)域的熱門方向，越來越多的科研人員將目光鎖定在深度學(xué)習(xí)的研究和應(yīng)用上。其中卷積神經(jīng)網(wǎng)絡(luò)（CNN）作為一種受歡迎的深度學(xué)習(xí)框架，在圖像識別和圖像分類方面的優(yōu)勢也越來越明顯。農(nóng)產(chǎn)品品質(zhì)檢測是一種圖像識別應(yīng)用，本文提出使用CNN作為農(nóng)產(chǎn)品檢測的特征骨干網(wǎng)絡(luò)具有高準(zhǔn)確性，對于減少人工分揀降低人力成本具有重要意義，模型架設(shè)在OpenVINO的平臺加速可以滿足實際生產(chǎn)中的應(yīng)用的成本需求，為企業(yè)節(jié)省了一大筆經(jīng)濟(jì)開支。

【參考文獻(xiàn)】

[1]Pretty J， Sutherland W J， Ashby J. The top 100 questions of importance to the future of global agriculture[J]. International journal of agricultural sustainability， 2010， 8（4）， pp： 219-236.

[2]鄭遠(yuǎn)攀，李廣陽，李曄.深度學(xué)習(xí)在圖像識別中的應(yīng)用研究綜述[J].計算機(jī)工程與應(yīng)用，2019，55（12）：20-36.

[3]王振，張善文，趙保平.基于級聯(lián)卷積神經(jīng)網(wǎng)絡(luò)的作物病害葉片分割[J/OL].計算機(jī)工程與應(yīng)用：1-12[2019-08-20].

[4]Sladojevic S， Arsenovic M， Anderla A. Deep neural networks based recognition of plant diseases by leaf image classification[J].Computational intelligence and neuroscience， 2016.

[5]楊成香. 金針菇優(yōu)良菌株的篩選及遺傳多樣性分析[D].南京農(nóng)業(yè)大學(xué)，2007.

[6]Kim S C， Kang T J. Texture classification and segmentation using wavelet packet frame and Gaussian mixture model[J]. Pattern Recognition， 2007， 40（4）， pp. 1207-1221.

[7]英特爾OpenVINO工具包為創(chuàng)新智能視覺提供更多可能[J].中國信息化，2018（08）：51.

[8]陳鉑壘.基于樹莓派和神經(jīng)計算棒的智能家居機(jī)器人[J].單片機(jī)與嵌入式系統(tǒng)應(yīng)用，2019，19（07）：56-59+64.

[9]Li C， Cao Q， Guo F. A method for color classification of fruits based on machine vision[J]. WSEAS Transactions on Systems， 2009， 8（2）， pp. 312-321.