深度信念網(wǎng)絡(luò)在故障指示器檢測(cè)中的應(yīng)用

陽(yáng) 武，李 倩，趙繼生，高 強(qiáng)，余 萍

(華北電力大學(xué) 電氣與電子工程學(xué)院，河北 保定071003)

0 引 言

在產(chǎn)品生產(chǎn)過(guò)程中，產(chǎn)品的質(zhì)量是否合格需要安排專人進(jìn)行檢測(cè)，而相當(dāng)一部分電子產(chǎn)品的檢測(cè)問(wèn)題往往是檢測(cè)產(chǎn)品在某種條件下的動(dòng)作狀態(tài)是否正確。當(dāng)檢測(cè)員長(zhǎng)期檢測(cè)某產(chǎn)品的狀態(tài)時(shí)，可能會(huì)因視覺(jué)疲勞而漏檢，造成不合格產(chǎn)品進(jìn)入下一個(gè)流程。利用計(jì)算機(jī)技術(shù)開(kāi)發(fā)產(chǎn)品檢測(cè)已有一些成果［1～3］，而利用深度信念網(wǎng)絡(luò)(deep belief network，DBN)技術(shù)進(jìn)行產(chǎn)品檢測(cè)具有更明顯的優(yōu)勢(shì)。

深層的神經(jīng)網(wǎng)絡(luò)不僅可以實(shí)現(xiàn)自動(dòng)特征學(xué)習(xí)，而且學(xué)習(xí)到的特征對(duì)數(shù)據(jù)具有更本質(zhì)的刻畫(huà)，且通過(guò)“逐層初始化”克服了在訓(xùn)練上的難度，因此，其受到了學(xué)術(shù)界和工業(yè)界的廣泛研究，并成為當(dāng)前的研究熱點(diǎn)。其中，深度信念是應(yīng)用比較廣泛的一種模型。2008 年，Tijmen Tieleman 修正了CD 算法無(wú)法極大似然的缺陷，提出了PCD 算法［4］。2010～2012 年，許多研究者提出了基于回火的馬爾科夫鏈蒙特卡羅采樣(MCMC)的深度信念網(wǎng)絡(luò)改進(jìn)算法［5，6］，進(jìn)而提升深度信念網(wǎng)絡(luò)的學(xué)習(xí)效果。到目前為止，深度神經(jīng)網(wǎng)路現(xiàn)已成功應(yīng)用到了語(yǔ)音識(shí)別領(lǐng)域［7］，手寫(xiě)字體識(shí)別［8］、人臉識(shí)別［9］、遙感圖像分類(lèi)［10］和垃圾郵件過(guò)濾［11］等圖像處理領(lǐng)域中，大大提高了識(shí)別精度。

本文利用視頻檢測(cè)系統(tǒng)進(jìn)行圖像采集，針對(duì)名為故障指示器的電子產(chǎn)品的動(dòng)作狀態(tài)檢測(cè)問(wèn)題進(jìn)行了研究，通過(guò)建立視頻采集系統(tǒng)獲取圖像，應(yīng)用深度信念網(wǎng)絡(luò)技術(shù)進(jìn)行識(shí)別，獲得了良好的效果。

1 深度信念網(wǎng)絡(luò)分類(lèi)

深度信念網(wǎng)絡(luò)是一種概率生成模型，由多層受限玻耳茲曼機(jī)(restricted Boltzmann machine，RBM)單元組成，結(jié)構(gòu)如圖1 所示。

圖1 深度信念網(wǎng)絡(luò)的結(jié)構(gòu)圖Fig 1 Structure diagram of DBN

1.1 RBM

一個(gè)典型的RBM 子模塊結(jié)構(gòu)圖是由可視層和隱含層兩層神經(jīng)元構(gòu)成的，每層有若干個(gè)節(jié)點(diǎn)，層內(nèi)節(jié)點(diǎn)無(wú)連接，不同層之間的節(jié)點(diǎn)依靠權(quán)值系數(shù)矩陣來(lái)連接。各層之間的權(quán)重值是采用無(wú)監(jiān)督的貪心算法獲取的。

RBM 是一種能量模型，其可視層和隱含層的聯(lián)合組態(tài)能量表示為

式中 θ=(W，a，b)，為RBM 模型中的三個(gè)參數(shù);wij為可視層節(jié)點(diǎn)i 與隱含層節(jié)點(diǎn)j 之間的連接權(quán)重值;ai，bj分別是可視層、隱含層的偏置值。對(duì)應(yīng)于可視層神經(jīng)元和隱含層神經(jīng)元的相應(yīng)映射概率分布為

式中 σ 為Sigmoid 函數(shù)。RBM 采用迭代的方式進(jìn)行訓(xùn)練，訓(xùn)練的目標(biāo)在于學(xué)習(xí)出參數(shù)θ=(W，a，b)的值，以擬合給定的訓(xùn)練數(shù)據(jù)。參數(shù)θ 可以通過(guò)最大化對(duì)數(shù)似然函數(shù)得到，最大化似然函數(shù)常用的數(shù)值方法是梯度上升。參數(shù)θ=(W，a，b)的迭代公式為

其中，η 為預(yù)訓(xùn)練的學(xué)習(xí)率。采用Hinton 提出的對(duì)比散度(CD)算法對(duì)重構(gòu)數(shù)據(jù)進(jìn)行近似擬采樣，可得各參數(shù)的更新規(guī)則為

其中，〈·〉data為訓(xùn)練樣本集所定義的分布之上的數(shù)學(xué)期望;〈·〉recon為重構(gòu)后的模型所定義的分布上的期望。

1.2 深度信念網(wǎng)絡(luò)算法的訓(xùn)練學(xué)習(xí)過(guò)程

通過(guò)式(5)～式(7)這樣一個(gè)非監(jiān)督的預(yù)訓(xùn)練過(guò)程就可以將一個(gè)RBM 調(diào)整到合適的初始值，然后再將多個(gè)RBM自底向上組合建立深度信念網(wǎng)絡(luò)模型，最后通過(guò)使交叉熵最小，采用BP 算法對(duì)整個(gè)網(wǎng)絡(luò)進(jìn)行監(jiān)督式學(xué)習(xí)，最終建立深度信念網(wǎng)絡(luò)。

具體過(guò)程歸納為兩步:

1)無(wú)監(jiān)督預(yù)訓(xùn)練:參照RBM 模型基于CD-k 的快速學(xué)習(xí)算法，根據(jù)系統(tǒng)能量最小逐層地訓(xùn)練每個(gè)RBM 來(lái)獲得可視層節(jié)點(diǎn)和隱含層節(jié)點(diǎn)間的權(quán)值。

2)有監(jiān)督微調(diào):深度信念網(wǎng)絡(luò)模型利用帶標(biāo)簽的數(shù)據(jù)用誤差反向傳播(BP)算法對(duì)判別性能進(jìn)行優(yōu)化調(diào)整。

2 故障指示器的狀態(tài)分類(lèi)

本文基于深度信念網(wǎng)絡(luò)，對(duì)產(chǎn)品進(jìn)行檢測(cè)。對(duì)故障指示器的視頻圖像進(jìn)行預(yù)處理之后，通過(guò)第1 章描述的深度信念網(wǎng)絡(luò)算法進(jìn)行訓(xùn)練網(wǎng)絡(luò)。訓(xùn)練算法包含兩個(gè)階段:第一步是使用無(wú)標(biāo)簽訓(xùn)練集來(lái)訓(xùn)練多個(gè)RBM;第二步從預(yù)訓(xùn)練得到的權(quán)值開(kāi)始使用反向傳播微調(diào)深度網(wǎng)絡(luò)。

2.1 數(shù)據(jù)集的獲取

為了獲得故障指示器的視頻圖像，首先建立了圖像采集系統(tǒng)，如圖2 所示。

圖2 圖像采集系統(tǒng)圖Fig 2 Image acquisition system

圖2 中，攝像頭陣列是通過(guò)合理安排鏡頭，可以對(duì)檢測(cè)臺(tái)上的所有待檢產(chǎn)品進(jìn)行拍攝圖像，以便對(duì)每一個(gè)產(chǎn)品都能進(jìn)行檢測(cè)。通過(guò)矩陣切換器將圖像分別送入服務(wù)器中進(jìn)行處理。

測(cè)試臺(tái):待測(cè)產(chǎn)品連接到測(cè)試臺(tái)上，按規(guī)則擺放，以便獲取合適的圖像。

后臺(tái)服務(wù)器:接收、存儲(chǔ)和處理圖像，并顯示檢測(cè)結(jié)果。

將同一個(gè)攝像頭拍攝到的多個(gè)故障指示器的視頻圖像，通過(guò)分割得到多個(gè)單故障指示器的圖像，將其作為訓(xùn)練集和測(cè)試集。

2.2 深度信念網(wǎng)絡(luò)訓(xùn)練

對(duì)于分類(lèi)任務(wù)，最高層的神經(jīng)元個(gè)數(shù)等于目標(biāo)類(lèi)別個(gè)數(shù)。每一個(gè)神經(jīng)元分別對(duì)應(yīng)一個(gè)類(lèi)別標(biāo)簽。為了實(shí)現(xiàn)故障指示器分類(lèi)，設(shè)置最后BP 網(wǎng)絡(luò)輸出層包含兩個(gè)神經(jīng)元，輸入層神經(jīng)元個(gè)數(shù)設(shè)置為預(yù)處理后得到故障指示器圖像的大小，并設(shè)置合適的隱含層層數(shù)和每層隱含層的神經(jīng)元個(gè)數(shù)。

2.3 分 類(lèi)

經(jīng)過(guò)RBM 的無(wú)監(jiān)督預(yù)訓(xùn)練和BP 的有監(jiān)督微調(diào)，所有的網(wǎng)絡(luò)權(quán)值達(dá)到了最小訓(xùn)練誤差。如圖3，將測(cè)試集預(yù)處理得到的圖像轉(zhuǎn)換為一維向量，輸入到訓(xùn)練好的深度信念網(wǎng)絡(luò)中，從而得到分類(lèi)結(jié)果。

圖3 故障指示器的狀態(tài)分類(lèi)Fig 3 State classification of fault indicator

對(duì)故障指示器進(jìn)行狀態(tài)分類(lèi)的算法流程如圖4 所示。

圖4 故障指示器圖像狀態(tài)分類(lèi)算法流程Fig 4 Flow chart of image state classification algorithm of fault indicator

圖4 中，首先從攝像頭獲取視頻流信息，再經(jīng)過(guò)單幀圖像抽取獲得視頻圖像;將同一鏡頭獲取的多個(gè)故障指示器圖像進(jìn)行分割，取出單個(gè)的故障指示器圖像進(jìn)行圖像預(yù)處理，主要是把圖像變成同樣大小的圖像，最后將其送入已經(jīng)訓(xùn)練好的深度信念網(wǎng)絡(luò)進(jìn)行分類(lèi)。

3 實(shí)驗(yàn)結(jié)果與分析

本實(shí)驗(yàn)中選取的故障指示器視頻圖像包括兩種:一種是攝像頭斜下方監(jiān)視7 個(gè)故障指示器;另外一種是攝像頭正下方監(jiān)視3 個(gè)故障指示器，從視頻中截取的幀圖像如圖5所示。

由圖5 知，實(shí)驗(yàn)所用到的故障指示器包括兩種狀態(tài)，一種是正常狀態(tài)，一種是翻轉(zhuǎn)狀態(tài)。將圖5 中的故障指示器分割成單個(gè)故障指示器，得到訓(xùn)練集和測(cè)試集。本實(shí)驗(yàn)中隨機(jī)選取400 張圖像作為訓(xùn)練集，80 張圖像作為測(cè)試集，且訓(xùn)練集和測(cè)試集沒(méi)有交叉。故障指示器的樣圖如圖6。

圖6 故障指示器的狀態(tài)樣圖Fig 6 State sample images of fault indicator

為了評(píng)價(jià)DBN 在故障指示器檢測(cè)應(yīng)用中的性能，與常用的BP 神經(jīng)網(wǎng)絡(luò)［12］和SVM 算法進(jìn)行了比較。實(shí)驗(yàn)結(jié)果比較如表1 所示。

實(shí)驗(yàn)結(jié)果表明:該系統(tǒng)對(duì)故障指示器的兩種狀態(tài)(正常狀態(tài)和翻轉(zhuǎn)狀態(tài))的正確識(shí)別率可以達(dá)到100%，且效果明顯優(yōu)于BP 神經(jīng)網(wǎng)絡(luò)和SVM 算法。深度信念網(wǎng)絡(luò)分類(lèi)算法可以用來(lái)解決實(shí)踐中的故障指示器等產(chǎn)品檢測(cè)的問(wèn)題。

表1 算法性能對(duì)比Tab 1 Performance comparison of three algorithms

4 結(jié)束語(yǔ)

本文結(jié)合深度信念網(wǎng)絡(luò)，提出了基于深度信念網(wǎng)絡(luò)的分類(lèi)方法，并將其應(yīng)用在產(chǎn)品狀態(tài)分類(lèi)中，該產(chǎn)品名為故障指示器，具有兩種狀態(tài)即正常狀態(tài)和翻轉(zhuǎn)狀態(tài)。實(shí)驗(yàn)結(jié)果表明:深度信念網(wǎng)絡(luò)的分類(lèi)方法在故障指示器檢測(cè)中有較好的表現(xiàn)，識(shí)別精度高，可以代替人工檢測(cè)產(chǎn)品。

［1］ 羅小賓，殷國(guó)富，陳 珂，等.基于計(jì)算機(jī)視覺(jué)的產(chǎn)品自動(dòng)檢測(cè)系統(tǒng)的研究［J］.計(jì)算機(jī)工程與應(yīng)用，2004(3):201－202.

［2］ 張 楊，孫國(guó)棟，梁永強(qiáng)，等.電子插接件視覺(jué)檢測(cè)中次品自動(dòng)剔除裝置設(shè)計(jì)［J］.制造業(yè)自動(dòng)化，2014，36(21):118－121.

［3］ 侯海燕.基于模板匹配的機(jī)器視覺(jué)話機(jī)檢測(cè)系統(tǒng)［J］.現(xiàn)代計(jì)算機(jī)，2013(30):63－65.

［4］ Hinton G E，Osindero S，Teh Y W.A fast learning algorithm for deep belief nets［J］.Neural Computation，2006，18(7):1527－1554.

［5］ Tijmen Tieleman.Training restricted Boltzmann machines using approximations to the likelihood gradient［C］∥Proceedings of the 25th International Conference on Machine Learning，Canada:ICML，2008:1064－1071.

［6］ Salakhutdinov Ruslan.Learning deep Boltzmann machines using adaptive MCMC［C］∥Proceedings of the 27th International Conference on Machine Learning(ICML)，USA，2010:943－950.

［7］ 陳 碩.深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)在語(yǔ)音識(shí)別中的應(yīng)用研究［D］.廣州:華南理工大學(xué)，2013.

［8］ Ji Nannan，Zhang Jiangshe，Zhang Chunxia.A sparse-response deep belief network based on rate distortion theory［J］.Pattern Recognition，2014，47(9):3179－3191.

［9］ Lin Miaozhen，F(xiàn)an Xin.Low resolution face recognition with pose variations using deep belief networks［C］∥2011 4th International Congress on Image and Signal Processing，Shanghai，2011.

［10］呂 啟，竇 勇，牛 新，等.基于DBN 模型的遙感圖像分類(lèi)［J］.計(jì)算機(jī)研究與發(fā)展，2014，51(9):1911－1918.

［11］孫勁光，蔣金葉，孟祥福，等.深度置信網(wǎng)絡(luò)在垃圾郵件過(guò)濾中的應(yīng)用［J］.計(jì)算機(jī)應(yīng)用，2014，34(4):1122－1125.

［12］周 英，尹邦德，任 玲，等.基于BP 神經(jīng)網(wǎng)絡(luò)的電網(wǎng)短期負(fù)荷預(yù)測(cè)模型研究［J］.電測(cè)與儀表，2011(2):68－71.