基于深度信念網絡的信號重構與軸承故障識別

單外平，曾雪瓊

（華南理工大學 機械與汽車工程學院，廣東 廣州 510640）

基于深度信念網絡的信號重構與軸承故障識別

單外平，曾雪瓊

（華南理工大學 機械與汽車工程學院，廣東 廣州 510640）

針對傳統智能識別需要復雜的特征提取過程，增加了操作的難度和不確定性，采用深度信念網絡（Deep Belief Network，DBN）直接從原始數據對故障智能識別的方法。該方法避免了人工特征提取過程，增強了識別的智能性。將以原始數據為輸入的DBN應用于軸承故障識別，接近100%正確識別率的實驗結果表明：DBN可以直接通過原始數據對軸承故障進行高效識別。

特征提??；受限玻爾茲曼機；DBN；深度學習；故障識別

故障智能識別實質上是通過機器學習對能刻畫故障的特征進行故障識別，因此選定的特定特征是智能診斷的關鍵影響因素。應用于機械故障智能診斷領域的特定特征可分為三類，即單變量特征，多變量特征和圖像特征。單變量特征是指只有一個變量特征，如峭度，特征頻率等，其相對簡單，易于理解與操作，但因只涉及到單一特征，忽略了其他有用信息，導致故障識別效果較差。多變量特征是組合多個單變量特征而成的綜合特征，它能更加全面的描述故障信息。但多變量特征的具體選取，直接受人為主觀因素影響。圖像特征，一般是先通過時頻分析把信號轉化為時頻圖像，再按圖像處理方式提取相應故障特征。以上3類特征均易受到人為因素的影響，增加了分析的不確定性，也削弱了機器學習的智能性，實際上已偏離了人工智能與機器學習的最初宗旨。其次，為得到可觀的效果，基于上述研究方法的模型越趨復雜，模型的適用條件易于被忽視，導致操作困難。

深度信念網絡（Deep Belief Network，DBN）是一種深度學習（Deep Learning）網絡，由Hinton等［1］在2006年提出。DBN可通過組合低層特征形成更加抽象的高層表示，以發現數據分布式特征表示；是一種可以直接從低層原始信號出發，逐層貪婪學習得到高層特定特征的學習網絡。DBN無需人工特征提取過程，從而避免了傳統特征提取過程所帶來的復雜性和不確定性，增強識別過程的智能性。

文中通過對振動信號的低失真度重構，解釋深度學習網絡具有組合低層數據特征并挖掘其分布式特征的能力，再次直接從原始數據出發，無需人為特征提取中間過程，對軸承故障類型和故障程度進行診斷。減少了人為參與因素，增強了機器學習的智能性。

1 深度信念網絡

由多個受限玻爾茲曼機 （Restricted Boltzmann Machine，RBM）堆疊可形成基于RBM的DBN模型，圖1是一個由3 個RBM堆疊而成的DBN模型。每個RBM由兩層網絡組成，即可視層（v）和隱藏層（h），層與層之間通過權重（w）連接。第一可視層v1為初始輸入數據，和第一隱藏層h1組成第一個RBM（RBM1）；第一隱藏層h1作為第二可視層v2，并和第二隱藏層h2組成第二個RBM（RBM2）；第二隱藏層h2作為第三可視層v3，并和第三層隱藏層h3組成第三個RBM（RBM3）。各層內部相互獨立，但數據可通過激活函數按RBM學習規則在層間相互轉換。輸入數據經低層的RBM學習后輸出，并作為高一層RBM的輸入，依次逐層傳遞，在高層形成比低層更抽象和更具有表征能力的特征表達，這是DBN中逐層貪婪學習主要思想［2］，也是DBN可直接通過原始數據對軸承故障進行識別的主要原因。

圖1 DBN結構Fig.1 DBN structure

DBN學習過程包含兩部分：由低層到高層的前向堆疊RBM學習和由高層到低層的后向微調學習。

1.1 前向堆疊RBM學習

RBM源于能量模型，每層網絡中有若干神經元，同一層神經元之間相互獨立，且只有未激活與激活兩種狀態，可用二進制0與1表示，并根據概率統計法則決定取值。假設一個RBM中有n個可視單元和m個隱藏單元，用v和h分別表示可視層和隱藏層的狀態，v=（v1，v2…，vn），h=（h1，h2…，hm），定義該RBM能量函數

其中θ=｛w，b，a｝，vi為第i個可視單元的狀態，hj為第j個隱藏層單元的狀態，ai為可視單元i的偏置，bj為隱藏單元j的偏置，wij為連接可視單元i和隱藏單元j的權重。

定義一個可視節點和隱藏節點的聯合概率

因隱藏層內部和可視層內部均不存在連接，式（3）和（4）可進一步推導得激活函數

采用極大似然法最大化式（7），求取參數θ

使用隨機梯度上升法求取似然函數最大值，對參數θ求偏導得

為此，Hinton等［4］提出經少數訓練就可以得到P（v，h）較好估計的對比差異度CD（Contrastive Divergence）快速算法。該快速算法來源于Gibbs抽樣，先利用公式（5）計算所有隱藏層單元的條件概率，并用Gibbs抽樣確定隱藏單元狀態，再根據公式（6）計算可視單元的條件概率，再次用Gibbs抽樣確定可視層狀態，此時相當于產生了對上一步可視層的一個重構。因此，使用梯度上升法最大化似然函數（7），參數θ=｛w，b，a｝的更新準則為

式中，ε是學習率，＜·＞P（h|v）為偏導函數在P（h|v）分布下的期望，＜·＞recon為偏導函數在重構模型分布下的期望。

1.2 后向微調學習

前向堆疊RBM學習屬于無監督學習，把無監督學習到的模型參數當作有監督學習參數的初始化，相當于為監督學習提供了輸入數據的先驗知識，模型訓練結果可得到進一步優化。此優化過程是從DBN網絡最后一層出發，利用已知標簽逐步向低層微調模型參數，稱為后向微調學習。網絡最后一層由Soft-max作為分類器模型，Soft-max模型實質上是多分類的邏輯回歸模型。設DBN深度網絡一共由l個RBM堆疊而成，初始樣本x，最后一層輸出向量為ul（x）

第i個樣本經前向l層堆疊RBM學習后，屬于類別yi，yi∈（1，2，…，c）的概率是

V為參數系數，選取最大概率所對應的類別即為Softmax模型判定類別。

第l層誤差函數表達式為

ρ為權重衰減率，λl=｛wl，bl，cl，Vl｝，1｛yi=k｝為邏輯指示函數，當yi=k時，值為1；當yt≠k時，值為0。為求誤差最小值，使用梯度下降法，對參數求偏導

微調參數

α為學習率，依次類推，微調1到l層相關參數。

結合上面DBN理論所述，基于深度學習的故障識別主要步驟如下：

1）采集振動數據，按照一定規則分組，設置訓練組和測試組數據；

2）將訓練數據輸入第一層RBM，從第一層到高層逐層貪婪學習DBN中所有RBM；

3）根據訓練組的標簽數據和Soft-max分類規則，在2）的基礎上從最高層往最低層逐步后向微調參數，完成DBN模型的整個訓練過程；

4）將測試數據輸入3）中模型，并計算故障識別的正確識別率。

2 振動信號重構

為解釋DBN可無需人工參與卻可自動學習得到特征的能力，進一步對DBN的輸出值探討。但DBN中最后一層RBM輸出值為概率值P（h|v）和連接權值w，P（h|v）為節點被激活的概率，P（h|v）和w數值并不易量化和觀察。由公式（5）（6）可知，RBM層間均通過sigmoid函數連接的。實際上，DBN的前向堆疊RBM學習過程可看作是由堆疊RBM組成的sigmoid函數編碼過程，簡稱RBM-Encode。假如能通過解碼方式重構輸入信號，且與原始信號存在較少差異，說明DBN可以低失真度的恢復原始信號，也就不難理解DBN具有組合低層數據特征并挖掘其分布式特征的能力，即不難理解DBN擁有自動學習特征的能力。為不重復上述推導，且方便表達，將前向堆疊RBM學習過程統一用編碼過程簡單描述。為設輸入數據x，編碼函數定義

對應的解碼函數定義為

RBM-Encode是DBN的一部分，在基于DBN的故障識別步驟上，可得相應的振動信號重構步驟。

1）采集振動數據，按實際選擇樣本數據點數；

2）將原始信號數據輸入第一層RBM可視層v1，學習得隱藏層h1和連接權值w1；

3）將隱藏層h1作為第二層RBM可視層v2，學習得隱藏層w2和連接權值w2；

4）重復步驟2），直到所有RBM都學習完畢。此過程可稱編碼過程，最高層輸出的隱藏層稱編碼層。

5）將編碼層數據反向逐層解碼，可得到與原始信號對應的重構信號。

6）如果在步驟5）前增加與DBN對應的后向微調步驟，再將編碼層數據反向逐層解碼，可以得到微調后的重構信號。

圖2 振動信號的重構Fig.2 Reconstruction of vibration signal

假設按實際需求選擇樣本數據點數為512，即截取原始信號長度中的512個數據點為輸入維數。DBN由隱藏層分別為1 000，800，400的3個RBM組成。編碼層為目標層，相當于故障識別模型中的故障種類，因與第三層隱藏層（400維）同樣按RBM規則編碼，可把這兩層組成第四層RBM（Top RBM4）?；贒BN振動信號重構的步驟可形象表示如圖2。

3 振動信號重構仿真實驗

通常情況下，復雜的振動信號都可以由多正弦信號疊加而成，為方便觀察振動信號經DBN重構的效果，以正弦信號為基礎，分別仿真如表1幾種信號。

表1 仿真信號Tab.1 Simulated signal

采樣頻率10 240 Hz，采樣時間8 s，設置樣本長度為512個數據點，將160個樣本輸入到隱藏層分別為1000，800，400，目標層為48的DBN重構網絡中。經編碼和解碼后，效果對比如圖3。

由圖4可知，簡易正信號、縮放平移信號和幅值0.8 mm信號的重構信號與原始信號差異性較小，且微調重構信號明顯優于未微調信號，說明微調有利于DBN學習。簡易負信號的重構信號均逼近0值，說明負信號不適應該網絡。因網絡在編碼和解碼中均采用了sigmoid函數，該函數值域范圍為［0-1］，當輸入值為負數時，經sigmoid函數計算后均為趨近0的正值。簡易正弦信號也有一半為負值，其重構信號與原始信號偏差很大。幅值1.6 mm信號的重構信號在幅值大于1 mm時，出現平滑恒值，與原始信號相差較遠。因為sigmoid函數值域范圍為［0-1］，超過1的部分計算后恒趨于1。由上分析可知，DBN具有重構原始信號的能力，但輸入數據的取值范圍應該限定在［0-1］。

圖3 仿真信號重構比較圖Fig.3 Reconstruction of simulated signal

為使輸入數據的取值范圍滿足［0-1］，需對原始數據進行簡單預處理，即歸一化。為保證原始數據結構相對不變，采用平移線性歸一化，公式為

仿真較復雜的變振幅變頻率振動疊加信號：

式中Ai=｛2，4，6，8｝，fi=｛32，64，96，128｝。

按照上述設置輸入到相同的DBN重構網絡中，得到重構效果如圖5，本圖中“原始信號”是指簡單預處理后信號。由圖4可見，經歸一化簡單處理后，DBN能對振動信號較好的重構。

4 軸承實驗

為不失通用性，選用美國西儲大學軸承數據中心網站公開數據［5］。實驗模擬了4種狀態：正常，滾動體故障，內圈故障和外圈故障；每種故障有0.018 mm，0.036 mm和0.053 mm 3種直徑尺寸，分別模擬輕度、中度和重度故障。試驗時為空載荷，轉軸轉速1 792 r/min，加速度傳感器采樣頻率48 kHz，持續采樣時間約5 s，詳細數據描述如表2。

圖4 仿真信號歸一化后重構比較圖Fig.4 Reconstruction of simulated signal with normalization

表2 實驗工況描述Tab.2 Description of the experimental conditions

轉軸轉一圈，傳感器約采集1 600個數據點，為研究樣本長度在1圈內對DBN算法的影響，以100數據點為步長，設置成16組（1 600/100=16）不同樣本長度的數據。為保證每種樣本長度數據均具有相同訓練和測試樣本，試驗時均隨機選用75個訓練樣本和75個測試樣本。整合表1中10類數據的訓練樣本和測試樣本，最終一共可得到750個訓練樣本和750個測試樣本。將數據簡單歸一化處理后輸入到隱含層分別是200，500，1 000的3層RBM深度網絡中，其他參數均選用文獻［1］的預設值。

表3 16組數據故障狀態識別Tab.3 Fault identification of the 16 types of data

表3為16組數據經DBN計算后，所對應的故障識別情況。由表可知，16組數據的正確識別率均較高，最低的有84.9%，最高的有99.6%，說明直接通過原始數據利用DBN對軸承故障狀態進行高精度識別的可行性，進一步說明DBN具有可以通過組合低層特征形成更加抽象高層表示的能力。從第2組到第16組，雖然識別率有一定的提升，但相差很小，說明當樣本長度增加到一定程度時，樣本長度對正確識別影響不大。

在智能識別領域中，傳統分析和DBN深度學習分析過程比較如圖5。

圖5 分析過程比較Fig.5 Analysis process comparison diagram

參照圖5將數據按如下方法處理后，再輸入Soft-max分類模型。1）原始數據直接輸入；2）參照文獻［6］提取多變量特征，將所有14組特征作為輸入；3）選取2）中的5組特征作為輸入；4）經小波變換時頻分析后繪制時頻圖，直接提取時頻圖像像素300×400作為輸入；5）將4）中時頻圖經雙向主成分分析壓縮（Two Dimensional PCA，TD-PCA）［7］至像素10×10，再將壓縮后的像素作為輸入。將上述五種方法所得到的結果與DBN相比較，如圖6。

圖6 不同方法處理的故障識別率Fig.6 Fault identification with different methods

由圖比較可知，識別率最差的是直接原始數據輸入，故障識別率在20%左右，說明Soft-max分類模型本身無法直接從原始數據對故障進行識別。以時頻圖像素作為模型輸入時，正確識別率有一定的提升，但可發現，直接以300×400像素為輸入的識別效果也較差，識別率低于50%；而經過TDPCA雙向壓縮后，識別效果得到較大程度提升。由此可見，為得到良好效果，以時頻圖為輸入特征時，需要額外增加輔助處理過程。這是因為傳感器采集的原始信號包含所有相關聯的振動信號，而有效的故障特征信號僅占用極少部分。原始信號經時頻變換后，在相對應的時頻圖中，有價值的故障信息嚴重受到其他信息干擾或掩蓋，導致難以正確分類。只有通過其他方式如TD-PCA把隱藏的故障信息凸顯出來，才可能達到故障識別要求。當以14組多變量特征作為輸入時，識別率比較高；但當以其中5個特征作為輸入時，識別效果大大降低。這是因為不同變量是從不同的角度刻畫振動信號，其包含的故障信息均有不同的偏重點，因此多變量特征的數量和種類直接影響故障識別效果。綜上所述，為達到良好的識別效果，時頻圖特征需要額外的處理過程，多變量特征需要甄選特征數量和種類，這些過程都離不開人工操作，削弱了機器學習的智能性。相比可見，除能減少特征提取過程提升智能性外，DBN可以達到比其他方式更佳的識別效果。

5 結束語

DBN是一種由多個RBM堆疊而成，直接從原始數據出發，低失真度的重構信號說明DBN具有組合低層特征形成更加抽象的高層表示，并以發現數據內部特征的能力。將DBN應用于軸承的故障識別，實驗案例中良好的識別率證明：DBN可以直接通過原始數據對軸承故障進行高效識別。相比于傳統的機器學習方法，基于深度學習的故障識別存在如下突出優勢

第一，不需復雜、專業的人工特征提取過程，可直接使用采集的原始時域信號對故障進行識別，大大簡化了模型學習過程，增強了機器學習的智能性。

第二，不需要操作人員具備專業的先驗儲備知識，簡化了的操作模式，提升了可操作性，增強了機器學習的實用性。

［1］Hinton G，Osindero S，Teh Y W.A fast learning algorithm for deep belief nets［J］.Neural Computation，2006，18（7）:1527-1554.

［2］Bengio Y，Lamblin P，Popovici D，et al.Greedy layer-wise training of deep networks［J］.Advances in Neural Information Processing Systems，2007，19:153.

［3］Salakhutdinov R，Murray I.On the quantitative analysis of deep belief networks ［C］//Proceedings of the 25th international conference on Machine learning.ACM，2008: 872-879.

［4］Hinton G E.Training products of experts by minimizing contrastive divergence［J］.Neural Computation，2002，14（8）: 1771-1800.

［5］Bearing Data Center.Download a Data File［EB/OL］.http://csegroups.case.edu/bearingdatacenter/pages/download-datafile.

［6］Chen Y，Lin Z，Zhao X，et al.Deep Learning-Based Classification of Hyperspectral Data［J］.2014，7（6）:2094-2107.

［7］Yang J，Zhang D，Yang J Y.Two-dimensional PCA:a new approach to appearance-based face representation and recognition［J］.IEEE Transactions on Pattern Analysis and Machine Intelligence，2004，26（1）:131-137.

Signal reconstruction and bearing fault identification based on deep belief network

SHAN Wai-ping，ZENG Xue-qiong
（Mechanical and Automotive Engineering，South China University of Technology，Guangzhou 510640，China）

Feature extraction is a crucial step affecting the performance of traditional intelligent identification with difficulty and uncertainty for manual operation.Starting directly from the raw data，the paper proposes a novel method for bearing fault identification based on deep belief network.The method can get the particular features and avoid manual operation for feature extraction，enhancing intelligence of diagnostic process.When DBN is applied to bearing fault identification with raw data，the experimental results with nearly 100%correct recognition rateshows that DBN can achieveefficiently fault identificationdirectly by the raw data.

feature extraction；restricted boltzmann machine；DBN；deep learning；fault identification

TP181；TH165+.3

A

1674－6236（2016）04-0067-05

2015-03-18 稿件編號：201503232

單外平（1987—），男，湖南衡陽人，碩士研究生。研究方向：復雜機械狀態監測與智能診斷。