基于深度主動學習的MVB網絡故障診斷方法

楊岳毅，王立德，王 沖，王慧珍，李 燁

（北京交通大學電氣工程學院，北京 100044）

MVB （multiple vehicle bus）網絡用于傳輸列車車輛各設備間的控制信息、狀態信息等，在高速動車組和地鐵列車上得到廣泛應用[1].由于惡劣的工作環境和網絡設備的不斷增加，多種因素都會造成MVB網絡故障，網絡故障表現多樣.目前，MVB網絡故障仍然依賴于人工排查，查找MVB網絡故障根源十分困難.因此，研究MVB網絡智能故障診斷方法對于實現智能化檢修，降低列車運維成本具有重要意義.

MVB網絡的物理層和鏈路層包含最多的網絡狀態和故障信息，常用于網絡狀態監視和故障診斷.文獻[2]提取峰峰值、正穩態幅值等8種MVB信號特征，采用多核支持向量機來識別多種MVB端接故障，取得了不錯的診斷效果.文獻[3]提出一種基于權重化支持向量機的故障診斷方法，提取MVB信號特征用于診斷端接、并聯電阻、串聯電阻等故障.然而，這些方法依賴于專家經驗進行特征提取和選擇，只適用于特定應用領域.

近年來，隨著深度學習的不斷發展，國內外專家學者提出了許多基于深度學習的故障診斷方法[4-7].其中，由于結構簡單、效率高等優點，堆疊去噪自編碼器（stacked denoising autoencoder，SDAE）被廣泛應用于多種領域的故障診斷中.為得到高性能的深度學習模型，需要大量的已標記數據進行模型訓練.然而，工業應用中缺乏大量帶標簽的數據，標記數據十分耗時且成本高昂，因此，很難有充足的帶標簽數據進行模型訓練.為解決這些問題，一些學者提出了將深度學習算法和主動學習相結合的方法，從而在少量標記數據下得到高質量的深度學習模型，已經應用在圖片分類[8-9]、文本分類[10]、系統監測[11]、故障診斷[12]等多個領域.主動學習通過采用不同采樣策略來選擇位于分類邊界、類中心等高信息量的樣本進行專家人工標記后用于模型訓練，從而大大降低實際應用中的標記成本.其中，不確定性采樣策略具有計算量小、效率高等優點，在實際中應用最為廣泛[13].文獻[14-15]均采用主動學習和堆疊自編碼器結合的方法進行心電圖信號分類，利用信息熵和最小邊緣的方法度量樣本的不確定性.文獻[16]采用卷積神經網絡（convolutional neural network, CNN）模型進行半導體生成過程的故障診斷，利用多種不確定性采樣方法來選擇信息量最大的樣本進行標記.然而，不確定性采樣方法只選擇位于分類邊緣或者低密度區域的樣本，因此，可能會造成樣本采樣偏差，同時更容易選擇到異常樣本，從而無法得到高質量的深度學習模型.

本文提出一種基于不確定性和可信度相結合的高效率主動學習方法，并將其與基于SDAE的MVB故障診斷模型相結合.在模型訓練過程中，基于最小邊緣選擇高不確定性樣本進行人工標記，同時，基于信息熵選擇高可信度樣本并自動標記偽標簽，將被標記樣本用于模型訓練，從而實現在減少標記樣本的同時得到高質量的深度神經網絡模型.在MVB網絡實驗平臺上進行了故障模擬實驗，并通過多組對比實驗驗證了提出方法的有效性.

1 MVB網絡故障

在實際應用中，MVB網絡通常采用電氣中距離（electrical middle distance, EMD）傳輸介質，MVB信號采用曼徹斯特編碼，傳輸速率為1.5 Mbit/s.IEC 61375協議規定了EMD發送器輸出信號的一致性測試標準[17].

圖1為MVB網絡EMD單線常見故障示意圖，MVB設備采用帶隔離變壓器的RS485芯片作為收發器，設備間通過無源連接器和屏蔽雙絞線連接，終端設備配置120 Ω ± 10%的端接器.

圖1 EMD單線連接常見故障類型Fig.1 Typical fault modes of EMD single-line connection

根據傳輸線理論，傳輸線反射系數ΓL為反射波電壓與入射波電壓之比，其在電纜終端處為

式中：ZL為終端電阻；Z0為電纜特性阻抗.

當阻抗匹配時，終端反射系數ΓL= 0，無反射波；當負載斷路或短路時，發生全反射.當0 <ΓL<1時，發生部分反射.阻抗不匹配會引起信號反射，從而造成MVB信號畸變.

電纜安裝不當和彎折、連接器老化和虛接等多種原因都會造成電纜特性阻抗Z0發生變化，導致反射系數ΓL發生變化.電纜回波損耗為

在阻抗匹配時回波損耗最大，而阻抗不匹配越嚴重會導致回波損耗數值越小，電纜信號反射越嚴重，MVB信號的信噪比越低，誤碼率增大.

電纜衰減可以表示為

阻抗匹配時電纜衰減最小，超過極限值將導致嚴重的信號損耗，造成丟包率和誤碼率上升.

如表1所示為MVB網絡常見故障，多種網絡故障都會影響MVB信號物理波形質量.因此，采集MVB信號物理波形可以用于對電纜性能退化、連接器老化等網絡早期故障的診斷.

表1 MVB網絡常見故障Tab.1 Typical faults of MVB network

根據IEC 61375協議規定，MVB主幀的幀頭為9位固定格式和長度的起始分界符，在整個MVB網絡通信過程中不發生變化.因此，本文將采集到的MVB網絡主幀的起始分界符對應的物理波形數據作為故障診斷模型的輸入.

2 故障診斷方法

2.1 堆疊去噪自編碼器

經典自編碼器是一種3層對稱神經網絡，由編碼器和解碼器組成，通過最小化重構誤差來實現特征學習.相比于經典自編碼器，去噪自編碼DAE（denoising autoencoder）通過在訓練階段中對輸入樣本加入隨機噪聲來獲得更好的魯棒性.訓練完成后的DAE能夠有效進行特征提取，并且能夠消除輸入噪聲的影響.SDAE由多個上下連接的DAE組成的深度網絡結構，通過將上一層DAE的隱含層輸出作為下一層DAE的輸入來得到更好的特征表示.采用SDAE進行故障診斷時，訓練過程包括無監督特征學習和有監督全局微調.

假設輸入數據X= {x(1),x(2),…,x(i),…,x(N)},x(i)∈RS,i= 1, 2,…,N，N為樣本數量，S為樣本的特征維度.如圖2（a）所示，在無監督特征學習階段，第m個DAE隱含層輸出為

式中：fm(?)為第m個DAE隱含層激活函數；Wm和bm分別為第m個DAE編碼器的權重和偏置；hm?1(i)為第m－1個DAE的隱含層輸出.

第m個DAE重構輸出為

則第m個DAE重構誤差為

式中：θm= {Wm,bm,,}.

采用批量梯度下降對SDAE進行分層預訓練，直到所有的DAE都訓練完成.

如圖2（b）所示，在有監督全局微調階段，構建一個深度神經網絡（deep neural network，DNN），在其最后一層增加一個softmax層，Wc和bc分別表示softmax層的權重和偏置.DNN模型的softmax層參數隨機初始化，其他層初始化參數采用訓練好的SDAE模型參數.利用訓練集(X1,Y1)，通過最小化損失函數來優化模型參數，損失函數定義為

圖2 SDAE模型訓練過程Fig.2 Training process of SDAE model

式中：n為每輪訓練樣本數；I(?)為指示函數；y(i)為樣本x(i)的預測標簽；K為故障類型數；p(x(i))為樣本x(i)的模型概率輸出；γ為損失函數權重.

2.2 主動學習

主動學習的目的是通過采用不同采樣策略，從未標記數據中選擇信息量最大的數據進行專家標記后用于模型訓練，從而以最小標記成本得到高質量分類模型.基于不確定性的采樣策略具有使用簡便、計算量小等優點，因此應用最為廣泛.假設存在帶標簽數據集DL和未標記數據集DU，不確定性采樣利用softmax分類器輸出不同類概率用于樣本不確定性度量，度量準則包括：

1）信息熵（entropy, EN）.利用全部類概率進行不確定性度量，值越大表明模型分類此樣本的不確定性越大，第i個樣本分類信息熵計算公式為

式中：yk為第k個故障類型的標簽；p(yk|x(i))為樣本x(i)在第k個標簽的條件概率.

2）最小邊緣（smallest margin, SM）.將樣本的最大后驗概率和第二大后驗概率的差定義為邊緣，樣本的分類邊緣越小表明模型分類此樣本時具有越高不確定性，第i個樣本分類邊緣計算公式為

式中：y?1和y?2分別為由模型輸出得到的最大和第二大類標簽.

3）最小可信度（least confident, LC）.模型輸出的樣本最大類概率定義為樣本分類可信度，樣本的低分類可信度表明模型分類此樣本具有高不確定性.

LC度量準則只關注分類器輸出的最大分類概率，不宜用于解決多分類問題，而EN度量準則易于受到小分類概率的影響，因此，本文選擇SM作為樣本不確定性度量的準則.然而，不確定性采樣方法只關注在低密度區域或分類邊界的樣本，從而造成采樣偏差問題，同時噪聲樣本更容易被選擇.因此，本文提出的高效主動學習方法在每次查詢時不僅通過SM方法選擇高不確定性樣本并進行人工標記，同時采用信息熵度量樣本分類可信度，選擇分類輸出概率的信息熵小于閾值λ的樣本，并將輸出的預測類標簽j自動作為樣本的偽標簽，偽標簽yp(i)可以定義為

在模型訓練開始階段，由于模型分類能力不強，閾值λ需要設置為一個較大的值，保證能選擇到高可信度樣本.隨著訓練的進行，模型分類能力提高，閾值λ應相應減小，避免錯誤地自動標記.本文中，閾值λ可以定義為

式中：λ0為初始值；r為查詢次數；a為衰減率.

2.3 MVB網絡故障診斷步驟

本文提出的深度主動學習方法是為在少量標記樣本下得到高診斷精度的故障診斷模型，其整體架構如圖3所.假設在開始階段所有數據均未標記，帶標簽的初始訓練數據集DL(0)為空，故障診斷方法總共分以下幾個步驟：

圖3 深度主動學習方法架構Fig.3 Framework of deep active learning method

步驟1SDAE預訓練.SDAE模型利用所有的初始未標記數據集DU(0)進行無監督特征學習；

步驟2主動學習初始化.構建DNN分類器模型，利用訓練好的SDAE模型參數進行初始化.隨機從未標記數據集DU(0)中選取N0個初始樣本組成初始選擇樣本集DS(0)并進行人工標記，得到初始標記訓練數據DL(1)，輸入DNN模型進行初始模型訓練，并更新未標記數據集DU(1) =DU(0) ?DS(0)和訓練數據集DL(1) =DL(0)；

步驟3基于主動學習的全局微調.對未標記數據集輸入DNN模型，根據式（8）、（9）、（11）和式（12）分別進行不確定性度量和可信度度量，選擇Nr個樣本組成第r輪選擇數據集DS(r)，其中，選擇的高不確定性樣本進行人工標記，而選擇的高可信度樣本自動添加偽標簽，從而得到第r輪的標記訓練集DL(r)，然后對模型進行再訓練.同時，更新未標記數據集DU(r+ 1) =DU(r) ?DS(r)和訓練數據集DL(r +1) =DL(r) +DL(r)，并根據式（12）動態調整閾值λ的大小；

步驟4重復步驟3，直到達到最大查詢次數rmax或未標記數據集為空，從而得到訓練好的模型.

步驟5將測試樣本輸入到訓練好的故障診斷模型，得到MVB網絡故障診斷結果.

3 實驗驗證

3.1 實驗設置

如圖4所示，在實驗室環境下搭建MVB網絡實驗平臺.通過在原有MVB網絡中增加一個網絡健康診斷裝置來采集MVB信號物理波形.離線狀態下，將采集到的MVB信號物理波形傳輸到上位機，用于訓練故障診斷模型.最后，將訓練好的故障診斷模型進行在線部署.采用自研的MVB故障注入板卡進行故障模擬實驗，通過可編程陣列邏輯（field programmable gate array, FPGA）控制繼電器和模擬開關注入不同故障.

圖4 MVB網絡實驗平臺Fig.4 MVB experimental platform

實驗室環境下模擬的MVB網絡狀態包括：正常狀態（Normal）、斷路故障（Fault 1）、短路故障（Fault 2）、終端電阻缺失（Fault 3）、MVB收發器電路電氣特性變化（Fault 4）、連接器老化（Fault 5）、電纜性能退化（Fault 6）等7種.為了模擬實際中存在的類不平衡問題，采集5000個正常樣本和每個故障類型下1000個樣本，選取主設備起止分節符的600個采樣點作為模型輸入，從而得到的MVB網絡狀態數據集大小為11 000 × 600.對MVB網絡狀態數據集進行隨機劃分，70%的數據用于模型訓練，其余數據用于模型測試.

采用Keras深度學習架構搭建模型，SDAE模型有3個隱含層，隱含層神經元個數分別為50、200和400，輸入層和輸出層神經元個數均與MVB信號采樣點個數相同.因此，DNN模型輸出層神經元數與故障類別數相同，其他層神經元數與SDAE模型相同.模型訓練采用Adam優化器，學習率為0.01.初始閾值λ0為0.01，衰減率a= 0.0002，初始樣本數N0為1個，每次查詢的樣本數N= 100個.為評估故障診斷方法的性能，選擇分類準確率、診斷錯誤率和檢測錯誤率3種評價指標[18].分類準確率為分類正確的樣本數與總樣本數的比率；診斷錯誤率為錯誤地分類為其他故障類型的故障樣本數與總故障樣本數的比率；檢測錯誤率是故障樣本被錯誤分類為正確樣本的數量與總故障樣本數的比率.

3.2 實驗結果分析

為驗證提出方法的有效性，本文選擇EN、LC兩種方法分別與高可信度評估方法相結合，分別表示為HEAL_EN、HEAL_LC.AL_ALL表示未采用主動學習策略，將所有數據進行人工標記后用于模型訓練.AL_RAND表示不采用主動學習策略，隨機選取樣本進行人工標記.如圖5所示，所有基于主動學習方法的表現均明顯優于AL_RAND，這說明采用主動學習方法能夠在少標記樣本的情況快速提升模型性能.為了達到90%分類準確率以上，本文方法只需經過5次查詢，共需標記600個訓練數據，約占總未標記樣本集的7.79%，而AL_RAND方法需要27次查詢，共需標記2800個訓練數據，約占總未標記樣本集的36.36%.同時，本文方法的表現要略優于HEAL_EN和HEAL_LC兩種方法，這是因為SM采樣策略更適用于解決多分類問題.

圖5 不確定性和可信度相結合的主動學習方法的對比實驗結果Fig.5 Comparison results of active learning methods based on uncertainty and credibility

為進一步驗證本文方法的優越性，將本文方法與文獻[14]提出的基于SM和基于EN的主動學習方法進行對比實驗.圖6中AL_SM和AL_EN分別表示采用最小邊緣采樣策略和信息熵采樣策略.由圖6和可知，本文方法表現優于AL_SM和AL_EN方法，在少標記樣本的情況能夠更明顯提升模型性能.表2為不同已標記樣本數下的對比實驗結果，在相同數量的已標記訓練樣本下，本文方法的準確率均高于AL_RAND方法的準確率，同樣也高于文獻[14]提出的兩種方法.這是因為SM方法能夠有效選擇分類邊界處的樣本點來加速模型訓練，而且通過選擇高可信度的樣本避免出現采樣偏差.同時，HEAL_EN方法的表現也優于AL_EN方法，進一步說明本文提出方法結合能夠提升主動學習方法的性能，提高模型的訓練效率.

表2 不同已標記訓練樣本數下的分類準確率Tab.2 Classification accuracy under different numbers of labeled samples%

圖6 與基于不確定性的主動學習方法的對比實驗結果Fig.6 Comparison results with different active learning methods based on uncertainty estimation

為展示本文提出方法的工作過程，每次查詢時帶標簽訓練集中不同類別樣本占比如圖7所示.如圖7（a）可知：每次查詢時隨機采樣方法并不會改變樣本類分布，正常狀態樣本占比并沒有變化，訓練樣本處于類不平衡狀態，從而影響模型訓練質量.如圖7（b）可知：采用本文方法后，每次查詢時樣本類分布是在動態變化的，正常狀態樣本比例下降，樣本類分布相對更加均衡，能夠得到更好的模型訓練效果.

圖7 查詢過程中帶標簽訓練樣本的類別分布Fig.7 Class distributions of labeled training samples in query process

4 結 論

本文提出了一種基于主動深度學習的MVB網絡故障診斷方法，采用SDAE模型從MVB信號物理波形中自動提取高可分性的故障特征.同時，提出一種高效主動學習方法，選取人工標記的高不確定性樣本和自動偽標記的高可信度樣本用于深度神經網絡訓練，從而在少標記訓練樣本下得到高質量的診斷模型.與其他方法相比，本文提出的方法具有更高的模型訓練效率，在相同帶標簽的訓練樣本下能夠得到更好表現的故障診斷模型.在MVB網絡實驗平臺上模擬多種網絡故障，并進行了多組對比實驗，實驗結果驗證了方法的有效性.未來重點探討本文方法在更多應用場景下的適用性，同時研究多種采樣策略組合方法.