一種深層過程神經(jīng)網(wǎng)絡(luò)及其在信號分類中的應(yīng)用

劉曉宇　武魯　許少華

摘 要：針對時變信號小樣本集建模分類問題，提出一種深層多尺度徑向基過程神經(jīng)網(wǎng)絡(luò)（DLMS-RBFPNN）。該模型由時變信號輸入層、多尺度徑向基核變換層、全連接層和感知機分類器構(gòu)成。兼顧時變信號的頻譜特征和分布形態(tài)的多樣性，基于徑向基過程神經(jīng)網(wǎng)絡(luò)，通過將不同寬度參數(shù)的Gauss核函數(shù)進行線性疊加，構(gòu)成多尺度核，完成不同尺度上對過程信號形態(tài)特征的提取、辨識和相似性度量。通過在徑向基核函數(shù)層之上疊加全連接層和分類器，實現(xiàn)時變信號不同尺度特征的融合和分類。DLMS-RBFPNN具有較少的模型參數(shù)，適用于小樣本集建模，在機制上可提高對時變信號過程細節(jié)特征和趨勢特征的辨識及記憶能力。在分析DLMS-RBFPNN性質(zhì)的基礎(chǔ)上，建立一種基于動態(tài)聚類算法的核中心函數(shù)確定方法以及基于PSO的模型參數(shù)優(yōu)化求解算法。以旋轉(zhuǎn)機械基于示功圖信號的故障診斷為例進行實驗，結(jié)果驗證了模型和算法的有效性。

關(guān)鍵詞：動態(tài)模式識別; 多尺度核函數(shù); 徑向基過程神經(jīng)網(wǎng)絡(luò); 深層結(jié)構(gòu); 優(yōu)化算法

DOI：10. 11907/rjdk. 192486

中圖分類號：TP301 ? 文獻標識碼：A??????????????? 文章編號：1672-7800（2020）003-0060-05

A Deep Layer Process Neural Network and Its Application in Signal Classification

LIU Xiao-yu1， WU Lu1，2， XU Shao-hua1

（1.School of Computer Science and Engineering， Shandong University of Science and Technology， Qingdao 266590， China;

2.Shandong Computing Center， Jinan 250014， China）

Abstract： Aiming at the modeling classification problem of small sample set of time-varying signals， this paper proposes a model based on deep layer multi-scale radial basis function process neural network （DLMS-RBFPNN）. The model consists of a time-varying signal input layer， a multi-scale radial basis function kernel transform layer， a fully connected layer and a perceptron classifier. Taking into account the diversity of the spectral characteristics and distribution patterns of time-varying signals， the radial basis process neural network and the Gauss kernel function with different width parameters are linearly superposed to form a multi-scale kernel and complete the identification and similarity measure of process signal morphological features at different scales. The model realizes the fusion and classification of different scale features of time-varying signals， by superposing fully connected layers and classifiers on the radial basis kernel function layer. DLMS-RBFPNN has fewer model parameters and is suitable for small sample set modeling. It can improve the recognition and memory ability of time-varying signal process features. This paper analyzes the nature of the DLMS-RBFPNN model， proposes the center determination method of kernel function based on dynamic clustering， and constructs the model parameter optimization algorithm based on PSO. The fault diagnosis of rotating machinery based on dynamometer diagram is taken as an example. The actual data processing results show the effectiveness of the model and algorithm.

Key Words： dynamic pattern recognition; multi-scale kernel function; radial basis function process neural network; deep structure; optimization algorithm

0 引言

非線性時變信號是一種頻率和幅值隨時間變化的多成分信號，具有非線性、非平穩(wěn)等特性，往往呈現(xiàn)多峰、伸縮、漂移、含噪聲等特征，對時間變化依賴程度高，特別是多變量系統(tǒng)多個信號的組合過程特征呈現(xiàn)出高度的復(fù)雜性[1]，其分類處理一直是信號分析與人工智能研究領(lǐng)域的一個重要課題[2]。

人工神經(jīng)網(wǎng)絡(luò)是目前信號處理和分析中一種常用而有效的方法[3]。隨著深度學(xué)習(xí)理論的發(fā)展，一些新的可用于時變信號分析的神經(jīng)網(wǎng)絡(luò)模型不斷被提出，例如，深度卷積神經(jīng)網(wǎng)絡(luò)[4-6]、深度遞歸網(wǎng)絡(luò)[7]、深度循環(huán)網(wǎng)絡(luò)[8-9]、Markov鏈[10]等，在機制上可有效實現(xiàn)對時間序列信號的分類分析，并取得了良好的應(yīng)用效果。

在實際中，由于一些動態(tài)系統(tǒng)的過程事件不可重復(fù)、一些案例事件發(fā)生較少、樣本采樣代價高昂等因素，難以獲得大規(guī)模完備的數(shù)據(jù)集，這給信號系統(tǒng)的建模分析帶來許多困難[11]。針對小樣本集建模問題，許多學(xué)者展開了相關(guān)研究，目前主要方法有基于泊松分布模型的樸素貝葉斯分類方法[12]、魯棒單隱層前饋神經(jīng)網(wǎng)絡(luò)（SLFN）與極限學(xué)習(xí)理論相結(jié)合的分類方法[13]、數(shù)據(jù)增強與遷移訓(xùn)練結(jié)合的小樣本數(shù)據(jù)處理方法[14]、支持向量機分類方法[15]、全局特征及弱尺度融合策略[16]等。但以上方法都面向特定問題，普適性較差。

基于核函數(shù)方法的信號分析和數(shù)據(jù)特征的多尺度表示是目前信號處理的一種有效方法[17-18]。由于模型參數(shù)少，因此在機制上適用于小樣本集的建模分析。2006年，Roland Opfer19]提出了多尺度核函數(shù)的概念，并采用小波和移位變量技術(shù)構(gòu)造新的核函數(shù)類;2014年，Zhang等[20]提出應(yīng)用于短時說話識別的多尺度核函數(shù)，構(gòu)造一系列不同尺度的內(nèi)核，通過多核學(xué)習(xí)（MKL）優(yōu)化方法組合，增強了模型的魯棒性和可擴展性;2016年，胡站偉等[21]提出基于多尺度的類指數(shù)分布核函數(shù)（ELK），對局部特征有很好的捕捉優(yōu)勢;2017年，RABIN N等[22]提出一種用于數(shù)據(jù)嵌入和擴展的高階核，這些核構(gòu)成尺度高斯函數(shù)的線性組合，對特征捕獲更加精確。

徑向基過程神經(jīng)網(wǎng)絡(luò)（Radial Basis Function Process Neural Network，RBFPNN）[23]是近幾年提出的一種新型動態(tài)神經(jīng)網(wǎng)絡(luò)模型，與傳統(tǒng)徑向基神經(jīng)網(wǎng)絡(luò)的不同之處在于其輸入可以是連續(xù)時間函數(shù)，通過自適應(yīng)提取時間輸入函數(shù)的過程形態(tài)特征，并將多個特征加以組合，形成類別輸出。將RBFPNN模型用于時變信號分類問題，可以直接輸入連續(xù)信號而無需預(yù)先提取信號的形態(tài)和幅值特征，并且能夠通過典型樣本的學(xué)習(xí)直接獲得信號與模式類別之間的對應(yīng)關(guān)系，同時，RBFPNN模型參數(shù)少，因此，在機制上對于小樣本集建模分類問題具有良好的適應(yīng)性。

在實際工程中，非線性系統(tǒng)動態(tài)樣本的模式特征變化相比數(shù)值向量樣本要復(fù)雜得多，時變采樣信號常常受隨機因素、噪聲信號以及一些不確知因素的影響[24]，模態(tài)特征多變且不規(guī)則，包含的特征信息容量大。徑向基神經(jīng)網(wǎng)絡(luò)的核函數(shù)形式及其核參數(shù)選取對于動態(tài)信號分類或預(yù)測結(jié)果有著十分重要的影響，在目前研究中，RBFPNN的核函數(shù)一般取為Gauss函數(shù)，其性質(zhì)參數(shù)為核寬度。雖然在理論上可由大數(shù)定律證明Gauss函數(shù)對于各類數(shù)據(jù)的分析問題具有普適性[25]，但對于一些復(fù)雜的信號處理問題，在一個尺度上難以區(qū)分時間輸入信號細節(jié)特征與核中心函數(shù)的差異，致使分類結(jié)果出現(xiàn)偏差，特別是在不同類時間采樣信號之間具有較強的相似性和多峰情況[26]。因此，需要改進RBFPNN模型對細節(jié)特征的辨識能力，以及對不同尺度特征的融合分析能力。在模型中引入不同尺度參數(shù)并增加網(wǎng)絡(luò)深度，為問題的解決提供了一種有效方法。

筆者提出了一種深層多尺度徑向基過程神經(jīng)網(wǎng)絡(luò)（Deep Layer Multi Scale RBFPNN，DLMS-RBFPNN）模型。通過將不同寬度參數(shù)的Gauss核進行線性疊加，以構(gòu)成具有多尺度性質(zhì)的核函數(shù)，提高對輸入時變信號過程特征的表征和度量能力，使對時間信號細節(jié)特征的刻畫在尺度選擇上具有更好的完整性和靈活性，從而獲取分類模型對過程信號特征的多分辨能力。通過在核函數(shù)層之上增加一個全連接層，則可實現(xiàn)對時變信號不同尺度特征的融合。DLMS-RBFPNN模型對于解決過程信號具有較強異構(gòu)性、同類樣本呈多模態(tài)變化的復(fù)雜時間信號分類問題，在信息處理機制上具有很好的適應(yīng)性。文中分析了DLMS-RBFPNN的信息處理機制，給出了基于帶動態(tài)慣性因子粒子群算法的模型參數(shù)優(yōu)化學(xué)習(xí)方法。將其應(yīng)用于基于振動檢測信號的旋轉(zhuǎn)機械故障診斷問題，取得了良好的應(yīng)用效果。

1 徑向基過程神經(jīng)網(wǎng)絡(luò)模型

徑向基過程神經(jīng)網(wǎng)絡(luò)[23]為三層結(jié)構(gòu)模型，輸入層有[n]個節(jié)點單元，完成時間過程信號向網(wǎng)絡(luò)輸入;中間徑向基核函數(shù)層有[m]個節(jié)點單元;網(wǎng)絡(luò)輸出為隱層節(jié)點輸出信號的線性加權(quán)和，其拓撲結(jié)構(gòu)如圖1所示。

圖1中，[vj（j=1，2，？，m）]為輸出層權(quán)系數(shù)，“∫”為時間聚合算子，[K（？，？）]為徑向基核函數(shù)。

設(shè)時間信號輸入?yún)^(qū)間為[[0，T]]，[X（t）=（x1（t），][x2（t），？，][xn（t））]（[t∈[0，T]]）為網(wǎng)絡(luò)輸入函數(shù)， [Zj（t）]為第[j]個徑向基過程神經(jīng)元的核中心函數(shù)。若“∫”取為[[0，T]]上的積分，則RBFPNN輸入輸出之間的關(guān)系為：

式（1）中，[||？·||]為[（C[0，T]）n]空間中的某一距離范數(shù)。

若徑向基核取為Gauss函數(shù)：

[K（v）=exp（-v22σ2）]，則式（1）可寫為：

其中，[σ]為核寬度參數(shù)，描述樣本的統(tǒng)計分布性質(zhì)。徑向基核具有數(shù)據(jù)結(jié)構(gòu)的保持特性，即在特征映射空間中可保持原有數(shù)據(jù)體的結(jié)構(gòu)和信息關(guān)聯(lián)關(guān)系。

2 多尺度徑向基過程神經(jīng)網(wǎng)絡(luò)

2.1 多尺度徑向基核函數(shù)

Gauss核函數(shù)是目前廣泛使用的一種核函數(shù)，其性質(zhì)和映射關(guān)系由核中心函數(shù)及核寬度參數(shù)確定。對應(yīng)第[j]個隱層單元，考慮[Lj]個寬度參數(shù)及核中心函數(shù)不同的Gauss函數(shù)。

其中，核寬度參數(shù)滿足[σj1>？>σjL]，[zjLj（t）]為第[j]個徑向基核中對應(yīng)[σjLj]細分類的核中心函數(shù)。

將上述核函數(shù)進行線性疊加，第[j]個隱層單元的多尺度核函數(shù)定義為：

式（3）中，[βl]（[l=1，2，？，L]）為加權(quán)系數(shù)，由訓(xùn)練集樣本學(xué)習(xí)確定;[zj（t）=（zj1（t），zj2（t），？，zjLj（t））]。

核的本質(zhì)是按照某種方式去度量數(shù)據(jù)體與數(shù)據(jù)體之間的特征相似性，時間信號樣本[X（t）]與核中心函數(shù)[zj（t）]之間的過程特征相似度越高，即[x（t）-zj（t）]越小，則核函數(shù)輸出值越大，對分類決策的作用就越顯著。式（3）定義的關(guān)于核寬度參數(shù)的多尺度形式仍保留了徑向基核函數(shù)的性質(zhì)，使對時間信號細節(jié)特征的刻畫在尺度選擇上具有更好的完整性和靈活性，在機制上可改善RBFPNN對時變信號的辨識性質(zhì)。

2.2 深層多尺度徑向基過程神經(jīng)網(wǎng)絡(luò)

深層多尺度徑向基過程神經(jīng)網(wǎng)絡(luò)（DLMS-RBFPNN）由時變信號輸入層、多尺度徑向基核函數(shù)層、全連接層和輸出層構(gòu)成。其結(jié)構(gòu)如圖2所示。圖2中，[wij]為核函數(shù)層各節(jié)點與全連接層節(jié)點的連接權(quán)，[vj]為全連接層與輸出層節(jié)點的連接權(quán)。以式（3）為第[j]個隱層單元的核函數(shù)，由圖2可知，DLMS-RBFPNN輸入輸出之間的映射關(guān)系為：

式（4）中， [m]為徑向基核函數(shù)隱層節(jié)點數(shù)，[K]為全連接層節(jié)點數(shù)。

對尺度不同的核函數(shù)進行線性加權(quán)組合，本質(zhì)上是將過程信號特征細化，在多個不同寬度參數(shù)條件下，綜合度量時變過程信號之間模態(tài)細節(jié)特征的相似性，降低機器模型的結(jié)構(gòu)風(fēng)險。同時，全連接層在同類樣本細分特征組合的基礎(chǔ)上，又進行了更高層次組合的特征組合，可提高對信號樣本的抗噪聲能力，實現(xiàn)對輸入信號與核中心函數(shù)在細節(jié)特征上更為完整的相似性度量。

3 DLMS-RBFPNN優(yōu)化求解

DLMS-RBFPNN的學(xué)習(xí)采用有監(jiān)督的參數(shù)調(diào)整算法，可將訓(xùn)練集的樣本標簽數(shù)作為徑向基隱層節(jié)點數(shù)，再利用動態(tài)聚類算法進行相同標簽樣本子集的細分類，以分類數(shù)和細分類中心函數(shù)作為多尺度核的[Lj]及細分核中心函數(shù)[zjl（t）]，寬度參數(shù)[σjl]可由細分類樣本廣義方差或通過DLMS-RBFPNN整體參數(shù)調(diào)整確定。在式（4）表示的網(wǎng)絡(luò)模型中，連接權(quán)系數(shù)[wij]、[vj] （[i=1，2，？，m;j=1，2，？，][K]）和[βil]（[l=1，2，？，L]）通過PSO算法進行優(yōu)化求解。

3.1 核中心函數(shù)及隱層節(jié)點數(shù)確定

采用廣義歐式距離進行時間信號樣本之間過程特征相似性度量，利用動態(tài)聚類算法確定DLMS-RBFPNN各隱層節(jié)點中細分類數(shù)[Lj]及細分核中心函數(shù)[zjl（t）]。

設(shè)函數(shù)[X（t）]，[Y（t）][∈（C[0，T]）n]，定義[X（t）]、[Y（t）]在[[0，T]]上的相似系數(shù)：

其中，[=0TX（t）（Y（t））Tdt]，[（Y（t））T]表示[Y（t）]的轉(zhuǎn)置。

設(shè)第[j]類標簽子集包含[Kj]個時間函數(shù)樣本：{[X1j（t），X2j（t），？，XKjj（t）];[Xkj（t）∈][（C[0，T]）n]}。設(shè)置3個聚類參數(shù)：初始分類數(shù)[H0]、樣本相似系數(shù)閾值[θ]和類間距離閾值[R]。用式（5）定義的相似系數(shù)的倒數(shù)度量兩個輸入函數(shù)樣本間的距離，以兩類中兩兩輸入函數(shù)樣本間距離的最小值為類間距離，動態(tài)聚類算法步驟如下：

Step1：在樣本集中，選取[H0]（[H0][][K]）個樣本作為[H0]個模式類的代表，構(gòu)成初始[H0]個類。

Step2：將樣本集中其余函數(shù)樣本依次計算與每個已有模式類代表之間的相似系數(shù)。若其中最大相似系數(shù)小于[θ]，則以該樣本為成員形成一個新類，并以其為該新類的代表，[H0]+1→[H0];若其中最大相似系數(shù)大于[θ]，則將該函數(shù)歸于相似系數(shù)最大的一類，并以該樣本與原類代表樣本的均值作為合并后新類的代表。

Step3：計算[H0]個類兩兩之間的類距離。若兩個類的類間距離小于[R]，則將這兩個類合并，以兩類類代表函數(shù)樣本的均值作為新類的代表;若類間距離大于[R]，則兩個函數(shù)樣本類不作改變。

Step4：執(zhí)行上述步驟后，分類數(shù)可能改變，以新的分類個數(shù)替代[H0]。如果分類結(jié)果（包括分類個數(shù)和函數(shù)樣本的具體分類）改變，則返回Step2繼續(xù)執(zhí)行;如果分類結(jié)果不再變化，則分類完成。

此時，得到的分類個數(shù)[H0]即可作為RBFPNN第[j]個隱層單元的細分節(jié)點數(shù)[Lj]，子類聚類中心函數(shù)作為細分核中心函數(shù)[zjl（t）]。

3.2 基于PSO算法網(wǎng)絡(luò)參數(shù)確定

考慮對DLMS-RBFPNN參數(shù)搜索范圍的約束和全局優(yōu)化性質(zhì)，采用帶動態(tài)慣性因子的 PSO 算法[27]，實現(xiàn)核函數(shù)寬度參數(shù)[σ2jl]和權(quán)系數(shù)[wij] 、[vj]、[βjl][（j=1，2，？，L，][i=1，2，？，m;l=1，2，？，L）]的整體優(yōu)化求解。

設(shè)在[n]維空間中，由[m]個粒子組成一個種群，其中第[i]個粒子的位置[Xi]、速度[Vi]、自身最優(yōu)位置[Pi]及全局最優(yōu)位置[Pg]分別為：[Xi=（xi1，xi2，？，xin）]，[Vi=（vi1，vi2，？，vin）]，[Pi=（pi1，pi2，？，pin）]和[Pg=（pg1，][pg2，？，][pgn）]。粒子狀態(tài)更新策略為：

其中，[w（s）]是動態(tài)慣性因子，采用線性遞減權(quán)重策略進行設(shè)置：[w（s）=wmax-（wmax-wmin）Tmax？s]，[s]為迭代次數(shù)，[Tmax]為最大迭代次數(shù)，[wmax]和[wmin]分別為最大慣性權(quán)重及最小慣性權(quán)重;[c1]、[c2]是常數(shù);[r1]、[r2]為[[0，1]]之間的隨機數(shù)。對種群中每個粒子用式（6）、式（7）進行循環(huán)迭代，實現(xiàn)整個種群向全局最優(yōu)解的逐步逼近。PSO算法具體實施步驟如下：

Step1：確定種群規(guī)模[N]，隨機生成初始種群[G]，采用十進制數(shù)對染色體進行編碼，每條染色體上基因數(shù)為待優(yōu)化的變量個數(shù);設(shè)置最大迭代代數(shù)，誤差精度[ε]。

Step2：構(gòu)造適應(yīng)度函數(shù)。由于訓(xùn)練為目標函數(shù)極小值優(yōu)化問題，適應(yīng)度函數(shù)取為[fit=e-E]。

Step3：PSO初始化， [w（s）]計算式中的[wmin]取0.4， [wmax]取0.9。

Step4：按照式（6）和式（7）進行循環(huán)迭代，若滿足終止條件，則保存最優(yōu)解停機。

4 實驗分析

旋轉(zhuǎn)機械是以轉(zhuǎn)子及其它回轉(zhuǎn)部件作為工作主體的機械設(shè)備，運行中的常見故障主要包括：由轉(zhuǎn)子質(zhì)量偏心和轉(zhuǎn)子部件缺損引起的轉(zhuǎn)子不平衡，轉(zhuǎn)子之間的軸線由于安裝誤差、承載后變形等造成的轉(zhuǎn)子不對中，以及轉(zhuǎn)子與靜止部件之間的摩擦而引發(fā)的轉(zhuǎn)子碰磨等。利用機械振動檢測信號進行旋轉(zhuǎn)設(shè)備故障診斷，由于不同故障類型對應(yīng)不同的時域波形信號，因此可通過對采樣區(qū)間內(nèi)連續(xù)信號波形的識別實現(xiàn)故障診斷。旋轉(zhuǎn)機械運動呈周期性，故可將機械的一個旋轉(zhuǎn)周期作為采樣區(qū)間，將一個周期內(nèi)的信號連續(xù)變化過程作為一個樣本。旋轉(zhuǎn)機械工作狀態(tài)主要分為正常運轉(zhuǎn)、轉(zhuǎn)子不平衡、轉(zhuǎn)子不對中和轉(zhuǎn)子碰磨共4種模式，典型信號曲線如圖3所示。

從某機械裝備質(zhì)量檢測中心獲取旋轉(zhuǎn)機械檢測樣本350個，其中3類故障樣本各100，運行正常樣本50個。按比例分別選取70條轉(zhuǎn)子不平衡、75條轉(zhuǎn)子不對中、70條轉(zhuǎn)子碰磨和35條正常共250條信號曲線組成訓(xùn)練樣本集，測試集由其余100個樣本組成。由于設(shè)備檢測信號為離散采樣數(shù)據(jù)，采用Legendre多項式函數(shù)系進行函數(shù)擬合，基函數(shù)個數(shù)[L]為5時滿足精度0.05的擬合要求。以式（4）定義的深層多尺度RBFPNN作為故障自動診斷器，以一個周期內(nèi)的連續(xù)變化信號作為網(wǎng)絡(luò)輸入，輸出為機械工作狀態(tài)。DLMS-BRFPNN網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)選擇如下：1個時間信號輸入節(jié)點，20個徑向基核隱層節(jié)點，40個全連接層節(jié)點，1個故障模式輸出節(jié)點。轉(zhuǎn)子不平衡情況輸出對應(yīng)0.25，轉(zhuǎn)子不對中情況對應(yīng)0.50，轉(zhuǎn)子碰磨情況對應(yīng)0.75，正常工作狀態(tài)對應(yīng)1.0?？紤]同類故障信號樣本模態(tài)特征的差異性，采用動態(tài)聚類算法分別對3種故障樣本集進行類內(nèi)聚類，相似性閾值[θ]取0.75。聚類結(jié)果為轉(zhuǎn)子不平衡細分類數(shù)[L1]=6，轉(zhuǎn)子不對中細分類數(shù)[L2=]6，轉(zhuǎn)子碰磨[L3=5]，正常情況為[L4=]3。以各細分類中心函數(shù)為[zjl（t）]（[l=Lj;j=1，2，3，4]），細分類寬度參數(shù)采用廣義方差計算。

其中，[Kjl]為細分類中的樣本數(shù)，[xjlk（t）]為細分類中第[k]個信號樣本。

采用PSO算法對模型參數(shù)[w_ij，v_j，β_jt]（[l=L_j;j=1，2，][3，4]）進行整體優(yōu)化求解。設(shè)置種群規(guī)模[G]=20，最大迭代次數(shù)[M]=1 000，學(xué)習(xí)精度[ε]=0.05。PSO算法參數(shù)取[c₁=0.3]，[c₂=0.8];[r₁=0.45]，[r₂=0.83]。作為對比，分別采用可直接輸入時間信號進行判別的基于函數(shù)正交基展開的雙隱層過程神經(jīng)網(wǎng)絡(luò)模型[28]，網(wǎng)絡(luò)結(jié)構(gòu)為1-10-20-1，正交基取為5項Legendre多項式函數(shù)基;RBFPNN模型[23]，網(wǎng)絡(luò)結(jié)構(gòu)為1-20-1。3種模型采用相同的訓(xùn)練集、測試集進行訓(xùn)練和測試，以準確率、召回率、精確率和F1等4項指標對模型性質(zhì)進行評價，結(jié)果見表1。本文方法具體分類正確率如表2所示（混淆矩陣）。

實驗結(jié)果表明，本文建立的深層多尺度徑向基過程神經(jīng)網(wǎng)絡(luò)診斷模型相比于PNN和RBFPNN診斷模型，在旋轉(zhuǎn)機械故障辨識性能指標上有較大提高。這是由于在核函數(shù)構(gòu)造中，多尺度核及全連接層的特征融合改善了診斷模型對復(fù)雜時間信號過程特征的辨識和記憶性質(zhì);在類特征組合的基礎(chǔ)上，又進行了更高層次組合的特征組合，可實現(xiàn)對輸入信號與核中心函數(shù)在細節(jié)特征上的相似性度量，達到了比較理想的診斷結(jié)果。

5 結(jié)語

本文提出了適用于小樣本集建模分類的一種深層多尺度徑向基過程神經(jīng)網(wǎng)絡(luò)模型和算法。模型從結(jié)構(gòu)上改善了對時變信號形態(tài)特征之間的相似性度量和記憶性質(zhì)，可提高RBFPNN對動態(tài)樣本復(fù)雜模態(tài)特征多樣性和復(fù)雜性的辨識能力，以及分類模型對時變信號過程細節(jié)特征的捕獲能力。但由于多尺度組合的核函數(shù)較大增加了尺度等相關(guān)參數(shù)，全連接層增加了連接權(quán)參數(shù)，使得網(wǎng)絡(luò)計算復(fù)雜度提高。因此，研究效率更高、更優(yōu)化的學(xué)習(xí)算法，是需要進一步研究的重要課題。

參考文獻：

[1]奧本海姆，謝弗，巴克，等. 離散時間信號處理[M]. 第2版. 西安：西安交通大學(xué)出版社， 2001.

[2]祁才君. 數(shù)字信號處理技術(shù)的算法分析與應(yīng)用[M]. 第1版. 北京：機械工業(yè)出版社，2005.

[3]徐百家，王亞清. 人工神經(jīng)網(wǎng)絡(luò)用于時域信號識別[J]. 信息與控制，1996，25（3）：187-192.

[4]唐志川，張克俊. 基于深度卷積神經(jīng)網(wǎng)絡(luò)的運動想象分類及其在腦控外骨骼中的應(yīng)用[J]. 計算機學(xué)報，2017，40（6）：1367-1378.

[5]袁文浩，孫文珠. 利用深度卷積神經(jīng)網(wǎng)絡(luò)提高未知噪聲下的語音增強性能[J]. 自動化學(xué)報，2018，44（4）：751-759.

[6]ACHARYA U，RAJENDRA F. Application of deep convolutional neural network for automated detection of myocardial infarction using ECG signals[J]. Information Sciences，2017，415-416：190-198.

[7]TAI Y，YANG J，LIU X M，et al. Image Super-Resolution via deep recursive residual network[C]. Honolulu：IEEE Conference on Computer Vision and Pattern Recognition，2017：1-24.

[8]SHI J，WEN H，ZHANG Y Z，et al. Deep recurrent neural network reveals a hierarchy of process memory during dynamic natural vision[J]. Human Brain Mapping，2018，39（5）：2269-2282.

[9]VIDYARATNE L，GLANDON A，ALAM M，et al. Deep recurrent neural network for seizure detection[C]. Vancouver：2016 International Joint Conference on Neural Networks （IJCNN），2016.

[10]朱勇剛，李永貴. 噪聲功率時變的瑞利慢衰落信道有限狀態(tài)Markov模型[J]. 信號處理，2013，29（1）：135-141.

[11]楊智勇，許愛強. 基于多信號模型的系統(tǒng)測試性建模與分析[J]. 工程設(shè)計學(xué)報，2007，14（5）：364-368.

[12]邸若海，高曉光. 小數(shù)據(jù)集BN建模方法及其在威脅評估中的應(yīng)用[J]. 電子學(xué)報，2016，6（44）：1504-1511.

[13]張榮，鄧趙紅. 針對小樣本數(shù)據(jù)集的魯棒單隱層前饋網(wǎng)絡(luò)建模方法[J]. 控制與決策，2012，27（9）：1308-1319.

[14]段萌，王功鵬. 基于卷積神經(jīng)網(wǎng)絡(luò)的小樣本圖像識別方法[J]. 計算機工程與設(shè)計，2018，39（1）：224-229.

[15]劉占生，竇唯. 基于主元-雙譜支持向量機的旋轉(zhuǎn)機械故障診斷方法[J]振動與沖擊，2007，26（12）：23-27.

[16]黃永明，章國寶. 全局特征及弱尺度融合策略的小樣本語音情感識別[J]. 聲學(xué)學(xué)報，2012，37（3）：330-338.

[17]滿瑞君，梁雪春. 基于多尺度小波支持向量機的交通流預(yù)測[J]. 計算機仿真，2013，30（11）：156-159.

[18]李秀梅，楊國青. 幾種時頻分析方法的性能比較[J]. 計算機仿真，2015，32（3）：220-224.

[19]ROLAND O. Multiscale kernels[J]. Advances in Computational Mathematics， 2006.

[20]ZHANG W，ZHAO J，ZHANG W L，et al. Multi-scale kernels for short utterance speaker recognition[C].9th International Symposium，Singapore，Chinese Spoken Language Processing，2014：414-417.

[21]胡站偉，焦立國. 基于多尺度重采樣思想的類指數(shù)核函數(shù)構(gòu)造[J]. 電子與信息學(xué)報，2016，38（7）：1689-1695.

[22]RABIN N，F(xiàn)ISHELOV D.Multi-scale kernels for Nystr？m based extension schemes[J]. Applied Mathematics and Computation，2018，319：165-177.

[23]許少華，何新貴. 徑向基過程神經(jīng)元網(wǎng)絡(luò)及其應(yīng)用研究[J]. 北京航空航天大學(xué)學(xué)報，2004，30（1）：14-17.

[24]WANG J，XU G，ZHANG Q，et al. Application of improved morphological filter to the extraction of impulsive attenuation signals[J]. Mechanical Systems and Signal Processing， 2009， 23（2）： 236-245.

[25]GU D B，HU H S. Spatial Gaussian process regression with mobile sensor networks[J]. IEEE Transactions on Neural Networks and Learning Systems，2012（23）：1279-1290.

[26]汪洪橋，孫富春. 多核學(xué)習(xí)方法[J]. 自動化學(xué)報，2010，36（8）：1037-1050.

[27]EBERHART R C，SHI Y.Comparing inertia weights and constriction factors in particle swarm optimization[C]. 2000 Congress on Evolutionary Computation，2000：84-88.

[28]許少華，何新貴. 基于基函數(shù)展開的雙隱層過程神經(jīng)元網(wǎng)絡(luò)及其應(yīng)用[J]. 控制與決策，2004，19（1）：36-39.

（責(zé)任編輯：孫 娟）

收稿日期：2019-11-14

作者簡介：劉曉宇（1994-），女，山東科技大學(xué)計算機科學(xué)與工程學(xué)院碩士研究生，研究方向為大數(shù)據(jù)分析、人工智能;武魯（1982-），男，山東科技大學(xué)計算機科學(xué)與工程學(xué)院博士研究生，山東省計算中心研究員，研究方向為大數(shù)據(jù)分析、人工智能;許少華（1962-），男，博士，山東科技大學(xué)計算機科學(xué)與工程學(xué)院教授、博士生導(dǎo)師，研究方向為大數(shù)據(jù)分析、智能信息處理。本文通訊作者：許少華。