基于自組織聚類和JS散度的RBF神經(jīng)網(wǎng)絡(luò)

董鎮(zhèn)林，伍世虔+，葉 健，銀開州

(1.武漢科技大學(xué) 信息科學(xué)與工程學(xué)院，湖北 武漢 430081；2.武漢科技大學(xué) 機(jī)器人與智能系統(tǒng)研究院，湖北 武漢 430081；3.北京奧信化工科技發(fā)展有限責(zé)任公司 項(xiàng)目部，北京 100040)

0 引 言

RBF神經(jīng)網(wǎng)絡(luò)[1-8]研究的關(guān)鍵在于如何確定網(wǎng)絡(luò)結(jié)構(gòu)[9]，即如何確定最小隱節(jié)點(diǎn)個(gè)數(shù)。許多學(xué)者為此進(jìn)行研究：①聚類算法。Jia等提出一種基于改進(jìn)的Canopy-K均值算法的RBF神經(jīng)網(wǎng)絡(luò)[10]，Liu等提出了一種基于K近鄰優(yōu)化聚類算法的RBF神經(jīng)網(wǎng)絡(luò)[11]。該類算法通過確定初始聚類中心，降低聚類的隨機(jī)性，繼而優(yōu)化神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。但是不能動(dòng)態(tài)地增減隱節(jié)點(diǎn)，從而影響網(wǎng)絡(luò)結(jié)構(gòu)的精簡性。②結(jié)構(gòu)動(dòng)態(tài)優(yōu)化算法。Li等提出一種基于誤差校正-敏感度分析的RBF神經(jīng)網(wǎng)絡(luò)[12]，Meng等將快速密度聚類算法用于RBF神經(jīng)網(wǎng)絡(luò)[13]。該類算法通過自組織聚類確定神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，具有較好的效果，但是僅考慮隱節(jié)點(diǎn)對(duì)網(wǎng)絡(luò)輸出的貢獻(xiàn)率，未考慮隱節(jié)點(diǎn)之間的相似程度。

基于以上問題，本文提出基于自組織聚類和JS散度的RBF神經(jīng)網(wǎng)絡(luò)(self-organizing clustering and Jensen-Shannon divergence RBF，SCJS-RBF)。利用自組織聚類思想，解決聚類算法初始聚類中心的問題；采用戴維森堡丁(Davies-Bouldin index，DBI)指數(shù)提高K-means聚類精度；結(jié)合敏感度指數(shù)(sensitivity index，SI)和詹森-香農(nóng)散度(Jensen-Shannon divergence)，解決隱節(jié)點(diǎn)相似和冗余的問題。最后實(shí)驗(yàn)結(jié)果表明，SCJS-RBF的網(wǎng)絡(luò)結(jié)構(gòu)更精簡、預(yù)測效果更好、運(yùn)行時(shí)間更短。

1 基于聚類的RBF神經(jīng)網(wǎng)絡(luò)

RBF神經(jīng)網(wǎng)絡(luò)為一個(gè)典型的三層前饋型神經(jīng)網(wǎng)絡(luò)。網(wǎng)絡(luò)結(jié)構(gòu)表示為“n-m-p”，其中n為輸入層神經(jīng)元個(gè)數(shù)；m為隱層神經(jīng)元個(gè)數(shù)；p為輸出層神經(jīng)元個(gè)數(shù)。神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

圖1 RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

X∈RNum×n為網(wǎng)絡(luò)輸入矩陣，Y∈RNum×p為網(wǎng)絡(luò)輸出矩陣，Num為樣本點(diǎn)個(gè)數(shù)。隱層的徑向基函數(shù)選用標(biāo)準(zhǔn)高斯核函數(shù)，如下式所示

(1)

式中：φi(x) 為第i個(gè)徑向基函數(shù)，ci為第i個(gè)徑向基函數(shù)的中心，δi為第i個(gè)徑向基函數(shù)的擴(kuò)展寬度。

本文采用聚類算法確定隱節(jié)點(diǎn)中心及其擴(kuò)展寬度，將得到的聚類中心作為隱節(jié)點(diǎn)中心，擴(kuò)展寬度計(jì)算方法如下所示

(2)

式中：dimax為第i個(gè)隱節(jié)點(diǎn)與其它隱節(jié)點(diǎn)的最大歐式距離，N為隱節(jié)點(diǎn)個(gè)數(shù)。采用最小二乘方法求解線性方程組得到隱層和輸出層之間的網(wǎng)絡(luò)權(quán)值矩陣。

2 基于自組織聚類和JS散度的RBF神經(jīng)網(wǎng)絡(luò)

基于聚類的RBF神經(jīng)網(wǎng)絡(luò)存在以下缺陷：需要預(yù)設(shè)聚類中心個(gè)數(shù)并隨機(jī)初始化位置；迭代停止條件僅考慮類內(nèi)的相似性；確定的聚類中心作為隱節(jié)點(diǎn)可能存在冗余或相似情況。因此，本文提出一種基于自組織聚類和JS散度的RBF神經(jīng)網(wǎng)絡(luò)，解決以上問題。

2.1 基于距離的初始聚類

為解決傳統(tǒng)的K-means聚類算法需要人為給定聚類中心個(gè)數(shù)和隨機(jī)初始化聚類中心的不確定性問題，提出一種基于距離的初始聚類，基于自組織聚類思想，計(jì)算樣本點(diǎn)與聚類中心之間的歐式距離并與閾值距離進(jìn)行比較，判斷是否增加聚類中心個(gè)數(shù)。

定義樣本數(shù)據(jù)集的閾值距離如下式所示

(3)

式中：xi為第i個(gè)樣本點(diǎn)，xj為第j個(gè)樣本點(diǎn)，Dismean為所有樣本點(diǎn)間的平均距離，Dis(xi，xj) 為樣本點(diǎn)xi和xj之間的歐式距離，λ1為調(diào)節(jié)系數(shù)。

初始時(shí)刻，聚類中心點(diǎn)個(gè)數(shù)為0，依次讀取樣本數(shù)據(jù)集，讀取第一個(gè)輸入樣本時(shí)，將其作為第一個(gè)聚類中心。

讀取第k個(gè)樣本點(diǎn)xk時(shí)，假設(shè)已經(jīng)存在j個(gè)聚類中心，計(jì)算該樣本與每個(gè)聚類中心的歐式距離，比較出最小值Dis(xk，cl) 并得到第l個(gè)聚類中心。下面分兩種情況討論：

(1)類內(nèi)點(diǎn)增加。當(dāng)Dis(xk，cl)≤V時(shí)，認(rèn)為第l個(gè)聚類中心與樣本點(diǎn)xk的距離足夠近，則把該樣本點(diǎn)歸為第l類；

(2)聚類點(diǎn)增加。當(dāng)Dis(xk，cl)>V時(shí)，認(rèn)為第l個(gè)聚類中心與樣本點(diǎn)xk的距離足夠遠(yuǎn)，則把該樣本點(diǎn)新增為第j+1個(gè)聚類中心。

當(dāng)數(shù)據(jù)讀取完畢后，即完成了基于距離的自組織初始聚類，得到確定的初始聚類中心個(gè)數(shù)和位置，并將其作為K-means算法的輸入，從而避免因K-means算法對(duì)初值敏感而造成的聚類效果不夠準(zhǔn)確。

2.2 基于DBI指數(shù)的K-means聚類

傳統(tǒng)的K-means聚類算法按照最小距離原則劃分樣本數(shù)據(jù)集，迭代停止條件為聚類中心不再發(fā)生變化，僅考慮了類內(nèi)的樣本點(diǎn)的稠密程度，并沒有考慮類與類之間的相異性?；诖?，提出采用DBI指數(shù)作為K-means聚類算法的準(zhǔn)則函數(shù)。

DBI指數(shù)[14]，又稱為分類適確性指標(biāo)，為常用的聚類算法評(píng)價(jià)指標(biāo)之一。相關(guān)定義和概念如下：

(1)類間距離

類間距離Dis(ci，cj) 表示第i個(gè)聚類中心ci與第j個(gè)聚類中心cj之間的歐式距離，如下式所示

(4)

(2)類內(nèi)標(biāo)準(zhǔn)誤差

類內(nèi)標(biāo)準(zhǔn)誤差Si表示為第i個(gè)類Ci中每一個(gè)樣本數(shù)據(jù)點(diǎn)u與該類的聚類中心ci之間的歐式距離標(biāo)準(zhǔn)誤差和，如下式所示

(5)

式中：Ni表示為第i個(gè)聚類中心Ci包含的樣本數(shù)據(jù)個(gè)數(shù)。

(3)DBI指數(shù)

DBI指數(shù)的值由聚類中心與聚類中心之間和類內(nèi)點(diǎn)之間的歐式距離關(guān)系決定，如下式所示

(6)

理想的聚類效果應(yīng)為不同類之間的相似程度盡可能小，并且類內(nèi)的相似程度盡可能大。DBI指數(shù)既衡量類與類之間的相異性，即類與類之間的空間分布盡可能相互遠(yuǎn)離，也就是Dis(ci，cj) 越大越好，還考慮了類內(nèi)的相似性，即類內(nèi)點(diǎn)之間的空間分布情況盡可能稠密，也就是Si+Sj越小效果越好。因此，DBI指數(shù)的值越小，說明聚類結(jié)果越接近于樣本數(shù)據(jù)真實(shí)分布，表示聚類效果越好。

2.3 基于敏感度分析的隱節(jié)點(diǎn)刪除方法

敏感度指數(shù)是衡量一個(gè)模型輸出對(duì)輸入依賴性的重要指標(biāo)。有很多方法來定義敏感度，但是共同點(diǎn)均為模型的輸入?yún)?shù)對(duì)輸出變量的貢獻(xiàn)程度。本文將確定的聚類中心作為隱節(jié)點(diǎn)，為刪減可能存在的冗余隱節(jié)點(diǎn)，得到更為緊湊的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，在不影響網(wǎng)絡(luò)整體性能的前提下，采用敏感度分析衡量RBF神經(jīng)網(wǎng)絡(luò)每個(gè)隱節(jié)點(diǎn)對(duì)網(wǎng)絡(luò)輸出的貢獻(xiàn)率，刪減對(duì)網(wǎng)絡(luò)輸出貢獻(xiàn)率較低的隱節(jié)點(diǎn)。

第i個(gè)隱節(jié)點(diǎn)的敏感度計(jì)算公式如下所示

(7)

式中：Std(wiφi(x)) 為第i個(gè)隱節(jié)點(diǎn)到網(wǎng)絡(luò)輸出的標(biāo)準(zhǔn)差，wi為第i個(gè)隱節(jié)點(diǎn)與輸出層隱節(jié)點(diǎn)間的權(quán)值。SIi越小，則說明其對(duì)網(wǎng)絡(luò)輸出的貢獻(xiàn)率越低，可刪除該隱節(jié)點(diǎn)。為了便于選取刪減隱節(jié)點(diǎn)的閾值，將敏感度進(jìn)行如下歸一化

(8)

其次，計(jì)算所有貢獻(xiàn)率的平均值如下式所示

(9)

當(dāng)所有隱節(jié)點(diǎn)的敏感度中的最小值NSImin<λ2NSImean時(shí)，認(rèn)為第i個(gè)隱節(jié)點(diǎn)對(duì)網(wǎng)絡(luò)輸出的貢獻(xiàn)率過低，將該隱節(jié)點(diǎn)刪除。其中，λ2為調(diào)節(jié)系數(shù)。

2.4 基于JS散度的隱節(jié)點(diǎn)合并方法

在刪除隱節(jié)點(diǎn)后，網(wǎng)絡(luò)中可能仍存在相似度較高的隱節(jié)點(diǎn)，在不影響網(wǎng)絡(luò)整體性能的前提下，本文提出一種基于JS散度的隱節(jié)點(diǎn)合并方法，進(jìn)一步精簡網(wǎng)絡(luò)結(jié)構(gòu)。在信息論中，JS散度常用于衡量兩個(gè)概率分布之間的相似程度[15]。給定一個(gè)連續(xù)概率分布P，信息熵表示為

(10)

式中：p(x) 為分布P的概率密度函數(shù)。KL散度(Kullback-Leibler divergence)，又稱相對(duì)熵，用于衡量兩個(gè)概率分布之間的相似程度，當(dāng)兩個(gè)概率分布相等時(shí)，KL散度為0，當(dāng)兩個(gè)概率分布差別較大時(shí)，KL散度值也越大。計(jì)算公式表示為

(11)

式中：H(P，Q) 表示分布P和Q之間的交叉熵，可知DKL(P‖Q)≠DKL(Q‖P)， 即KL散度具有不對(duì)稱性。為解決這個(gè)問題，在KL散度的基礎(chǔ)上引入JS散度，計(jì)算公式表示為

(12)

JS散度為KL散度的一種變體，能很好解決KL散度的不對(duì)稱性問題，思想在于構(gòu)造p(x) 和q(x) 的平均概率分布。JS散度具有對(duì)稱性，即DJS(P‖Q)=DJS(Q‖P)， 取值范圍[0，1]，當(dāng)兩個(gè)概率分布完全相反時(shí)為1，完全相同時(shí)為0。當(dāng)兩個(gè)概率分布的相似程度越高，其JS散度值也越小。將此思想引入RBF神經(jīng)網(wǎng)絡(luò)，分析兩隱節(jié)點(diǎn)間的相似程度，相似程度足夠大，則可合并隱節(jié)點(diǎn)。計(jì)算兩個(gè)隱節(jié)點(diǎn)間的JS散度關(guān)鍵在于計(jì)算概率密度函數(shù)?？紤]到徑向基函數(shù)和正態(tài)分布的概率密度函數(shù)的相似性，將徑向基函數(shù)φi(x) 歸一化，如下式所示

(13)

式中：fi(x) 即為正態(tài)分布的N概率密度函數(shù)，其中變量x的維度為n，期望值為ci，標(biāo)準(zhǔn)差為δi。由式(11)～式(13)可得，兩兩隱節(jié)點(diǎn)間對(duì)應(yīng)的JS散度計(jì)算如下

(14)

其次，計(jì)算所有JS散度的平均值如下式所示

(15)

當(dāng)兩隱節(jié)點(diǎn)間的JS散度中最小值DJS(fi‖fj)min<λ3JSmean時(shí)，認(rèn)為第i和第j個(gè)隱節(jié)點(diǎn)的相似程度足夠大，可以合并為一個(gè)新的隱節(jié)點(diǎn)，中心位置調(diào)整為兩個(gè)隱節(jié)點(diǎn)位置的均值。其中，λ3為調(diào)節(jié)系數(shù)。

2.5 改進(jìn)的RBF神經(jīng)網(wǎng)絡(luò)算法步驟

本算法中首先提出基于距離的初始聚類以得到確定的聚類中心個(gè)數(shù)和位置，作為K-means聚類算法的初始值；然后提出采用聚類算法評(píng)價(jià)指標(biāo)DBI指數(shù)作為K-means聚類的準(zhǔn)則函數(shù)，并將聚類中作為網(wǎng)絡(luò)隱節(jié)點(diǎn)；接著采用基于敏感度分析的隱節(jié)點(diǎn)刪除方法，刪除對(duì)網(wǎng)絡(luò)輸出貢獻(xiàn)率過低的隱節(jié)點(diǎn)，更新網(wǎng)絡(luò)參數(shù)；最后提出基于JS散度的隱節(jié)點(diǎn)合并方法，合并相似度較高的隱節(jié)點(diǎn)，更新網(wǎng)絡(luò)參數(shù)。算法的詳細(xì)步驟如下：

步驟1 網(wǎng)絡(luò)初始化，此時(shí)聚類個(gè)數(shù)為0，輸入樣本點(diǎn)依次傳入網(wǎng)絡(luò)；

步驟2 當(dāng)?shù)谝粋€(gè)樣本點(diǎn)進(jìn)入網(wǎng)絡(luò)后，增加一個(gè)聚類中心，并將第一個(gè)樣本點(diǎn)歸為該類；

步驟3 當(dāng)?shù)趉個(gè)樣本點(diǎn)進(jìn)入網(wǎng)絡(luò)后，假設(shè)存在j個(gè)聚類中心，計(jì)算其與每個(gè)聚類中心的距離，比較出最小值Dis(xk，cl)， 即找出第l類；

步驟4 當(dāng)Dis(xk，cl)≤λ1時(shí)，即滿足類內(nèi)點(diǎn)增加原則，則將第k個(gè)輸入樣本數(shù)據(jù)歸入類l，否則，轉(zhuǎn)向步驟5；

步驟5 當(dāng)Dis(xk，cl)>λ1時(shí)，即滿足聚類點(diǎn)增加原則，則增加到j(luò)+1個(gè)聚類中心，將第k個(gè)輸入樣本數(shù)據(jù)歸入類j+1；

步驟6 重復(fù)步驟3～步驟5，直到輸入樣本點(diǎn)讀取完畢，至此輸入數(shù)據(jù)完成劃分，得到N個(gè)初始聚類中心個(gè)數(shù)和位置；

步驟7 完成K-means聚類的迭代過程，準(zhǔn)則函數(shù)為DBI指數(shù)；

步驟8 完成網(wǎng)絡(luò)參數(shù)學(xué)習(xí)，得到隱節(jié)點(diǎn)擴(kuò)展寬度和隱層與輸出層之間的網(wǎng)絡(luò)權(quán)值矩陣；

步驟9 計(jì)算每個(gè)隱節(jié)點(diǎn)的敏感度值與敏感度均值，如果敏感度最小值NSImin<λ2NSImean，認(rèn)為對(duì)應(yīng)隱節(jié)點(diǎn)的貢獻(xiàn)率過低，刪除該隱節(jié)點(diǎn)，并重復(fù)步驟7～步驟8，更新網(wǎng)絡(luò)參數(shù)，否則轉(zhuǎn)到步驟10；

步驟10 計(jì)算兩兩隱節(jié)點(diǎn)間的JS散度與JS散度均值，如果JS散度最小值DJS(fi‖fj)min<λ3JSmean， 認(rèn)為第i和第j個(gè)隱節(jié)點(diǎn)的相似程度足夠大，可以合并為一個(gè)新的隱節(jié)點(diǎn)，并重復(fù)步驟7和步驟8，更新網(wǎng)絡(luò)參數(shù)，否則訓(xùn)練結(jié)束。

3 仿真實(shí)驗(yàn)

為檢驗(yàn)SCJS-RBF的非線性映射能力和在實(shí)際應(yīng)用中的有效性，本文選取典型的非線性sinE函數(shù)、非線性動(dòng)態(tài)系統(tǒng)辨識(shí)和實(shí)例進(jìn)行仿真實(shí)驗(yàn)，與其它算法進(jìn)行實(shí)驗(yàn)結(jié)果對(duì)比，并給出結(jié)論。實(shí)驗(yàn)環(huán)境為Intel(R) Core(TM) i7-6700HQ CPU @ 2.60 GHz，內(nèi)存8 G，操作系統(tǒng)為Windows10 X64專業(yè)版，仿真工具為MATLAB R2020b。

3.1 非線性sinE函數(shù)的逼近實(shí)驗(yàn)

非線性函數(shù)sinE的數(shù)學(xué)表達(dá)式如下式所示

y=0.8e-0.2xsin(10x)

(16)

圖2 非線性sinE函數(shù)初始聚類中心變化曲線

圖3 非線性sinE函數(shù)逼近效果

由圖2可知，經(jīng)基于距離的初始聚類后，獲得的初始聚類中心個(gè)數(shù)為12。經(jīng)基于敏感度分析的隱節(jié)點(diǎn)刪除方法后隱節(jié)點(diǎn)為11個(gè)，經(jīng)基于JS散度的隱節(jié)點(diǎn)合并方法后為隱節(jié)點(diǎn)為9個(gè)。由圖3可知，經(jīng)過SCJS-RBF訓(xùn)練，測試輸出與期望曲線基本吻合，可以很好的逼近非線性sinE函數(shù)。

此外，為了顯示SCJS-RBF的優(yōu)良逼近能力，將該網(wǎng)絡(luò)與淺層BP神經(jīng)網(wǎng)絡(luò)和FDC-RBF[13]進(jìn)行實(shí)驗(yàn)結(jié)果對(duì)比，見表1。當(dāng)BP神經(jīng)網(wǎng)絡(luò)設(shè)定結(jié)構(gòu)同為1-9-1時(shí)，其運(yùn)行時(shí)間和測試MSE均高于SCJS-RBF；在逼近非線性sinE函數(shù)時(shí)，SCJS-RBF需要的隱節(jié)點(diǎn)個(gè)數(shù)、測試MSE以及網(wǎng)絡(luò)運(yùn)行時(shí)間均低于FDC-RBF，結(jié)構(gòu)更精簡，逼近能力更強(qiáng)，運(yùn)行時(shí)間更短。

表1 非線性sinE函數(shù)逼近實(shí)驗(yàn)結(jié)果對(duì)比

3.2 非線性動(dòng)態(tài)系統(tǒng)辨識(shí)

非線性動(dòng)態(tài)系統(tǒng)辨識(shí)表達(dá)式如下式所示

(17)

式中：u(t)=sin(2π/25)，t∈[1，400]，y(0)=0，y(1)=0。 函數(shù)表達(dá)關(guān)系為：f(t+1)=f(y(t)，y(t-1)，u(t))， 輸入為三維：y(t)，y(t-1)，u(t)， 輸出為一維：f(t+1)。 選取100組訓(xùn)練樣本數(shù)據(jù)，其中t∈[1，100]， 100組測試樣本數(shù)據(jù)，其中t∈[300，400]。 調(diào)節(jié)系數(shù)λ1=0.25，λ2=0.1，λ3=0.2。初始聚類中心個(gè)數(shù)的變化如圖4所示。SCJS-RBF的系統(tǒng)辨識(shí)效果如圖5所示。

圖4 非線性動(dòng)態(tài)系統(tǒng)初始聚類中心變化曲線

圖5 非線性動(dòng)態(tài)系統(tǒng)辨識(shí)效果

由圖4可知，經(jīng)基于距離的初始聚類后，獲得的初始聚類中心個(gè)數(shù)為14。經(jīng)基于敏感度分析的隱節(jié)點(diǎn)刪除方法后隱節(jié)點(diǎn)為12個(gè)，經(jīng)基于JS散度的隱節(jié)點(diǎn)合并方法后為隱節(jié)點(diǎn)為9個(gè)。由圖5可知，經(jīng)過SCJS-RBF訓(xùn)練后，可以很好的對(duì)非線性動(dòng)態(tài)系統(tǒng)進(jìn)行辨識(shí)。

此外，為了顯示SCJS-RBF的優(yōu)良辨識(shí)能力，將該網(wǎng)絡(luò)與淺層BP神經(jīng)網(wǎng)絡(luò)和FDC-RBF[13]進(jìn)行實(shí)驗(yàn)結(jié)果對(duì)比，見表2。當(dāng)BP神經(jīng)網(wǎng)絡(luò)設(shè)定結(jié)構(gòu)同為3-9-1時(shí)，其運(yùn)行時(shí)間和測試MSE均高于SCJS-RBF；與FDC-RBF比較，隱節(jié)點(diǎn)個(gè)數(shù)更少，測試MSE更小，網(wǎng)絡(luò)結(jié)構(gòu)更為精簡且辨識(shí)效果更好?？梢?，SCJS-RBF進(jìn)行非線性動(dòng)態(tài)系統(tǒng)辨識(shí)時(shí)，可以得到更為緊湊的結(jié)構(gòu)，辨識(shí)效果更好，運(yùn)行時(shí)間更短。

表2 非線性動(dòng)態(tài)系統(tǒng)辨識(shí)實(shí)驗(yàn)結(jié)果對(duì)比

3.3 實(shí)例仿真

在露天礦山爆破作業(yè)中，礦石爆破后的塊度尺寸為衡量爆破質(zhì)量的首要指標(biāo)。一般情況下，用平均塊度的尺寸來衡量爆破效果。偏大，會(huì)增加礦石二次爆破成本和運(yùn)輸成本；偏小，會(huì)增加鉆爆成本。塊度的大小主要受巖石性質(zhì)和爆破設(shè)計(jì)參數(shù)的影響。目前用戶主要通過經(jīng)驗(yàn)公式來設(shè)計(jì)爆破參數(shù)以達(dá)到期望的塊度尺寸，以滿足生產(chǎn)要求。然而經(jīng)驗(yàn)公式的適用范圍有限，無法滿足露天礦山爆破的高效和經(jīng)濟(jì)生產(chǎn)的要求。神經(jīng)網(wǎng)絡(luò)無需確定的函數(shù)關(guān)系，以數(shù)據(jù)為驅(qū)動(dòng)建立輸入和輸出之間的非線性映射關(guān)系，更加適合用于塊度尺寸預(yù)測。

為進(jìn)一步驗(yàn)證本算法在實(shí)際應(yīng)用中的有效性，現(xiàn)把某露天礦山的225組平均塊度數(shù)據(jù)作為樣本數(shù)據(jù)，隨機(jī)取200組作為訓(xùn)練樣本數(shù)據(jù)，25組作為測試樣本數(shù)據(jù)，部分測試樣本數(shù)據(jù)見表3。輸入為巖石系數(shù)、單位炸藥消耗量和單孔裝藥量，輸出為平均塊度。調(diào)節(jié)系數(shù)為λ1=0.4，λ2=0.1，λ3=0.05。初始聚類中心個(gè)數(shù)變化如圖6所示，初始聚類中心個(gè)數(shù)為28。經(jīng)基于敏感度分析的隱節(jié)點(diǎn)刪除方法后隱節(jié)點(diǎn)為26個(gè)，經(jīng)基于JS散度的隱節(jié)點(diǎn)合并方法后隱節(jié)點(diǎn)為19個(gè)。

表3 部分測試樣本數(shù)據(jù)

圖6 初始聚類中心個(gè)數(shù)變化曲線

測試結(jié)果對(duì)比如圖7所示，相較RBF預(yù)測曲線，本算法預(yù)測曲線更加吻合實(shí)際曲線，即測試誤差更小，預(yù)測效果更好。實(shí)驗(yàn)結(jié)果對(duì)比見表4，可知，在隱節(jié)點(diǎn)個(gè)數(shù)相同的情況下，SCJS-RBF的運(yùn)行時(shí)間和測試MSE優(yōu)于RBF。本算法可以較好地指導(dǎo)該礦山的爆破作業(yè)，提高生產(chǎn)效率，控制生產(chǎn)成本。

表4 實(shí)驗(yàn)結(jié)果對(duì)比

圖7 測試結(jié)果

4 結(jié)束語

針對(duì)RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的確定問題，提出了一種基于自組織聚類和JS散度的RBF神經(jīng)網(wǎng)絡(luò)。提出基于距離的初始聚類解決傳統(tǒng)聚類算法的隨機(jī)化初始聚類中心問題；采用DBI指數(shù)解決K-means算法聚類精度的問題；采用敏感度分析刪減隱節(jié)點(diǎn)，解決隱節(jié)點(diǎn)冗余的問題；提出基于JS散度的隱節(jié)點(diǎn)合并方法，解決隱節(jié)點(diǎn)相似的問題，得到更加精簡的網(wǎng)絡(luò)結(jié)構(gòu)。最后通過仿真實(shí)驗(yàn)驗(yàn)證了SCJS-RBF的有效性。