蔣園園,盧獻健,鄭中天,劉海鋒
(1.桂林理工大學 測繪地理信息學院,廣西 桂林541004;2.廣西空間信息與測繪重點實驗室,廣西 桂林541004)
基于遺傳算法的小波神經網絡模型預測大壩變形
蔣園園1,2,盧獻健1,2,鄭中天1,2,劉海鋒1,2
(1.桂林理工大學 測繪地理信息學院,廣西 桂林541004;2.廣西空間信息與測繪重點實驗室,廣西 桂林541004)

為了提高大壩變形的預測精度,提出一種基于遺傳算法的小波神經網絡模型。首先通過對BP神經網絡隱含層神經元的替換,彌補了網絡易收斂于局部極小點的缺陷,增強了函數逼近能力,進而建立了小波神經網絡大壩預測模型;再利用該模型對大壩變形訓練集進行學習,并運用遺傳算法選取全局最優參數。該方法充分利用了小波神經網絡強大的非線性預測能力和遺傳算法的全局優化搜索功能,彌補了BP神經網絡存在的理論缺點。將其與小波神經網絡、BP神經網絡進行比較,實驗結果表明該方法具有更優的局部預測值、更高的全局預測精度,適用于復雜的大壩變形預測。
大壩變形;小波神經網絡;遺傳算法;參數優化
對大壩變形進行預測,有利于及時地對大壩潛在的危險進行排除,然而大壩變形受多種因素影響,變化較復雜且具有非線性。目前國內外已研發多種模型可用于非線性變化的仿真與預測,主要包括:支持向量機模型、灰色預測模型、神經網絡模型等[1]。但是單一的模型預測精度往往不高,特別是灰色預測模型,當預測非線性數據變化時,其精度將大幅降低,不適于預測復雜的大壩變形。在非線性預測方面,比較成功的模型是神經網絡,其中較為常用的是BP神經網絡。BP神經網絡通常指基于誤差反向傳播算法(BP算法)的多層前向神經網絡[2]。與感知器和線性神經網絡不同的是,BP神經網絡中采用具有閾值特性的Sigmoid函數作為神經元的激發函數,可實現輸入與輸出間的任意非線性映射,系統地解決了多層神經元網絡中隱含單元層連接權的問題。但該方法存在訓練速度慢、時間長、且很容易陷入局部極小點,無法保證每次訓練的收斂結果是最優等缺點。為改善BP神經網絡的性能,1992 年 ZHANG Q H[3]等提出了小波神經網絡的概念和算法。小波神經網絡是用非線性小波基取代Sigmoid函數作為激活函數,利用仿射變換建立小波變換與網絡系數之間的連接,并應用于函數逼近,從而縮短了模型的訓練時間,提高了訓練速度,有效避免了局部最小。然而小波神經網絡是采用梯度法對網絡參數進行優化,難以適應大壩變形隨機性和時變性的特點,且存在易陷入局部極小點和引起振蕩效應等不足[4]。遺傳算法在搜索中不易陷入局部最優,能在許多局部較優中找多全局最優點,并沿多種路線進行平行搜索,因此利用它來解決小波神經網絡參數優化問題,能較好地彌補梯度法的不足,提高大壩變形的預測精度[5-6]。本文將通過數據評估該組合模型的可行性和有效性。
1.1 小波神經網絡
小波神經網絡是基于小波分析而構造的一類新型前饋網絡,其基本思想是利用小波元代替神經元,通過小波分解來建立小波變換與神經網絡的連接。小波神經網絡結構的確定主要是確定隱含層節點個數[7],即在平方可積函數空間中,選擇小波基函數個數。小波變換是一 種變分辨率的時頻分析方法,通過尺度伸縮和平移對信號進行多尺度分析,得到的級數具有小波變換一般逼近函數的性質和分類特征,且由于引入了兩個新參數變量(伸縮因子和平移因子),使其具有更靈活的函數逼近能力以及更強的模型識別能力和容錯能力。
理論上可以證明3層神經網絡即可實現任意復雜的非線性映射問題,因此采用一個隱含層的3層小波神經網絡建立預測模型,可達到較好的預測精度。3層小波神經網絡結構如圖1所示。

圖1 小波神經網絡結構圖
小波神經網絡結構可表示為:

式中,M為輸入層神經元個數;K為隱含層結點個數;N為輸出層神經元個數;xk為輸入層的第k個輸入神經元;yk為輸出層的第k個輸出神經元;Wjk為隱含層節點j與輸入層節點k的連接權值;Wij為輸出層節點i與隱含層節點j的連接權值;aj、bj分別為隱含層節點j的伸縮和平移系數。
小波網絡中的小波函數采用的Morlet小波函數,即

輸出層神經元函數Sigmoid為:

1.2 基于遺傳算法的小波神經網絡
遺傳算法是一種基于自然選擇和基因遺傳學原理的優化搜索方法,不需要有關體系的任何先驗知識;沿多種路線進行平行搜索,不易陷入局部極小;也能在許多局部較優中找到全局最優解,且搜索不依賴于梯度信息,是一種全局最優化方法。基于遺傳算法的小波神經網絡的基本思想是:由于遺傳算法的優化過程是在一定編碼機制的碼空間進行的,因此需先選擇編碼方式,再對小波網絡中的權值、伸縮因子和平移因子等參數進行編碼。在N個遵循這種編碼的染色中,構造遺傳算法的初始種群;然后用小波神經網絡對初始種群進行訓練,計算它們的適應度函數值;若達到最大進化代數,則終止循環,若不滿足終止條件則繼續循環;最后得到適應度最大的染色體,繼而轉化成相應的權值、閾值以及隱含層節點的伸縮、平移算子。采用遺傳算法對小波神經網絡進行優化的步驟為(圖2)。
1)設計染色體編碼方式,即將問題的解用一種碼來表示,使得問題的空間與遺傳算法的碼空間相對應,一般采用二進制編碼方式。
2)種群初始化,對每個結構對應的小波網絡中的Wjk、Wij、aj和bj進行初始化編碼;確定種群規模、交叉概率、變異概率、最大進化代數;在可行域中選擇p 條染色體,構成初始種群。
3)根據訓練的結果確定每個個體的適應度值。適應度值函數公式為:

4)判斷是否滿足遺傳算法終止條件,滿足則轉向步驟8),進入小波網絡優化搜索。
5)選擇優秀的個體進行復制,根據染色體各自的適應度值,判斷染色體是否直接遺傳給下一代。個體適應度值越大,越容易被遺傳給下一代。
6)交叉,在進行交叉運算時,采用線性組合的方式。按照一定的概率Pc從復制過的種群中隨機選擇兩 個個體進行交叉,隨機選擇交叉位置k,交換兩個基因串位置k右邊的部分,產生兩個新的個體。其自適應調整公式為:

圖2 遺傳算法優化BP小波神經網絡流程圖

式中,k1、k2為取值范圍為[0,1]的常數;fc'為待交叉的兩個父串中的較大適應度值;fmax為種群最大適應度值;favg為種群平均適應度值。
7)變異,對于種群中每個個體,以變量概率Pm隨機改變某一分量的值。
8)種群是否達到最大進化代數,若未達到則轉向步驟4),否則此時種群中適應度值最大的個體所對應的目標函數值,即為全局最優解。
9)將最終種群中的最優解作為優化的小波神經網絡連接權和伸縮平移因子。
10)采用最優參數建立基于遺傳算法的小波神經網絡模型。
2.1 數據來源
[8]中某大壩水平位移變形監測數據為例,基于水平位移監測點20個周期的沉降量與時間的曲線圖,根據其變化趨勢選取D4的監測點作為計算對象(圖3)。
由圖3可知,1~5期和8~14期該大壩水平位移變化較平穩,而5~8期和14~20期波動幅度大,在第7期達到峰值后又急劇下降,在14~20期呈非線性增長趨勢,在第19期達到本次觀測的最大峰值為15.6 mm。目前該觀測區進行了20期觀測,選擇前10 期作為訓練樣本,實現對小波神經網絡參數的訓練,建立基于遺傳算法的小波神經網絡大壩變形預測模型;以后10期作為測試集對模型性能進行檢驗。所有實驗均在P4 4核2.4 CPU,4GRAM,Windows7 64位的計算機上進行,采用Matlab 2010b編程實現。

圖3 大壩變形水平位移序列
2.2 對比模型及預測結果
為驗證基于遺傳算法的小波神經網絡模型在大壩預測中的可行性,本文設計了3種方案進行算例比較:方案1為BP神經網絡,方案2為小波神經網絡,方案 3為基于遺傳算法的小波神經網絡。為了使基于遺傳算法的小波神經網絡的預測結果具有可比性,3種方案均采用傳統的標準模式進行對比實驗,小波函數選擇Morlet小波,訓練次數為60,動量因子為0.01,小波隱含層節點為5;遺傳算法的交叉概率為0.3,變異概率為0.1,最大進化代數為10。待優參數為 aj、bj、Wjk、Wij,因此遺傳算法的個體維數為4。為了評價模型的預測精度,選取平均絕對值誤差(MAE)、均方根誤差(RMSE)作為評價依據。其計算公式為:

BP神經網絡采用傳統標準模型,小波神經網絡采用Morlet小波,基于遺傳算法的小波神經網絡種群規模設置為10~20期。當種群數量為10時,采用上述參數設置的模型進行預測,實驗結果如表1所示。
由表1可知,方案1的預測精度較低,大部分預測值和實際值偏差較大,16~20期的預測結果尤為明顯。方案1的最大殘差值為-5.03 mm;方案2和方案 3的預測精度均較為穩定,方案2的最大殘差值為1.59 mm;方案3的預測精度明顯高于前兩種方案,最大殘差值為-1.36 mm,最小殘差值為0.01 mm,最大值出現在第19期,其值比往期要大很多,出現了跳變,這是因為第19期的大壩變形值比往期突增了許多,樣本的變化趨勢在該期不明顯。由于大壩變形預測本身具有復雜性,且預測模型存在自身缺點,很難做到預測趨勢與實際變化完全擬合,若要減少第19期的殘差預測值,則只能考慮加大學習樣本種群,經過充分學習,使之能更完美地與實際擬合。另一方面,綜合3種模型分析,其殘差最大值均出現在第19期,而在該期方案3仍然是3種方案中預測殘差最小的,這說明通過遺傳算法優化的效果仍是有效的。綜上所述,對于非線性波動幅度較大的大壩變形序列,BP神經網絡模型未能達到很好的預測結果,得到的預測值相較于方案2和方案3誤差較大。小波神經網絡的預測精度比BP神經網絡提高了很多,但與基于遺傳算法的小波神經網絡相比精度較低。基于遺傳算法的小波神經網絡具有更好的逼近效果,在3種模型中預測效果最好。此外,在基于遺傳算法的小波神經網絡的大壩預測建模中,訓練的次數由原來的350次變為120次,大大減小了二次優化訓練的次數,減小了小波神經網絡的計算復雜度,提高了收斂速度。

表1 各模型計算結果對比/mm
為進一步評定算法的優越性,采用RMSE和MAE兩項指標進行評定,見表2。

表2 各模型精度對比/mm
由表2可知,BP神經網絡的預測精度最差,RMSE=2.29 mm,MAE=1.63 mm;小波神經網絡的精度優于BP神經網絡;相較于小波神經網絡和BP神經網絡,基于遺傳算法的小波神經網絡對大壩變形監測的誤差最小,預測精度相對最高,RMSE、MAE分別為0.47 mm和0.23 mm。圖4為3種模型在后10期預測中擬合值和實測值的曲線圖,可以看出,基于遺傳算法的小波神經網絡具有良好的擬合度,其預測值更接近大壩變形的實測值。由此可見,基于遺傳算法的小波神經網絡模型在非線性大壩變形預測中具有較高的預測精度。

圖4 基于遺傳算法的小波神經網絡的預測和實際大壩變形曲線
由于大壩變形數據具有時變性和非線性的特點,本文將遺傳算法和小波神經網絡相結合的補償算法引入大壩變形短期預測中。經理論和算例分析,并與BP神經網絡和小波神經網絡進行對比,結果表明:BP神經網絡由于自身收斂速度慢和容易陷入局部極小值,難以解決復雜的非線性變化;小波神經網絡的預測數據和實測數據較為接近,說明小波神經網絡具有較強的非線性預測能力。本文在小波神經網絡的基礎上引入遺傳算法,先利用遺傳算法的全局搜索能力找出小波神經網絡優化的初始權值和閾值,再用神經網絡精確求解,克服了梯度法對網絡參數進行優化的缺點以及實驗數據易陷入局部極小點和引起振蕩效應等不足;且預測精度優于前兩種模型,說明該模型在處理大壩變形數據時具有較高的精確度和擬合度。
參考文獻
[1]任超,梁月吉,龐光鋒,等.基于灰色最小二乘支持向量機的大壩變形預測[J].大地測量與地球動力學,2015,35(4):608-612
[2]羅勝琪. BP 算法的改進與性能分析[J].中國科技博覽, 2011(33):408-409
[3]ZHANG Q H, Benveniste A. Wavelet Networks[J]. IEEE Transactions on Neural Networks,1992,3(6):889-898
[4]趙學智,鄒春華,陳統堅,等.小波神經網絡的參數初始化研究[J].華南理工大學學報(自然科學版),2003(2):77-79
[5]李華昌,謝淑蘭,易忠勝.遺傳算法的原理與應用[J].礦冶, 2005,14(1):87-90
[6]梁月吉,任超,劉立龍,等.基于EMD和GA-BP神經網絡的大壩變形預測[J].桂林理工大學學報,2015,35(1):111-116
[7]馬文靜.基于遺傳算法小波神經網絡的電力變壓器故障診斷[J].自動化技術與應用,2008,27(12):17-19
[8]焦明連,蔣廷臣.基于小波分析的灰色預測模型在大壩安全監測中的應用[J].大地測量與地球動力學,2009,29(2):115-117
P258
B
1672-4623(2017)07-0099-03
10.3969/j.issn.1672-4623.2017.07.030
蔣園園,碩士研究生,主要從事GPS高精度數據處理研究工作。
2016-04-20。
項目來源:國家自然科學基金資助項目(41461089);廣西自然科學基金資助項目(2014GXNSFAA118288);廣西“八桂學者”崗位專項經費資助項目;廣西空間信息與測繪重點實驗室基金資助項目(桂科能1207115-07、桂科能130511407)。