基于機器學習的重力壩變形監測統計模型及應用

田紫圓，何佳楠，吳震宇，周 弭，孫 燕

(1.四川大學 水利水電學院 水力學與山區河流開發保護國家重點實驗室，四川 成都 610065；2. 國網四川甘孜州電力有限責任公司康定市供電分公司，四川 康定 626000)

1 概述

大壩安全監測是保證水庫安全運行，掌握大壩性態，及時診斷工程運行現狀的必要手段[1]。重力壩是水庫大壩常用壩型之一。變形監測是監控重力壩長期運行安全的重要手段，而構建重力壩變形監測模型，對于重力壩變形[2]規律分析和結構異常性態[3]的診斷以及評估重力壩安全風險[4- 5]具有重要意義。

在重力壩變形監測模型中，基于機器學習算法的監測模型愈加受到關注和應用。極限學習機(ELM)是一種具有單層隱藏節點的前饋神經網絡，連接輸入的權值隨機分配。與使用反向傳播算法訓練的網絡相比，該模型具有良好的泛化性能和學習速度，能夠簡單有效地用于混凝土壩結構行為預測監測模型的建立。胡德秀[6]以土石壩監測測點的水平位移作為輸出值，以上下游水位、壩區氣溫、對數時效因子作為輸入值，構建基于穩健估計極值學習機(M-ELM)的變形監測模型，具有較高的擬合和預測精度；戴波[7]以重力壩測點水平位移為例，結合混沌理論和極限學習機建立變形監測統計模型，其預測效果優于傳統的重力壩統計模型；Kang[8]采用ELM算法對豐滿重力壩的壩頂水平位移進行監測模型的構建，并且與BP神經網絡模型、MLR模型和SR模型相比，ELM模型對該工程的位移具有更好的預測性能且訓練速度較快。基于VC維理論和結構風險最小化準則而建立的支持向量機SVM[9- 10]，可以用于非線性數據的回歸預測，被廣泛應用于重力壩變形監測模型研究中。姜振翔[11]將小波分解和支持向量機結合，建立監測模型用于重力壩引張線監測點位移的預測，具有較強的預測精度；宋志宇[12]以豐滿混凝土重力壩為例，將環境量作為輸入變量，壩頂水平位移作為輸出變量，采用最小二乘支持向量機(LSSVM)建立重力壩的變形監控模型，比傳統支持向量機(SVM)預測精度更高。近年神經網絡算法在重力壩變形監測模型的研究中應用也較為廣泛。Wang[13]提出了一種基于混合多種群遺傳算法的神經網絡算法，利用該混合模型對重力壩的位移進行了分析預測，其算法在全局搜索、收斂速度和預測精度方面均優于普通BP神經網絡和統計回歸模型。另外，有不少學者在其它領域內采用遺傳算法(GA)和模擬退火(SA)算法共同優化BP神經網絡，與傳統BP神經網絡相比，其優勢在于能夠提高收斂速度和預測精度，避免神經網絡容易陷入局部極小值的缺陷[14- 15]。

本文擬結合EMD分解，采用極限學習機(ELM)、基于網格搜索和K-fold交叉驗證的支持向量機、基于模擬退火遺傳算法優化的BP神經網絡(GASA-BP)三種機器學習方法對EMD分解重構的周期項進行訓練和預測，并采用評價指標均方根誤差RMSE和平均絕對誤差MAE對其訓練集擬合和預測集的預測效果進行對比分析。

2 機器學習算法

2.1 極限學習機(ELM)

極限學習機(ELM)是Huang[16]等提出的一種高性能單隱層前饋神經網絡，基本步驟如下：

(1)輸入訓練集{Xi，Yi|xi∈Rd，yi∈Rm，i=1，2，…，N}，隱藏層激活函數G(·)形式和隱藏層神經元數量L。

(2)對訓練集數據實例xi(i=1，2，…，N)和數據實例對應的標記yi(i=1，2，…，N)分部進行[0，1]最值歸一化。

(3)計算生成的隱藏層節點參數wi(i=1，2，…，L)和bi(i=1，2，…，L)。

(4)計算隱藏層輸出層連接權重β*=H+T。

(5)構建ELM網絡，得到訓練集對應的ELM的輸出值fL(xi)(i=1，2，…，N)，并進行標記反歸一化，即可得到訓練集標記對應的預測值。

(6)輸入預測集的數據實例{Xi|xi，i=N+1，N+2，…，N+p}，p為預測集數據的組數。對預測集的數據實例同樣進行與(2)中結構一致的歸一化。通過構建的ELM網絡，得到預測集對應的ELM的輸出值fL(xi)(i=N+1，N+2，…，N+p)，并進行反歸一化，即可得到預測集的標記預測值。

2.2 基于網格搜索和交叉驗證的支持向量機

本文采用基于網格搜索和K-fold交叉驗證的SVM回歸模型[17- 18]，其優點在于可以對參數組合(C，g)同時進行尋優，有效避免了局部最優的問題，提高計算的整體效率。其中，組合(C，g)中的C為非負懲罰因子，g為核函數參數。

基于網格搜索和K-fold交叉驗證的(C，g)參數優化步驟如下：

(1)設定網格劃分區間。令a=[-4，4]，b=[-4，4]，步長取為0.1。取SVM模型參數的網格劃分節點為C=2a，g=2b。

(2)將訓練數據等分為K個子集。K取為3，確保訓練集中的訓練樣本數量大于測試樣本數量。

(3)對于設定網格中的每組(C，g)，任取一個等分的子集作為測試集，其余K-1個子集作為訓練集進行SVM的模型構建，將得到的訓練模型對取出的測試集進行預測，統計測試結果的均方誤差MSE：

(1)

2.3 基于模擬退火遺傳算法優化的BP神經網絡

本文采用遺傳算法(GA)和模擬退火(SA)算法共同優化BP神經網絡，GA的抽樣過程可以優化算法[19]，SA算法可以有效控制算法的收斂性[20]，有效增強BP神經網絡的搜索能力和運行效率[21]。

基于模擬退火遺傳算法優化的BP神經網絡權值算法的主要步驟如下：

(1)進行實數編碼。采用3層前饋神經網絡，編碼長度n與輸入節點數a，輸出節點數b，隱含層節點數c相關，其計算公式為：

n=(a+1)c+(c+1)b

(2)

(2)設置相關參數。給定模擬退火的初始溫度t0，退火速率λ，迭代次數k=0。同時，設定隱含層節點數、最大進化代數(迭代次數)、種群規模、染色體選擇方法交叉概率Pc、交叉方法、變異概率Pm、變異方法等。

(3)生成初始群體。節點的連接權重范圍設定為[xmin，xmax]，基因取范圍中的隨機數。

(4)對群體中個體進行評價。輸入學習樣本可以計算出學習誤差E：

(3)

式中，N—訓練樣本集的組數，yi—神經網絡第i個輸入樣本的輸出，yi—響應的期望輸出。個體的適應度為：

(4)

(5)執行遺傳操作。具體如下：

①選擇操作。個體Xi被選中進入下一代的概率為：

(5)

式中，G—種群規模，fi—個體Xi的適應度。

(6)

(7)

式中，e—比例因子，為(0，1)范圍內以均勻分布產生的一個隨機參數。

③變異操作。個體Xi中的每一個基因位以變異概率Pm的概率發生變異，相當于有Pm的幾率使區間[xmin，xmax]中均勻分布產生的隨機數代替原有基因位。

(6)引入最優的保留策略。

(7)引入模擬退火操作。

①利用模擬退火狀態產生新基因值g′(k)，具體為：

g′(k)=g(k)+β

(8)

式中，β∈(-1，1)，為一個隨機擾動的參數。

②計算g′(k)的目標函數值和g(k)的目標函數值之差ΔC。

③計算接受概率Pr，公式為

Pr=min[1，exp(-ΔC/tk)]

(9)

式中，tk—迭代k次后的模擬退火溫度。

④若Pr>random[0，1]，則取g(k)=g′(k)，否則，g(k)保持不變。

⑤引入最優保留策略。

⑥采用模擬退火函數tk+1=λtk進行退火，其中，λ為退火速率，λ∈(0，1)。

(8)判斷終止條件。滿足遺傳算法操作的終止條件轉(9)，不滿足轉(4)。

(9)解碼賦值，進行預測。將搜索的最優個體解碼，賦值給神經網絡節點連接權重和節點閾值，進行預測。

3 案例分析

本文以某重力壩9#壩段真空激光LA9測點順河向位移為例，訓練集和預測集輸入變量分別采用2015年5月1日—2017年5月1日和2017年5月2日—2017年8月1日水壓分量的模型因子H、H2、H3、H4和溫度分量的模型因子PC1、PC2，訓練集輸出變量采用真空激光LA9測點順河向位移經EMD分解后重構的周期項，預測集采用周期項作為實際值，用于檢驗機器學習的預測效果。分析和評價指標使用均方根誤差RMSE和平均絕對誤差MAE。其中：

(10)

式中，H(t)—t時刻作用在重力壩上的上游水位；Hmin—重力壩上游的極限死水位；Hmax—重力壩監測時期最高上游庫水位。

(1)極限學習機(ELM)模擬結果

經試驗，變量進行最值化歸一的區間設置為[0，1]，極限學習機ELM的激活函數設置為Sigmoid函數，隱藏層神經元節點數量L設置為10，可以獲得較好的訓練和預測效果。訓練產生的輸入層神經元與隱含層神經元間的連接權重、隱藏層神經元的閾值和隱藏層與輸出層的連接權重見表1，ELM算法訓練集擬合與預測集預測效果如圖1—3所示。

表1 隱藏層節點輸出參數及輸出權重

圖1 EMD重構周期順河向位移ELM擬合

圖2 EMD重構周期順河向位移ELM預測

圖3 基于EMD與ELM的LA9順河向位移監測模型

圖5 EMD重構周期順河向位移SVM預測

圖6 基于EMD與優化SVM的LA9順河向位移監測模型

(2)基于網格搜索和交叉驗證的支持向量機模擬結果

采用基于網格搜索和交叉驗證的支持向量機對LA9順河向EMD分解的周期項位移進行訓練時，變量進行最值化歸一的區間設置為[0，1]，采用徑向基函數作為支持向量機的核函數。引入網格搜索和交叉驗證優化時，取SVM模型參數的網格劃分節點為C=2a，g=2b，網格劃分區間設定a=[-4，4]，b=[-4，4]，步長取為0.1。訓練數據等分子集數設置為3。

圖4 EMD重構周期順河向位移SVM擬合

(3)基于模擬退火遺傳算法優化的BP神經網絡模擬結果

采用基于模擬退火遺傳算法優化的BP神經網絡對LA9順河向EMD分解的周期項位移進行訓練時，變量進行最值化歸一的區間設置為[0，1]。給定模擬退火的初始溫度為1000，退火速率取0.8。隱含層節點數設置為10，最大進化代數為1000，種群規模為30。染色體選擇方法交叉概率為0.7，變異概率為0.1。網絡節點的連接權重取值范圍設定為[-3，3]。訓練時的適應度曲線如圖7所示。最終基于模擬退火遺傳算法優化的BP神經網絡的訓練集擬合與預測集預測效果如圖8—10所示。

圖8 EMD重構的周期順河向位移GASA-BP擬合

圖7 適應度曲線

(4)分析對比

圖11—12為基于EMD的真空激光LA9順河向位移通過機器學習訓練和預測的結果，其擬合與預測評價指標見表2。

表2 基于EMD的真空激光LA9順河向位移擬合預測指標

圖9 EMD重構的周期順河向位移GASA-BP預測

圖10 基于EMD與GASA-BP的LA9順河向位移監測模型

圖11 基于EMD的LA9順河向位移機器學習訓練擬合

圖12 基于EMD的LA9順河向位移機器學習預測

由訓練集的擬合效果可得，ELM、優化SVM、GASA-BP三種機器學習方法的均方根誤差RMSE和平均絕對誤差MAE均小于最小二乘法，優化SVM和GASA-BP方法在順河向位移的擬合精度上相比最小二乘法提升較大，說明采用機器學習相比最小二乘法的線性擬合可以有效提高訓練集的擬合精度。其中，優化SVM模型擬合精度最高，相比最小二乘法線性擬合精度提升了45.4%。

在預測效果方面，采用ELM和GASA-BP兩種機器學習的預測評價指標RMSE、MAE均小于最小二乘法，說明ELM和GASA-BP方法相比最小二乘法的線性擬合，可以提升監測模型的預測效果。優化SVM的機器學習方法在預測方面，其評價指標RMSE(0.481mm)、MAE(0.375mm)略大于最小二乘法的評價指標RMSE(0.406mm)、MAE(0.334mm)，說明其預測精度比最小二乘法略低。分析其原因，SVM回歸模型在訓練時采用基于網格搜索和K-fold交叉驗證的尋優方法，大幅提高了訓練集的擬合精度而出現了過擬合的現象，使得預測集在預測精度方面不如最小二乘法的線性擬合。

4 結論

本文以某重力壩9#壩段真空激光LA9測點順河向位移為例，驗證了ELM、SVM、GASA-BP三種機器學習方法針對EMD分解重構的周期項可以有效提升重力壩變形監測模型的訓練和預測精度。

通過不同方法的對比分析可知，ELM和GASA-BP方法均可提升模型的訓練及預測精度。優化SVM方法在訓練集擬合精度最高，但由于出現過擬合現象使得其預測集精度略低于最小二乘法。因此選擇合理的算法對模型構建至關重要，綜合比較得知，GASA-BP方法為最優。