人工電場算法優化的極限學習機大壩變形預測模型研究

李新華，崔東文

(1.云南興電集團有限公司,云南 文山 663000；2.云南省文山州水務局, 云南 文山 663000)

提高水庫大壩變形預測精度對于保障大壩穩定運行、確保人民生命財產安全具有重要意義。目前自回歸法[1]、GM(1,1)法[2]、灰色馬爾科夫法[3-4]、BP神經網絡法[5-7]、支持向量法[8-10]、指數冪乘積法[11]、組合模型法[12]等模型及方法已成功應用于大壩變形預測。當前，BP神經網絡和支持向量機(support vector machines，SVM)由于良好的預測精度和泛化能力，已廣泛應用于大壩變形預測研究。然而，但在實際應用中，BP神經網絡和SVM均存在缺點和不足：①BP神經網絡訓練時間長、收斂速度慢、易陷入局部最優；②BP神經網絡需人為調節參數較多，如隱含層數量、隱含層傳遞函數、輸出層傳遞函數、訓練函數、最大訓練次數等選取不當對BP神經網絡預測性能影響較大；③ SVM存在懲罰因子、核函數參數、不敏感系數和交叉驗證折數參數選取的困難，參數選取不當易導致SVM過擬合而降低外推能力。極限學習機(extreme learning machine，ELM)是近年興起的一種隱層前饋神經網絡(SLFNs)學習算法，具有計算速度快，泛化性能強、網絡參數設置簡單等優點，已在各行業領域及大壩變形預測[13]中得到應用。在實際應用中，ELM尚存在以下問題：①ELM輸入層權值和隱含層偏置的隨機選取在很大程度上制約了ELM預測或分類精度的提高。近年來，粒子群優化(PSO)算法[14]、人工蜂群(ABC)算法[15]、生物地理學優化(BBO)算法[16]、花授粉算法(FPA)[17]、差分進化(DE)算法[18]、蝗蟲優化(GOA)算法[19]、黑猩猩優化算法(ChOA)[20]等嘗試用于ELM輸入層權值和隱含層偏置的優化，并獲得了較好的實際應用效果，有效提高了ELM預測或分類精度；②隱含層數對ELM性能影響較大。隱含層數太少會導致ELM“欠擬合”，過多又會導致“過擬合”；③隨機產生的輸入層權值和隱含層偏置導致ELM連續每次運行的結果不一致，甚至存在較大差異。

為提高大壩變形預測精度，拓展智能算法在ELM輸入層權值和隱含層偏置優化中的應用，本文研究提出一種人工電場算法(artificial electric field algorithm，AEFA)與ELM相結合的大壩變形預測方法。通過官地水電站72期大壩沉降數據構建延遲時間為1，嵌入維數為2、3、5維的3種ELM預測模型，利用AEFA優化3種ELM模型的輸入層權值和隱含層偏值，分別構建3種不同嵌入維的AEFA-ELM大壩變形預測模型，并分別構建對應嵌入維的AEFA-SVM、AEFA-BP作預測對比模型。利用9種不同嵌入維的AEFA-ELM、AEFA-SVM、AEFA-BP模型對文獻[21]實例大壩變形數據進行訓練和預測。旨在驗證AEFA-ELM模型在大壩變形預測中的可行性。

1 AEFA-ELM預測模型

1.1 人工電場算法

人工電場算法(artificial electric field algorithm，AEFA)是Anita等[22]于2019年受庫侖靜電力定律啟發而提出的一種新型全局優化算法。該算法將待優化問題解視為電荷粒子，電荷粒子通過靜電力相互吸引或排斥在搜索空間中移動來達到求解問題的目的。AEFA數學描述簡述如下[22]。

(1)

電荷粒子j在時刻t作用在電荷粒子i上的電力描述如下：

(2)

在d維搜索空間中，所有其他粒子在時刻t作用于第i個粒子的總電力描述如下：

(3)

式中 rand——[0,1]范圍內均勻分布的隨機數；N——電荷粒子總數；Fi——作用在第i個電荷粒子上的合力。

第i個粒子時刻t在第d維空間的電場描述如下：

(4)

(5)

式中Mi(t)——第i個電荷粒子在時刻t的單位質量。

(6)

(7)

式中 rand——[0,1]范圍內均勻分布的隨機數。

1.2 極限學習機(ELM)

極限學習機(ELM)是一種廣義的單隱層前饋神經網絡，具有較快的學習速度和良好的泛化能力。給定M個樣本Xk={xk,yk}，k=1，2，…，M，其中xk為輸入數據，yk為真實值，f(·)為激活函數，隱層節點為m個，ELM輸出可表示為[23]：

(8)

式中oj——輸出值；Wi={ωi1，ωi2，…，ωim}——輸入層節點與第i個隱含層節點的連接權值；bi——第i個輸入節點和隱含層節點的偏值；λi——第i個隱含層節點與輸出節點的連接權值。

1.3 預測模型的建立及實現步驟

AEFA-ELM模型建立及預測實現步驟歸納如下。

步驟一利用實例大壩變形數據構建不同嵌入維的ELM模型，合理劃分訓練樣本和預測樣本，利用AEFA優化ELM輸入層權值和隱含層偏置，建立不同嵌入維的AEFA-ELM模型，利用訓練樣本數據對AEFA-ELM模型進行訓練。

步驟二利用訓練樣本均方誤差構建優化目標函數：

(9)

步驟三在搜索范空間隨機初始化電荷粒子位置(X1(t),X2(t),…,XN(t))，設置種群規模N，最大迭代次數maxiter，隨機初始化電荷粒子初始速度，設置ELM輸入層權值和隱含層偏置搜尋范圍，令當前迭代次數iter=0。

步驟四計算每個粒子在時刻t的適應度值(fit1(t),fit2(t),…,fitN(t))。

步驟五計算庫侖常數K(t)；選取時刻t最佳和最差電荷粒子適應度值對于應電荷粒子空間位置。

步驟六計算每個粒子時刻t的適應度值fiti(t)；利用式(3)計算每個粒子時刻t的總電力Fi(t)；利用式(5)計算加速度ai(t)；利用式(6)、(7)更新電荷粒子在t+1時刻的速度和位置。

步驟七計算所有粒子在t+1時刻的適應度值，比較并保留當前最佳電荷粒子空間位置xbest。

步驟八令iter=iter+1，判斷算法是否達到終止條件，若是，輸出xbest，算法結束；否則轉至步驟五。

步驟九輸出xbest。xbest即為ELM最佳輸入層權值和隱含層偏置。將參數xbest代入AEFA-ELM模型進行大壩變形預測。

2 實例應用

實例數據來源于文獻[21]官地水電站大壩壩頂監測點T26在垂直方向上累積沉降位移值，樣本獲取時間段為2012年8月—2016年1月，共72組經預處理后的大壩累積沉降數據，見表1。采用SPSS軟件自相關函數法求解延遲時間為1；對于最佳嵌入維數，目前普遍采用虛假最鄰近法(FNN)、G-P法、C-C法等方法求解，但對于短序列樣本，求解效果并不理想。在延遲時間為1的條件下利用試算的方法確定嵌入維數為2、3、5維時模型具有較好的預測精度。

因此，在延遲時間為1，嵌入維數為2、3、5維條件下分別構建大壩變形預測因子與影響因子的輸入、輸出矩陣，分別利用選取前60組、前59組、前57組大壩累積沉降位移數據作為訓練樣本，后10組累積沉降位移數據作為預測樣本。

表1 大壩變形累積沉降值 單位：mm

參數設置。設置AEFA最大迭代次數maxiter=100，種群規模N=50；ELM激活函數選擇sigmoid函數，輸入層權值和隱含層偏置的搜索范圍為[-1,1]。經試算，嵌入維為2維的ELM隱含層數設置為2、嵌入維為3維的ELM隱含層數設置為3、嵌入維為5維的ELM隱含層數設置為19時，ELM模型預測效果最好，AEFA優化ELM輸入層權值和隱含層偏置維度分別為9、16、134維。SVM核函數為RBF，超參數搜索范圍為[2-10,210]，交叉驗證折數V=2，優化維度3維。BP神經網絡隱層數采用2倍的輸入層節點數-1確定，隱藏層和輸出層傳遞函數、訓練函數分別采用logsig、purelin和traingdx，期望誤差、最大訓練次數分別為0.001、200，搜索范圍為[-1,1]。所有輸入數據均采用[-1,1]進行歸一化處理。

預測及分析。分別構建AEFA-ELM(2、3、5維)、AEFA-SVM(2、3、5維)、AEFA-BP(2、3、5維)9種模型對實例大壩變形進行預測，并利用平均相對誤差(MAPE)、平均絕對誤差(MAE)、均方根誤差(RMSE)進行效果評價，結果見表2；訓練及預測誤差見圖1—4。

表2 實例大壩變形預測結果

圖1 訓練-預測效果(2維)

圖2 訓練-預測效果(3維)

圖3 訓練-預測效果(5維)

圖4 預測樣本相對誤差

依據表2及圖1—4可以得出以下結論。

a)AEFA-ELM(2、3、5維)模型對實例后10組大壩變形預測的MAPE分別為3.94%、4.08%、3.67%，RMSE分別為0.279、0.272、0.271 mm，MAE分別為0.181、0.180、0.177 mm，預測精度均優于AEFA-SVM(2、3、5維)、AEFA-BP(2、3、5維)模型，具有更小的預測誤差和更高的預測精度。相對而言，AEFA-ELM(5維)模型的預測效果最好。

b)從擬合效果來看，僅AEFA-ELM(2維)模型的MAE精度略低于AEFA-SVM(2維)模型，其他AEFA-ELM(3、5維)擬合精度均優于對應嵌入維的AEFA-SVM、AEFA-BP；從預測效果來看，不同嵌入維的AEFA-ELM模型的預測精度均優于對應嵌入維的AEFA-SVM、AEFA-BP模型，表明AEFA能有效優化ELM輸入層權值和隱含層偏置，有效提高ELM網絡預測性能。

3 結論

介紹一種新型群體智能算法——人工電場算法(AEFA)。通過大壩累積沉降數據構建延遲時間為1，嵌入維為2、3、5維的ELM大壩變形預測模型，利用AEFA優化ELM輸入層權值和隱含層偏置，建立不同嵌入維的AEFA-ELM大壩變形預測模型，并構建對應嵌入維的AEFA-SVM、AEFA-BP作預測對比模型。利用文獻大壩變形實例數據對不同嵌入維的AEFA-ELM、AEFA-SVM、AEFA-BP模型進行訓練及預測。結論如下。

a)不同嵌入維的AEFA-ELM模型對實例預測的MAPE、RMSE、MAE分別在3.67%～4.08%、0.271～0.279 mm、0.177～0.181 mm，預測精度均優于AEFA-SVM、AEFA-BP模型，具有更小的預測誤差和更高的預測精度。

b)利用AEFA尋優ELM輸入層權值和隱含層偏置，能有效提高ELM的預測精度和泛化能力。