基于改進蝗蟲算法優化長短時記憶神經網絡的多參數瓦斯濃度預測模型研究*

王雨虹，王淑月，王志中，任日昕

(遼寧工程技術大學電氣與控制工程學院，遼寧 葫蘆島 125105)

瓦斯濃度是衡量煤礦瓦斯危害程度的一個重要指標，瓦斯濃度超限與瓦斯爆炸、井下人員窒息和煤與瓦斯突出等煤礦惡性事件息息相關[1－3]。井下環境復雜，瓦斯濃度變化不是簡單的靜態過程，與其影響因素之間有著高度復雜的非線性關系。通過對煤礦瓦斯事故的調查和原因分析發現，沒有準確掌握瓦斯濃度變化規律是瓦斯事故發生的主要原因之一[4]。因此，精確、高效地預測瓦斯濃度是預防瓦斯事故的重中之重。

迄今為止，很多國內外學者對瓦斯濃度預測做了大量的研究工作，瓦斯濃度預測方法大體可分為統計學模型和機器學習模型兩類。統計學模型主要包括時間序列法[5]、模糊預測法[6]、灰色模型法[7]等。這些方法是以歷史數據為基礎，對于時序性較強的數據有較好地預測精度，但無法同時兼顧瓦斯濃度數據的非線性與時序性的關系。機器學習方法中，支持向量回歸機[8](Support Vector Regression，SVR)、神經網絡[9－10]等方法在瓦斯濃度預測中研究較多。這些算法提高了瓦斯濃度預測的精度，但模型建立和訓練過程中，需要依據經驗來人為地設置參數及模型的結構，缺乏對瓦斯濃度時序相關性特征的考慮。

近年來，深度學習以其強大的數據處理能力，在控制領域[11]、語言處理[12]、生物醫學[13]等方面得到了迅速發展，眾多的深度學習算法也被應用到了瓦斯濃度的預測中。李樹剛[14]等人采用循環神經網絡(Recurrent Neural Network，RNN)模型，實現了工作面的瓦斯濃度預測。程子均[15]等人把空間相關的先驗信息考慮進去，構建了長短時記憶(Long short-term memory，LSTM)的神經網絡模型實現了預測。LSTM模型通過多層非線性映射，可以較好地把握多個變量之間不可視化的非線性關系，并且可以考慮到時間序列新舊信息的關聯性，逐層學習到大量數據中蘊含的抽象特征。但是，上述模型的超參數一般依據經驗而定，設置不準確會導致算法擬合能力不夠強，難以達到預期效果。

本文提出一種改進蝗蟲優化算法(improved grasshopper optimization algorithm，IGOA)優化LSTM的多參數瓦斯濃度預測模型。首先，對瓦斯多參數時間序列進行相關性分析和小波去噪，得到輸入變量；其次，針對GOA算法易陷入局部最優的問題，通過重構線性縮減因子c、引入柯西－高斯混合變異和最優鄰域擾動策略聯合改進蝗蟲優化算法提高其全局尋優能力，并用改進的IGOA優化LSTM的超參數，構建IGOA-LSTM的多參數融合的瓦斯濃度預測模型。實例分析證實，本文所提出的預測模型有更高的準確率。

1 數據預處理

1.1 多變量時間序列的相關性分析

為了更好地滿足瓦斯濃度預測的要求，增強預測模型的態勢感知能力和外推能力，本文采用Pearson相關系數[16]來描述工作面瓦斯濃度與其影響因素之間的關聯程度。它的計算公式如下:

式中:n為樣本數，xi、yi分別為兩個n維向量x、y的變量值，分別為向量x、y中元素的平均值。

1.2 小波閾值降噪

小波閾值降噪[17]是一種經典的降噪方法，小波閾值去噪一般分為以下三個步驟:

①小波分解。選擇合適的小波基和分解層數進行分解，得到小波系數WTf(j，k)。

②閾值處理。通過合適的閾值η和閾值函數，把信號分解為細節分量與近似分量，得到估計小波系數。固定閾值η為:

式中，N為原始信號個數，σ為噪聲標準差。

1.3 歸一化處理

瓦斯多參數時間序列存在不同的量綱，對原始時間序列x進行歸一化處理:

式中，x*為標準化之后的值，xmax，xmin分別為樣本數據的最大值和最小值。

2 長短時記憶神經網絡

長短時記憶神經網絡LSTM[18]是RNN的改進模型，可以高效地分析及處理時序特征的長期依賴關系[19－21]。如圖1所示，LSTM分別由遺忘門、輸入門、輸出門、狀態單元組成。A表示上一個元胞，σ為sigmod激活函數。

圖1 LSTM單元結構示意圖

遺忘門:當前時刻細胞單元的輸入特征向量Xt與上一時刻的單元狀態Ct－1、上一時刻的輸出ht－1三者共同作用于細胞狀態，并且由sigmod函數產生遺忘門輸出值ft，從而選擇性地遺忘記憶細胞中的信息。

輸入門:輸入層通過sigmoid函數和tanh層兩部分疊加運算進行值的更新，也就是細胞狀態Ct－1更新為Ct。

輸出門:把sigmoid和tanh函數的輸出值相乘得到模型的輸出ht。

式中，xt為當前時刻的輸入信息；W*分別為相應門的連接權重；b*分別為相應門的偏置系數。

3 基于IGOA-LSTM的預測模型

3.1 蝗蟲優化算法

蝗蟲優化算法[22](GOA)是新型群智能優化算法，該算法模擬了蝗蟲的捕食行為，蝗蟲群體分為負責全局搜索的成蟲和開發某個特定臨近區域的幼蟲，蝗蟲位置模型[23]可表示為

式中，f、l分別為吸引強度參數與吸引尺度參數。依據文獻[23]，取f＝0.5，l＝1.5。

c為線性縮減因子，參數c更新模型可表示為:

式中:cmax，cmin是參數c的最大值和最小值，Tmax是最大迭代次數，t是當前迭代次數。本文取cmax＝2，cmin＝0。

3.2 改進蝗蟲優化算法

3.2.1 重構線性縮減因子c

由傳統GOA的尋優過程可以看出，線性縮減因子c影響整個迭代過程的探索和開發能力。由式(10)可知，線性縮減因子c的值整體上是從2線性減小到0，而初期c值下降過快會使蝗蟲個體陷入局部最優，后期下降過慢會導致局部探索能力不夠。因此，重新構建新函數c(t):

原始的函數c(t)與重新構建的函數c(t)的對比圖如圖2所示。

由圖2可知，重新構建的函數c(t)呈現出非線性遞減，在算法搜索前期保持較大值且下降緩慢，可增強算法全局探索的能力，在算法搜索后期具有較小值且下降迅速可以實現對某個區域的局部開發。因此，所提出的非線性縮減因子可以更加高效地平衡全局搜索以及局部探索的能力。

圖2 線性縮減因子c的變化

3.2.2 引入柯西－高斯混合變異

由式(8)可知，蝗蟲個體在尋找最優位置時，易陷入局部最優，因此在位置更新公式中引入柯西－高斯混合變異。前期成蟲進行全局尋優時，引入柯西算子[23]加大成蟲搜索步長，以更高的概率快速找到全局最優解，位置更新公式如下:

式中，Xnew(t＋1)是第i只蝗蟲在第t＋1代的位置，Xi(t)是第i只蝗蟲在第t代的位置，Xbest(t)是第t代最優位置，Xk(t)是第t代的隨機位置，Cauchy是柯西算子。

后期幼蟲局部開發時引入高斯算子[24]，如圖3，加強局部搜索能力，提高收斂速度，位置更新公式如下:

圖3 柯西－高斯分布概率密度函數

從圖3可知，柯西分布兩端較長的尾巴可使個體具有更高的概率尋找到全局最優，而高斯分布的中間部分較高，形成的隨機數大都集中在較低的數值，所以具有較強的局部開發能力。

判斷算法進行前期成蟲全局尋優還是后期幼蟲局部開發是由蝗蟲個體的適應度變化率η決定的，當η連續n代小于某一閾值τ時，則說明算法進入后期的幼蟲開發。η公式如下:

式中，fit(x)為蝗蟲最優個體的適應度值。

適當的閾值τ很重要，文獻[25]表明，當τ＝0.001時，能夠有效地判斷算法是否進入了后期。

3.2.3 引入最優鄰域擾動策略

蝗蟲個體在更新位置時，依賴于每次迭代后的位置，未對目標位置主動地做出擾動更新，導致搜尋時間緩慢，因此，引入最優鄰域擾動策略，圍繞最優位置進行隨機搜索，公式如下:

式中，r1、r2為[0，1]之間均勻產生的隨機數。

對于主動擾動生成的新位置，不一定是優于原位置，因此采用貪婪機制判斷是否保留新位置:

如果主動生成的位置比原位置好，則更新位置，使其成為全局最優。反之，最優位置保持不變。

綜上，改進的蝗蟲算法流程圖如圖4所示。

圖4 改進的蝗蟲優化算法流程圖

3.3 算法性能測試

為驗證上述改進蝗蟲優化算法IGOA的有效性，選取Ackely和Griewangk兩個測試函數對其進行性能測試，并與傳統GOA和PSO進行比較分析。

Ackely函數在最小值周圍也存在很多局部極小值，如圖5所示。

圖5 測試函數f1

函數表達式如下:

式中，x屬于－30到30，定義域內最小值為0。

Griewangk函數的局部極小值呈現有規律的分布，如圖6所示，表達式如下:

圖6 測試函數f2

式中，x屬于－600到600，定義域內最小值為0。

利用MATLAB2020b分別對測試函數進行尋優測試，設置最大迭代次數Tmax＝300，維數d＝3，測試結果如圖7、圖8。

圖7 GOA，IGOA，PSO對函數f1(x)的尋優過程

圖8 GOA，IGOA，PSO對函數f2(x)的尋優過程

由圖7、圖8可以看出，在Ackely測試函數中，三種優化算法最終都逐漸收斂。PSO的收斂速度慢于GOA和IGOA，其中，IGOA在迭代19次時就達到最優適應度值。在Griewangk測試函數中，IGOA陷入局部最優的次數比GOA和PSO少很多，且是最快達到收斂，說明IGOA在全局尋優能力和收斂速度上均優于傳統GOA。

3.4 IGOA-LSTM的瓦斯濃度預測模型

基于IGOA-LSTM多參數瓦斯濃度預測模型建立過程如圖9所示:

圖9 基于IGOA-LSTM網絡預測模型

Step 1 將監測到的瓦斯多參數時間序列進行預處理，再對樣本數據集按8∶2的比例劃分測試集與訓練集。

Step 2 設置最大迭代次數Tmax與種群規模N，設置LSTM的三個超參數(第一個隱藏層LSTM單元的個數m1、第二個隱藏層LSTM單元的個數m2，學習率Ir)的取值范圍，隨機初始化種群。

Step 3 構建LSTM網絡模型，將蝗蟲位置映射為解，蝗蟲個體的適應度值映射為平均絕對百分比誤差。

Step 4 根據式(11)更新線性縮減因子c的值，根據式(12)～式(16)更新蝗蟲的位置，作為其最優值記錄下來。

Step 5 判斷蝗蟲個體是否達到最大迭代次數，若滿足條件，則將最優超參數賦予LSTM，否則返回Step 3。

Step 6 根據IGOA優化之后的最優超參數構建IGOA-LSTM預測模型，輸出瓦斯濃度預測值。

3.5 模型評價標準

采用平均絕對百分比誤差(MAPE)和均方根誤差(RMSE)作為預測性能評價指標，公式如下:

式中，n為預測樣本點數，Xa和Xp分別為i時刻的瓦斯濃度真實值和預測值。

4 實例分析

樣本數據為某煤礦2019年2月15日至17日，每隔2 min采集一次，共2 000條生產監測數據，包含8個變量:工作面瓦斯濃度/%(X1)、上隅角瓦斯濃度/%(X2)、回風流瓦斯濃度/%(X3)、抽采濃度/%(X4)、累計抽采日流量/m3/min(X5)、工作面風量/m3/min(X6)、溫度/℃(X7)、抽采負壓/Kpa(X8)。部分數據如表1所示。編程語言為MATLAB2020b，處理器為Intel CORE i5，運行內存12G。

表1 瓦斯濃度及影響因素數據(部分)

4.1 數據預處理

4.1.1 多參數時間序列的相關性分析

對瓦斯多參數時間序列進行Pearson相關性分析，結果如表2所示。

表2 工作面瓦斯濃度與其影響因素的Pearson分析結果

由相關性分析可知，可選取關聯度高的上隅角瓦斯濃度、回風巷瓦斯濃度、抽采濃度、溫度、工作面風量5個變量作為LSTM的輸入特征，實現多參數融合的瓦斯濃度預測。

4.1.2 小波閾值降噪

對多參數時間序列進行去噪處理，以瓦斯濃度為例，選取db4小波進行3層分解，結果如圖10所示。從二維時頻平面可以看到非平穩時間序列的時頻聯合特征，頻率在0.5×104Hz～3×104Hz的部分，噪聲已經被去除了大部分。

圖10 小波降噪前后時頻圖對比圖

4.2 IGOA-LSTM網絡模型的訓練及超參數的優化結果

GOA-LSTM、IGOA-LSTM兩種網絡模型的輸入層個數為6，隱藏層個數為2，輸出層個數為1，種群規模設置為20，最大迭代次數設置為100，m1、m2的搜索范圍設置為[0，100]，Ir的搜索范圍設置為[0.001，0.01]；同時利用訓練集樣本構建LSTM網絡模型，經多次實驗，設置LSTM的m1＝25，m2＝10，Ir＝0.001。尋優過程中GOA算法與IGOA算法的蝗蟲個體適應度變化過程如圖11所示。

圖11 適應度變化曲線對比圖

由圖11可知，IGOA找到最優解的過程優于GOA，且適應度值更小，說明IGOA比GOA具有更強的跳出局部最優的能力和更快的收斂速度，即具有更高的尋優性能。

GOA算法最終尋找到的最優LSTM的模型參數為m1＝45，m2＝75，Ir＝2.206×10－3。IGOA算法最終尋找到的最優LSTM的模型參數為m1＝10，m2＝10，Ir＝1.813×10－3。

4.3 預測結果分析

4.3.1 小波降噪前后預測結果對比分析

為分析小波降噪對瓦斯濃度預測精度的影響，將降噪前后的2000組數據按8∶2劃分訓練集與測試集，分別用LSTM預測進行對比實驗，結果如圖12和表3所示。

表3 降噪前后預測誤差

圖12 數據降噪前后預測結果

由圖12和表3可以看出降噪后的預測值更貼近真實值，RMSE和MAPE指標的值分別下降了26.64%、34.90%。由于瓦斯濃度數據存在噪聲，直接預測會導致擬合效果較差，而小波去噪可以濾除高頻部分，從而使預測精度有所提升。

4.3.2 單一瓦斯預測與多參數瓦斯預測結果對比分析

為體現多參數融合瓦斯濃度預測的優勢，采用LSTM模型進行單一瓦斯濃度預測與多參數瓦斯濃度預測的對比實驗，設置迭代次數為50，結果如表4所示。由于多參數融合的瓦斯濃度預測結合了上隅角瓦斯濃度、抽采濃度等五個因素，測試過程所消耗的時間比單一因素瓦斯預測要多；同時觀察預測誤差值可知，多參數融合的瓦斯濃度預測精度更高，驗證了多參數瓦斯濃度預測方法的有效性。

表4 單一瓦斯預測與多參數瓦斯預測結果

4.3.3 不同預測模型對比分析

為驗證本文所提模型能夠有效提高多參數瓦斯濃度的預測精度，將IGOA-LSTM模型與下列幾種模型進行對比:BP、LSTM、PSO-LSTM、GOA-LSTM。其中，BP網絡的最大迭代次數設置為100，學習率設置為0.0001，動量因子設置為0.1；PSO-LSTM模型中，最大迭代次數設置為100，種群數量設置為20，動量因子c1、c2均設置為1.49。實驗結果如圖13和表5所示。

表5 不同模型預測誤差對比

圖13 瓦斯濃度預測曲線與實際曲線對比圖

從結果分析可知，IGOA-LSTM模型預測誤差均低于其他4種模型，瓦斯濃度的預測誤差MAPE僅為0.531%。其中BP模型結構相對簡單，在面對長時間序列時表現不佳，預測誤差最大，MAPE指標比本文模型高出3倍；PSO-LSTM模型和GOA-LSTM模型因為有PSO和GOA算法的參數尋優，使得MAPE指標分別比LSTM降低了15.86%、33.18%。IGOA-LSTM模型MAPE指標和RESE指標的值分別為0.531%和2.48×10－3，均低于其他對比模型，說明預測精度最高，驗證了將IGOA-LSTM模型用于提高瓦斯濃度預測精度的有效性。

5 結論

本文結合瓦斯濃度監測監控系統的快速發展，對于瓦斯濃度預測精度逐漸提高的要求，提出一種基于IGOA-LSTM多參數瓦斯濃度預測模型，來探究斯濃度的變化規律。經實驗驗證，可得到如下結論:

①瓦斯監測數據的預處理可以降低模型的復雜程度和規模，多參數的瓦斯濃度預測模型比單一因素的預測具有更高的預測精度。

②在傳統GOA算法中，通過重構線性縮減因子c、引入柯西－高斯混合變異和最優鄰域擾動策略，可以克服GOA算法易陷入局部最優的缺陷，亦可以提高其收斂速度。

③改進的IGOA算法對LSTM相關超參數尋優可以解決依靠主觀經驗選取而導致擬合能力不夠的問題，同時，IGOA-LSTM模型相比于其他模型擁有更高的預測能力，可以提高瓦斯濃度預測的精準度。

④在智慧礦山快速發展的時代下，可將預測模型采用分布式訓練，提高該方法在大數據下的訓練效率及數據處理能力。