基于改進門控循環神經網絡的采煤機滾筒調高量預測

齊愛玲， 王雨， 馬宏偉

（1.西安科技大學 計算機科學與技術學院，陜西 西安 710054；2.西安科技大學 機械工程學院，陜西 西安 710054）

0 引言

無人化智能開采是煤礦智能化建設的中心目標[1]。當前煤礦智能化建設過程中，綜采工作面的智能化水平制約著煤礦智能化向更高水平發展[2]。作為綜采工作面的核心設備之一，采煤機的截割精度直接關系到采煤的質量和效率。隨著開采工作向著少人化、無人化的目標邁進，采煤機滾筒自動調高技術成為亟需攻克的技術難題。采煤機滾筒自動調高是指根據截割作業中工作面工況的變化自動對截割滾筒高度進行調整，以避免截割頂底板巖石。

截割軌跡與煤巖邊界線的擬合程度對于截割精度具有關鍵性影響[3]，因此煤巖界面的精準識別可作為采煤機滾筒自動調高的依據。針對煤巖界面識別問題，學者們提出了基于反射光譜[4]、紅外成像[5]等的直接識別方法，但由于井下環境復雜惡劣，這些方法無法實現常態化精準應用[6-8]。為解決這些問題，間接感知煤巖界面的記憶截割技術被提出。傳統的記憶截割技術將重復再現目標軌跡作為控制目標，不考慮軌跡本身的合理程度，雖然提高了采煤機的自動化程度，但是對于頂板起伏差異較大的煤層，仍需要人工調整截割路徑[9]。為減少人工干預頻率，田立勇等[10]提出了一種基于灰色預測理論的采煤機截割路徑規劃方法，提高了采煤機滾筒適應煤層的能力。王廷棟[11]提出一種基于遺傳算法的采煤機截割路徑優化方法，使截割過程更加平穩。基于修正策略的截割軌跡預測方法雖然在一定程度上提高了截割精度，但是當前狀態參數傳遞及計算需要時間，并且特征參數容易冗余，容易導致采煤機無法及時調整姿態并快速適應煤層變化，不可避免會截割到巖石。這些缺陷促使采煤機自適應截割技術從識別走向預測，最好在當前位置獲知下一段煤層邊界狀況。

近年來人工智能等前沿技術被應用到采煤機截割軌跡預測中，支持向量機、神經網絡等智能技術可自動從具有多特征參數的軌跡數據中學習到復雜的特征表示，捕捉軌跡數據中的時序信息、空間關系及其他相關特征，從而提高截割軌跡預測的準確性和魯棒性[12-14]。煤層作為空間分布的一種層狀地質實體，有較強的全局規律性。綜采工作面動態生產時的采煤機歷史截割軌跡數據可反映煤層分布形態隨煤層空間幾何形態變化而不斷變化的趨勢，這些數據實質上是時間序列數據[15]，并且具有較強的波動性和非線性。為進一步提高預測效率及精度，研究人員嘗試使用時間序列預測技術提取截割軌跡中所隱含的特征信息，采用長短時記憶（Long Short-term Memory，LSTM）神經網絡構建采煤機截割軌跡預測模型，取得了較好的效果，但仍存在輸入參數過多、計算成本增加等問題[16-18]。

在實際采煤過程中，煤層起伏不定，需要進行迭代式預測，為保證誤差不會逐級累計，對預測模型的實時性提出了較高要求。因此，本文提出一種用因果卷積改進的門控循環神經網絡（Causal Convolution Gated Recurrent Unit， CC-GRU），并基于CC-GRU實現采煤機滾筒調高量預測。首先，采用滑動窗口方法將輸入數據劃分為連續、大小可調的子序列，同時處理橫向、縱向的特征信息；其次，構造CC-GRU預測模型，對輸入數據進行雙重特征提取和雙重數據過濾，其中因果卷積模塊使用卷積核獲取輸入特征圖的局部特征表示，以減少計算冗余，門控循環神經網絡（Gated Recurrent Unit，GRU）處理迭代序列數據，以發揮其捕捉長期依賴關系的能力；最后，通過全連接層輸出最終預測結果。

1 采煤機滾筒調高量預測方法

1.1 模型選擇

采煤機滾筒調高量預測可定義為一個多元時間序列預測問題。多元時間序列數據具有高維度和復雜性，單一模型無法捕捉到數據中的所有復雜結構和關系，會導致模型在預測未來時間序列數據時精度不足，所以需將多個模型融合或多個結構層疊加來克服這一缺陷。因此，本文采用因果卷積疊加遞歸神經網絡結構的方式進行特征提取，盡可能地讓模型挖掘到數據的多形態、多狀態特征。

傳統預測方法忽略了采煤機截割軌跡數據的時序性，不能根據數據的差異性為不同時刻的數據賦予相應權重。遞歸神經網絡由于本身結構與時間序列數據特性的契合性，將其用于搭建預測模型可大幅提高預測精度，但所需參數較多，預測效率低。因果卷積捕捉序列數據的依賴關系，采用并行計算方式同時處理多個時間步的信息，解決了遞歸神經網絡逐個時間步順序處理的低效問題。

本文融合時域卷積網絡（Temporal Convolutional Network，TCN）及GRU構建CC-GRU預測模型。通過一維因果卷積對歷史數據提取局部時序特征，GRU利用門控機制對卷積得到的特征進行序列化建模，捕捉元素之間的長期依賴關系。與單一模型相比，CC-GRU預測模型減少了過擬合的風險，提高了模型的泛化能力，使預測結果更加穩定可靠。

1.2 預測流程

基于CC-GRU的采煤機滾筒調高量預測流程如圖1所示。首先，獲取原始采高數據，對數據進行歸一化處理，然后采用滑動窗口方法劃分數據，構建輸入數據樣本。然后， 將樣本劃分為訓練集和測試集，訓練集數據用于訓練CC-GRU預測模型學習時序特征，測試集數據用于測試最終訓練完成的模型性能。最后，輸出模型預測結果，并進行反歸一化處理，得到真實的預測結果。

圖1 基于CC-GRU的采煤機滾筒調高量預測流程Fig.1 Prediction process of height adjustment of shearer drum based on causal convolution gated recurrent unit （CC-GRU）

2 CC-GRU預測模型

CC-GRU預測模型結構如圖2所示。通過一維因果卷積層有效提取序列數據中的局部關聯特征，并將特征映射到多維度特征向量。通過多層門控機制對特征序列進行更精細的特征提取，捕獲全局長期依賴關系。經過因果卷積層第1次特征過濾后，數據雜質顯著減少，為后續特征提取和數據過濾提供了有利條件。使用GRU層對剩余特征進行選擇性保留，完成第2次特征過濾。CC-GRU的雙層結構實現了多次特征提取和多次數據雜質過濾，有效提升了網絡性能。

圖2 CC-GRU預測模型結構Fig.2 Structure of CC-GRU prediction model

2.1 輸入層

影響當前采樣點采高的因素除不同刀同位置采樣點的高度數據外，還有鄰近采樣點的高度數據。如果將所有數據無差別地輸入到單個模型中進行訓練，不能有效提取出截割軌跡縱向的時間特征及橫向相鄰數據之間的相關特征，因此，采用滑動窗口方法進行預處理。使用固定大小的滑動窗口沿著時間序列滑動，截取歷史數據。對原始數據進行預處理后，得到輸入樣本：

式中：Xi(i=1,2,···,T)為采煤機進行第i刀截割時的高度序列；T為輸入序列中的截割總刀數；xij為第i刀的第j個采樣點的高度；s為1刀的總采樣點數。

2.2 因果卷積層

2018年，Bai Shaojie等[19]提出一種用于分析時間序列數據的神經網絡——TCN。TCN通過擴展因果卷積和殘差模塊并行處理輸入序列，不僅避免了梯度爆炸和梯度消失等現象，提高了模型訓練速度，而且有效抑制了循環神經網絡中的誤差累計問題，在時間序列數據預測任務中表現出良好性能。TCN由多個殘差模塊組成，殘差模塊中最為重要的擴張因果卷積結構如圖3所示。

圖3 擴張因果卷積結構Fig.3 Causal dilated convolutional structure

對于輸入時間序列X，通過因果卷積進行特征提取，即滑動卷積核F=(f1,f2,···,fK)（fk為位置k處的權重，k=1,2,···,K，K為卷積核尺寸）分別與輸入序列的不同部分進行卷積運算，得到的卷積值為

式中：d為擴張因子，當d=1時，對輸入數據進行常規因果卷積運算，當d≠1時，對輸入數據進行擴張因果卷積運算。

為更好地捕捉序列中的長期依賴關系，在卷積層后添加殘差連接：

式中?(·)為ReLU 激活函數。

殘差連接將輸入序列的信息直接傳遞到卷積層的輸出中，能幫助網絡更好地學習并保留輸入序列的重要特征，同時，使用非線性激活函數可增強模型的非線性建模能力。

2.3 GRU層

2014年，K.Cho等[20]提出更易于計算的GRU。與LSTM相比，GRU需要的訓練參數更少，收斂速度更快，并且可在時間序列數據有限的情況下降低模型過度擬合的風險[21]。GRU單元主要由重置門和更新門組成，結構如圖4所示。重置門決定前一時刻與當前時刻輸入的結合程度，更新門決定前一時刻狀態信息在當前時刻中的保留程度。將作為GRU神經網絡的輸入，GRU單元第t個時間步的輸入為，輸出為ht。

圖4 GRU結構Fig.4 Structure of gated recurrent unit

首先，將當前時刻輸入與前一時刻隱藏狀態ht-1的拼接矩陣輸入到GRU單元中，得到t時刻重置門門控狀態rt及更新門門控狀態ut：

式中：σ(·)為Sigmoid激活函數；Wr，Wu分別為重置門與更新門的權值矩陣； []為向量拼接操作符號；br，bu分別為重置門與更新門的偏置向量；p為激活函數自變量。

然后，重置門可對ht-1選擇性地重置，決定上一時刻信息的保留程度。將ht-1經過重置門處理后與相加，并應用tanh激活函數得到當前時刻候選狀態：

式中：?(·)為tanh激活函數；Wh為候選狀態的權值矩陣；⊙為逐元素乘法符號；bh為對應的偏置向量。

最后，GRU單元結合ut和處理當前時刻信息，結合I-ut（I為單位矩陣）和ht-1處理歷史時刻信息，兩者相加得到當前時刻GRU單元的輸出：

GRU能夠有效捕獲長期序列中的關鍵信息。在每個時刻，GRU都能夠動態保留和更新相關信息，并傳遞到網絡的下一個時間步，直到模型處理完整個序列。最后一個時間步的隱藏狀態hT會作為輸入傳遞給全連接層，通過線性映射產生最終預測結果。

3 實驗準備與評價指標

3.1 實驗環境

實驗使用的硬件配置為Intel（R） Core（TM） i5-8265U CPU @ 1.80 GHz，運行內存為8 GiB。實驗過程基于深度學習Pytorch框架，使用的編程語言為Python。

3.2 實驗數據及預處理

為驗證CC-GRU預測模型的有效性，選用實際截割數據進行實驗。本文所使用的數據是某礦采煤機實際截割過程中記錄的數據，即采煤機多次截割過程中在各采樣點的前滾筒高度。采樣間隔為3 m，采煤機截深為0.8 m，每一次走刀包含40個采樣點。由于已知數據較少，采用克里金插值算法對實際數據進行插值，得到的插值曲面如圖5所示。

圖5 插值曲面Fig.5 Interpolation surface

由于原始采高數據中存在噪聲，且不同截割循環采高數據沒有統一標準，所以在進行采高預測前需要對原始數據進行數據預處理，以提高數據的質量和可靠性。數據的預處理主要包括數據標準化、基于滑動窗口構造樣本數據2個部分。

3.2.1 數據標準化

為消除特征間單元差異和尺度差異的影響，需對采煤機采高數據進行歸一化處理，使采高數據限定在[0，1]區間。本文采用min-max歸一法進行采高數據歸一化，歸一化公式為

式中：z*為歸一化后的數據；z為歸一化前某刀某采樣點的截割滾筒高度；zmin為訓練集中最小采高；zmax為訓練集中最大采高。

為評估模型性能，需對模型輸出的預測結果進行反歸一化處理，即將預測值還原到原始數據的尺度上，以計算真實誤差。反歸一化公式為

式中y*為反歸一化后的數據；y為模型直接輸出的預測值。

3.2.2 滑動窗口

在實際生產中，采煤機需要在工作面進行循環截割，且每刀截割的相隔時間一般較短。為了保證采煤機工作的實時性，預測模型需對截割軌跡進行連續預測。因此，選擇在預測前根據滾動方式構造多元樣本數據。

在原始高度序列數據H={H1,H2,···,HT}中，Hi為第i刀40個采樣點的截割滾筒高度數據。設置滑動窗口大小為m，將Hi作為目標輸出，前m刀數據{Hi-m,Hi-m+1,···,Hi-1}作為輸入，以此構建1個樣本，而后將窗口后移，即將樣本輸入中的第1個向量Hi-m剔除，加入第i刀數據Hi，則輸入為{Hi-m+1,Hi-m+2,···,Hi}，輸出為第i+1刀數據Hi+1，構建1個新的樣本，依此類推，構建所需樣本集合。每組樣本中包含m刀輸入數據及對應的1刀輸出數據。所構建的樣本形式為

3.3 實驗評價指標

為準確評估模型的預測效果，采用平均絕對誤差（Mean Absolute Error，MAE）、平均絕對百分比誤差（Mean Absolute Percentage Error，MAPE）、均方根誤差（Root Mean Squared Error，RMSE）、決定系數R2作為評價指標，其計算公式分別為

式中：n為測試樣本數；yj為第j個樣本的實際值；為第j個樣本的預測值；為樣本實際值的平均值。

4 實驗結果及分析

4.1 參數對比實驗

CC-GRU涉及的超參數主要包括網絡層數、隱層節點數等，不同的超參數對于訓練效果有較大影響。依據經驗將隱層節點數的搜索范圍限制為[16，64]。首先通過對比實驗確定CC-GRU的網絡層數及隱層節點數。設定模型迭代次數均為50，在相同訓練數據集下選取3個指標值為對照標準。不同參數下CC-GRU模型的預測結果見表1。

表1 不同參數下CC-GRU模型的預測結果Table 1 Prediction results of CC-GRU model under different parameters

由表1可知，在網絡層數為2且每個隱層節點數為32時，模型各項評價指標值均相對較低，MAE為43.80 mm，MAPE為1.90%，RMSE為50.35 mm，R2為0.65，表明該模型預測效果最佳。從整體趨勢來看，隨著各隱層節點數的增加，預測誤差呈現先增后減的趨勢。這是由于網絡結構過于簡單時可能導致欠擬合，而過于復雜時又會出現過擬合問題。并且，如果各隱層節點數相同，網絡層數增加反而會降低模型性能。

不同參數下CC-GRU模型的預測結果對比如圖6所示。可看出，隱層節點數為（32，32）（第1層、第2層節點數均為32）時，全局差異波動較小，預測值更符合實際滾筒調高量變化趨勢。

圖6 不同參數下CC-GRU模型的預測結果對比Fig.6 Comparison of prediction results of CC-GRU model under different parameters

4.2 模型對比實驗

為對比CC-GRU模型與其他模型的性能差別，設置以下實驗：在相同實驗條件下，設置滑動窗口大小為4，采用LSTM，GRU，TCN，CC-GRU在同一數據集下對滾筒調高量進行預測。不同模型預測結果對比如圖7所示。由圖7可知：TCN模型的預測效果最差，所得預測值均低于實際值；GRU及LSTM模型效果次之，在采樣點為[20，30]的折線中可看出明顯偏差；CC-GRU模型預測結果最接近實際值，更符合變化趨勢。

圖7 不同模型預測結果對比Fig.7 Comparison of prediction results of different models

不同模型的評價指標見表2。分析表2可知，與其他模型相比，CC-GRU模型預測效果最佳，誤差較小且決定系數較高。CC-GRU模型相較于LSTM模型，MAE降低了14.1%，MAPE降低了13.9%，RMSE降低了21.1%，決定系數提高了78.9%；相較于GRU模型，MAE降低了9.2%，MAPE降低了9.4%，RMSE降低了15.5%，決定系數提高了69.3%；相較于TCN模型，MAE降低了28.5%，MAPE降低了28%，RMSE降低了24.2%，決定系數提高了99.6%。這表明CC-GRU模型具有較強的魯棒性，泛化性能較好。

評價指標對比如圖8所示。可看出，TCN模型的MAE較LSTM，GRU模型明顯增大，說明循環神經網絡更能關注到序列的關鍵特征信息；CC-GRU模型的決定系數最高，說明CC-GRU模型的擬合能力較強，能夠很好地解釋變化趨勢。

圖8 評價指標對比Fig.8 Comparison of evaluation indicators

不同模型預測時間對比見表3。由表3可知，與其他模型相比，CC-GRU模型的預測速度較快，每次預測時間僅為0.17 s，可滿足采煤機實際工作需求。相較于LSTM，GRU模型，其訓練時間分別減少了82.2%，80.5%；相較于TCN模型，其訓練時間增加了103.3%，但預測精度取得了較大提升。

表3 不同模型預測時間對比Table 3 Comparison of prediction time of different models

TCN模型可快速處理多個時間步的信息，但在每個時間步上只在局部區域內提取特征，對于具有復雜長期依賴關系的序列，無法捕捉到所有的相關信息；循環神經網絡相比TCN網絡結構更為復雜，更適于處理長序列依賴關系，其中GRU比LSTM所需要的參數更少，但訓練階段計算復雜度過高，時間成本增加；具有雙層結構的CC-GRU模型既關注序列中的局部特征，又可捕捉序列的長期依賴關系，在計算效率和性能之間取得了平衡。

實驗結果表明，CC-GRU模型可更好地提取學習滾筒高度的非線性變化特征，能夠精準、快速進行預測，并取得良好的預測效果。

5 結論

1） 提出了一種基于CC-GRU的采煤機滾筒調高量預測方法。通過因果卷積提前聚焦序列的局部時序特征，并行處理輸入序列，輸出特征向量，并將其輸入到多層GRU中對非線性和非平穩數據進行擬合。通過CC-GRU的雙層結構實現了雙重特征提取和雙重數據雜質過濾，在保證精度的同時，滿足了實時性要求。

2） 使用真實數據對采煤機滾筒調高量進行預測，CC-GRU預測模型的MAE為43.80 mm，MAPE為1.90%，RMSE為50.35 mm，決定系數為0.65，預測時間僅為0.17 s。實驗結果表明，該模型可快速、有效預測滾筒調高量。

3） 與LSTM模型、GRU模型、TCN模型進行對比實驗，結果表明，CC-GRU預測模型的MAE，MAPE，RMSE均低于其他模型，決定系數更高，預測時間更短，表明CC-GRU預測模型具有較高的可靠性，能夠在采煤機滾筒調高量預測中提供更為準確的結果。