基于時間序列對齊和TCNformer 的重介精煤灰分多步預(yù)測

摘要：由于在重介分選過程中各個傳感器位置不同，導(dǎo)致重介分選主要工藝參數(shù)與灰分存在時間滯后，影響了精煤灰分結(jié)果。基于回歸模型的灰分預(yù)測方法缺乏對時間序列信息的利用，無法捕捉重介生產(chǎn)過程隨時間變化的動態(tài)特性；基于時間序列的灰分預(yù)測方法未能充分考慮灰分和重介分選主要工藝參數(shù)之間的時間依賴關(guān)系。針對上述問題，提出了一種基于時間序列對齊和TCNformer 的重介精煤灰分多步預(yù)測方法。通過滯后相關(guān)性分析來量化灰分與重介分選主要工藝參數(shù)之間的滯后步長，依此對重介分選主要工藝參數(shù)在時間維度上進(jìn)行移動，使得灰分和重介分選主要工藝參數(shù)時間序列對齊，消除灰分和重介分選主要工藝參數(shù)之間的時間滯后。在Transformer 模型的基礎(chǔ)上，引入時間卷積網(wǎng)絡(luò)（TCN）提取特征，并將單向編碼器擴(kuò)展為雙向編碼器，構(gòu)建了TCNformer 模型來實現(xiàn)精煤灰分多步預(yù)測。將時間序列對齊得到的與未來時刻灰分?jǐn)?shù)據(jù)對應(yīng)的過程變量序列作為解碼器的輸入，以提升模型預(yù)測精度。實驗結(jié)果表明：該方法的平均絕對誤差為0.157 9%，均方根誤差為0.215 2%，平均皮爾遜相關(guān)系數(shù)為0.505 1，能有效提升精煤灰分預(yù)測精度。

關(guān)鍵詞：重介分選；精煤灰分預(yù)測；滯后相關(guān)性；時間序列；TCNformer；雙向編碼器

中圖分類號：TD94 文獻(xiàn)標(biāo)志碼：A

0 引言

重介質(zhì)旋流器分選是一種廣泛應(yīng)用的煤炭加工方法[1]。在現(xiàn)有的重介控制過程中，通常基于實時灰分進(jìn)行懸浮液密度調(diào)整，這種方式使得在原煤發(fā)生變化的情況下，灰分偏離目標(biāo)值的時間較長，導(dǎo)致精煤合格率較低。因此需要對重介精煤灰分進(jìn)行預(yù)測，從而提前調(diào)整懸浮液密度，來降低灰分偏離目標(biāo)值造成的經(jīng)濟(jì)損失。

目前重介精煤灰分預(yù)測方法主要分為基于回歸模型的預(yù)測方法和基于時間序列模型的預(yù)測方法。在基于回歸模型的預(yù)測方法方面：文獻(xiàn)[2]采用多元線性回歸法建立了精煤灰分預(yù)測模型；文獻(xiàn)[3]采用BP 神經(jīng)網(wǎng)絡(luò)，選擇原煤給煤量、原煤灰分和懸浮液密度作為輸入，精煤灰分作為輸出進(jìn)行建模；文獻(xiàn)[4]采用輕量梯度提升機（Light Gradient BoostingMachine，LightGBM）算法，以原煤給煤量、混料桶液位和懸浮液密度作為輸入，精煤灰分作為輸出進(jìn)行建模； 文獻(xiàn)[5]采用經(jīng)驗?zāi)B(tài)分解（Empirical ModeDecomposition， EMD） 和隨機森林（Random Forest，RF）算法，并使用懸浮液密度、磁性物含量預(yù)測精煤灰分。基于回歸模型的預(yù)測方法利用一個時刻輸入變量來預(yù)測其對應(yīng)的的精煤灰分，缺乏對時間序列信息的利用，無法捕捉重介生產(chǎn)過程隨時間變化的動態(tài)特性。在基于時間序列模型的預(yù)測方法方面：文獻(xiàn)[6]采用EMD 將精煤灰分序列分解為不同的本征模函數(shù)（Intrinsic Mode Function， IMF） ，然后對各個IMF 分別建模進(jìn)行單步預(yù)測，求和后得到灰分預(yù)測值；文獻(xiàn)[7]采用堆疊自編碼器和雙向長短期記憶（Long Short-Term Memory， LSTM）網(wǎng)絡(luò)對重介選煤過程的有標(biāo)簽和無標(biāo)簽數(shù)據(jù)進(jìn)行建模，然后對精煤灰分進(jìn)行單步預(yù)測；文獻(xiàn)[8]采用單層多單元門控循環(huán)單元（Gated Recurrent Unit，GRU）對重介精煤灰分進(jìn)行多步時間序列預(yù)測。基于時間序列模型的預(yù)測方法利用過去多個時刻的輸入變量預(yù)測未來一個時刻或多個時刻的精煤灰分，但僅限于基本的時間序列模型應(yīng)用，未能充分考慮灰分和重要工藝參數(shù)之間的時間依賴關(guān)系。

本文提出了一種基于時間序列對齊和TCNformer的重介精煤灰分多步預(yù)測方法。通過滯后相關(guān)性分析來量化灰分和重要工藝參數(shù)之間的滯后步長，并通過時間序列對齊來消除不同變量之間的時間滯后[9-12]；借鑒近年來廣泛應(yīng)用于時間序列預(yù)測領(lǐng)域的基于編碼器?解碼器架構(gòu)的Transformer 模型[13-15]，引入時間卷積網(wǎng)絡(luò)（Temporal Convolutional Networks，TCN）[16-18]提取特征，并將原有的單向編碼器擴(kuò)展為雙向編碼器，從而構(gòu)建TCNformer 模型；將時間序列對齊后得到的與未來時刻灰分?jǐn)?shù)據(jù)對應(yīng)的過程變量序列作為解碼器輸入，實現(xiàn)精煤灰分多步精確預(yù)測。

1 方法原理

本文以華北某選煤廠為背景，該選煤廠的重介分選采用兩段兩產(chǎn)品重介旋流器主再選工藝，具體流程如圖1 所示。通過各種傳感器得到的主要工藝參數(shù)見表1。為了區(qū)分各變量的類型，本文將與精煤生產(chǎn)過程有關(guān)的懸浮液密度、合格介質(zhì)桶液位等重要工藝參數(shù)統(tǒng)稱為過程變量，將直接從精煤中測得的元素含量和精煤指標(biāo)等統(tǒng)稱為指標(biāo)變量。

1.1 時間序列對齊

在重介選煤過程中，懸浮液密度等重介分選主要工藝參數(shù)的變化直接影響最終的精煤灰分結(jié)果。由于各個傳感器在工藝流程中的位置不同，使得灰分與重介分選主要工藝參數(shù)之間存在時間滯后，進(jìn)而導(dǎo)致直接進(jìn)行灰分預(yù)測時產(chǎn)生誤差。為解決該問題，本文通過滯后相關(guān)性分析來量化灰分和重介分選主要工藝參數(shù)之間的滯后步長，在此基礎(chǔ)上，通過對重介分選主要工藝參數(shù)在時間維度上進(jìn)行移動，使得灰分和重介分選主要工藝參數(shù)時間序列對齊，消除灰分和重介分選主要工藝參數(shù)之間的時間滯后，提高預(yù)測精度。

灰分和重介分選主要工藝參數(shù)之間的滯后相關(guān)性分析步驟如下。

1） 在重介生產(chǎn)過程中，采集重介分選主要工藝參數(shù)時間序列數(shù)據(jù)。對灰分時間序列進(jìn)行滯后處理，生成不同滯后步長的灰分時間序列。

2） 計算不同滯后步長的灰分時間序列數(shù)據(jù)與重介分選主要工藝參數(shù)時間序列數(shù)據(jù)之間的Spearman相關(guān)系數(shù)，以此確定滯后步長。

灰分和重介分選主要工藝參數(shù)之間的滯后相關(guān)性如圖2 所示（當(dāng)滯后步長為正數(shù)時，表示向后滯后；當(dāng)滯后步長為負(fù)數(shù)時，表示向前滯后）。

從圖2（a）可看出，各指標(biāo)變量和灰分之間的相關(guān)系數(shù)在灰分滯后步長為0 時取得極值，表明指標(biāo)變量和灰分之間沒有時間滯后，這是由于指標(biāo)變量均由多元素煤質(zhì)分析儀測得。從圖2（b）可看出，各過程變量和灰分之間的相關(guān)系數(shù)極值均出現(xiàn)在灰分滯后步長為負(fù)數(shù)的情況下，表明灰分滯后于各過程變量。其中，主選系統(tǒng)懸浮液密度及磁性物含量和灰分之間的相關(guān)系數(shù)在灰分滯后步長為?13 處取得極值，表明灰分滯后主選系統(tǒng)懸浮液密度及磁性物含量13 個步長；同理可得，灰分滯后主選系統(tǒng)合格介質(zhì)桶液位7 個步長，灰分滯后再選系統(tǒng)懸浮液密度和磁性物含量12 個步長。由于水分和灰分、主選系統(tǒng)重介旋流器入料壓力和灰分、再選系統(tǒng)重介旋流器入料壓力和灰分之間的相關(guān)系數(shù)極值較小（絕對值小于0.1），在后續(xù)的時間序列預(yù)測中將移除這些變量。

對重介分選主要工藝參數(shù)的時間序列進(jìn)行對齊處理：將主選系統(tǒng)懸浮液密度和磁性物含量時間序列滯后13 個步長；將主選系統(tǒng)合格介質(zhì)桶液位時間序列滯后7 個步長；將再選系統(tǒng)懸浮液密度和磁性物含量時間序列滯后12 個步長。時間序列對齊過程如圖3 所示（實心圓表示已知數(shù)據(jù)，空心圓表示未知數(shù)據(jù)）。

1.2 TCNformer 模型

在Transformer 模型的基礎(chǔ)上，構(gòu)建了TCNformer模型，結(jié)構(gòu)如圖4 所示。

為高效地對編碼器中的內(nèi)容進(jìn)行特征提取，本文將單向編碼器擴(kuò)展為雙向編碼器。前向編碼器用于沿時間軸向前提取變量特征，后向編碼器用于沿時間軸向后提取變量特征。然后，將前向編碼器和后向編碼器提取到的變量特征沿特征維度拼接，并作為鍵值對（K?V）輸入解碼器的多頭交叉注意力模塊中。

fenc = concat（efor （X1） ; eback（flip（X1）））（1）

式中：fenc 為編碼器輸出特征；concat（·）為按照特征維度拼接；efor（·） ，eback（·）分別為前向、后向編碼操作；X1 為編碼器輸入；flip（·）為按照時間維度反轉(zhuǎn)。

在解碼器中，將提取的變量特征作為查詢（Q）送入多頭交叉注意力模塊中。

fdec = d （X2; fenc） （2）

式中：fdec 為解碼器輸出特征；d（·）為解碼操作；X2 為解碼器輸入。

最終，解碼器的輸出經(jīng)過一個全連接層得到最終的預(yù)測結(jié)果。

Y =Wfdec + b （3）

式中：Y 為灰分預(yù)測值；W，b 分別為全連接層的參數(shù)矩陣和偏置向量。

TCNformer 模型采用TCN 模塊提取特征。

TCN 模塊的主要權(quán)重層為擴(kuò)張因果卷積層（DilatedCausal Convolution Layer）。因果卷積[17]在前向傳播中只依賴于當(dāng)前時間步及其之前的時間步，這保證了模型在預(yù)測時不會利用未來信息。擴(kuò)張卷積[18]通過在卷積核中引入擴(kuò)張因子，使得卷積核可以覆蓋更大的時間范圍。TCN 模塊的感受野為

式中：k 為卷積核大小；Nstack 為堆疊的TCN 模塊數(shù)量；Di為第i 層卷積的擴(kuò)張系數(shù)。

1.3 模型輸入和輸出

由于時間序列對齊只對過程變量進(jìn)行了對齊操作，所以只有過程變量可以與未來時刻灰分形成一一對應(yīng)關(guān)系。時間序列對齊操作導(dǎo)致過去時刻的過程變量序列在時間維度上被分為了2 個部分，其中一部分為與未來時刻灰分?jǐn)?shù)據(jù)對應(yīng)的過程變量序列，即圖3（b）中的X2，將其作為解碼器的輸入，另一部分為與過去時刻灰分?jǐn)?shù)據(jù)對應(yīng)的過程變量序列。由于過去時刻指標(biāo)變量序列是已知的，所以將過去時刻指標(biāo)變量序列和與過去時刻灰分對應(yīng)的過程變量序列進(jìn)行拼接，形成圖3（b）中的X1，將其作為編碼器的輸入。未來時刻灰分?jǐn)?shù)據(jù)即圖3（b）中的Y，將其作為解碼器的輸出。

在多步時間序列預(yù)測中，需要確定輸入序列長度和預(yù)測序列長度。本文中，輸入序列長度指編碼器輸入的X1 長度，預(yù)測序列長度指解碼器輸出的Y 長度。由于解碼器輸出序列長度等于其輸入序列長度，所以Y 長度等于X2 長度。

X1 長度主要通過分析灰分和重介分選主要工藝參數(shù)之間的相關(guān)系數(shù)隨灰分滯后步長變化情況來確定。對于指標(biāo)變量，當(dāng)灰分滯后步長小于?7 時，各指標(biāo)變量和灰分之間的相關(guān)系數(shù)均小于0.2；對于過程變量，當(dāng)在灰分與過程變量之間的滯后步長基礎(chǔ)上額外減少7 個灰分滯后步長時，各過程變量和灰分之間的相關(guān)系數(shù)也均小于0.2。通過分析滯后步長的影響，發(fā)現(xiàn)當(dāng)滯后步長達(dá)到7 或以上時，灰分和其他變量的相關(guān)性顯著降低，因此選擇7 作為X1長度。

X2 長度是由灰分滯后各過程變量步長中的最小值決定。在滯后相關(guān)性分析中，灰分滯后主選系統(tǒng)合格介質(zhì)桶液位7 個步長，這是灰分滯后各過程變量步長中的最小值，因此選擇7 作為X2 長度。同時，這表示模型會預(yù)測未來7 步的精煤灰分。

2 實驗與結(jié)果分析

2.1 實驗設(shè)置

2.1.1 數(shù)據(jù)預(yù)處理

數(shù)據(jù)在輸入TCNformer 模型之前需進(jìn)行預(yù)處理，具體步驟如下。

1） 數(shù)據(jù)分段和異常值處理。考慮到數(shù)據(jù)包含全天的信息，其中包括非生產(chǎn)時間，導(dǎo)致數(shù)據(jù)尺度變化較大，對模型訓(xùn)練不利。因此，需要將生產(chǎn)數(shù)據(jù)和非生產(chǎn)數(shù)據(jù)分開。異常值處理包括手動選擇和刪除異常值，并采用線性插值進(jìn)行填補。

2） 數(shù)據(jù)平滑。由于所選數(shù)據(jù)的時間步長為1 min，為了降低數(shù)據(jù)中的噪聲，采用移動平均濾波器計算最近4 個時間節(jié)點上數(shù)據(jù)均值。

3） 數(shù)據(jù)分區(qū)。在數(shù)據(jù)分段過程中，共生成25 個數(shù)據(jù)段。按照時間順序?qū)?shù)據(jù)集劃分為訓(xùn)練集、驗證集和測試集。在本文中，選取前20 個數(shù)據(jù)段作為訓(xùn)練集，第21?24 個數(shù)據(jù)段作為驗證集，最后1 個數(shù)據(jù)段作為測試集。訓(xùn)練集、驗證集和測試集的比例分別為70.5%，15.6%，13.9%。

4） 數(shù)據(jù)歸一化。由于每個重介分選主要工藝參數(shù)具有不同的尺度，為加快模型收斂速度，采用最大最小值歸一化方法將所有重介分選主要工藝參數(shù)縮放到（0，1）區(qū)間。

2.1.2 評價指標(biāo)

選取平均絕對誤差（Mean Absolute Error，MAE）、均方根誤差（Root Mean Squared Error，RMSE）和平均皮爾遜相關(guān)系數(shù)r 作為評價指標(biāo)。MAE 能夠直觀地反映出預(yù)測值與實際值的偏差大小，且對異常值不敏感[19]；RMSE 能夠反映出較大誤差的影響；r 用于衡量預(yù)測值和實際值之間的相關(guān)程度。

2.1.3 實驗參數(shù)

模型訓(xùn)練過程中參數(shù)設(shè)置：批量大小為4 096；損失函數(shù)為MAE；優(yōu)化器為Adam[20]；學(xué)習(xí)率調(diào)整策略為帶重啟的余弦下降[21]。模型主要基于PyTorch 開發(fā)，測試平臺為64 位Win11 操作系統(tǒng)，搭載Intel i9?12900K CPU 和NVIDIA RTX 3090 GPU。

2.2 實驗結(jié)果

為了評估本文方法對預(yù)測效果的影響，進(jìn)行消融實驗，結(jié)果見表2。

由表2 可看出，引入TCN 模塊后，MAE，RMSE較Transformer 分別降低了10.85%，10.68%，r 增加了0.119 7，這是由于TCN 模塊更適合在較短的輸入輸出長度下進(jìn)行特征提取；擴(kuò)展雙向編碼器后，MAE，RMSE 較僅引入TCN 模塊的Transformer 分別降低了5.92%，4.99%，r 增加了0.070 6，這是由于在編碼器進(jìn)行雙向特征提取能夠更充分地利用時間信息；添加時間序列對齊操作后， MAE， RMSE 相較于TCNfomer 分別增加了3.06%，4.86%，r 降低了0.061 1，這是由于時間序列對齊使得編碼器輸入的過程變量移動，導(dǎo)致這部分過程變量信息缺失；輸入未來時刻灰分對應(yīng)過程變量數(shù)據(jù)后，MAE，RMSE 較僅進(jìn)行時間序列對齊的TCNformer 分別降低了9.93%，10.93%，r 增加了0.112 6，這是由于輸入解碼器的對齊后過程變量序列與解碼器輸出的未來時刻灰分?jǐn)?shù)據(jù)之間具有一一對應(yīng)關(guān)系，從而提高了預(yù)測精度。

3 結(jié)論

1） 通過計算不同滯后步長的灰分時間序列數(shù)據(jù)與重介分選主要工藝參數(shù)時間序列數(shù)據(jù)之間的Spearman 相關(guān)系數(shù)，確定其之間的滯后相關(guān)性，從而對重介分選主要工藝參數(shù)時間序列進(jìn)行對齊處理，消除了重介分選主要工藝參數(shù)與灰分之間的時間滯后。

2） 設(shè)計了一種TCNformer 模型用于精煤灰分多步預(yù)測。該模型在Transformer 的基礎(chǔ)上， 使用TCN 作為特征提取模塊，并通過將編碼器擴(kuò)展為雙向編碼器，實現(xiàn)了模型預(yù)測精度的提升。

3） 通過實驗驗證了提出的基于時間序列對齊和TCNformer 的重介精煤灰分多步預(yù)測方法有效提升了預(yù)測精度。

參考文獻(xiàn)（References）：

[ 1 ]王然風(fēng)，高建川，付翔. 智能化選煤廠架構(gòu)及關(guān)鍵技術(shù)[J]. 工礦自動化，2019，45（7）：28-32.

WANG Ranfeng， GAO Jianchuan， FU Xiang.Framework and key technologies of intelligent coalpreparation plant[J]. Industry and Mine Automation，2019，45（7）：28-32.

[ 2 ]張娟莉，康文澤，張相國，等. 桃山選煤廠精煤灰分預(yù)測的探討[J]. 潔凈煤技術(shù)，2007，13（4）：15-17.

ZHANG Juanli， KANG Wenze， ZHANG Xiangguo，et al. Explore of clean coal ash content predicting of Taoshan Coal Washery[J]. Clean Coal Technology，2007，13（4）：15-17.

[ 3"]孔利利. 基于精煤灰分預(yù)測的重介懸浮液密度自動設(shè)定系統(tǒng)設(shè)計[J]. 選煤技術(shù)，2015（4）：68-71.

KONG Lili. The design of dense medium suspensiondensity setting system based on clean coal ashprediction[J]. Coal Preparation Technology， 2015（4） ：68-71.

[ 4 ]張月飛，王偉，代偉. 重介分選過程產(chǎn)品指標(biāo)在線預(yù)測方法研究[J]. 煤炭工程，2021，53（增刊1）：108-111.

ZHANG Yuefei， WANG Wei， DAI Wei. On-lineprediction of product indicators in dense medium coalseparation[J]. Coal Engineering， 2021， 53（S1） ：108-111.

[ 5 ]李哲，孟巧榮，王然風(fēng)，等. 基于EMD?RF 算法的重介精煤灰分預(yù)測研究[J]. 煤炭工程， 2023， 55（10） ：174-179.

LI Zhe， MENG Qiaorong， WANG Ranfeng， et al.Predictive modeling of heavy refined coal ash based onEMD-RF algorithm[J]. Coal Engineering， 2023，55（10）：174-179.

[ 6 ]程凱，王然風(fēng)，付翔. 基于EMD?LSTM 的重介分選精煤灰分時間序列預(yù)測方法研究[J]. 煤炭工程，2022，54（2）：133-139.

CHENG Kai， WANG Ranfeng， FU Xiang. Time seriesprediction method of clean coal ash content in densemedium separation based on EMD-LSTM[J]. CoalEngineering，2022，54（2）：133-139.

[ 7 ]YIN Xianhui，NIU Zhanwen，HE Zhen，et al. Ensembledeep learning based semi-supervised soft sensormodeling method and its application on qualityprediction for coal preparation process[J]. AdvancedEngineering Informatics， 2020， 46. DOI： 10.1016/j.aei.2020.101136.

[ 8 ]ZHOU Chunxia， SUN Xiaolu， SHEN Yingsong， et al.Product quality prediction in dense medium coalpreparation process based on recurrent neuralnetwork[J]. International Journal of Coal Preparationand Utilization，2024，44（3）：291-308.

[ 9 ]付建新，曹師，宋衛(wèi)東，等. 考慮初始缺陷的超高礦柱蠕變分析及失穩(wěn)滯后時間研究[J]. 中國礦業(yè)大學(xué)學(xué)報，2017，46（2）：279-284.

FU Jianxin， CAO Shi， SONG Weidong， et al. Creepanalysis and delay time of instability of ultrahigh pillarconsidering initial imperfections[J]. Journal of ChinaUniversity of Mining amp; Technology， 2017， 46（2） ：279-284.

[10]YOU Yalei， MENG Huan， DONG Jun， et al. Time-lagcorrelation between passive microwave measurementsand surface precipitation and its impact on precipitationretrieval evaluation[J]. Geophysical Research Letters，2019，46（14）：8415-8423.

[11]EVTUSHEVSKY O M， KRAVCHENKO V O， HOODL L， et al. Teleconnection between the central tropicalPacific and the Antarctic stratosphere： spatial patternsand time lags[J]. Climate Dynamics， 2015， 44（7/8） ：1841-1855.

[12]CHEN Jing， DING Ruilian， LIU Kangkang， et al.Collaboration between meteorology and public health：predicting the dengue epidemic in Guangzhou， China，by meteorological parameters[J]. Frontiers in Cellularand Infection Microbiology， 2022， 12. DOI： 10.3389/fcimb.2022.881745.

[13]VASWANI A， SHAZEER N， PARMAR N， et al.Attention is all you need[J]. Advances in NeuralInformation Processing Systems，2017，30：5998-6008.

[14]DEVLIN J， CHANG Mingwei， LEE K， et al. BERT：pre-training of deep bidirectional transformers for language understanding[EB/OL]. [2023-08-22]. https：//arxiv.org/abs/1810.04805.

[15]DOSOVITSKIY A，BEYER L，KOLESNIKOV A，et al.An image is worth 16×16 words：transformers for imagerecognition at scale[EB/OL]. [2023-08-22]. https：//arxiv.org/abs/2010.11929.

[16]BAI Shaojie，KOLTER J Z，KOLTUN V. An empiricalevaluation of generic convolutional and recurrentnetworks for sequence modeling[EB/OL]. [2023-08-22]. https：//arxiv.org/abs/1803.01271.

[17]OORD A， DIELEMAN S， ZEN H， et al. WaveNet： agenerative model for raw audio[EB/OL]. [2023-08-22].https：//arxiv.org/abs/1609.03499.

[18]YU F，KOLTUN V. Multi-scale context aggregation bydilated convolutions[EB/OL]. [2023-08-22]. https：//arxiv.org/abs/1511.07122.

[19]WILLMOTT C J， MATSUURA K. Advantages of themean absolute error （MAE） over the root mean squareerror （RMSE） in assessing average modelperformance[J]. Climate Research，2005，30（1）：79-82.

[20]KINGMA D P， BA J. Adam： a method for stochasticoptimization[EB/OL]. [2023-08-22]. https：//arxiv.org/abs/1412.6980.

[21]LOSHCHILOV I， HUTTER F. SGDR： stochasticgradient descent with warm restarts[EB/OL]. [2023-08-22]. https：//arxiv.org/abs/1608.03983.

基金項目：國家自然科學(xué)基金項目（52274157） ；內(nèi)蒙古自治區(qū)重點專項項目（2022EEDSKJXM010） ；山西省重點研發(fā)計劃項目（202102100401015）。