適應度反向學習的平衡灰狼算法及其應用

楊 宸，張 瑋，許 鑫，張振喜，高 暾

(太原理工大學 化學工程與技術學院，山西 太原 030024)

0 引 言

灰狼優化算法(grey wolf optimization，GWO)是Mirjalili等[1]學者通過對灰狼跟蹤、包圍、追捕等過程模擬，提出的一種群體智能優化算法。灰狼算法在PID控制參數優化、圖像處理、化工建模優化、機器學習等[2-5]領域得到廣泛的應用。但是，灰狼算法在種群初始化時過度聚焦，在位置更新中勘探與開發能力不均衡，致使其收斂至局部最優。

為了克服這些缺陷，Mehak Kohli等[6]在種群的初始值分布定義階段，引入混沌映射理論，使其初始化粒子在目標空間均勻分布，增強其全局尋優的能力。滕志軍等[7]利用粒子群優化算法中的位置更新公式更新灰狼個體，使其能夠保留自身最優位置信息，從而提高算法的收斂精度；Peng Yao等[8]引入貪婪策略，在其優勝劣汰的約束下，降低其收斂至局部最優的可能；蔡娟等[9]在頭狼的位置引入高斯擾動，增強算法跳出局部最優的能力；崔建弘等[10]在狼群的初始階段引入混沌對立學習策略，提升初始解的質量，加速算法收斂。以上工作分別從提高GWO全局尋優的能力、算法的收斂精度、收斂效率等方面展開研究，但早熟收斂、全局勘探和局部開采能力不平衡的問題仍然存在。

因此，本文提出一種非線性控制策略，且通過分析在最優狼α，β，δ的引導下種群的更新過程，提出一種基于適應度權重反向學習的位置更新策略，平衡算法的勘探與開發。保證全局尋優能力的前提下，增強算法的求解速度與精度。通過16個基準函數的尋優求解問題和GBDT的旋風分離器粒級效率模型參數優化問題[11]，對該算法的有效性和工程應用效果分析對比。

1 標準灰狼算法

(1)灰狼狩獵過程的包圍策略如等式(1)、式(2)所示

(1)

(2)

(3)

(4)

(5)

其中，t是當前迭代次數；MAX是最大迭代次數；

(2)灰狼α、β、δ具有相關獵物的最佳信息，其余的灰狼根據它們3個的位置來更新自己的位置(捕食獵物)，數學描述如下

(6)

(7)

(8)

式(7)定義了ω狼朝向α、β、δ前進的方向向量，式(8)定義了ω狼的最終位置。

由此可見，傳統灰狼算法在初始化中分布聚集，嚴重影響后期搜索效果。

2 BGWO優化算法

2.1 混沌立方映射初始化

針對種群在初始化階段過度聚焦的問題，本文應用混沌立方映射[6]定義初始種群，使初始化群體在目標空間均勻分布，為全局搜索奠定良好基礎。混沌立方映射生成初始灰狼種群包括3個步驟，具體過程如下：

(2)將隨機生成的灰狼的位置坐標按式(9)迭代2n-1次，從而產生其余的2n-1匹灰狼；按照式(10)映射到真實的解空間中

(9)

(10)

計算2n匹灰狼適應度值并按升序排列，篩選奇數項對應的灰狼作為初始種群，使種群均勻分布。

2.2 非線性控制參數策略

(11)

其中，t為當前的迭代次數；MAX為最大迭代次數。

(12)

(13)

(14)

對4種控制參數進行仿真，取最大迭代次數MAX為500，結果如圖1所示。

圖1 控制參數的變化曲線

2.3 適應度反向學習權重更新策略

圖2 灰狼位置更新原理

首先，為擴大算法搜索范圍，引入重心反向學習策略，利用整個種群的重心位置信息對三匹灰狼α，β，δ進行變異操作。

設 (X1，X2，…，Xn) 是d維解空間中每個灰狼個體的位置坐標，則其對應的種群重心位置

(15)

(16)

(17)

隨后α狼執行重心反向變異操作

(18)

在重心反向變異跳出局部最優后，因為灰狼α于目標值所在的超球體鄰域內不一定為最優值，所以在該鄰域內采用最優解適應度值權重更新的方法，增強β和δ狼適應度的貢獻。首先分別根據三匹狼α，β和δ的適應度值的大小得到各自的權重，其它個體灰狼根據該權重進行位置更新，其數學模型如式(19)、式(20)所示

(19)

(20)

3 BGWO算法步驟

BGWO灰狼優化算法步驟如下：

(1)輸入種群規模N、當前迭代次數t、空間維度D、搜索空間的上下限ub和lb、最大迭代次數MAX；

(2)初始化灰狼種群的位置，對隨機生成的個體灰狼執行2N-1次Cube立方映射，計算2N匹灰狼適應度并按照升序排列，篩選奇數項對應的灰狼作為初始種群；

(3)對初始化的灰狼種群進行適應度排序，確定α，β和δ；

(4)根據式(11)進行參數a的更新；

(5)根據式(15)至式(18)進行α，β和δ位置的更新，根據(19)與式(20)更新其余灰狼位置；

(6)判斷是否滿足最大迭代次數，若滿足算法結束，否則轉至步驟(3)；

4 仿真實驗與分析

4.1 實驗環境及參數設置

將該算法與標準GWO、近期相關文獻提出的PSO-GWO[7]、IGWO[8]、HGWO[13]進行比較。為保證仿真實驗的公平性，運行環境統一為Intel Core i5-1038 NG7 CPU，主頻2.00 GHz，內存8 GB，Windows10 64位操作系統，實驗仿真軟件采用MATLAB R2019b。所有對比算法都統一設置了30個搜索代理，進行了500次迭代，實驗分別獨立運行30次，并且選取了16組標準測試函數，其中6組單峰基準測試函數、5組多峰基準測試函數和5組固定維度多峰基準測試函數。取平均值表示搜索的結果精準性，30次結果的方差表示結果的穩定性。對比測試算法參數設置見表1，測試函數見表2～表4。

表1 測試算法

表2 單峰基準函數

表3 多峰基準函數

表4 固定維多峰測試函數

4.2 算法精度分析

各算法的均值見表5，在6個單峰函數中，除F5，在F1、F2、F3、F4、F6、BGWO算法的測試均值都優于其它4種改進算法和經典的灰狼算法，達到了理論最優解0。特別是GWO_3，引入重心反向學習的最優適應度權重更新策略，在除F5之外的其余單峰函數中，都達到了理論的最優解0。驗證了該策略在全局收斂精度上的優越性能；對于高維多峰測試函數F7-F11，BGWO在所有測試函數上的尋優精度都達到最優，且在函數F7、F9、F10、F11都收斂至最優解。對于復雜函數F8，BGWO逼近理論最優解，相對性能最佳。對于固定維多峰函數，BGWO在測試函數F14、F15、F16展現了其優越性，且GWO_2除F15以外的測試，均收斂至最優解，可見所提出的非線性搜索策略適用于低維度多峰測試函數。這也反映出兩種不同的策略，適用于不同的問題空間，且都有其各自的針對性，而融合兩種策略的BGWO的整體尋優精度要優于標準GWO和其它改進算法。

表5 算法的均值測試結果

4.3 算法穩定性分析

優化算法的優劣不僅表現在結果的精準性，還在于其穩定性，表現在尋優的方差計算結果。如表6單峰基準測試函數的方差計算結果可知，除F5，BGWO的穩定性要超越GWO與其它3種改進算法。這是因為其引入了重心反向學習的最優適應度權重更新策略，在多峰測試函數中，BGWO在穩定性上表現出眾，體現出最優適應度權重更新策略改進的灰狼算法強大的全局搜索能力。在固定低維度多峰測試函數F14-F16中，BGWO表現優越，且GWO_2函數在除F15以外所有固定低維度多峰測試函數中都有著穩定的效果，驗證了非線性收斂因子策略適用于固定低維度多峰問題。

表6 算法的方差測試結果

4.4 算法收斂速度分析

在收斂速度方面，分別選取單峰函數F1、F4、F5，多峰函數F7、F8、F11，固定維多峰函數F14、F15、F16進行測試，為了讓收斂效果更加明顯，將目標函數值取log變換，收斂曲線如圖3所示。從單峰測試函數可以清晰地看出，BGWO與GWO_3算法在迭代次數不到100的時候，便與其它算法有了明顯差別，且能快速地收斂于全局最優，這是因為引入重心反向學習的最優適應度權重更新策略，從而優化了算法的收斂速度與精度。從多維測試函數可以看出，BGWO在50次左右迭代后便收斂至全局最優，特別是從F8中可以發現，BGWO在保持快速收斂速度的同時，其搜索精度表現優越，這得益于引入新型非線性控制參數。綜上所述，使用重心反向學習的最優適應度權重更新策略能夠穩定快速地尋到最優值，且具有優秀的精準性。新型非線性控制參數能有效地防止算法陷入局部最優，能夠更穩定地尋找全局最優值。融合了兩種策略BGWO，相對于標準灰狼算法和其它改進算法，在提高收斂速度的同時增加了精度。但是，沒有免費午餐定理(no free lunch，NFL)[14]指出，任何一種優化算法不可能解決所有類型的優化問題，只對某些特定的問題有效。在實際應用中，應該針對目標函數的特性，選擇不同的策略，進而可以獲得更好的求解效果。

圖3 函數的尋優收斂曲線

5 旋風分離器效率建模參數優化問題

PV型旋風分離器是一種高效的氣固分離器，目前已廣泛應用于高溫高壓和高含塵濃度條件的工業領域，其分離效率是評價一臺旋風分離器性能的重要參數[15]。但是通過實驗獲取其效率時間經濟代價昂貴，因此，通過機器學習方法獲得效率預測模型對于工業生產是非常必要的。PV型旋風分離器結構如圖4所示。

圖4 PV型旋風分離器結構

5.1 GBDT建模方法

GBDT是梯度提升決策樹(gradient boosting decision tree)[16]的簡稱，是一種用于回歸、分類和排序任務的機器學習技術。同其它Boost方法一樣，通過集成多個弱學習器，來構建最終的預測模型。弱分類器個數、學習率、樹的最大深度、分裂時最少的樣本量的選取直接影響著它的魯棒性，集成學習模型如圖5所示。

圖5 集成學習模型

5.2 輸入輸出變量設計

(21)

(22)

為保證公平性，PSO、GWO、BGWO算法種群數統一設置為40，算法迭代次數設置為50次，參數區間見表7。

利用訓練集進行5-fold交叉驗證來計算不同參數組合預測值與真實值的均方誤差，其適應度函數F為5次預測值和真實值的均方誤差的平均值，其表達式如下

(23)

5.3 參數選擇結果

BGWO算法尋優過程如圖6所示，最終尋優結果見表8。可以看出，BGWO算法在迭代過程既保留了前期勘探能力，又不失后期開采的精度，其適應度達到了0.001 59。

表8 算法尋優結果

圖6 BGWO迭代過程

5.4 模型預測分析

測試數據預測結果見表9，預測效果如圖7所示，BGWO模型奇偶如圖8所示。

表9 算法預測結果

圖7 預測效果

圖8 BGWO-GBDT模型奇偶

由表9和圖7可以看出，相比較其它兩種預測模型，預測目標變量BGWO-GBDT模型的相關系數比GWO-GBDT、PSO-GBDT分別提高0.021與0.035；在均方誤差上BGWO-GBDT比GWO-GBDT、PSO-GBDT分別降低了0.000 84與0.0014，也進一步驗證了改進策略的有效性。

圖8顯示基于BGWO-GBDT的PV旋風分離器代理模型不論在訓練集還是在測試集上都達到了最佳的效果，有效解決了通過重復實驗機理建模的昂貴代價問題。接下來可對PV型旋風分離器的參數選擇設計進行指導。

6 結束語

本文首先采用立方映射定義初始種群，為全局搜索奠定良好基礎；對群體在進化階段位置更新的鄰域進行了分析，引入了非線性控制參數，增強算法前期勘探能力，加快收斂速度；最后引入適應度反向學習策略，平衡了算法的勘探與開發，降低陷入局部最優的可能。通過16組測試函數仿真表明，適應度反向學習的更新策略適用于高維單峰與多峰函數，并在精度及穩定性方面優勢明顯；在固定維多峰測試函數中，非線性控制參數表現出更好的性能，提高了算法收斂速度。最后用BGWO對GBDT的旋風分離器效率模型參數進行優化，與其它兩種預測模型對比，BGWO-GBDT取得了最高的R2及最小的MSE。結果表明該代理模型的預測精度較高，可靠性好，能有效解決昂貴代價的工業數據建模問題。