融合知識共享和精英反向學習的成長優化算法

吳 迪, 吳美蓮, 吳杭蕖, 蘇媛媛, 游方楷, 賈鶴鳴

（1.三明學院教育與音樂學院,福建 三明 365004；2.三明學院信息工程學院,福建 三明 365004）

隨著科學技術的持續發展，實際問題的復雜性不斷提高，對優化技術的需求愈發明顯，元啟發式優化算法由于其簡單性、靈活性和無推導機制受到眾多學者的關注[1].近年來，國內外研究者在智能優化領域取得一系列重要的研究成果.這些研究成果為后來者提供新的思路和實踐指導，并在各個領域中得到廣泛應用，是當今智能優化算法領域發展的主要動力，為智能優化算法領域作出杰出的貢獻.現今常見的元啟發式算法如教與學優化算法(teaching-learning-based optimization algotithm,TLBOA)[2]、基于知識共享的優化算法[3]、粒子群優化算法(particle swarm optimization algotithm，PSOA)[4]、鯨魚優化算法(whale optimization algorithm，WOA)[5]、黑猩猩優化算法(chimpanzee optimization algorithm，COA)[6]、海鷗優化算法(seagull optimization algorithm，SOA)[7]、算術優化算法(arithmetic optimization algorithm，AOA)[8]、螢火蟲優化算法(fire-fly algorithm，FA)[9]等，在不同的優化問題中具有各自的特點和應用范圍.然而，無免費午餐(no-free-lunch， NFL)[10]理論的證明，世上還暫且不存在一種通用的優化算法可以解決所有的工程問題.這是因為不同的問題具有獨特的特征、目標和約束條件，因此需要根據具體情況選擇合適的優化算法，在應用優化算法時，選擇合適的算法來解決具體的工程問題非常重要.并且可以通過混合模式和融合改進策略，對傳統的優化算法進行改進，以提高算法的性能和效果[11].

2023年，張慶科等[12]提出一種創新的群智能優化算法，將其命名為成長優化(growth optimizer， GO)算法.該算法的設計靈感源自個體在成長過程中的學習與反思.在學習階段中，對于每個個體，GO算法利用來自5 個不同特定個體的四種類型的搜索方向信息，并結合適應度值和歐氏距離的概念自適應地平衡這四種方向信息.這種自適應平衡的方法使得GO算法在選擇搜索方向時能夠更準確地權衡不同的信息，并且顯著降低由于錯誤方向信息的干擾而導致算法陷入局部最優解的機會.通過綜合考慮多個方向的信息，GO算法能夠在探索解空間時更好地平衡全局探索和局部收斂之間的權衡關系.在反思階段中，GO算法利用各種計算方式來記錄和更新個體的位置.這個過程可以幫助個體在優化過程中進行自我調整和修正，以提高算法的性能和適應能力.對于一般的優化問題，GO算法展現出較優的全局探索和收斂能力.然而，在處理一些復雜的函數測試時，GO算法可能會面臨局部最優解的困境.這種情況下，算法可能會陷入某個具體的區域而難以跳出，導致無法找到全局最優解.這是一個需要注意的局限性，對于復雜問題，可能需要結合其他算法或策略來進一步提高GO算法的性能和效果.

針對上述不足，提出融合知識共享和精英反向學習的成長優化算法(KSOBLGO).首先，傳統GO 算法是通過隨機方式產生種群個體的位置，種群初始化方式可能導致多樣性差和不均勻分布在解空間的問題，因此需要改進算法的種群初始化方式.在基于縱橫交叉和精英反向學習的鯨魚優化算法[13]中，采用精英反向學習構造精英個體的反向解，增加種群的多樣性，擴展種群的搜索范圍，以更好地探索解空間.文獻[14]在研究鯨魚優化算法時，使用精英反向學習策略和Lévy 飛行的方法來對初始化種群進行優化，以增加種群的多樣性.在文獻[15]中，針對算法過早收斂，初始化種群多樣性低的問題，引入精英反向學習和HHO 算法相結合.文獻[16]將柯西變異、反向學習策略與麻雀優化算法相融合，提高麻雀優化算法的全局尋優能力.借鑒上述文獻的改進思想，通過精英反向學習生成反向解，增加種群多樣性，待進入學習階段后，探索個體間差距并進行學習，之后進入反思階段，當前個體將會由優秀個體進行引導，彌補自身的不足，若自身某方面的知識無法彌補時，則會選擇放棄以往學習的知識，重新進行系統的學習.最后進入知識共享階段，進行適應度劃分，平衡KSOBLGO算法的局部搜索能力和全局搜索能力，通過13個基準測試函數優化實驗驗證KSOBLGO算法的優化性能.

1 成長優化算法

在GO算法中，個體的社會結構與GR(適應度值)相關，通過P1將其分為三個層次.該結構由上層(包括領導和精英)、中層和底層組成.上層中排名最高的領導者是全局最優解，排名在2到P1范圍內的個體稱為精英，為全局次優解；排名在P1+1 和N-P1之間的個體代表中層成員；排名位于N-P1+1 和N之間代表底層成員，其中：N為社會成員人數.當P1=5 時可以保證算法的高效、穩定的性能.GO 算法主要分為學習階段和反思階段.學習階段是指個體找到其他個體之間的差距并進行學習，反思階段是指個體使用不同的策略來彌補自身的不足.

1.1 初始化種群

成長優化算法和大多數算法一樣，通過解空間邊界范圍與維度初始化種群.使用式(1)對種群中第i個個體進行初始化.即

其中：Xi為第i個個體；ub和lb表示搜索域的上邊界和下邊界；rand表示一個介于0和1之間的偽隨機數.

1.2 學習階段

不同個體之間可能存在一定的差距，造成這種差距的原因有很多，如果能探索差距的原因，并且從中學習就可以極大地促進個體的成長.主要的差距分為四類：領袖和精英成員之間的差距(Gap1)，領袖和底層成員之間的差距(Gap2)，精英成員和底層成員之間的差距(Gap3)以及兩個隨機個體之間的差距(Gap4).其中將Gapk(k=1，2，3，4)設為第k類差距.對于第i個個體Xi，每一類的差距公式描述為

其中：Xbest代表社會的領袖；Xbetter是精英成員之一；Xworse是底層成員之一；XL1和XL2都是與第i個個體Xi不同的隨機個體.

為反映差距對第i個個體Xi的影響，算法引入學習因子(LF).對于第i個個體Xi，LFk將影響其對第k類差距的學習.當第k類差距較大時，LFk也會較大，第i個個體Xi會從第k類差距中學到更多.LFk的建模為

其中： LFk為第k類差距的歐氏距離歸一化比值，范圍為[0，1].

在成長過程中，不同層次的人對自己有不同的看法，可以通過引入SFi來評估個體自身可接受的知識范圍.SFi越大，說明第i個個體Xi需要更多的知識來提升自己，即

其中： GRi為第i個個體的適應度值；GRworst為所有個體中最大的適應度值.

知識的學習和轉化是損耗的.對于第k類差距(Gapk)，個體Xi從它們中吸收一些知識，這些知識是第k個知識獲取組(KAk).對于第i個個體Xi，KAk是在LFk和SFi在第k類差距上的操作后得到的，上述過程可以描述為

其中： KAk是第i個個體Xi從第k類差距獲得的知識，SFi是對其自身情況的評估，而LFi是對外部情況的評估.

第i個個體Xi在兩種評估的影響下，從Gapk中識別出自己需要的知識KAk，從而完成學習過程.個體Xi通過從四類差距中學習，完成豐富的知識積累過程，第i個個體Xi的具體學習過程為

其中：Xi為第i個個體；KAk是第i個個體從第k類差距中獲取的知識.

個體Xi的適應度值更新過程為

其中：Xit+1為第t+1 次迭代中第i個個體；r1是一個均勻分布于0 和1 之間的隨機數；P2為一個常數，通常取值為0.001；P2決定第i個個體不更新時是否保留新獲得的知識，其中i≠1是為防止全局最優解被替換導致算法不易收斂.

1.3 反思階段

學習和反思相互互補，反思也是汲取知識過程中的一個重要階段.對于第i個個體Xi，Xi會通過向優秀的個體學習，來彌足自身的不足.但是當某一方面的知識無法彌補時，Xi會放棄以往的知識，重新進行系統的學習.第i個個體Xi的反思過程為

其中：r2、r3、r4和r5為在[0，1]范圍內均勻分布的隨機數；R表示適應度排名前P1的個體之一；Rj為個體R的第j個維度；P3為一個常數，能夠控制反思的概率，一般設置為0.3；AF為衰減因子.

2 改進的成長優化算法

在GO 算法中，位置的更新是通過將k類差距相加的方式進行的.但是在某些復雜的尋優問題中，這種更新方式存在不確定性，很難正確指引個體的搜索路徑.為提高算法的精度，將精英反向學習引入到GO算法的初始化位置更新中.通過使用精英反向學習，算法可以利用精英個體的優秀特征來指導其他個體的初始化位置.通過學習精英個體的反向解，算法可以更好地初始化個體的位置，從而增加算法的收斂性和優化能力.為進一步平衡算法的探索和開發能力，將基于知識共享的優化算法融合到GO 算法中，這一階段稱為知識共享階段.在知識共享階段，個體之間通過共享知識和經驗來相互影響和改進.這種知識共享機制能夠有效地傳遞優秀的解決方案和搜索策略，提高算法的優化能力.通過使用精英反向學習策略和知識共享，算法在初始化和演化的過程中獲得更多的信息和指導，從而提高尋優能力.這種綜合方法可以使GO算法更加準確地探索解空間，更好地平衡全局探索和局部開發之間的關系，進而提高算法的性能和效果.

2.1 精英反向學習對種群進行初始化

精英個體在種群中相比其他個體包含更多的有效信息.通過構造精英個體的反向解，可以增加種群的多樣性，并擴展種群的搜索范圍，以更好地探索解空間.這種策略有助于避免陷入局部最優解，提高搜索算法的全局優化能力.通過精英反向學習策略來對種群位置進行初始化，通過精英反向學習對種群進行初始化的計算式為

其中：Xi為第i個個體；Xnew為第i個個體所對應的精英反向學習個體.

通過對初始解和反向解進行合并，選取適應度值較優的解作為初始個體，用于組成初始種群，即

其中：Xi為第i個個體；Xnew為第i個個體所對應的精英反向學習的個體.

2.2 知識共享階段

在一個種群中，“揚長避短”“合理分工”是種群尋找更優適應度值的好辦法，即挖掘種群中各個個體的潛力，從而加強算法的性能.通過對適應度排名前P1個的個體采取局部搜索策略，更新公式為

其中：Xi為第i個個體；rand為[0，1]之間的隨機數；gBest為全局最優個體.

針對位置較差或相對中等的個體，可以采取一種方法來提升它們的搜索能力。首先，將個體的維度D進行劃分，分為初級要素和高級要素.初級要素是維度D中的前Djun個維度，而高級要素則是剩余的DDjun個維度.這種劃分的目的是通過初級要素和高級要素之間的差異性來更新個體，以引導個體進行全局搜索.基于初級要素和高級要素的更新策略使得個體在搜索過程中能更全面地考慮不同維度的信息，并根據初級要素和高級要素之間的差異性進行調整.在更新初級要素和高級要素時，可以使用特定的更新公式，即

其中：t為當前迭代次數；T為最大迭代次數；v為知識率，是一個大于0的實數，一般取值為10.

在知識共享階段中對初級要素進行更新.需要生成一個介于0和1之間的隨機數，如果這個隨機數小于知識比率rk，個體Xi的第j個維度將按照式(15)對初級要素進行更新;否則不做任何更新.更新完初級要素之后，將對高級要素進行同樣的更新處理.同理，需要生成一個介于0和1之間的隨機數，如果這個隨機數小于知識比率rk，那么將按照公式(16)對高級要素進行更新；否則不做任何更新.式(15)～(16)如下所示

其中：Xi，j表示第i個個體在第j維度上的取值；Xi-1，j表示適應度排名在Xi，j之前的個體中，在第j維度上的取值；Xi+1，j表示適應度排名在Xi，j之前的個體中，在第j維度上的取值；Xm為隨機個體，fk為知識因子，一般取值為0.5，rk為知識比率，一般取值為0.9；Xpbest為當前適應度排名最前P1個人之一；Xworst是當前適應度排名最后P1個人之一；Xm為隨機個體.

個體Xi的適應度值更新過程如式(7)所示.

2.3 改進成長優化算法實現流程圖

綜合上述策略，通過精英反向學習策略和知識共享，算法在初始化和演化的過程中獲得更多的信息和指導，提高算法的尋優能力.這種綜合方法可以使GO 算法更加準確地探索解空間，更好地平衡全局探索和局部開發之間的關系，進而提高算法的性能和效果.改進成長優化算法實現流程圖如圖1所示

圖1 KSOBLGO算法實現流程圖Fig.1 KSOBLGO algorithm implementation flowchart

3 實驗仿真結果及測試

為驗證KSOBLGO算法的性能，通過13個基準函數測試將該算法與成長優化(GO)算法、鯨魚優化算法(WOA)和算術優化算法(AOA)的尋優結果進行比較.所選的基準測試函數包括兩個種類：單峰測試函數編號(F1)～(F7)和多峰測試函數編號(F8)～(F13).這些函數被廣泛應用于優化算法的基準測試中，用于評估算法的性能和魯棒性.這些函數代表不同類型的問題，從而使能夠更全面地解KSOBLGO算法在處理不同類型問題時的適應能力和表現.通過對這些基準函數進行測試，并將KSOBLGO算法的結果與GO算法、WOA和AOA進行比較，可以確定KSOBLGO算法在這些問題上的性能優劣.這樣的比較有助于解KSOBLGO算法在不同類型問題上的優勢和局限性，以及它是否是一個適合解決這些問題的有效算法.函數詳細內容如表1所示.

表1 基準測試函數Tab.1 Evaluation functions

3.1 參數設置以及實驗環境

確保仿真實驗的公平性是非常重要的，其中一個關鍵因素是統一算法中部分相關參數的設置.在本次實驗中，將種群數量設定為40，維度為30，最大迭代次數設定為1 000次.此外，為評估算法的性能穩定性，每個算法都將獨立運行30次，以獲取更可靠的結果.各個算法的關鍵參數設置，如表2給出.以平均數、標準偏差值和Wilcoxon符號秩檢驗為判斷標準，其中，平均數與標準差值越小，則證明算法的性能越佳.

表2 算法參數設置Tab.2 Algorithm parameter settings

3.2 實驗結果及分析

3.2.1 數據分析

將KSOBLGO 算法與GO 算法、WOA 和AOA 進行對比實驗，每種算法對每個函數進行30 次測試，通過30次測試計算函數適應度值的平均值和標準差，實驗結果如表3所示(最優結果用粗體表示).

表3 函數尋優測試結果Tab.3 Function optimization test results

由表3的測試函數結果可以看出，KSOBLGO算法對F1、F3、F6、F8、F9、F11尋優過程中都收斂到最優值，具有不錯的尋優能力和穩定性.從平均值上看，KSOBLGO算法在8個測試函數中平均值與GO算法和WOA 有顯著差別，在10 個測試函數中平均值與GO 算法、WOA 和AOA 有顯著差別，在11 個測試函數中平均值都優于GO 算法和WOA，在9個測試函數中平均值都優于AOA.從標準差上看，KSOBLGO 算法在13個基準測試函數中的標準差均小于GO 算法和WOA，在F2和F7上相較于AOA 略有不足.通過基于統計學理論的分析，KSOBLGO 算法在這些基準函數上表現出較高的尋優性能和魯棒性.它能夠更快速、準確地找到全局最優解，并對多峰函數具有良好的搜索能力.這些優勢使得KSOBLGO 算法成為解決優化問題的有力工具.

3.2.2 收斂曲線分析

收斂曲線能直觀反映優化算法的收斂速度和整體性能.為能夠更直觀的展現算法在各種函數中所表現出來的性能，選取測試所求得的最優值與平均值較為接近的一次，同時繪制KSOBLGO算法、GO算法、WOA 和AOA 的迭代曲線.從13 個基準測試函數中選取9 個基準測試函數的收斂曲線進行繪制，其中包括6個單峰函數和3個多峰函數，如圖2所示.

圖2 函數優化迭代曲線圖Fig.2 Function optimization iteration curve chart

對比四條迭代曲線可明顯觀察到KSOBLGO 算法在收斂速度和準確度方面表現更優.改進后的GO算法在探索和開發能力方面取得平衡，提升算法的優化性能.驗證所采用的改進策略的有效性和可行性.

3.2.3 Wilcoxon符號秩檢驗

在上述分析中，僅通過平均值和標準差判斷算法之間有顯著性差異是不充分的.使用Wilcoxon 符號秩檢驗，顯著性水平為0.05，來進一步驗證KSOBLGO 算法與其他三種算法在性能優勢上的顯著性.這種統計檢驗方法可以用來比較兩個相關樣本之間的差異，并確定它們之間是否存在顯著性差異.對比實驗結果如表3 所示，其中符號“+”“=”“-”分別代表KSOBLGO 算法和對比算法的性能間有無顯著差異的關系，并對P＞0.05的數據進行加粗處理.

從表4 可以看出，KSOBLGO 算法在與GO 算法和WOA 進行比較時，在所有函數的優化結果上都有所改善KSOBLGO 算法和AOA 算法在函數F9 和F10 上都收斂到最優值，兩種算法的性能相當.然而，其他函數的數據表明KSOBLGO 算法的性能優于AOA 算法.通過進行Wilcoxon 秩和檢驗，可以得出結論：KSOBLGO 算法在大多數測試函數中具有更好的優化效果.綜合分析表3～4及圖2的結果，可以得出以下結論：融合知識共享和精英反向學習的KSOBLGO 算法在勘探和開發方面展現出更強的能力.與GO 算法、WOA算法和AOA算法相比，在優化方面取得更好的結果.

表4 Wilcoxon符號秩檢驗p值表Tab.4 Wilcoxon signed rank test p-value table

4 結論

提出一種融合知識共享和精英反向學習的成長算法，旨在通過將基于知識共享的優化算法與精英反向學習相結合，提升最優個體的局部搜索能力和其他個體的全局搜索能力，在探索和開發能力方面取得平衡.實驗結果表明，改進后的GO 算法顯著提高算法的隨機性和全局搜索尋優性能，同時有效防止局部最優停滯現象.然而，目前該研究僅在13個基準測試函數上進行改進測試.未來的研究將嘗試整合不同的改進策略，并根據實際工程需求努力發展更具適應性的智能優化算法，為實際工程問題提供更出色的解決方案.