面向應(yīng)用的快速多峰尋優(yōu)算法

(解放軍信息工程大學(xué)， 鄭州 450002)



摘 要：

工程應(yīng)用中的多峰尋優(yōu)問題要求搜索目標(biāo)函數(shù)的多個(gè)極值點(diǎn)，現(xiàn)有的多峰優(yōu)化方法難以直接利用應(yīng)用問題的先驗(yàn)知識(shí)引導(dǎo)算法過程，多峰尋優(yōu)效率較低。基于粒子群優(yōu)化算法設(shè)計(jì)一種面向應(yīng)用的多峰尋優(yōu)算法，能有效利用易于獲得的先驗(yàn)參數(shù)，如峰間分辨率、峰位置精度、峰值個(gè)數(shù)等實(shí)現(xiàn)快速多峰搜索。該算法保持了粒子群算法的簡單性并改善了搜索多樣性，使其可控地收斂到多個(gè)峰值上。將該算法與幾種典型的多峰尋優(yōu)方法進(jìn)行了對比測試和分析，結(jié)果表明，對復(fù)雜多峰函數(shù)，該算法能以最快的收斂速度實(shí)現(xiàn)多峰搜索。

 關(guān)鍵詞：面向應(yīng)用； 多峰尋優(yōu)； 粒子群優(yōu)化算法

 中圖分類號：TP399 文獻(xiàn)標(biāo)志碼： A

文章編號：10013695(2008)12361704



Applicationoriented fast optimizer for multipeak searching

WU Jiang， HU Hanying， WU Ying



(PLA Information Engineering University， Zhengzhou 450002， China)



Abstract:

Multipeak optimizations in engineering applications are needed to search multiple extrema of objective functions. Previous multipeak searching methods usually cannot make use of prior parameters to guide the algorithm directly. This paper proposed an applicationoriented multipeak optimizer based on the particle swarm optimization(PSO). It took advantage of prior parameters such as peak resolution， solution accuracy， and peak number demanded， which could usually be ascertained in realworld problems. The algorithm kept the simplicity of basic PSO and expanded its searching diversity. This paper compared the new algorithm with some typical multimodal optimization algorithms on the basis of which the tests and analyses of them were conducted. Results show that the new algorithm can successfully locate the multiple extrema that outhors need at highest speed.

 Key words：applicationoriented; multipeak searching; PSO



0 引言

在許多工程應(yīng)用問題中，常需要尋找多個(gè)較優(yōu)解，如工程設(shè)計(jì)中獲得次優(yōu)的備用方案、軍事應(yīng)用中多目標(biāo)探測等。這些問題可以歸結(jié)為非線性函數(shù)多峰尋優(yōu)問題，即要求優(yōu)化算法在搜索全局最優(yōu)解的同時(shí)輸出前N個(gè)局部最優(yōu)解。現(xiàn)有優(yōu)化方法大多討論如何獲取全局最優(yōu)解，而對多局部極值的尋優(yōu)問題研究較少^[1]。受實(shí)際需求推動(dòng)，近年來求多個(gè)局部最優(yōu)解的算法引起了較大的研究興趣，這種算法通常稱為多峰搜索(multipeak searching)或多模式優(yōu)化(multimodal optimization)。目前實(shí)現(xiàn)多峰尋優(yōu)的方法主要有三類：a)使用大量隨機(jī)初始化解的局部優(yōu)化算法，這種方法的優(yōu)點(diǎn)是通用性較強(qiáng)，但其局部優(yōu)化算法往往對目標(biāo)函數(shù)的光滑性或連續(xù)性有要求，而且在目標(biāo)函數(shù)峰值數(shù)量較多時(shí)運(yùn)算量很大；b)利用遺傳算法中小生境(niche)的思想創(chuàng)建子種群(subpopulation or subswarm)保持搜索的多樣性^[1，2]，其優(yōu)點(diǎn)是在峰值情況不可預(yù)測時(shí)能自動(dòng)根據(jù)目標(biāo)函數(shù)劃分種群，但該方法缺乏全局信息引導(dǎo)，計(jì)算量分散故而對需要的較優(yōu)峰收斂較慢；c)結(jié)合序列生境技術(shù)(sequential niche technique，SNT)^[3]的全局優(yōu)化算法，即重復(fù)進(jìn)行多次全局尋優(yōu)并使用下降函數(shù)(derating function)修改適應(yīng)值函數(shù)，這種方法可以系統(tǒng)地遍歷峰值，但其固有的串行性限制了尋優(yōu)的效率。

在實(shí)際的應(yīng)用問題中，往往容易確定目標(biāo)函數(shù)的某些先驗(yàn)參數(shù)，研究如何充分利用這些參數(shù)提高優(yōu)化算法的效率是很有現(xiàn)實(shí)意義的。本文利用粒子群優(yōu)化算法(particle swarm optimization，PSO)形式簡單、全局收斂速度快的特點(diǎn)，將其全局極值點(diǎn)(gbest)改為可由工程參數(shù)控制的多個(gè)lbest(local best)，各粒子以最近的lbest作為社會(huì)經(jīng)驗(yàn)更新速度，以較少的計(jì)算量實(shí)現(xiàn)可控的多峰搜索，得到一種改進(jìn)的PSO多峰尋優(yōu)算法。文中將該算法與三種具有代表性的多峰優(yōu)化算法進(jìn)行了對比分析，驗(yàn)證了算法的優(yōu)勢。

1 問題描述

工程優(yōu)化問題中根據(jù)應(yīng)用目的，往往可事先明確對解的某些要求，由此確定的參數(shù)在優(yōu)化算法設(shè)計(jì)中應(yīng)充分利用。首先，易于確定的是峰間分辨率Δdist=(δ1，…，δD)。其中：δd(d=1，…，D)是第d維上的峰間分辨率；D是解空間的維數(shù)；Δdist表示系統(tǒng)可區(qū)分的兩個(gè)峰間的最小距離，它往往取決于實(shí)際系統(tǒng)的目標(biāo)分辨能力。其次，可由系統(tǒng)參數(shù)測量精度和應(yīng)用需求確定問題的求解精度，在本文中稱之為峰位置精度，并記為Apeak，它以D維上的精度值為分量構(gòu)成，代表了用戶允許的近似解偏離真實(shí)解的最大誤差。另外，系統(tǒng)用戶對峰值個(gè)數(shù)的需求總是有限的，即可指定較優(yōu)峰值的個(gè)數(shù)，這要求算法找到前Npeak個(gè)局部最優(yōu)解。

按照前面的討論，多峰尋優(yōu)問題可描述為尋找可行解Xi，(i=1，2，…，Npeak)，滿足

Xi∈{X| f(X)≥f(X′)，|X′-X|≤Δpeak}

|Xi-X*i|≤Apeak

f(X1)≥f(X2)≥…≥f(XNpeak)≥… (1) 

其中:X、X′、Xi、X*i∈Ω是D維決策變量；ΩRD為可行域；X*i表示第i個(gè)峰處的精確解或真實(shí)解； f為目標(biāo)函數(shù)；Δpeak=Δdist/2定義為峰分辨半徑。對于常用的邊界約束問題，設(shè)Ω由搜索空間的邊界 B 所圍成， B 是D×2的矩陣，由每一維的區(qū)間上、下界構(gòu)成。對于目標(biāo)函數(shù)求極小峰值問題，可轉(zhuǎn)換為對[-f(X)]求極大峰值問題。

2 多峰尋優(yōu)PSO算法

21 基本PSO及其改進(jìn)型

1995年Kennedy等人^[4]提出粒子群優(yōu)化算法。在PSO中，用種群表示問題潛在解的集合，集合中的每個(gè)粒子表示一個(gè)可行解。初始種群通常是隨機(jī)產(chǎn)生，然后在解空間中運(yùn)動(dòng)(演化)。在種群演化過程中，所有粒子間進(jìn)行全局通信，每個(gè)粒子能共享其他粒子當(dāng)前的搜索結(jié)果。記每個(gè)粒子經(jīng)歷的最好位置為pbest，整個(gè)種群經(jīng)歷的最好位置為gbest。在第k次迭代中，第s個(gè)粒子按下式計(jì)算其下一代第d(d=1，…，D)維的飛行速度，并更新位置

其中：c1、c2是加速系數(shù)，分別調(diào)節(jié)個(gè)體極值點(diǎn)(pbest)和全局極值點(diǎn)(gbest)對粒子速度的影響，rand1、rand2是[0，1]間的隨機(jī)數(shù)，即粒子依據(jù)個(gè)體記憶和社會(huì)經(jīng)驗(yàn)確定自己的運(yùn)動(dòng)速度，這使算法具有了群體智能。

M.Clerc^[5]認(rèn)為收縮因子(constriction factor)有助于確保PSO算法收斂。這種方法的速度更新公式為

此外還有很多有針對性的改進(jìn)型^[7]，使PSO在解決復(fù)雜的優(yōu)化問題和工程應(yīng)用上顯示出很大的優(yōu)勢，能與遺傳算法等其他優(yōu)越的優(yōu)化算法相匹敵，而且因其結(jié)構(gòu)簡單、參數(shù)少、全局收斂快的特點(diǎn)備受關(guān)注，是一種很有前途的優(yōu)化算法。然而，利用PSO進(jìn)行多峰尋優(yōu)的嘗試較少，特別是在具體工程應(yīng)用中，需要研究能有效利用峰值先驗(yàn)知識(shí)的針對性算法。

22 面向應(yīng)用的多峰尋優(yōu)PSO算法

221 由峰值分辨半徑和峰值個(gè)數(shù)控制的局部最優(yōu)解列表

標(biāo)準(zhǔn)PSO中的gbest是單一的，它使整個(gè)種群中所有粒子均有向全局最優(yōu)解靠攏的趨勢，為得到局部極值，本文將其改為由多個(gè)較優(yōu)的局部最優(yōu)解組成的局部最優(yōu)解列表（lbest列表）。筆者希望算法結(jié)束時(shí)在列表中得到與要求的多個(gè)峰對應(yīng)的局部最優(yōu)解，并且這些解依其峰值降序排列。為保證一個(gè)峰值在列表中僅對應(yīng)惟一的lbest，規(guī)定任意兩個(gè)lbest間的距離滿足

|lbesti-lbestj|>Δpeak; i≠j(6) 

列表長度設(shè)置為Npeak，這樣，局部最優(yōu)解列表是受應(yīng)用參數(shù)直接控制的。列表對所有粒子公開，各粒子在每一代演化時(shí)從表中選擇位置最近的lbest代替式(4)中的gbest。這樣，表中多個(gè)峰值將整個(gè)種群劃分為多個(gè)分組，并對組內(nèi)粒子產(chǎn)生吸引力，而組內(nèi)的粒子以其pbest競爭該峰值對應(yīng)的lbest。這里應(yīng)該指出的是，粒子的歸組是根據(jù)粒子的pbest和目標(biāo)函數(shù)的具體情況動(dòng)態(tài)變化的，這種變化可能會(huì)導(dǎo)致組的分裂與合并，即多個(gè)lbest在列表中是動(dòng)態(tài)競爭的。算法演化過程中較優(yōu)的lbest將被插入列表或向前移位；較差的lbest可能被近距的其它lbest合并，或向后移位甚至被淘汰出列表。

222 由峰位置精度控制的收斂精度

考慮到實(shí)際問題中對解的精度要求總是有限的，如果一個(gè)峰附近的粒子聚集程度(離散度)可以滿足參數(shù)Apeak，則該峰沒有必要再搜索下去，應(yīng)將該峰內(nèi)的所有粒子重新初始化以保持粒子群的整體活性，而將其對應(yīng)的Lbest保留在表中(標(biāo)記為停止峰)參與后續(xù)的表項(xiàng)競爭。算法設(shè)計(jì)中，對列表的每個(gè)位子記一個(gè)平均半徑mi，表示第i個(gè)峰(lbesti)與其內(nèi)部所有粒子個(gè)體極值點(diǎn)的平均距離，設(shè)Ci表示第i個(gè)峰內(nèi)的粒子數(shù)，則平均半徑第k代的值定義為

關(guān)于搜索的停止準(zhǔn)則，目前普遍使用的是迭代次數(shù)限制或根據(jù)輸出峰值穩(wěn)定性判定，但根據(jù)式(4)，即使粒子不在峰值附近也最終將失去活性，輸出峰值穩(wěn)定性準(zhǔn)則在這里是不合適的?？紤]到多個(gè)粒子在非峰值處高密度聚集的可能性極小，筆者認(rèn)為當(dāng)某個(gè)lbest周圍聚集的pbest個(gè)數(shù)超過某個(gè)指定的數(shù)值Cpeak且平均半徑達(dá)到Apeak時(shí)，該峰的尋優(yōu)完成。即搜索達(dá)到精度的條件是

a)粒子群初始化。根據(jù)應(yīng)用問題設(shè)置粒子總數(shù)Nparticle，各粒子在Ω中隨機(jī)選擇初始位置X1s，并賦予隨機(jī)的初始速度V1s，記個(gè)體最優(yōu)解pbest始適應(yīng)度為-∞。

c)第k代中第s個(gè)粒子按下述規(guī)則運(yùn)動(dòng):

(a)計(jì)算該粒子的pbestks與表中每個(gè)lbest的距離Li=|pbestks-lbesti|，依Li≤Δpeak判斷同峰(i=1，2，…，Npeak)。若有同峰的lbest則進(jìn)一步判斷其是否被標(biāo)記為停止峰，是停止峰則該粒子重新初始化，s=s+1轉(zhuǎn)(c)計(jì)算第s+1個(gè)粒子，不是停止峰則轉(zhuǎn)(b)；若pbestks在表中無同峰的lbest則此粒子有可能新建一個(gè)峰值，將pbestks按其適應(yīng)度順序插入列表，插入成功則s=s+1重新進(jìn)入(c)計(jì)算第s+1個(gè)粒子，插入不成功轉(zhuǎn)(d)。 (b)記列表中與pbestks距離最近的局部最優(yōu)解為lbestnear，從pbestks與lbestnear中選擇較優(yōu)的保留在列表中，若pbestks未能進(jìn)入列表則轉(zhuǎn)d)。

(c)檢查發(fā)生過替換的lbest與列表中其他lbest是否有同峰現(xiàn)象，若沒有則轉(zhuǎn)（d）；若存在同峰的lbest，則保留最優(yōu)者，其他較差的同峰表項(xiàng)清空，被清空的位子由后面表項(xiàng)前移一位補(bǔ)上；發(fā)生變動(dòng)的lbest可能會(huì)優(yōu)于表中居于前面的峰值，為保證降序排列，根據(jù)其適應(yīng)度向前調(diào)整次序。

（d）尋找與pbestks最近的代表活動(dòng)峰的lbestnear，以lbestnear為該粒子的gbest，按照式(4)更新速度。其中，收縮因子按式(5)計(jì)算，按式(3)更新位置。

（e） 算法終止條件。當(dāng)lbest列表中每一個(gè)解的精度均滿足式(8)，即所有找到的較優(yōu)峰均被標(biāo)記為停止峰時(shí)算法終止。 

3 優(yōu)化實(shí)例對比分析

本文選擇三種典型的多峰優(yōu)化算法與本文算法進(jìn)行對比測試，這三種算法分別代表本文引言中提到的三類方法。算法1，結(jié)合Monte Carlo初值設(shè)定的單純形優(yōu)化算法(simplex algorithm，SM)^[8]，在本文中簡稱MCSM。其中，SM由MATLAB中的fminsearch函數(shù)實(shí)現(xiàn)；算法2，利用動(dòng)態(tài)生成子種群的小生境PSO，即NichePSO，按文獻(xiàn)[9]實(shí)現(xiàn)；算法3，引入序列生境技術(shù)的PSO算法，在本文中稱為SNTPSO，仿照文獻(xiàn)[3]中的方法實(shí)現(xiàn)。測試環(huán)境為Pentium 4 CPU 28 GHz，512 MB RAM，編程環(huán)境為MATLAB R2007a。

測試函數(shù)1：Rastrigin

min f1(x1，x2)=∑ 2 i=1 [x2i-10cos(2πxi)+10]; 

subject to -5≤x1，x2≤5(9) 

測試函數(shù)2：Shubert

max f2(x1，x2)={∑ 5 i=1 i cos[(i+1)×x1+i]}×

{∑ 5 i=1 i cos[(i+1)×x2+i]};

subject to -5≤x1≤10， -4≤x2≤8

(10) 

這兩個(gè)基準(zhǔn)測試函數(shù)在本文選定的解空間(見式(9)(10))內(nèi)均具有大量的局部極值點(diǎn)。其中： f1只有1個(gè)全局最小值，測試時(shí)要求算法搜索到較優(yōu)的9個(gè)最小點(diǎn)(如圖1中小方框所示)，其取值見表1； f2有4個(gè)全局極大值，測試時(shí)要求算法搜索到較優(yōu)的8個(gè)極大點(diǎn)(如圖2中小方框所示)，其取值見表2。為在相同條件下進(jìn)行對比，各算法中相似的參數(shù)設(shè)置一致。NichePSO和SNTPSO中的生境半徑(niche radius)與本文算法中的峰分辨半徑相同，對 f1取 Δpeak=[05 05]，對 f2取Δpeak=[03 03]。三種PSO算法中對每個(gè)局部極值設(shè)置相同的粒子數(shù)，如NichePSO的子群規(guī)模為30，SNTPSO每次全局尋優(yōu)使用30個(gè)粒子，本文算法對Npeak個(gè)局部極值并行搜索所用的總粒子數(shù)為30×Npeak個(gè)。各算法中的個(gè)性參數(shù)分別對兩個(gè)測試函數(shù)調(diào)節(jié)到最佳值。所有算法的停止條件為輸出Npeak個(gè)局部最優(yōu)解，且滿足

|Xi-X*i|≤Apeak; i=1，…，Npeak(11) 

即輸出的每個(gè)近似解與精確解(見表1和2)相比均達(dá)到一定的求解精度，這里令解的精度Apeak=[001 001]。若允許充足的運(yùn)算時(shí)間和估值次數(shù)，四種算法在理論上均可以達(dá)到式(11)的要求。

由于考察的四種算法迭代方式差異較大，且迭代次數(shù)與算法中解的規(guī)模相關(guān)，不宜依迭代次數(shù)對比收斂性能。考慮到在很多實(shí)際應(yīng)用中對目標(biāo)函數(shù)估值需占用較多的運(yùn)算資源，更合理的做法是將各算法輸出解的精度隨估值次數(shù)變化的曲線作為算法收斂性能的對比依據(jù)。其中，輸出解的精度定義為與真實(shí)解的平均誤差，按下式計(jì)算

每種算法各運(yùn)行50次取平均，它們對兩測試函數(shù)的收斂曲線分別見圖3和4，算法結(jié)束時(shí)所用的平均估值次數(shù)和平均時(shí)間見表3和4。因?yàn)镸CSM中的多邊形和NichePSO中的子群均具有均勻分布的初始解，且在演化時(shí)各搜索單元僅尋找最近的局部極值，目標(biāo)函數(shù)的各個(gè)峰值被找到的機(jī)會(huì)是均等的。由于Rastrigin函數(shù)的峰是光滑的，單純形對單峰的收斂性能優(yōu)于局部PSO算法，MCSM的收斂曲線優(yōu)于NichePSO。Rastrigin函數(shù)的最優(yōu)峰在(0，0)處，而大量次優(yōu)峰有向最優(yōu)峰集中的趨勢(圖1)。SNTPSO和本文算法都是利用所有粒子對全局較優(yōu)的峰值進(jìn)行搜索，與MCSM和NichePSO相比能夠利用目標(biāo)函數(shù)峰值集中的特性較快地收斂。在本文提出的算法中各粒子向最近的較優(yōu)峰飛行，與SNTPSO中各粒子向剩余最優(yōu)峰飛行的機(jī)制相比可節(jié)省一部分試探步數(shù)，故其收斂性能略優(yōu)于SNTPSO。 表3中所示本文算法收斂耗時(shí)比MCSM和SNTPSO稍多，但它所需的估值次數(shù)是最少的，當(dāng)目標(biāo)函數(shù)估值運(yùn)算較復(fù)雜時(shí)有理由相信本文算法具有相對較快的收斂速

Shubert函數(shù)的特點(diǎn)是所要尋找的峰位置比較分散，各全局極值相距較遠(yuǎn)，且每個(gè)最高峰被一些次高峰所圍。由于局部極值過多，MCSM和NichePSO需要大量的局部搜索才能收斂到較大的8個(gè)峰，收斂速度明顯較慢；而SNTPSO和本文算法都具有很強(qiáng)的全局尋優(yōu)能力，能以較快速度收斂到分散的極值上(圖4)。SNTPSO中粒子在分別向各極值聚集的過程中，那些與目的極值距離較大的粒子需要較長時(shí)間達(dá)到穩(wěn)定，引入了多余的運(yùn)算量，而本文算法中各粒子僅向距離最近的較大峰值飛行， 所有粒子同時(shí)對多個(gè)較大峰進(jìn)行搜索，能以最快的速度到達(dá)目的極值附近。圖4和表4的結(jié)果表明，在對較優(yōu)峰分散的多峰目標(biāo)函數(shù)優(yōu)化時(shí)，本文算法對多峰的收斂性能明顯優(yōu)于其他三種算法。值得注意的是，很多應(yīng)用問題中目標(biāo)函數(shù)的多個(gè)較優(yōu)峰呈無規(guī)則分布，且在主峰周圍有副峰(或旁瓣)存在，與Shubert函數(shù)接近，故本組測試結(jié)果具有一定的現(xiàn)實(shí)意義。 

總體而言，MCSM和NichePSO算法在演化過程中，因其運(yùn)算量分散在整個(gè)解空間，難以利用求解問題的先驗(yàn)知識(shí)加快向目的峰值的收斂，適合用于峰值個(gè)數(shù)較少并需要找到所有局部最優(yōu)解的場合，而在對超多峰函數(shù)進(jìn)行較優(yōu)峰搜索時(shí)，表現(xiàn)的收斂性能明顯比本文算法差。SNTPSO雖然在收斂性能上與本文算法接近，但其固有的串行運(yùn)算結(jié)構(gòu)限制了尋優(yōu)效率。本文提出的算法自始至終受應(yīng)用參數(shù)的引導(dǎo)，能最有效地利用峰值個(gè)數(shù)、峰間分辨率和峰位置精度先驗(yàn)參數(shù)，使粒子運(yùn)動(dòng)直接面向目的峰值，從而獲得最高的多峰尋優(yōu)效率。此外，從圖3和4中的收斂曲線可以看出，本文算法在演化的初期收斂速度非常快，即用很少的試探次數(shù)就能識(shí)別出要求的多個(gè)峰。如果根據(jù)目標(biāo)函數(shù)的具體情況在演化后期結(jié)合具有強(qiáng)局部收斂性的算法?？蛇M(jìn)一步形成各種實(shí)用的高性能多峰尋優(yōu)算法，本文提出的算法思想具有較大的開發(fā)潛力。

4 結(jié)束語

本文提出的改進(jìn)型粒子群算法是一種基于實(shí)際系統(tǒng)參數(shù)面向應(yīng)用的多峰優(yōu)化算法，與已有的三種代表性多峰尋優(yōu)算法相比具有以下優(yōu)勢：a)能以較小的運(yùn)算代價(jià)快速地對目標(biāo)函數(shù)的多個(gè)較優(yōu)峰搜索極值；b)能直接利用由實(shí)際系統(tǒng)性能和 應(yīng)用需求所確定的先驗(yàn)參數(shù)，引導(dǎo)優(yōu)化過程；c)算法中的lbest列表競爭、停止峰標(biāo)記和粒子重新初始化的機(jī)制有效地將運(yùn)算量調(diào)整到新峰值的發(fā)現(xiàn)上，使算法首先以很快的速度收斂到多個(gè)峰，然后利用冗余的時(shí)間對lbest列表進(jìn)行可能的修正，平衡了高效與可靠的實(shí)用需求；d)該算法在演化早期對多峰的收斂速度非?？?，為后期收斂的改進(jìn)提供了較大余地，可衍生出多種實(shí)用多峰尋優(yōu)算法。

參考文獻(xiàn):

[1]BRITS R， ENGELBRECHT A P， Van DEN BERGH F. Locating multiple optima using particle swarm optimization[J].Applied Mathematics and Computation ， 2007， 189 :18591883.

[2] BRITS R， ENGELBRECHT A P， Van DEN BERGH F. A niching particle swarm optimizer[C]//Proc of the 4th AsiaPacific Conference on Simulated Evolution and Learning. 2002:692696.

[3] BEASLEY D， BULL D， MARTIN R. A sequential niche technique for multimodal function optimization[J].Evolutionary Computation，1993， 1 (2):101125.

[4] KENNEDY J， EBERHART R C. Particle swarm optimization[C]//Proc of IEEE International Conference on Neural Networks. Perth: [s.n.]， 1995:19421948.

[5] CLERC M. The swarm and the queen: towards a deterministic and adaptive particle swarm optimization[C]//Proc of Congress on Evolutionary Computation. Piscataway: IEEE Service Center， 1999:19511957.

[6]CARLISLE A， DOZIER G. An offtheshelf PSO[C]//Proc of Workshopon Particle Swarm Optimization. Indianapolis: [s.n.]， 2001:16.

[7] Van DEN BERGH F. An analysis of particle swarm optimizers[D]. South Africa:Department of Computer Science，University of Pretoria， 2002.

[8] LAGARIAS J C， REEDS J A， WRIGHT M H， et al. Convergence properties of the neldermead simplex method in low dimensions[J].SIAM Journal of Optimization，1998， 9 (1):112147.

[9] ZCAN E， YILMAZ M. Particle swarms for multimodal optimization[C]//BELICZYNSKI B， et al.，Lecture Notes in Computer Science. [S.l.]: SpringerVerlag，2007:366375.