云環(huán)境下求解大規(guī)模優(yōu)化問題的協(xié)同差分進化算法

譚旭杰，鄧長壽，吳志健，彭虎，朱鵲橋

差分進化算法(differential evolution，DE)是一種基于實數編碼的全局優(yōu)化算法[1]，因其簡單、高效以及具有全局并行性等特點，近年來已成功應用到工業(yè)設計和工程優(yōu)化等領域。研究人員對DE算法進行了改進和創(chuàng)新并取得了一些成果。比如Brest等[2]構造了控制參數的自適應性方法并提出了自適應DE算法(jDE)。Wang等[3]提出了復合DE算法(CoDE)，其將精心選擇的3種變異策略和3組控制參數按照隨機的方法進行組合。這些研究成果主要集中于低維問題(30維)，然而當面向高維問題(1 000維)時，這些DE算法的性能將急劇下降，而且搜索時間隨著維數成指數增長，求解極為困難，“維災難”問題依然存在[4]。

為了有效求解高維優(yōu)化問題，學者們提出不同的策略，其中具有代表性的是協(xié)同進化(cooperative coevolution，CC)[5]。CC 采用“分而治之”的思想，首先將高維復雜問題分解成低維簡單的子問題；其次對每個子問題分別進行求解；最后通過所有子問題解的協(xié)同機制，得到整個問題的解。Yang等[6]提出的隨機分組策略，可將兩個相關變量以極大的概率放在同一組，在大規(guī)模優(yōu)化問題中得到較精確的解。研究人員已將CC應用到多個領域，如大規(guī)模黑盒優(yōu)化問題[7]、SCA 問題[8]、FII算法[9]、CCPSO 算法[10]、DG2 算法[11]，然而它們在求解高維優(yōu)化問題時，采用串行方式求解，因此，問題求解需要較長的計算時間，很難在有效時間內提供滿意的解。近年來云計算已應用到大規(guī)模信息處理領域中，如在機器學習[12]、蟻群算法[13]、CRFs算法[14]、差分進化算法[15-16]、圖數據分析[17]、分類算法[18]等獲得了成功。因此，有必要將云計算的分布式處理能力與CC的優(yōu)勢相結合，為大規(guī)模優(yōu)化問題的求解提供新方法。

研究人員已在Google開源平臺Hadoop的Map-Reduce模型之上提出了一些分布式差分進化算法[19-20]。實踐中研究人員發(fā)現，MapReduce模型是一個通用的批處理計算模型，缺乏并行計算數據共享的有效機制，對迭代運算無法提供有效支持。因此，基于MapReduce模型的差分進化算法需要通過頻繁讀寫文件來交換數據，降低了其效率[21]。

Spark云平臺是伯克利大學提出的分布式數據處理框架[22]，在許多領域獲得了成功應用。Spark提出了一種全新的數據抽象模型RDD(彈性分布式數據模型)。RDD模型能夠有效支持迭代計算、關系查詢、批處理以及流失數據處理等功能，使得Spark可以應用于多種大規(guī)模處理場景。由于RDD模型基于內存計算，避免了MapReduce模型頻繁讀寫磁盤數據的弊端，提高了效率。

本文基于Spark云平臺提出了合作協(xié)同的差分進化算法。SparkDECC算法采用“分治”策略，將高維優(yōu)化問題按隨機分組策略分解成低維子問題，并封裝成RDD；在RDD中，每個子問題獨立并行進化若干代；利用協(xié)同機制將所有子問題合并成完整問題，評價出最優(yōu)個體。SparkDECC算法在13個標準函數進行測試，實驗結果表明該算法是有效可行的。

1 差分進化算法

差分進化算法是一種仿生的群體進化算法，具體操作如下[23]。

1) 種群初始化

DE算法首先在[xmin，xmax]范圍內隨機初始化NP個D維向量xi的種群，其中NP為種群大小，D為種群的維度，xmin為最小值，xmax為最大值，i∈[1, NP]。

2) 變異

變異主要是通過種群中個體之間的差向量來改變個體的值。DE算法根據基準向量的選取和差分向量數目不同，有多種變異操作。本文的目標向量xi主要通過最常用的變異算子產生，如式(1)。

式中：i, r1, r2, r3∈[1, NP]且互不相同的4個隨機整數；vi,g為目標向量xi在第g代時產生的變異向量；縮放因子F∈[0, 1]。

3) 交叉

變異后，DE算法通過交叉概率在目標向量xi與變異向量vi進行交叉，產生新的試驗向量ui。具體操作如式(2)所示。

式中：交叉概率 CR∈[0, 1]，j∈[1, D]，隨機數rnd1∈[0, 1]，隨機整數 rnd2∈[1, D]。

4) 選擇

DE算法主要通過“貪婪”原則對個體進行選擇，較優(yōu)個體進入下一代。具體操作如式(3)所示。

式中f (xi,g)為個體xi,g的適應度值。

DE算法通過變異、交叉、選擇之后，根據循環(huán)代數或求解精度來結束搜索。

2 合作協(xié)同的云差分進化算法Spark-DECC

2.1 Spark云平臺

為了更加高效地支持迭代運算，Spark平臺在MapReduce云模型的基礎上進行了擴展[24]。Spark平臺提供了兩個重要的抽象：RDD和共享變量。RDD本質是一個容錯的、并行的數據結構，提供了一種只讀、分區(qū)記錄并存放在內存的數據集合。Broadcast是一種共享變量，將數據緩存在每個結點上，不再需要傳遞數據，減少通信開銷，提高通信性能。Spark平臺的API為RDD提供了兩種算子：轉換算子(Transformations)和動作算子(Actions)，其中，轉換算子都是惰性的，對RDD分區(qū)的每個數據執(zhí)行相同的操作，并返回新的RDD；而動作算子將觸發(fā)RDD上的運算，并將值返回給主控結點。RDD內部實現機制基于迭代器，使得數據訪問更高效，避免了中間結果對內存的消耗，使迭代計算更加高效快速。

DE是一種基于群體的進化算法，具有內在并行性的特點。因此，DE能與Spark的并行性充分融合。Spark在主控結點通過Parallelize方法將種群并行初始化，并采用“鍵–值”的方式存放在內存中，即：

式中：m是子種群的數目；keyi是整數，表示第i個子種群的編號；valuei是第i個子種群。DE在Spark上的具體實現如圖1所示。

圖1 基于Spark的DE算法Fig. 1 DE based on spark

Spark將內存中的數據按“鍵–值”對的方式抽象成RDD，并根據keyi值將子種群分區(qū)保存在不同的結點上。利用RDD的并行操作算子對各子種群并行進化若干代，再通過collect算子合并生成新的種群。循環(huán)結束后通過動作算子reduce獲取整個種群的最優(yōu)值。

2.2 SparkDECC算法

CC框架處理大規(guī)模優(yōu)化問題優(yōu)勢明顯。然而，隨著種群規(guī)模的增加，CC框架所需時間快速增加。為了提高CC框架的收斂速度，將云計算的優(yōu)勢與CC框架相結合，提出了基于Spark的合作協(xié)同進化算法-SparkDECC算法。

SparkDECC算法首先將高維問題按隨機分組方法分解成若干個低維子問題，一個子問題對應一個子種群，保留每個子問題在完整問題的位置信息；按keyi值將低維子種群分發(fā)到RDD中相應的分區(qū)，每個分區(qū)中的子種群并行執(zhí)行DE算法的變異、交叉、選擇等操作，其中子種群在計算個體適應度值時，選取上一輪的最優(yōu)個體合作組成完整的種群并進行局部尋優(yōu)。低維子種群在對應的分區(qū)中進化若干代后，按照其位置信息合并成新的完整種群，并通過全局搜索返回最優(yōu)個體。SparkDECC算法的流程圖如圖2所示。

圖2 SparkDECC算法流程圖Fig. 2 Flowchart of SparkDECC algorithm

SparkDECC算法的具體步驟如下。

1) 初始化參數：種群規(guī)模NP、縮放因子F、交叉概率CR、問題的維度D、子問題的維度DimSub、子種群數M=D/DimSub、子種群的位置信息subscript、分區(qū)數Num、進化代數Gen、子種群合并輪數Cycles；

2) 初始化種群Pop，通過cache()將數據存放在內存中；

3) 獲取種群最優(yōu)個體向量bestInd、最優(yōu)值best；

4) 將控制合并輪數的變量c賦值為0;

5) 判斷合并輪數c是否小于等于Cycles，若是，則循環(huán)結束；否則，繼續(xù)；

6) 變量c自動加1;

7) 利用parallelize方法將Pop按隨機分組策略分解成M個低維的子種群，將子種群的位置信息存放subscript中，并按key值將子種群分發(fā)到相應分區(qū)；

8) 通過broadcast變量將Pop廣播至每個結點；

9) 各子種群并行進化Gen代，具體的計算過程為：

① 變異操作，執(zhí)行式(1)；

② 交叉操作，執(zhí)行式(2)；

③ 選擇操作，執(zhí)行式(3)，其中子種群在計算適應度值時，按照其位置信息替換掉bestInd中的部分解。

10) 利用collect動作算子將所有低維子種群按協(xié)同機制合并成完整種群，并更新Pop；

11) 對Pop進行全局搜索并返回最優(yōu)個體bestInd；

12) 轉到 5)；

13) 循環(huán)結束，通過reduce返回最優(yōu)值best。

在上述SparkDECC算法中，包含兩個循環(huán)，即6)、10)。外循環(huán)6)控制問題的全局優(yōu)化，內循環(huán)10)控制子問題的局部優(yōu)化。

上述算法的時間復雜度主要集中在10)，其主要功能是在Num個分區(qū)中同步并行優(yōu)化M個低維子問題。一個低維子問題的時間復雜度為O(M×NP)，M個低維子問題在一個分區(qū)里按串行方式進化Gen代，運行Cycles輪的時間復雜度為O(M×NP×Gen×Cycles)。在上述算法中，略去其他步的時間復雜度。因此，SparkDECC算法在每個分區(qū)的時間復雜度為O(M×NP×Gen×Cycles)/Num。

3 數值實驗與分析

3.1 測試問題

為了測試SparkDECC算法求解大規(guī)模優(yōu)化問題的性能，本文選取了文獻[25]中13個測試函數進行實驗。其中f1～f8為單模函數，f9～f13為多模函數，f4和f5為不可分解的函數，其他函數都是可分解的。函數的詳細說明詳見文獻[25]。

3.2 實驗設置

本實驗采用Spark云模型，每個節(jié)點的配置如下：64 bit corei7 CPU，主頻3.4 GB，內存8 GB，Ubuntu13.10操作系統(tǒng)，安裝使用Hadoop2.2.0和Spark1.2.0，編程環(huán)境為IntellJ IDEA14.1.2，使用Scala和Java語言。

為了驗證SparkDECC的性能以及影響其性能的各個因素，實驗時SparkDECC中問題的維度D=1 000，子問題的維度DimSub=100，問題規(guī)模NP=100，F=0.5，CR=0.9，每個子種群獨立運行的代數MaxGen=100，合并輪數Cycles=50。為了驗證SparkDECC算法的可擴展性，將問題的維度D擴展到5 000，其他參數保持不變。

3.3 實驗結果與分析

表1為 SparkDECC 與 OXDE[26]、CoDE、jDE、PSO[27]算法的平均最優(yōu)值和標準方差的結果對比。5種算法的參數設置一致，各算法獨立運行25次。采用了Wilcoxon秩和檢驗方法對4種算法的實驗結果進行了統(tǒng)計分析，顯著性水平為0.05，其中，“–”表示劣于，“+”表示優(yōu)于，“≈”表示相當于。

表1中，SparkDECC與其他3種DE算法進行對比，結果表明，SparkDECC 在 f1、f5、f6、f10～f13共7個函數能快速收斂到最優(yōu)結果，實驗數據優(yōu)于其他3種算法；SparkDECC算法在f3、f8和f9等3個函數的收斂出現了停滯，實驗結果弱于其他算法；在不可分解函數f4上各算法的運行效果相當；f2要劣于jDE，優(yōu)于OXDE和CoDE；帶噪聲函數f7的實驗結果劣于CoDE，優(yōu)于jDE，與OXDE相當。

表1 SparkDECC、OXDE、CoDE、jDE、PSO算法的平均值、標準差和Wilcoxon秩的檢驗結果Table 1 Comparison of SparkDE, OXDE, CoDE, jDE and PSO algorithms for solving the results

SparkDECC與PSO算法的結果對比，實驗結果表明SparkDECC算法除函數f8外其他都優(yōu)于PSO，說明SparkDECC算法總體性能優(yōu)于PSO。

函數收斂曲線圖主要用來表示算法求解最優(yōu)值的一種趨勢走向，函數曲線下降得越快，收斂性能越好。為了比較 4 種不同 DE 算法在 f1、f3、f5、f6、f9、f10、f11、f13等函數的收斂性能(受篇幅限制，僅選擇這8個函數)，選取了各算法獨立運行20次中的平均收斂數據，收斂取值以10為底的對數形式，曲線圖如圖3所示。從圖3可以看出SparkDECC算法的收斂能力較強，在函數f1、f10、f11上的收斂曲線呈直線下降，收斂性能強；函數f5、f6、f13在進化的前期有很好的收斂速度，但在后期出現了一定程度的局部收斂；函數f3，f9在整個進化過程中處于局部收斂，收斂性能弱，收斂效果要劣于其他算法。

圖3 收斂圖Fig. 3 Convergence graph

綜合以上實驗數據分析表明，SparkDECC算法能有效地求解大規(guī)模優(yōu)化問題，提高了DE算法的收斂精度和收斂速率。

加速比[28]是衡量算法并行性的有效指標，其定義如式(5)所示。

圖4 加速比Fig. 4 Acceleration ratio

3.4 協(xié)同方式對算法性能的影響

SparkDECC算法對子種群進行局部尋優(yōu)后，需要合并所有子種群并進行全局搜索。SparkDECC算法按照原模型進行組合，整個種群保持原來的結構。為了分析子種群合并機制對SparkDECC算法性能的影響，本文選取了兩種不同的協(xié)同方式進行對比實驗。這兩種協(xié)同方式衍生出兩種算法，即SparkDECC-1算法和SparkDECC-2算法，這兩種算法在SparkDECC算法的基礎上，子種群按不同的協(xié)同方式進行組合。其中，SparkDECC-1算法在所有子種群組合之前，首先將所有子種群的個體按其適應度值升序排序，最后將所有子種群按線性方式組合成完整的種群；SparkDECC-2算法將所有子種群中的個體按隨機方式組合成完整的種群。為了驗證3種不同的SparkDECC算法的性能，選擇了相同的參數設置，分別在13個函數上獨立運行20次，實驗結果如表2所示。

表2的實驗結果表明，SparkDECC算法在f1、f2、f4、f5、f10、f11、f12、f13等 8 個函數的實驗結果要優(yōu)于其他兩種協(xié)同方式。其中，SparkDECC-1算法在f3、f6、f8、f9等 4 個函數優(yōu)于 SparkDECC 算法，SparkDECC-2算法中的所有函數都劣于Spark-DECC算法?？傊琒parkDECC算法的其他組合方式不能有效地提高算法的收斂精度，且增加了種群個體的排列組合運算，算法的運行時間隨之增加。因此，SparkDECC算法選擇最初的協(xié)同方式合并子種群，維持原種群的結構，能有效提高算法的精度和時間。

表2 SparkDECC 3種不同協(xié)同方式的實驗結果Table 2 Experimental results of SparkDECC on three different cooperative modes

3.5 子種群數對算法的影響

為了分析子種群數對SparkDECC性能的影響，分別選取了不同數目的子種群進行對比實驗，如1、2、5、10、20等5種不同的子種群。根據2.2節(jié)中的子種群數的計算公式，計算子種群的維度，如問題維度為1 000，則上述5種不同子種群的維度分別為 1 000、500、200、1 00、50。算法的其他參數設置保持一致，分別在13個測試函數上獨立運行了20次，表3和表4分別記錄了5種不同子種群數下的平均最優(yōu)值和平均運行時間。

表3 和表 4 的結果分析發(fā)現，f1、f2、f6、f8、f10、f12、f13共7個函數的收斂精度隨子種群數的增加而逐漸增強。f3、f4、f9這3個函數解的精度在種群不分解的情況下達到最優(yōu)，種群維度的分解并沒有提高解的精度。f7的解在子種群數為5時達到最優(yōu)，再增加子種群數并不會提高解的精度。f5、f11的解在子種群數為10時達到最優(yōu)。因此，對于可分解函數，SparkDECC的種群多樣性隨子種群數的增加逐漸增強，提高了解的收斂性。然后，隨子問題數目增多，子問題之間的交互時間隨之增加，從而增加了函數的收斂時間。表4的結果顯示，函數的運行時間與子問題數成正比，與2.2節(jié)中的時間復雜度相吻合。當子問題數增加到20時，13個函數總的平均時間是1個子問題的11.5倍。因此，Spark-DECC應從收斂時間和收斂精度兩方面綜合考慮選取合適的子種群數。

3.6 子種群進化代數對算法的影響

SparkDECC算法在子種群進化若干代后，需要合并成新的全局最優(yōu)解。因此，為了探索子種群局部尋優(yōu)的代數Gen對SparkDECC算法的影響，本文選取了10、20、50、100、250等5種情況分別進行實驗。5種情況的其他參數一致并設置相同的函數評價次數，分別獨立運行25次，平均運行時間及結果分別如表5和表6所示。

表3 SparkDECC在不同子種群數的實驗結果Table 3 Experimental results of SparkDECC in different number of sub-populations

表4 SparkDECC在不同子種群數的平均運行時間Table 4 The average running time of SparkDECC in different number of sub-populations ms

表6 的結果顯示，f1、f2、f7、f8、f9、f10等 6 個函數的求解精度隨進化代數的增加逐漸提高。f3和f4兩個函數增加局部尋優(yōu)的代數并不能提高解的精度，函數易陷入局部最優(yōu)。f6、f12和f13等3個函數的結果在進化代數為100時達到最優(yōu)。f5和f11兩個函數在進化代數為50時達到最優(yōu)，進化代數的增加并不能提高解的質量。由2.2節(jié)中的時間復雜度可知，在評價次數相同的情況下，不同進化代數Gen的函數優(yōu)化時間幾乎相同。但從表5的結果顯示，SparkDECC算法的優(yōu)化時間隨參數Gen的增加而逐漸減少。其主要原因是，由2.2節(jié)中的算法可知，SparkDECC算法在評價次數相同的情況下，合并輪數Cycle的值隨進化代數Gen變大而逐漸變小，減少了廣播變量執(zhí)行的次數，因此，函數的優(yōu)化時間會相應減少，但總的優(yōu)化時間相差無異。

表5 進化代數對SparkDECC優(yōu)化時間的影響Table 5 Optimization time of SparkDECC with generations ms

總之，SparkDECC算法的收斂精度與子問題的進化代數和合并輪數關系緊密，增加子問題的進化代數提高了子問題的局部尋優(yōu)能力。子問題的合并輪數改善了問題多樣性。但是，在評價次數相同的情況下，子問題的合并輪數隨子種群進化代數的增加而減少。因此，為了在全局搜索和局部尋優(yōu)之間達到平衡，并能在有效時間內提高算法的收斂精度，我們可以選擇合適的進化代數，合理分配計算資源。

表6 進化代數對SparkDECC優(yōu)化性能的影響Table 6 Performance affection of SparkDECC with generations

3.7 SparkDECC算法的可擴展性分析

為了驗證SparkDECC算法的可擴展性，本文將文獻[25]中的13個測試函數擴展到5 000維進行實驗。子問題的維度 S=100，F=0.5，CR=0.9，FES=5 000 D，問題規(guī)模NP=100，算法獨立運行10次。OXDE、CoDE和jDE 3種算法在5 000維的實驗參數與SparkDECC的參數一致，實驗結果如表7。

表7 SparkDECC、OXDE、CoDE、jDE算法在5 000維的平均值、標準差和Wilcoxon秩和檢驗結果Table 7 Comparison of SparkDECC, OXDE, CoDE, jDE algorithms for solving the results in 5 000 dimension

表7的結果顯示，隨著維度的增加，算法的求解性能下降，搜索時間成倍增長。SparkDECC算法在 f1、f2、f5、f6、f7、f8、f10、f11、f12、f13等 10 個函數的最優(yōu)值都優(yōu)于其他3種算法，但在f3和f9兩個函數的最優(yōu)值都劣于其他3個算法，4種算法在函數f10上的結果相似。OXDE、CoDE和jDE 3種算法在13個測試函數的維度擴展到5 000時的運行時間分別是25.15天、16.68天和16.85天。SparkDECC算法的運行時間為4.71天，大大提升了算法的收斂時間。實驗結果顯示，SparkDECC算法在5 000維的整體性能優(yōu)于其他3種算法，具有很好的可擴展性。

4 結束語

本文利用新型的迭代云計算模型，提出新的基于Spark的合作協(xié)同云差分進化算法(SparkDECC)。SparkDECC算法按隨機分組策略將高維問題分解成多個同維的低維子問題，將每個子問題與RDD模型中的分區(qū)一一對應，每個子問題并行執(zhí)行DE算法，子問題獨立進化若干代后，更新最優(yōu)個體，提高種群的多樣性。利用Scala語言在Spark云模型上實現了SparkDECC，通過13個標準測試函數的對比實驗，結果表明SparkDECC求解精度高，速度快，可擴展性好。此外，選擇6個測試函數進行加速比實驗，實驗結果表明加速比與分區(qū)數量幾乎是線性的，加速效果良好。后續(xù)工作將在SparkDECC的基礎上探索新的分組策略，并不斷改進其協(xié)同機制，提高算法的收斂效率和求解精度。

[1]STORN R, PRICE K. Differential evolution-a simple and efficient heuristic for global optimization over conti-nuous spaces[J]. Journal of global optimization, 1997, 11(4):341–359.

[2]BREST J, GREINER S, BOSKOVIC B, et al. Self-adapting cont-rol parameters in differential evolution: a comparati-ve study on numerical benchmark problems[J]. IEEEtransactions on evolutionary computation, 2006, 10(6): 646–657.

[3]WANG Yong, ZHANG Qingfu. Differential evolution with composite trial vector generation strategies and co-ntrol parameters[J]. IEEE transactions on evolutionary computation, 2011, 2(15): 55–66.

[4]FRANS V D B, ENGELBRECHT A P. A cooperative approach to particle swarm optimization[J]. IEEE transactions on evolutionary computation, 2004, 8(3): 225–239.

[5]POTTER M A, De JONG K A. A cooperative coevolutionary approach to function optimization[J]. Lecture notes in computer science, 1994, 866: 249–257.

[6]YANG Z, TANG K, YAO X. Large scale evolutionary optimization using cooperative coevolution[J]. Information sciences, 2008, 178(15): 2985–2999.

[7]MEI Y, OMIDVAR M N, LI X, et al. A competitive divideand-conquer algorithm for unconstrained large-scale blackbox optimization[J]. ACM transactions on mathematical software, 2016, 42(2): 13.

[8]GUAN X, ZHANG X, WEI J, et al. A strategic conflict avoidance approach based on cooperative coevolution-ary with the dynamic grouping strategy[J]. International journal of systems science, 2016, 47(9): 1995–2008.

[9]HU X M, HE F L, CHEN W N, et al. Cooperation coevolution with fast interdependency identification for large scale optimization[J]. Information sciences, 2017, 381: 142–160.

[10]LI X, YAO X. Cooperatively coevolving particle swarms for large scale optimization[J]. IEEE transactions on evolutionary computation, 2012, 16(2): 210–224.

[11]OMIDVAR M N, YANG M, MEI Y, et al. DG2: a faster and more accurate differential grouping for large-scale black-box optimization[J]. IEEE transactions on evolutionary computation, 2017, 21(6): 929–942.

[12]MENG X, BRADLEY J, YUVAZ B, et al. Mllib: machine learning in apache spark[J]. Journal of machine research,2015, 17(34): 1235–1241.

[13]王詔遠, 王宏杰, 邢煥來, 等. 基于Spark的蟻群優(yōu)化算法[J]. 計算機應用, 2015, 35(10): 2777–2780.WANG Zhangyuan, WANG Hongjie, XING Huanlai, et al.An implement of ant colony optimization based on spark[J].Journal of computer applications, 2015, 35(10): 2777–2780.

[14]朱繼召, 賈巖濤, 徐君, 等. SparkCRF: 一種基于 Spark 的并行CRFs算法實現[J]. 計算機研究與發(fā)展, 2016, 53(8):1819–1828.ZHU Jizhao, JIA Yantao, XU Jun, et al. SparkCRF: a parallel implementation of crfs algorithm with spark[J]. Journal of computer research and development, 2016, 53(8):1819–1828.

[15]DENG C, TAN X, DONG X, et al. A parallel version of differential evolution based on resilient distributed datasets model[C]//Bioinspired Computing-Theories and Applications. Springer, Berlin, Heidelberg, 2015: 84–93.

[16]TEIJEIRO D, PARDO X C, GONZáLEZ P, et al. Implementing Parallel Differential Evolution on Spark[C]//European Conference on the Applications of Evolutionary Computation. Springer International Publishing, 2016:75–90.

[17]王虹旭, 吳斌, 劉旸. 基于Spark的并行圖數據分析系統(tǒng)[J]. 計算機科學與探索, 2015, 9(9): 1066–1074.WANG Hongxu, WU Bin, LIU Yang. Parallel graph data analysis based on spark[J]. Journal of frontiers of computer science and technology, 2015, 9(9): 1066–1074.

[18]劉志強, 顧榮, 袁春風, 等. 基于SparkR 的分類算法并行化研究[J]. 計算機科學與探索, 2015, 9(11): 1281–1294.LIU Zhiqiang, GU Rong, YUAN Chunfeng, et al. Parallelization of classification algorithms based on sparkR[J].Journal of frontiers of computer science and technology,2015, 9(11): 1281–1294.

[19]袁斯昊, 鄧長壽, 董小剛, 等. 求解大規(guī)模優(yōu)化問題的云差分進化算法[J]. 計算機應用研究, 2016, 33(10):2949–2953.YUAN Sihao, DENG Changshou, DONG Xiaogang, et al.Cloud computing based differential evolution algorithm for large-scale optimization problems[J]. Application research of computers, 2016, 33(10): 2949–2953.

[20]董小剛, 鄧長壽, 袁斯昊, 等. MapReduce模型下的分布式差分進化算法[J]. 小型微型計算機系統(tǒng), 2016, 37(12):2695–2701.DONG Xiaogang, DENG Changshou, YUAN Sihao, et al.Distributed differential evolution algorithm based on mapreduce model[J]. Journal of Chinese computer systems,2016, 37(12): 2695–2701.

[21]譚旭杰, 鄧長壽, 董小剛, 等. SparkDE: 一種基于RDD云計算模型的并行差分進化算法[J]. 計算機科學, 2016,43(9): 116–119.TAN Xujie, DENG Changshou, DONG Xiaogang, et al.SparkDE: a parallel version of differential evolutionbased on resilient distributed datasets model in cloud computing[J]. Computer science, 2016, 43(9): 116–119.

[22]ZAHARIA M, CHOWDHURY M, DAS T, et al. Resilient di-stributed datasets: a fault-tolerant abstraction for inmemory cluster computing[C]//Proceedings of the 9th USENIX conference on Networked Systems Design and Implementation. USENIX Association, 2012: 2–2.

[23]DAS S, SUGANTHAN P N. Differential evolution: a survey of the state-of-the-art[J]. IEEE transactions on evolutionary computation, 2011, 15(1): 4–31.

[24]王賢偉, 戴青云, 姜文超, 等. 基于Mapreduce的外觀設計專利圖像檢索方法[J]. 小型微型計算機系統(tǒng), 2012,33(3): 626–632.WANG Xianwei, DAI Qingyun, JIANG Wenchao, et al.Retrieval of design patent images based on mapreduce model[J]. Journal of Chinese computer systems, 2012,33(3): 626–632.

[25]YAO X, LIU Y, LIN G. Evolutionary programming ma-de faster[J]. IEEE transactions on evolutionary computation,2000, 3(2): 82–102.

[26]WANG Y, CAI Z, ZHANG Q. Enhancing the search ability of differential evolution through orthogonal crossover[J]. Information sciences, 2012, 185(1): 153–177.

[27]范德斌, 鄧長壽, 袁斯昊, 等. 基于MapReduce模型的分布式粒子群算法[J]. 山東大學學報: 工學版, 2016, 46(6):23–30.FAN Debin, DENG Chanshou, YUAN Sihao, et al. Distributed particle swarm optimization algorithm based on mapreduce[J]. Journal Shandong university: engineering science, 2016, 46(6): 23–30.

[28]TAGAWA K, ISHIMIZU T. Concurrent differential evolution based on MapReduce[J]. International journal of computers, 2010, 4(4): 161–168.