模型替代方法在優化設計中的應用

劉萬剛,宋述芳,樊維超,呂震宙

(西北工業大學 航空學院,西安 710072)

?

模型替代方法在優化設計中的應用

劉萬剛,宋述芳,樊維超,呂震宙

(西北工業大學 航空學院,西安 710072)

在優化設計問題中,常常會遇到目標響應與設計變量之間具有隱式函數關系的情況.針對此類問題,模型替代方法可以通過尋找輸入參數和輸出響應之間的轉換關系來替代真實未知的目標函數.考慮了響應面法(RSM)、Kriging模型、徑向基函數(RBF)神經網絡和高階模型替代法(HDMR)等常見的模型替代方法,對它們的原理、優缺點進行了對比分析.對優化算法進行了改進,提出了截斷多初始點搜索優化算法,以期盡可能全面地搜索其全局最優點,為結構設計提供全面的指導.

模型替代; 徑向基函數(RBF)神經網絡; Kriging模型; 高階模型替代法(HDMR); 響應面法(RSM)

在實際工程優化設計過程中,性能目標與設計變量之間常常不具有顯式的函數關系式,且通常表現為高度非線性、多參數等特性.近年來提出的替代模型方法可以有效運用實驗點,構造模型輸入—輸出轉換關系,以有效解決此類隱函數問題.目前比較常用的Kriging模型、徑向基神經網絡模型、響應面模型、高維替代模型等的代理模型[1-4].本文比較了不同情況下,上述代理模型的運用效果,為更好地深入了解這幾種代理模型在優化問題中的運用作鋪墊.

直接搜索優化算法通過在可行域內反復調用目標函數進行尋優,存在耗時多、效率低、易于陷入局部最優等缺點.本文采用代理模型替代目標函數,在此基礎上發展了截斷多初始點搜索優化算法,以期盡可能全面地搜索全局最優,為結構設計改型提供盡量全面的指導和依據.

1 模型替代方法及對比分析

1.1 Kriging方法

Kriging模型是一種最優的線性無偏估計,它包含了線性回歸部分和非參數部分[5].一般來說,Kriging模型的形式為

y(x)=G(β,x)+z(x)=gT(x)β+z(x)

(1)

式中：β為回歸系數;g(x)為變量x的多項式函數.在設計空間中,提供模擬的全局近似,非參數部分z(x)提供模擬的局部近似,一般為服從正態分布N(0,σ2)的隨機過程,其協方差矩陣Cov(Covariance)可以通過極大似然估計確定:

(2)

式中：R(xi,xj)為N個樣本點{x1,x2,…,xN}中任何兩個樣本點xi和xj的空間相關方程,一般采用高斯相關方程,它對模擬的精度程度起決定性作用.

(3)

(4)

式中：極大似然估計因子為

(5)

式中：G為由樣本點和多項式函數g確定的回歸系數矩陣.通過極大似然估計確定相關矩陣的參數θk,就可以得到最優的Kriging模型.

1.2 徑向基函數神經網絡

人工神經網絡(Artificial Neural Networks,ANN)是一種模仿動物神經網絡行為特征,進行分布式并行信息處理的算法數學模型[6].徑向基函數(Radial Basis Function,RBF)神經網絡,是一種高效的前饋式神經網絡,具有最佳逼近性能和全局最優特性,且結構簡單,訓練速度快,廣泛應用于模式識別、非線性函數逼近等領域.

RBF網絡是通過非線性基函數的線性組合實現從輸入空間到輸出空間的非線性轉換.徑向基神經網絡一般使用徑向基函數(常用高斯函數)作為激活函數[7],

(6)

式中：xp為訓練樣本;ci為所選取的中心.通過自組織選取中心學習方法,可以得到網絡輸出為

(7)

隱含層至輸出層之間神經元的連接權值可以用最小二乘法直接計算得到,計算公式如下

(8)

式中:cmax為所選取中心之間的最大距離;N為樣本的個數.

1.3 響應面法及高階模型替代法

1.3.1 響應面法

響應面法(Response Surface Method,RSM)的基本思想就是先選定用于近似隱式函數的多項式形式,然后通過實驗點來確定近似函數中的待定參數[3].RSM的實現過程中涉及的問題有:① 響應面函數形式的選取;② 實驗樣本點的抽取方式;③ 響應面函數擬合的方法.

目前運用得較多的響應面形式是線性響應面(LRSM)和二次響應面(SRSM):

(9)

(10)

線性響應面中的待定系數少,因而擬合響應面所需的樣本就少,從而可以減少工作量,但它不能夠反映隱式函數的非線性.二次響應面因其引入了二次項,可以一定程度上反映隱式極限狀態方程的非線性.目前確定響應面待定系數的常用方法是加權最小二乘法.

Bucher設計是目前運用最廣泛的抽樣方式,它圍繞抽樣中心,并沿坐標軸正負方向分別偏離一定距離來選取樣本點,偏離距離一般取為τ倍的基本變量xi(i=1,2,…,n)的標準差σxi,τ稱為插值系數,一般取為1～3之間的常數.

為了進一步考慮隱式函數的非線性程度,Rabitz等[4]提出了高維模型替代方法.

1.3.2 高階模型替代法

高階模型替代法(High Dimensional Model Representation,HDMR)的基本思想:輸出量y(x)可以用多個單一輸入變量的獨立作用和變量之間的耦合作用的疊加來表示,即y(x)可以表示成如下形式:

(11)

式中:g0為0階常數項;gi(xi)為1階分量函數,表示變量xi對輸出的單一作用;gij(xi,xj)為2階分量函數,表示變量xi和xj相互耦合后對輸出的聯合作用;g1,2,…,d(x1,x2,…,xd)為d階分量函數,表示所有分量耦合后對輸出的聯合作用.

忽略高階耦合影響,y(x)可表示為

(12)

采用正交多項式逼近其分量函數,文獻[8]得出的y(x)表達式為

(14)

1.4 算例驗證與對比分析

算例1 Rosenbroke 函數(變量數d=3)

從圖1可以看出,對于多項式形式的函數,Kriging、RBF神經網絡、HDMR均能很好地得到真實函數的代理模型.

圖1 算例1的代理模型對比

算例2 Ishigami 函數

從圖2可以看出,對于含有sin/cos的非線性程度較大的函數,Kriging方法比RBF神經網絡和HDMR具有較大的優勢,后兩者與真實函數之間有一定的差異,但誤差在可接受的范圍內.

圖2 算例2的代理模型對比

2 基于模型替代的優化設計算法

本文對優化算法進行了改進,以期盡可能全面地搜索全局最優結果,以便為結構設計提供全面的指導.

2.1 優化問題的數學模型[9]

minf(x)

s.t.up(x)=0 (p=1,2,…,nu)

vq(x)<0 (q=1,2,…,nv)

(15)

2.2 截斷多初始點搜索優化算法

為了尋找到所有的全局極小值,階段自適應優化算法的優化過程包括如下內容:在[xl,xu]的d維空間上產生均勻分布的樣本點;通過截斷選取確定所需的多個初始點;基于多初始點搜索技術獲取所有的全局最小值(x*,f(x*)).其具體實施步驟如下:

(1) 設定i=1,k=1,最大迭代次數kmax.

(2) 在d維空間中產生樣本x={x1,x2,…,xN}.

(3) 估計目標函數在樣本點x處的函數值,并將函數值{fi}按從小到大的順序排列,從x中并且選取縮減的xr,根據xr={xi∈x|i=1,2,…,Nr,Nr=αN,α=0.2～0.5}.

(4) 從xr中選取搜索初始點xi,i=i+1.

(5) 如果i

(6) 如果k=kmax,或滿足迭代停止準則,則輸出所有全局最優點;否則,返回步驟(2).

2.3 模型替代在優化中的運用流程

利用一些模型函數來表示復雜的未知函數,包括Kriging、RBF神經網絡、HDMR方法,其對應的優化流程圖如圖3所示.

圖3 模型替代在優化中的運用流程圖

3 算例分析

3.1 Branin 函數

全局最小值f(x*)=0.398在點x*={(-π,12.275),(π,2.275),(9.425,2.475)}處.

圖4 Branin 函數的等高線

3.2 Ishigami 函數

全局最小值為-10.740 9,共有6個,在點(x1=-π/2,x2=±π,0,x3=±π)處取得.

在無約束情況下,從表1和表2可以看出,Kriging方法具有最優的優化效果,可以很快而且準確地找到全部的最優點,相比之下RBF和HDMR方法因構建代理模型精度有偏差,所需的樣本點數和迭代次略大,但是依然能夠找到所有的全局最優點.

3.3f(x)=x1x2

全局最小值為-12.5,在點x*={3.54,-3.54},x*={-3.54,3.54}處取得.

從表3的結果對照可以看出,在有約束的條件下,3種方法都可以很好地找到最優點,其中RBF方法中函數調用次數最少,只需1次迭代,Kriging和HDMR方法也都有較好的優化結果.

3.4 工程算例

表1 Kriging、RBF神經網絡、HDMR方法的Branin函數優化結果對照

注：Nnew代理模型產生的樣本點數;Iteration 為生成代理模型的次數;No.f.call為調用真實目標函數的次數;Nlocal-search為局部尋優的次數;Nmetamodel.call為調用代理模型的次數.表2中的所有符號含義相同

表2 Kriging、RBF神經網絡、HDMR方法的Ishigami函數優化結果對照

最終優化結果為7.088 6,最優點的變量取值為x*={0.714 0,0.5,0.971 4,0.5,0.5,0.5,0.906 4,0.5,0.5,0.5}.

從表4的結果對照可以看出,Kriging和HDMR方法都很好搜索出其全局最優解,RBF方法結果略有欠缺,這是因為目標函數本身是線性函數,如果把RBF的激活函數變為線性激活函數,結果會有改進.

圖5 十桿結構

表3 Kriging、RBF神經網絡、HDMR方法的帶約束優化結果對照

表4 Kriging、RBF神經網絡、HDMR方法的十桿結構優化結果對照

4 結論

Kriging方法整體來看具有最好的效果,該方法中由G(β,x)提供模擬的全局近似,而z(x)提供模擬的局部近似,很好地兼顧到了整體和局部兩者的關系,所以一般具有很好的效果.RBF神經網絡利用反向傳播學習算法應用遞歸技術,對于非線性函數的逼近效果很好,具有良好的泛化能力和較快的學習收斂速度.RSM能有效解決線性和非線性程度不高的函數逼近問題,為了能將其適用于非線性程度較大的情況,研究人員提出的HDMR,可以實現自適應,以保證其逼近的精度.將Kriging、RBF神經網絡、HDMR方法應用于逼近優化問題的目標函數,采用截斷多初始點搜索優化算法能夠很好地搜尋優化問題的全部的全局最優點,它們在優化時間、迭代次數、函數調用次數有細微的差異,整體上來看Kriging方法具有最好的替代效果.

[1] 李彬.徑向基函數神經網絡的學習算法研究[D].濟南:山東大學,2005.

LIBin.Researchonlearningalgorithmsofradialbasisfunctionneuralnetworks[D].Jinan:ShandongUniversity,2005.

[2]KAYMAZI.Applicationofkrigingmethodtostructuralreliabilityproblems[J].StructuralSafety,2005,27(2):133-151.

[3]RAJASHEKHARMR,ELLINGWOODBR.Anewlookattheresponsesafeapproachforreliabilityanalysis[J].StructuralSafety,1993,12(3):205-220.

[4]RABITZH,OMERFA.Generalfoundationsofhighdimensionalmodelrepresentations[J].JournalofMathematicalChemistry,1999,25(2):197-233

[5] 張崎,李興斯.基于Kriging模型的結構可靠性分析[J].計算力學學報,2006,23(2):175-179.

ZHANGQi,LIXingsi.Analysisofstructuralreliabilitybasedonkrigingmodel[J].ChineseJournalofComputationalMechanics,2006,23(2):175-179.

[6]ELHEWYAH,MESBAHIE,PUY.Reliabilityanalysisofstructuresusingneuralnetworkmethod[J].ProbabilisticEngineeringMechanics,2006,21(1):44-53.

[7]LEES,KILRM.Agaussianpotentialfunctionnetworkswithhierarchicallyself-organizinglearning[J].NeuralNetwoks,1991,4(2):207-224.

[8]FEILB,KUCHERENKOS,SHAHN.Comparisonofmontecarloandquasimontecarlosamplinginhighdimensionalmodelrepresentation[C]//1stInternationalConferenceonAdvancesinSystemSimulationSIMUL,September20-25,2009,Porto,Portugal.2009:12-17.

[9]YOUNISA,DONGZM.Trends,featuresandtestofcommonandrecentlyintroducedglobaloptimizationmethods[J].EngineeringOptimization,2010,42(8):691-718.

Comparison of different metamodeling methods for optimization design

LIU Wangang,SONG Shufang,FAN Weichao,Lü Zhenzhou

(School of Aeronautics,Northwestern Polytechnical University,Xi’an 710072,China)

For the structural optimization design,the relationship between the objective function and design variables is a high nonlinear,and high dimensional implicit function.How to cope with these cases? Metamodeling methods can be used to capture the association patterns between input variables and output response.The response surface method(RSM),kriging model,radial basis function(RBF)based neural network and high dimensional model representations(HDMR),are presented,the effectiveness and versatility of those methods are identified by several numerical examples.Metamodeling methods are proposed to apply for optimization design.The optimization algorithm is developed to search all the global minimums by selected multiple initial points.Thus it can provide the guidance for structural design.

metamodeling method; radial basis function(RBF)based neural network; kriging model; high dimensional model representations(HDMR); response surface method(RSM)

國家自然科學基金重點資助項目(NSFC51308459);中央高?；究蒲袠I務費資助項目(310201401JCQ01014,3102015BJ(II)CG009)

劉萬剛(1978—),男,博士生.E-mail:lwgyeah@163.com

宋述芳(1982—),女,副教授,博士.E-mail::shufangsong@nwpu.edu.cn

O 224

A

1672-5581(2017)02-0119-06