劉萬剛,宋述芳,樊維超,呂震宙

(西北工業(yè)大學(xué) 航空學(xué)院,西安 710072)

?

模型替代方法在優(yōu)化設(shè)計中的應(yīng)用

劉萬剛,宋述芳,樊維超,呂震宙

(西北工業(yè)大學(xué) 航空學(xué)院,西安 710072)

在優(yōu)化設(shè)計問題中,常常會遇到目標(biāo)響應(yīng)與設(shè)計變量之間具有隱式函數(shù)關(guān)系的情況.針對此類問題,模型替代方法可以通過尋找輸入?yún)?shù)和輸出響應(yīng)之間的轉(zhuǎn)換關(guān)系來替代真實未知的目標(biāo)函數(shù).考慮了響應(yīng)面法(RSM)、Kriging模型、徑向基函數(shù)(RBF)神經(jīng)網(wǎng)絡(luò)和高階模型替代法(HDMR)等常見的模型替代方法,對它們的原理、優(yōu)缺點進(jìn)行了對比分析.對優(yōu)化算法進(jìn)行了改進(jìn),提出了截斷多初始點搜索優(yōu)化算法,以期盡可能全面地搜索其全局最優(yōu)點,為結(jié)構(gòu)設(shè)計提供全面的指導(dǎo).

模型替代; 徑向基函數(shù)(RBF)神經(jīng)網(wǎng)絡(luò); Kriging模型; 高階模型替代法(HDMR); 響應(yīng)面法(RSM)

在實際工程優(yōu)化設(shè)計過程中,性能目標(biāo)與設(shè)計變量之間常常不具有顯式的函數(shù)關(guān)系式,且通常表現(xiàn)為高度非線性、多參數(shù)等特性.近年來提出的替代模型方法可以有效運(yùn)用實驗點,構(gòu)造模型輸入—輸出轉(zhuǎn)換關(guān)系,以有效解決此類隱函數(shù)問題.目前比較常用的Kriging模型、徑向基神經(jīng)網(wǎng)絡(luò)模型、響應(yīng)面模型、高維替代模型等的代理模型[1-4].本文比較了不同情況下,上述代理模型的運(yùn)用效果,為更好地深入了解這幾種代理模型在優(yōu)化問題中的運(yùn)用作鋪墊.

直接搜索優(yōu)化算法通過在可行域內(nèi)反復(fù)調(diào)用目標(biāo)函數(shù)進(jìn)行尋優(yōu),存在耗時多、效率低、易于陷入局部最優(yōu)等缺點.本文采用代理模型替代目標(biāo)函數(shù),在此基礎(chǔ)上發(fā)展了截斷多初始點搜索優(yōu)化算法,以期盡可能全面地搜索全局最優(yōu),為結(jié)構(gòu)設(shè)計改型提供盡量全面的指導(dǎo)和依據(jù).

1 模型替代方法及對比分析

1.1 Kriging方法

Kriging模型是一種最優(yōu)的線性無偏估計,它包含了線性回歸部分和非參數(shù)部分[5].一般來說,Kriging模型的形式為

y(x)=G(β,x)+z(x)=gT(x)β+z(x)

(1)

式中：β為回歸系數(shù);g(x)為變量x的多項式函數(shù).在設(shè)計空間中,提供模擬的全局近似,非參數(shù)部分z(x)提供模擬的局部近似,一般為服從正態(tài)分布N(0,σ2)的隨機(jī)過程,其協(xié)方差矩陣Cov(Covariance)可以通過極大似然估計確定:

(2)

式中：R(xi,xj)為N個樣本點{x1,x2,…,xN}中任何兩個樣本點xi和xj的空間相關(guān)方程,一般采用高斯相關(guān)方程,它對模擬的精度程度起決定性作用.

(3)

(4)

式中：極大似然估計因子為

(5)

式中：G為由樣本點和多項式函數(shù)g確定的回歸系數(shù)矩陣.通過極大似然估計確定相關(guān)矩陣的參數(shù)θk,就可以得到最優(yōu)的Kriging模型.

1.2 徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks,ANN)是一種模仿動物神經(jīng)網(wǎng)絡(luò)行為特征,進(jìn)行分布式并行信息處理的算法數(shù)學(xué)模型[6].徑向基函數(shù)(Radial Basis Function,RBF)神經(jīng)網(wǎng)絡(luò),是一種高效的前饋式神經(jīng)網(wǎng)絡(luò),具有最佳逼近性能和全局最優(yōu)特性,且結(jié)構(gòu)簡單,訓(xùn)練速度快,廣泛應(yīng)用于模式識別、非線性函數(shù)逼近等領(lǐng)域.

RBF網(wǎng)絡(luò)是通過非線性基函數(shù)的線性組合實現(xiàn)從輸入空間到輸出空間的非線性轉(zhuǎn)換.徑向基神經(jīng)網(wǎng)絡(luò)一般使用徑向基函數(shù)(常用高斯函數(shù))作為激活函數(shù)[7],

(6)

式中：xp為訓(xùn)練樣本;ci為所選取的中心.通過自組織選取中心學(xué)習(xí)方法,可以得到網(wǎng)絡(luò)輸出為

(7)

隱含層至輸出層之間神經(jīng)元的連接權(quán)值可以用最小二乘法直接計算得到,計算公式如下

(8)

式中:cmax為所選取中心之間的最大距離;N為樣本的個數(shù).

1.3 響應(yīng)面法及高階模型替代法

1.3.1 響應(yīng)面法

響應(yīng)面法(Response Surface Method,RSM)的基本思想就是先選定用于近似隱式函數(shù)的多項式形式,然后通過實驗點來確定近似函數(shù)中的待定參數(shù)[3].RSM的實現(xiàn)過程中涉及的問題有:① 響應(yīng)面函數(shù)形式的選取;② 實驗樣本點的抽取方式;③ 響應(yīng)面函數(shù)擬合的方法.

目前運(yùn)用得較多的響應(yīng)面形式是線性響應(yīng)面(LRSM)和二次響應(yīng)面(SRSM):

(9)

(10)

線性響應(yīng)面中的待定系數(shù)少,因而擬合響應(yīng)面所需的樣本就少,從而可以減少工作量,但它不能夠反映隱式函數(shù)的非線性.二次響應(yīng)面因其引入了二次項,可以一定程度上反映隱式極限狀態(tài)方程的非線性.目前確定響應(yīng)面待定系數(shù)的常用方法是加權(quán)最小二乘法.

Bucher設(shè)計是目前運(yùn)用最廣泛的抽樣方式,它圍繞抽樣中心,并沿坐標(biāo)軸正負(fù)方向分別偏離一定距離來選取樣本點,偏離距離一般取為τ倍的基本變量xi(i=1,2,…,n)的標(biāo)準(zhǔn)差σxi,τ稱為插值系數(shù),一般取為1～3之間的常數(shù).

為了進(jìn)一步考慮隱式函數(shù)的非線性程度,Rabitz等[4]提出了高維模型替代方法.

1.3.2 高階模型替代法

高階模型替代法(High Dimensional Model Representation,HDMR)的基本思想:輸出量y(x)可以用多個單一輸入變量的獨立作用和變量之間的耦合作用的疊加來表示,即y(x)可以表示成如下形式:

(11)

式中:g0為0階常數(shù)項;gi(xi)為1階分量函數(shù),表示變量xi對輸出的單一作用;gij(xi,xj)為2階分量函數(shù),表示變量xi和xj相互耦合后對輸出的聯(lián)合作用;g1,2,…,d(x1,x2,…,xd)為d階分量函數(shù),表示所有分量耦合后對輸出的聯(lián)合作用.

忽略高階耦合影響,y(x)可表示為

(12)

采用正交多項式逼近其分量函數(shù),文獻(xiàn)[8]得出的y(x)表達(dá)式為

(14)

1.4 算例驗證與對比分析

算例1 Rosenbroke 函數(shù)(變量數(shù)d=3)

從圖1可以看出,對于多項式形式的函數(shù),Kriging、RBF神經(jīng)網(wǎng)絡(luò)、HDMR均能很好地得到真實函數(shù)的代理模型.

圖1 算例1的代理模型對比

算例2 Ishigami 函數(shù)

從圖2可以看出,對于含有sin/cos的非線性程度較大的函數(shù),Kriging方法比RBF神經(jīng)網(wǎng)絡(luò)和HDMR具有較大的優(yōu)勢,后兩者與真實函數(shù)之間有一定的差異,但誤差在可接受的范圍內(nèi).

圖2 算例2的代理模型對比

2 基于模型替代的優(yōu)化設(shè)計算法

本文對優(yōu)化算法進(jìn)行了改進(jìn),以期盡可能全面地搜索全局最優(yōu)結(jié)果,以便為結(jié)構(gòu)設(shè)計提供全面的指導(dǎo).

2.1 優(yōu)化問題的數(shù)學(xué)模型[9]

minf(x)

s.t.up(x)=0 (p=1,2,…,nu)

vq(x)<0 (q=1,2,…,nv)

(15)

2.2 截斷多初始點搜索優(yōu)化算法

為了尋找到所有的全局極小值,階段自適應(yīng)優(yōu)化算法的優(yōu)化過程包括如下內(nèi)容:在[xl,xu]的d維空間上產(chǎn)生均勻分布的樣本點;通過截斷選取確定所需的多個初始點;基于多初始點搜索技術(shù)獲取所有的全局最小值(x*,f(x*)).其具體實施步驟如下:

(1) 設(shè)定i=1,k=1,最大迭代次數(shù)kmax.

(2) 在d維空間中產(chǎn)生樣本x={x1,x2,…,xN}.

(3) 估計目標(biāo)函數(shù)在樣本點x處的函數(shù)值,并將函數(shù)值{fi}按從小到大的順序排列,從x中并且選取縮減的xr,根據(jù)xr={xi∈x|i=1,2,…,Nr,Nr=αN,α=0.2～0.5}.

(4) 從xr中選取搜索初始點xi,i=i+1.

(5) 如果i

(6) 如果k=kmax,或滿足迭代停止準(zhǔn)則,則輸出所有全局最優(yōu)點;否則,返回步驟(2).

2.3 模型替代在優(yōu)化中的運(yùn)用流程

利用一些模型函數(shù)來表示復(fù)雜的未知函數(shù),包括Kriging、RBF神經(jīng)網(wǎng)絡(luò)、HDMR方法,其對應(yīng)的優(yōu)化流程圖如圖3所示.

圖3 模型替代在優(yōu)化中的運(yùn)用流程圖

3 算例分析

3.1 Branin 函數(shù)

全局最小值f(x*)=0.398在點x*={(-π,12.275),(π,2.275),(9.425,2.475)}處.

圖4 Branin 函數(shù)的等高線

3.2 Ishigami 函數(shù)

全局最小值為-10.740 9,共有6個,在點(x1=-π/2,x2=±π,0,x3=±π)處取得.

在無約束情況下,從表1和表2可以看出,Kriging方法具有最優(yōu)的優(yōu)化效果,可以很快而且準(zhǔn)確地找到全部的最優(yōu)點,相比之下RBF和HDMR方法因構(gòu)建代理模型精度有偏差,所需的樣本點數(shù)和迭代次略大,但是依然能夠找到所有的全局最優(yōu)點.

3.3f(x)=x1x2

全局最小值為-12.5,在點x*={3.54,-3.54},x*={-3.54,3.54}處取得.

從表3的結(jié)果對照可以看出,在有約束的條件下,3種方法都可以很好地找到最優(yōu)點,其中RBF方法中函數(shù)調(diào)用次數(shù)最少,只需1次迭代,Kriging和HDMR方法也都有較好的優(yōu)化結(jié)果.

3.4 工程算例

表1 Kriging、RBF神經(jīng)網(wǎng)絡(luò)、HDMR方法的Branin函數(shù)優(yōu)化結(jié)果對照

注：Nnew代理模型產(chǎn)生的樣本點數(shù);Iteration 為生成代理模型的次數(shù);No.f.call為調(diào)用真實目標(biāo)函數(shù)的次數(shù);Nlocal-search為局部尋優(yōu)的次數(shù);Nmetamodel.call為調(diào)用代理模型的次數(shù).表2中的所有符號含義相同

表2 Kriging、RBF神經(jīng)網(wǎng)絡(luò)、HDMR方法的Ishigami函數(shù)優(yōu)化結(jié)果對照

最終優(yōu)化結(jié)果為7.088 6,最優(yōu)點的變量取值為x*={0.714 0,0.5,0.971 4,0.5,0.5,0.5,0.906 4,0.5,0.5,0.5}.

從表4的結(jié)果對照可以看出,Kriging和HDMR方法都很好搜索出其全局最優(yōu)解,RBF方法結(jié)果略有欠缺,這是因為目標(biāo)函數(shù)本身是線性函數(shù),如果把RBF的激活函數(shù)變?yōu)榫€性激活函數(shù),結(jié)果會有改進(jìn).

圖5 十桿結(jié)構(gòu)

表3 Kriging、RBF神經(jīng)網(wǎng)絡(luò)、HDMR方法的帶約束優(yōu)化結(jié)果對照

表4 Kriging、RBF神經(jīng)網(wǎng)絡(luò)、HDMR方法的十桿結(jié)構(gòu)優(yōu)化結(jié)果對照

4 結(jié)論

Kriging方法整體來看具有最好的效果,該方法中由G(β,x)提供模擬的全局近似,而z(x)提供模擬的局部近似,很好地兼顧到了整體和局部兩者的關(guān)系,所以一般具有很好的效果.RBF神經(jīng)網(wǎng)絡(luò)利用反向傳播學(xué)習(xí)算法應(yīng)用遞歸技術(shù),對于非線性函數(shù)的逼近效果很好,具有良好的泛化能力和較快的學(xué)習(xí)收斂速度.RSM能有效解決線性和非線性程度不高的函數(shù)逼近問題,為了能將其適用于非線性程度較大的情況,研究人員提出的HDMR,可以實現(xiàn)自適應(yīng),以保證其逼近的精度.將Kriging、RBF神經(jīng)網(wǎng)絡(luò)、HDMR方法應(yīng)用于逼近優(yōu)化問題的目標(biāo)函數(shù),采用截斷多初始點搜索優(yōu)化算法能夠很好地搜尋優(yōu)化問題的全部的全局最優(yōu)點,它們在優(yōu)化時間、迭代次數(shù)、函數(shù)調(diào)用次數(shù)有細(xì)微的差異,整體上來看Kriging方法具有最好的替代效果.

[1] 李彬.徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法研究[D].濟(jì)南:山東大學(xué),2005.

LIBin.Researchonlearningalgorithmsofradialbasisfunctionneuralnetworks[D].Jinan:ShandongUniversity,2005.

[2]KAYMAZI.Applicationofkrigingmethodtostructuralreliabilityproblems[J].StructuralSafety,2005,27(2):133-151.

[3]RAJASHEKHARMR,ELLINGWOODBR.Anewlookattheresponsesafeapproachforreliabilityanalysis[J].StructuralSafety,1993,12(3):205-220.

[4]RABITZH,OMERFA.Generalfoundationsofhighdimensionalmodelrepresentations[J].JournalofMathematicalChemistry,1999,25(2):197-233

[5] 張崎,李興斯.基于Kriging模型的結(jié)構(gòu)可靠性分析[J].計算力學(xué)學(xué)報,2006,23(2):175-179.

ZHANGQi,LIXingsi.Analysisofstructuralreliabilitybasedonkrigingmodel[J].ChineseJournalofComputationalMechanics,2006,23(2):175-179.

[6]ELHEWYAH,MESBAHIE,PUY.Reliabilityanalysisofstructuresusingneuralnetworkmethod[J].ProbabilisticEngineeringMechanics,2006,21(1):44-53.

[7]LEES,KILRM.Agaussianpotentialfunctionnetworkswithhierarchicallyself-organizinglearning[J].NeuralNetwoks,1991,4(2):207-224.

[8]FEILB,KUCHERENKOS,SHAHN.Comparisonofmontecarloandquasimontecarlosamplinginhighdimensionalmodelrepresentation[C]//1stInternationalConferenceonAdvancesinSystemSimulationSIMUL,September20-25,2009,Porto,Portugal.2009:12-17.

[9]YOUNISA,DONGZM.Trends,featuresandtestofcommonandrecentlyintroducedglobaloptimizationmethods[J].EngineeringOptimization,2010,42(8):691-718.

Comparison of different metamodeling methods for optimization design

LIU Wangang,SONG Shufang,FAN Weichao,Lü Zhenzhou

(School of Aeronautics,Northwestern Polytechnical University,Xi’an 710072,China)

For the structural optimization design,the relationship between the objective function and design variables is a high nonlinear,and high dimensional implicit function.How to cope with these cases? Metamodeling methods can be used to capture the association patterns between input variables and output response.The response surface method(RSM),kriging model,radial basis function(RBF)based neural network and high dimensional model representations(HDMR),are presented,the effectiveness and versatility of those methods are identified by several numerical examples.Metamodeling methods are proposed to apply for optimization design.The optimization algorithm is developed to search all the global minimums by selected multiple initial points.Thus it can provide the guidance for structural design.

metamodeling method; radial basis function(RBF)based neural network; kriging model; high dimensional model representations(HDMR); response surface method(RSM)

國家自然科學(xué)基金重點資助項目(NSFC51308459);中央高?；究蒲袠I(yè)務(wù)費(fèi)資助項目(310201401JCQ01014,3102015BJ(II)CG009)

劉萬剛(1978—),男,博士生.E-mail:lwgyeah@163.com

宋述芳(1982—),女,副教授,博士.E-mail::shufangsong@nwpu.edu.cn

O 224

A

1672-5581(2017)02-0119-06