周 偉,羅建軍,靳 鍇,王 凱
(1.西北工業(yè)大學(xué) 航天學(xué)院,西安 710072; 2.火箭軍工程大學(xué) 理學(xué)院,西安 710025)(*通信作者電子郵箱zw_yj@163.com)
基于模糊高斯學(xué)習(xí)策略的粒子群-進(jìn)化融合算法
周 偉1*,羅建軍1,靳 鍇1,王 凱2
(1.西北工業(yè)大學(xué) 航天學(xué)院,西安 710072; 2.火箭軍工程大學(xué) 理學(xué)院,西安 710025)(*通信作者電子郵箱zw_yj@163.com)
針對(duì)粒子群優(yōu)化(PSO)算法存在的開發(fā)能力不足,導(dǎo)致算法精度不高、收斂速度慢以及微分進(jìn)化算法具有的探索能力偏弱,易陷入局部極值的問(wèn)題,提出一種基于模糊高斯學(xué)習(xí)策略的粒子群-進(jìn)化融合算法。在標(biāo)準(zhǔn)粒子群算法的基礎(chǔ)上,選取精英粒子種群,運(yùn)用變異、交叉、選擇進(jìn)化算子,構(gòu)建精英粒子群-進(jìn)化融合優(yōu)化機(jī)制,提高粒子種群多樣性與收斂性;引入符合人類思維特性的模糊高斯學(xué)習(xí)策略,提高粒子尋優(yōu)能力,形成基于模糊高斯學(xué)習(xí)策略的精英粒子群和微分進(jìn)化融合算法。對(duì)9個(gè)標(biāo)準(zhǔn)測(cè)試函數(shù)進(jìn)行了計(jì)算測(cè)試和對(duì)比分析,結(jié)果表明函數(shù)Schwefel.1.2、Sphere、Ackley、Griewank與Quadric Noise計(jì)算平均值分別為1.5E-39、8.5E-82、9.2E-13、5.2E-17、1.2E-18,接近算法最小值;Rosenbrock、Rastrigin、Schwefel及Salomon函數(shù)收斂平均值較四種對(duì)比粒子群優(yōu)化算法計(jì)算結(jié)果提高了1~3個(gè)數(shù)量級(jí);同時(shí),收斂性顯示算法收斂速度較對(duì)比算法提高了5%~30%。算法在提高計(jì)算收斂速度和精度上效果明顯,具有較強(qiáng)的逃離局部極值的能力和全局搜索能力。
模糊隸屬度;高斯學(xué)習(xí);粒子群;微分進(jìn)化;融合優(yōu)化
粒子群優(yōu)化(Particle Swarm Optimization, PSO)算法是一種群體智能優(yōu)化計(jì)算技術(shù),起源于對(duì)簡(jiǎn)單社會(huì)系統(tǒng)的模擬,如鳥群和魚群覓食過(guò)程中生物體相互協(xié)作行為啟發(fā),由Kennedy等[1]于1995年首次提出。算法基于迭代隨機(jī)搜索優(yōu)化機(jī)制,具有概念簡(jiǎn)單、便于實(shí)現(xiàn)、參數(shù)較少和無(wú)需梯度信息等優(yōu)點(diǎn),一經(jīng)提出就得到了眾多學(xué)者的普遍關(guān)注,目前在圖像處理、信息挖掘、模式識(shí)別、路徑優(yōu)化以及人工智能等領(lǐng)域得到廣泛應(yīng)用[2-4]。
標(biāo)準(zhǔn)粒子群優(yōu)化(Standard Particle Swarm Optimization, SD-PSO)算法作為一種新型群智能優(yōu)化算法相比其他優(yōu)化算法具有許多突出的優(yōu)點(diǎn),但算法在處理多極值復(fù)雜問(wèn)題時(shí),仍然存在開發(fā)能力弱的缺點(diǎn),導(dǎo)致收斂速度慢、算法精度低等問(wèn)題。針對(duì)SD-PSO算法存在的缺陷,學(xué)者們提出了許多改進(jìn)的優(yōu)化策略[5-6]。Shi等[7]研究提出了采用模糊系統(tǒng)動(dòng)態(tài)改變慣性權(quán)重的策略提高算法開發(fā)能力,并以Rosenbrock函數(shù)驗(yàn)證了改進(jìn)算法的有效性;Clerc等[8]提出采用收縮因子提高收斂速度,增強(qiáng)算法穩(wěn)定性和收斂速度;Nickabadi等[9]引入粒子適應(yīng)度,提出自適應(yīng)粒子群(Adaptive Particle Swarm Optimization, AD-PSO)算法,自適應(yīng)地調(diào)整慣性權(quán)重來(lái)加強(qiáng)從局部最優(yōu)中逃脫的能力,以提高達(dá)到大規(guī)模問(wèn)題的全局最小值的能力。Kao等[10]將遺傳算法與PSO算法相結(jié)合,提出遺傳-粒子群優(yōu)化算法,強(qiáng)化了對(duì)粒子間區(qū)域的搜索能力以及逃離局部極值的能力;Guo等[11]將文化算法引入PSO形成CA-PSO(Culture and Particle Swarm Optimization)算法,通過(guò)信仰與群體兩層空間的演化與交流,完成粒子群體優(yōu)化。周新宇等[12]、趙嘉等[13]將反向?qū)W習(xí)策略引入群優(yōu)化算法,提出多種精英反向?qū)W習(xí)粒子群優(yōu)化算法,通過(guò)在標(biāo)準(zhǔn)測(cè)試函數(shù)上的對(duì)比認(rèn)為動(dòng)態(tài)隨機(jī)反向?qū)W習(xí)精英粒子群優(yōu)化(Dynamic Random Opposition-based learning Elite Particle Swarm Optimization, DR-EOPSO)算法性能最優(yōu)。
盡管改進(jìn)算法優(yōu)化性能有所提高,但到目前為止依然很難在提高算法收斂速度和逃離局部最優(yōu)兩個(gè)方面達(dá)到平衡,例如CA-PSO算法每次迭代需經(jīng)過(guò)兩層串行演化,為此增加了計(jì)算量,降低了收斂速度。而GA-PSO算法引入交叉算子后雖然提高了粒子交叉多樣性,但由于交叉算子形式簡(jiǎn)單,使得空間搜索能力提高有限,卻增加了算法的復(fù)雜度。
Chakrabory等[14]認(rèn)為微分進(jìn)化算法具有開發(fā)能力強(qiáng)、探索能力弱的特點(diǎn)。因此,本文在精英粒子群算法的基礎(chǔ)上,引入變異、交叉、選擇進(jìn)化算子,構(gòu)建精英粒子群-進(jìn)化融合優(yōu)化機(jī)制,保持粒子種群多樣性,提高粒子全局最優(yōu)的探索與開發(fā)能力。此外,為進(jìn)一步提高粒子學(xué)習(xí)搜索能力,引入符合人類思維特性的高斯學(xué)習(xí)策略,形成基于高斯學(xué)習(xí)策略的精英粒子群進(jìn)化算法(Elite Particle Swarm Optimization and Evolutionary algorithm based on Gaussian learning strategy, GE-PSO)。對(duì)9個(gè)標(biāo)準(zhǔn)測(cè)試函數(shù)[15-17]開展了仿真計(jì)算,計(jì)算結(jié)果表明,本算法在提高計(jì)算收斂速度和精度上效果明顯,特別在處理多峰值函數(shù)優(yōu)化方面,增強(qiáng)了粒子逃離局部極值的能力和全局搜索能力,與文中所選對(duì)照算法相比,具有顯著優(yōu)勢(shì)。
假設(shè)粒子群體規(guī)模為n,目標(biāo)搜索空間的維度為d,其中每個(gè)粒子都有位置x和速度v兩個(gè)屬性,第i個(gè)粒子當(dāng)前的速度表示為v=(vi1,vi2,…,vid),位置則表示為x=(xi1,xi2,…,xid)。優(yōu)化過(guò)程中,每一次迭代都根據(jù)兩個(gè)最優(yōu)值來(lái)更新自己,一個(gè)是粒子i個(gè)體歷史最優(yōu)值pbesti,表示為pbesti=(pi1,pi2,…,pid),另一個(gè)是群體歷史最優(yōu)值gbest。粒子速度和位置迭代更新公式如下:
(1)
其中:i=1,2,…,n,j=1,2,…,d,w為慣性權(quán)重,c1和c2為正的學(xué)習(xí)因子,r1和r2為0~1均勻分布的隨機(jī)數(shù)。
從SD-PSO算法看出,學(xué)習(xí)因子c1、c2對(duì)粒子收斂速度具有十分重要的影響,學(xué)習(xí)因子使粒子具有自我總結(jié)和向群體中優(yōu)秀個(gè)體學(xué)習(xí)的能力,從而向群體內(nèi)或鄰域內(nèi)的最優(yōu)點(diǎn)靠近。c1、c2分別調(diào)節(jié)微粒向個(gè)體最優(yōu)和群體最優(yōu)方向飛行的最大步長(zhǎng),決定微粒個(gè)體經(jīng)驗(yàn)和群體經(jīng)驗(yàn)對(duì)微粒自身運(yùn)行軌跡的影響,反映微粒群體之間的信息交流。通常c1調(diào)節(jié)粒子飛向自身最好位置方向的步長(zhǎng),c2則調(diào)節(jié)粒子飛向全局最好位置方向的步長(zhǎng),當(dāng)學(xué)習(xí)因子較小時(shí),可能使微粒遠(yuǎn)離目標(biāo)區(qū)域內(nèi)徘徊,而學(xué)習(xí)因子較大時(shí),可使微粒迅速向目標(biāo)區(qū)域移動(dòng),甚至越過(guò)目標(biāo)區(qū)域。因此c1、c2的不同取值,將影響到PSO算法的性能。
傳統(tǒng)的SD-PSO算法認(rèn)為尋優(yōu)過(guò)程所有粒子的各學(xué)習(xí)因子始終都為相同正常數(shù),也就是說(shuō)所有粒子社會(huì)學(xué)習(xí)與自我學(xué)習(xí)的能力都是相同的,這會(huì)使粒子搜索能力逐漸趨同,從而加速局部早熟,在應(yīng)對(duì)復(fù)雜多峰值問(wèn)題優(yōu)化時(shí)往往導(dǎo)致初期收斂步長(zhǎng)較小,后期收斂步長(zhǎng)又過(guò)大,嚴(yán)重影響收斂速度和精度。
受人類智能和社會(huì)行為的啟發(fā),認(rèn)為每個(gè)粒子如同每個(gè)人一樣,其學(xué)習(xí)能力是不同的,且每一粒子在不同維度方向上的學(xué)習(xí)能力也是有差別的[5],這樣可以避免粒子開發(fā)能力趨同,也可以提高粒子多樣性。同時(shí)引入符合人類思維特性的模糊高斯函數(shù)學(xué)習(xí)策略,將模糊隸屬度函數(shù)表示為隨學(xué)習(xí)因子cij,1變化的高斯函數(shù)式(2),如圖1所示。
(2)
圖1 模糊高斯隸屬度函數(shù)
其中,G()為高斯隸屬度函數(shù),i=1,2,…,n;r為[0,1]區(qū)間隨機(jī)擾動(dòng),反映粒子的不同學(xué)習(xí)效率;δ為高斯隸屬函數(shù)參數(shù)。由于目標(biāo)函數(shù)值模糊變量小,因此隸屬度函數(shù)一般可采用線性函數(shù)表達(dá),使隸屬度直接與函數(shù)值排列順序成正比,形式如式(3):
(3)
其中:n為粒子種群數(shù);Ii是排列后第i個(gè)目標(biāo)值的序列號(hào);Gmax為最大隸屬度,通常為1;Gmin為最小隸屬度,本文取0.011 1(3σ準(zhǔn)則)。由模糊推理?xiàng)l件擴(kuò)展到問(wèn)題的第j維度得到隸屬度函數(shù):
Gij=rand(Gi,1)
(4)
參數(shù)δi可由式(5)確定:
δi=b|ximin-xrand|
(5)
b=(itermax-iter)/itermax
(6)
其中:iter為迭代次數(shù);itermax為最大迭代次數(shù);b是迭代系數(shù);ximin為群體內(nèi)第i個(gè)粒子的最佳位置;xrand為當(dāng)前群體內(nèi)隨機(jī)產(chǎn)生的粒子位置。
綜上可得粒子學(xué)習(xí)因子cij,1的計(jì)算公式如下:
(7)
粒子社會(huì)學(xué)習(xí)因子cij,2可按式(8)方法選?。?/p>
cij,2=|1-cij,1|
(8)
式(8)說(shuō)明,對(duì)于每一個(gè)粒子當(dāng)其自學(xué)能力較弱的時(shí)候,提高其社會(huì)學(xué)習(xí)能力,將有助于提高其全局搜索能力,反之當(dāng)粒子自學(xué)能力較強(qiáng)時(shí),適當(dāng)降低其社會(huì)學(xué)習(xí)能力有助于提高個(gè)體收斂速度。
3.1 算法原理
在SD-PSO算法中,粒子僅向群體歷史最優(yōu)值gbest和自身歷史最優(yōu)值Pbesti學(xué)習(xí)。而對(duì)比人類社會(huì),人類不僅向最好的個(gè)體學(xué)習(xí),還向身邊較好的個(gè)體學(xué)習(xí),向社會(huì)精英階層學(xué)習(xí)。精英粒子群體既保留了優(yōu)秀粒子信息,更有與普通粒子一致的數(shù)據(jù)環(huán)境和約束條件,既不激進(jìn)也不落后,代表了粒子群整體信息熵的發(fā)展趨勢(shì)和方向。因此,提高了粒子群掉入局部最優(yōu)的免疫能力,種群的搜索范圍擴(kuò)大,粒子會(huì)飛向更多新的位置,粒子更容易發(fā)現(xiàn)最優(yōu)值;通過(guò)粒子間的相互學(xué)習(xí),粒子會(huì)向更優(yōu)的位置移動(dòng),有可能會(huì)跳出局部最優(yōu)解,具有比SD-PSO算法更好的收斂性與魯棒性。
受此啟發(fā),在基于高斯學(xué)習(xí)策略PSO算法的每一代中選取適應(yīng)度函數(shù)排序前10%作為精英粒子群E,并在精英粒子群中隨機(jī)選取一個(gè)精英粒子作為學(xué)習(xí)的模板。在原有粒子迭代更新的基礎(chǔ)上,增加精英粒子學(xué)習(xí)項(xiàng)。迭代公式如下:
(9)
其中:i=1,2,…,n,j=1,2,…,d,g為粒子進(jìn)化代數(shù),ebesti=(ei1,ei2,…,eij)為隨機(jī)選擇的精英粒子的位置,cij,1為個(gè)體學(xué)習(xí)因子,按式(7)計(jì)算;cij,2為社會(huì)學(xué)習(xí)因子按式(8)計(jì)算;cij,3為精英學(xué)習(xí)因子,按式(10)計(jì)算。
cij,3=(cij,1+cij,2)/2;i=1,2,…,n,j=1,2,…,d
(10)
w為慣性權(quán)重,本文采用線性遞減慣性權(quán)重:
(11)
在精英粒子群優(yōu)化算法的基礎(chǔ)上,為提高種群多樣性,引入進(jìn)化變異算子:
(12)
其中:Uij為粒子i在j維上的變異值,F(xiàn)為隨機(jī)數(shù)。
采用交叉操作(式(13))確定突變粒子是否作為備選粒子,交叉概率因子CRi(g)取隨機(jī)數(shù);
(13)
對(duì)比指標(biāo)函數(shù)適應(yīng)值,選擇最優(yōu)粒子如式(14),形成新一代個(gè)體:
(14)
3.2 算法步驟
算法的具體步驟如下:
步驟1 隨機(jī)生成初始種群粒子,并確定計(jì)算參數(shù),如慣性權(quán)重ω、迭代系數(shù)b、精英粒子群數(shù)N等;
步驟2 計(jì)算和評(píng)價(jià)每個(gè)粒子的適應(yīng)值Q|(xij);
步驟3 根據(jù)適應(yīng)度函數(shù)值排序,并確定精英粒子群E;
步驟4 按照式(7)、(8)、(10)分別計(jì)算高斯學(xué)習(xí)因子cij,1、cij,2、cij,3,代入式(9)更新粒子速度、位置;
步驟5 選擇基準(zhǔn)粒子,并根據(jù)式(12)進(jìn)行變異操作,生成突變體;
步驟6 按照式(13),采用交叉操作確定突變體是否作為備選體;
步驟7 選擇操作,根據(jù)式(14)通過(guò)指標(biāo)函數(shù)比較選取合適的新一代個(gè)體;
步驟8 重復(fù)步驟2~7過(guò)程迭代,直到指標(biāo)函數(shù)滿足要求或達(dá)到最大迭代次數(shù)。
4.1 測(cè)試函數(shù)
為了測(cè)試本文提出的基于高斯學(xué)習(xí)策略的粒子群遺傳進(jìn)化算法,選擇了9個(gè)經(jīng)典的Benchmark測(cè)試函數(shù)進(jìn)行測(cè)試仿真,如表1所示。其中f1~f4為單峰函數(shù),在搜索范圍內(nèi)只有一個(gè)極值點(diǎn),主要檢驗(yàn)算法的收斂速度和尋優(yōu)精度;f5~f9為多峰函數(shù),在搜索范圍內(nèi)有多個(gè)局部極值點(diǎn),主要考察算法的全局搜索能力和逃離局部最優(yōu)的能力。測(cè)試函數(shù)及測(cè)試算法在Matlab 2013b(64 b)數(shù)值計(jì)算軟件中實(shí)現(xiàn),運(yùn)行環(huán)境為Windows 7雙核,4 GB內(nèi)存,3.0 GHz CPU。
表1 Benchmark測(cè)試函數(shù)
4.2 仿真實(shí)驗(yàn)算法
為了更好地對(duì)比測(cè)試本文算法的性能,將本文的算法與當(dāng)前較流行的標(biāo)準(zhǔn)PSO算法、文化PSO算法、自適應(yīng)PSO算法和動(dòng)態(tài)隨機(jī)反向?qū)W習(xí)精英PSO算法的測(cè)試結(jié)果進(jìn)行比較,算法的英文簡(jiǎn)稱分別為:GE-PSO、SD-PSO、CA-PSO、AD-PSO和DR-EOPSO。各算法的參數(shù)設(shè)置見表2。
為了在相同條件下進(jìn)行比較,所有算法的種群規(guī)模Psize=30,測(cè)試維數(shù)Dim=30,迭代次數(shù)Num=5 000,同時(shí)為消除隨機(jī)性對(duì)算法的影響,每種算法對(duì)每個(gè)測(cè)試函數(shù)獨(dú)立運(yùn)行30次,取平均值和標(biāo)準(zhǔn)差作為測(cè)試結(jié)果。
表2 算法的參數(shù)設(shè)置
4.3 結(jié)果及分析
4.3.1 仿真結(jié)果
采用5種算法對(duì)f1~f9測(cè)試函數(shù)分別進(jìn)行了仿真計(jì)算,各函數(shù)計(jì)算所得均值及標(biāo)準(zhǔn)差如表3所示。圖2、3為各函數(shù)優(yōu)化過(guò)程收斂曲線,由于各函數(shù)適應(yīng)度不同,且數(shù)值差異較大,為清晰地顯示實(shí)驗(yàn)結(jié)果,更加客觀準(zhǔn)確地對(duì)比算法優(yōu)劣,收斂過(guò)程對(duì)適應(yīng)度函數(shù)值均采用了以10為底的對(duì)數(shù)(lg)。
由表3中各函數(shù)適應(yīng)度平均值計(jì)算數(shù)據(jù)可以分析得出,除f3、f4兩單峰函數(shù)外,本文算法的計(jì)算結(jié)果均優(yōu)于其余測(cè)試粒子群算法結(jié)果,特別是多峰值函數(shù)的尋優(yōu)效果更為突出。從各不同算法的計(jì)算數(shù)據(jù)對(duì)比來(lái)看,CA-PSO算法計(jì)算結(jié)果與本文提出的GE-PSO算法計(jì)算結(jié)果較為接近。標(biāo)準(zhǔn)PSO算法表現(xiàn)最差,且極易陷入局部極小值而終止進(jìn)化;AD-PSO算法較標(biāo)準(zhǔn)PSO有了明顯改進(jìn),但結(jié)果較其余三種算法還有較大的差距。
圖2 單峰函數(shù)計(jì)算收斂曲線
圖3 多峰函數(shù)計(jì)算收斂曲線
表3 仿真測(cè)試結(jié)果
從算法穩(wěn)定性的角度分析表中各函數(shù)計(jì)算標(biāo)準(zhǔn)差,除f3、f4及f8外,本文提出的GE-PSO算法的穩(wěn)定性優(yōu)于其他算法。標(biāo)準(zhǔn)PSO算法穩(wěn)定性最差,其余3種算法的穩(wěn)定性介于標(biāo)準(zhǔn)PSO算法與GE-PSO算法之間。
4.3.2 收斂性分析
為了更加清晰地表征不同算法在進(jìn)化過(guò)程中的收斂速度與性能,本文給出了5種算法在9個(gè)測(cè)試函數(shù)10維上的尋優(yōu)進(jìn)化歷程圖,如圖2、3所示。其中,橫軸為評(píng)估次數(shù),縱軸為適應(yīng)度函數(shù)值的對(duì)數(shù)值。通過(guò)對(duì)比曲線圖1中的4個(gè)單峰函數(shù)曲線可知,GE-PSO算法相比其他4種算法,除了f3的收斂效果不明顯外,其余3個(gè)函數(shù)不論收斂速度還是收斂精度都好于其他4種算法,且各函數(shù)在1萬(wàn)次迭代左右就已找到或接近最優(yōu)值0。從曲線圖2可以看出,GE-PSO算法在處理多峰值函數(shù)優(yōu)化問(wèn)題上也具有很好的優(yōu)勢(shì),收斂速度明顯較其他5種算法更快,且尋找的函數(shù)最優(yōu)值收斂精度也是最高的。結(jié)合圖2和圖3可知,本文提出的GE-PSO算法無(wú)論在處理單峰值函數(shù)還是多峰值函數(shù)尋優(yōu)問(wèn)題上,都具有較好的優(yōu)勢(shì),算法收斂速度快,尋優(yōu)精度高,收斂一致性好,未出現(xiàn)收斂速度時(shí)快時(shí)慢不一致的問(wèn)題。
4.3.3 統(tǒng)計(jì)T檢驗(yàn)
為進(jìn)一步從統(tǒng)計(jì)意義上進(jìn)行分析比較,本文對(duì)計(jì)算數(shù)據(jù)引入統(tǒng)計(jì)t檢驗(yàn)測(cè)試實(shí)驗(yàn),以此分析并判斷本文提出的算法與其他4種算法在性能上是否存在顯著性差異。由于算法數(shù)據(jù)存在方差非齊次性,因此本文采用方差非齊次t檢驗(yàn)實(shí)驗(yàn)方法進(jìn)行測(cè)試,t檢驗(yàn)的分位數(shù)為單側(cè)0.05,自由度為30,t檢驗(yàn)的臨界值通過(guò)查表得為1.697。即當(dāng)檢驗(yàn)t值>1.697時(shí),說(shuō)明本文算法顯著優(yōu)于其他算法,標(biāo)記為“+”;當(dāng)檢驗(yàn)t值<-1.697時(shí),說(shuō)明本文算法顯著差于其他算法,標(biāo)記為“-”;否則,說(shuō)明本文算法與其他算法無(wú)顯著差異,標(biāo)記為“=”。在statistics一欄中按照U(優(yōu)于個(gè)數(shù))/E(等于個(gè)數(shù))/L(小于個(gè)數(shù))的方式以本文算法為參照進(jìn)行統(tǒng)計(jì),結(jié)果見表4所示。
表4 算法顯著性差異檢驗(yàn)結(jié)果
針對(duì)粒子群算法進(jìn)化速度慢、易陷入局部極值和算法精度低等問(wèn)題,提出一種基于高斯學(xué)習(xí)策略的精英粒子群-微分進(jìn)化融合算法(GE-PSO)。在SD-PSO算法的基礎(chǔ)上,引入高斯學(xué)習(xí)策略,提高粒子學(xué)習(xí)搜索能力;以一定比例(10%)確定當(dāng)代精英群體,以提高算法的開發(fā)能力,提高算法精度;融合變異、交叉、選擇進(jìn)化操作提高粒子種群多樣性以增加逃離局部最優(yōu)的能力。為檢驗(yàn)算法性能,對(duì)比4種PSO算法,對(duì)9個(gè)標(biāo)準(zhǔn)測(cè)試函數(shù)進(jìn)行了數(shù)值仿真實(shí)驗(yàn)。經(jīng)計(jì)算精度、收斂性與統(tǒng)計(jì)t檢驗(yàn)分析表明,本文算法在提高計(jì)算收斂速度和精度上優(yōu)于其他四種粒子群優(yōu)化算法,特別在處理多峰值函數(shù)優(yōu)化方面效果明顯,增強(qiáng)了粒子逃離局部極值的能力和全局搜索能力,具有顯著優(yōu)勢(shì)。下一步應(yīng)在降低算法計(jì)算復(fù)雜度、并行計(jì)算以及擴(kuò)大算法應(yīng)用領(lǐng)域等問(wèn)題上作進(jìn)一步深入研究。
References)
[1] KENNEDY J, EBERHART R C. Particle swam optimization [C]// Proceedings of the 1995 IEEE International Conference on Neural Networks. Piscataway, NJ: IEEE, 1995: 1942-1948.
[2] SYULISTYO A R, PURNOMO D M J, RACHMADI M F, et al. Particle Swarm Optimization (PSO) for training optimization on Convolution Neural Network (CNN) [J]. Jurnal Ilmu Komputer dan Informasi (Journal of Computer Science and Information), 2016, 9(1): 52-58.
[3] PATEL H. Accelerated PSO swarm search feature selection with SVM for data stream mining big data [J] . International Journal of Research and Engineering, 2016, 3(9): 15761-15765.
[4] MARINI F, WALCZAK B. Particle Swarm Optimization (PSO). A tutorial [J]. Chemometrics and Intelligent Laboratory Systems, 2015, 149(12): 153-165.
[5] 李俊,汪沖,李波,等.基于多策略協(xié)同作用的粒子群優(yōu)化算法[J].計(jì)算機(jī)應(yīng)用,2016,36(3): 681-686.(LI J, WANG C, LI B, et al. Particle swarm optimization algorithm based on multi-strategy synergy [J]. Journal of Computer Applications, 2016, 36(3): 681-686.)
[6] 王曙燕,溫春琰,孫家澤.基于自適應(yīng)粒子群優(yōu)化算法的測(cè)試數(shù)據(jù)擴(kuò)增方法[J].計(jì)算機(jī)應(yīng)用,2016,36(9):2492-2496.(WANG S Y, WEN C Y, SUN J Z. Test data augmentation method based on adaptive particle swarm optimization algorithm [J]. Journal of Computer Applications, 2016, 36(9): 2492-2496.)
[7] SHI Y, MEMBER S, EBERHART R, et al. Implementation of evolutionary fuzzy systems [J]. IEEE Transactions on Fuzzy System, 1999, 7(2): 109-119.
[8] CLERC M, KENNEDY J. The particle swarm—explosion, stability, and convergence in a multidimensional complex space [J]. IEEE Transactions on Evolutionary Computation, 2002, 6(1): 58-73.
[9] NICKABADI A, EBADZADEH M M, SAFABAKHSH R. A novel particle swarm optimization algorithm with adaptive inertia weight [J]. Applied Soft Computing, 2011, 11(4): 3658-3670.
[10] KAO Y T, ZAHARA E. A hybrid genetic algorithm and particle swarm optimization for multimodal functions [J]. Applied Soft Computing, 2008, 8(2): 849-857.
[11] GUO Y N, YANG Z, WANG C, et al. Cultural particle swarm optimization algorithms for uncertain multi-objective problems with interval parameters [M]// Natural Computing. Berlin: Springer, 2016: 1-22.
[12] 周新宇,吳志健,王暉,等.一種精英反向?qū)W習(xí)的粒子群優(yōu)化算法[J].電子學(xué)報(bào),2013,41(8):1647-1652.(ZHOU X Y, WU Z J, WANG H, et al. Elite opposition-based particle swarm optimization [J]. Acta Electronica Sinica, 2013, 41(8): 1647-1652.)
[13] 趙嘉,付平,李崇俠,等.基于不同學(xué)習(xí)模型的精英反向粒子群優(yōu)化算法[J].小型微型計(jì)算機(jī)系統(tǒng),2015,36(6):1368-1372.(ZHAO J, FU P, LI C X, et al. Particle swarm optimization based on elite opposition learning using different learning models [J]. Journal of Chinese Computer Systems, 2015, 36(6): 1368-1372.)
[14] CHAKRABORTY U K, DAS S, KONAR A. Differential evolution with local neighborhood [C]// Proceedings of the 2006 IEEE Congress on Evolutionary Computation. Piscataway, NJ: IEEE, 2006: 2042-2049.
[15] TANG K, LI X D, SUGANTHAN P N, et al. Benchmark functions for the CEC ’2010 special session and competition on large-scale global optimization [EB/OL]. [2016- 11- 14]. http://www.al-roomi.org/multimedia/CEC_Database/CEC2010/LargeScaleGlobalOptimization/CEC2010_LargeScaleGO_TechnicalReport.pdf.
[16] 劉建華.粒子群算法的基本理論及其改進(jìn)研究[D].長(zhǎng)沙:中南大學(xué)社,2009:223-275.(LIU J H. The basic theory of particle swarm optimization and its improvement [D]. Changsha: Central South University, 2009: 223-275.)
[17] 王維博.粒子群優(yōu)化算法研究及其應(yīng)用[D].成都:西南交通大學(xué),2012.(WANG W B. Research on particle swarm optimization algorithm and its application [D]. Chengdu: Southwest Jiaotong University, 2012.)
ParticleswarmanddifferentialevolutionfusionalgorithmbasedonfuzzyGausslearningstrategy
ZHOU Wei1*, LUO Jianjun1, JIN Kai1, WANG Kai2
(1.CollegeofAstronautics,NorthwesternPolytechnicalUniversity,Xi’anShaanxi710072,China;2.CollegeofScience,RocketForceUniversityofEngineering,Xi’anShaanxi710025,China)
Due to the weak development ability, Particle Swarm Optimization (PSO) algorithms have the shortages of low precision and slow convergence. Comparatively weak exploration ability of Differential Evolution (DE) algorithm, might further lead to a trap in the local extremum. A particle swarm-differential evolution fusion algorithm based on fuzzy Gaussian learning strategy was proposed. On the basis of the standard particle swarm algorithm, the elite particle population was selected, and the fusion mechanism of elite particle swarm-evolution was constructed by using mutation, crossover and selection evolution operators to improve particle diversity and convergence. A fuzzy Gaussian learning strategy according with human thinking characteristics was introduced to improve particle optimization ability, and further generate an elite particle swarm and differential evolution fusion algorithm based on fuzzy Gaussian learning strategy. Nine benchmark functions were calculated and analyzed in this thesis. The results show that the mean values of the functions Schwefel.1.2, Sphere, Ackley, Griewank and Quadric Noise are respectively 1.5E-39, 8.5E-82, 9.2E-13, 5.2E-17, 1.2E-18, close to the minimum values of the algorithm. The convergences of Rosenbrock, Rastrigin, Schwefel and Salomon functions are 1~3 orders of magnitude higher than those of four contrast particle swarm optimization algorithms. At the same time, the convergence of the proposed algorithm is 5%—30% higher than that of the contrast algorithms. The proposed algorithm has significant effects on improving convergence speed and precision, and has strong capabilities in escaping from the local extremum and global searching.
fuzzy membership degree; Gaussian learning; particle swarm; differential evolution; fusion optimization
2017- 03- 06;
2017- 04- 24。
國(guó)家自然科學(xué)基金資助項(xiàng)目(61603304, 61690211)。
周偉(1974—),男,上海人,副教授,博士研究生,主要研究方向:飛行器總體設(shè)計(jì)與多學(xué)科優(yōu)化; 羅建軍(1965—),男,陜西西安人,教授,博士,主要研究方向:航天器制導(dǎo)與飛行控制; 靳鍇(1988—),男,河北石家莊人,博士研究生,主要研究方向:再入飛行器、航天器軌跡優(yōu)化; 王凱(1975—),男,河北邢臺(tái)人,副教授,博士,主要研究方向:電力電子網(wǎng)絡(luò)設(shè)計(jì)與優(yōu)化。
1001- 9081(2017)09- 2536- 05
10.11772/j.issn.1001- 9081.2017.09.2536
TP301.6; TP18
A
This work is partially supported by the National Natural Science Foundation of China (61603304, 61690211).
ZHOUWei, born in 1974, Ph. D. candidate, associate professor. His research interests include aircraft system design and multidisciplinary optimization.
LUOJianjun, born in 1965, Ph. D., professor. His research interests include spacecraft guidance and flight control.
JINKai, born in 1988, Ph. D. candidate. His research interests include reentry vehicle system, spacecraft trajectory optimization.
WANGKai, born in 1975, Ph. D., associate professor. His research interests include design and optimization of power electronic network.