王 丹（遼寧理工學(xué)院，121000）

中心粒子群優(yōu)化算法

王 丹
（遼寧理工學(xué)院，121000）

在線性遞減權(quán)重粒子群優(yōu)化算法（LDWPSO）中提到了中心粒子這一概念，進(jìn)而提出了中心粒子群優(yōu)化算法(中心PSO)。在線性遞減權(quán)重粒子群優(yōu)化算法中，中心粒子不像其它一般的粒子，中心粒子沒(méi)有明確的速度，并且被始終置于粒子群的中心。此外，在神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法中比較中心粒子群優(yōu)化算法和線性遞減權(quán)重粒子群優(yōu)化算法，結(jié)果表明：中心粒子群優(yōu)化算法的性能優(yōu)于線性遞減權(quán)重粒子群優(yōu)化算法。

粒子群優(yōu)化算法；神經(jīng)網(wǎng)絡(luò)；進(jìn)化計(jì)算

0 引言

粒子群優(yōu)化算法是模仿鳥(niǎo)群和魚(yú)群的社會(huì)行為而出現(xiàn)的一種進(jìn)化的計(jì)算技術(shù)，因?yàn)榱Ｗ尤簝?yōu)化算法在非線性函數(shù)優(yōu)化中具有較好的收斂性和很好的性能，得到了人們的極大關(guān)注。許多研究人員致力于用各種不同的方法和各種先進(jìn)有趣的變量來(lái)改善他的性能。這些方法大致分如下幾類。

改進(jìn)的方法是給粒子群算法的速度和位置方程中增加新的系數(shù)，并且這個(gè)系數(shù)要進(jìn)行合理的挑選。Angeline指出基本粒子群算法局部搜索能力很低。為了克服這個(gè)缺點(diǎn)，Shi 和Eberhart提出了線性遞減權(quán)重粒子群算法，此算法把線性遞減慣性因子引入到基本粒子群算法的速度更新方程中。因?yàn)閼T性因子有效的平衡了粒子群的全局和局部搜索能力，使得粒子群算法的性能得到了極大的改善。

粒子群算法的一個(gè)關(guān)鍵特色是區(qū)域內(nèi)的粒子間的社會(huì)信息共享。因此人們提出各種不同的信息共享方式來(lái)改善該算法的性能。Kennedy研究了各種影響該算法性能的拓?fù)浣Y(jié)構(gòu)，并指出von Neumann拓?fù)浣Y(jié)構(gòu)性能更好。Suganthan提出了一個(gè)可變鄰域，在優(yōu)化的最初時(shí)期，鄰域是單個(gè)粒子自身的鄰域，隨這粒子代數(shù)的增長(zhǎng)，鄰域逐漸延伸到所有的粒子。Mohai提出了一種動(dòng)態(tài)適應(yīng)鄰域，用這種鄰域動(dòng)態(tài)適應(yīng)鄰域可以隨意產(chǎn)生，直接構(gòu)建原始值種群的拓?fù)浣Y(jié)構(gòu)，在種群運(yùn)行過(guò)程中種群結(jié)構(gòu)的邊緣可隨意從一個(gè)點(diǎn)移動(dòng)到另一個(gè)點(diǎn)。Lovbjerg 等人將基本粒子群算法與分組飼養(yǎng)的觀點(diǎn)結(jié)合在一起。張和謝將微分演化算子引入到基本粒子群算法中。Krink和Lovbjerg將基本粒子群算法和遺傳算法結(jié)合在一起。

1 中心粒子群優(yōu)化算法

1.1 線性遞減權(quán)重粒子群算法

一個(gè)種群由N個(gè)在D維搜索空間中運(yùn)動(dòng)的粒子構(gòu)成。第i個(gè)粒子在第t次迭代中的位置記為,速度記為，個(gè)體粒子所達(dá)到的個(gè)體極值點(diǎn)記為，群中所有粒子所達(dá)到的全局極值點(diǎn)記為。第i個(gè)例子在下一次迭代中的位置將由下列方程計(jì)算得到

1.2 中心粒子群優(yōu)化算法

中心離子群算法發(fā)展的動(dòng)力來(lái)源于人們對(duì)種群行為的觀察。由方程（1）可知，粒子的速度由先前的速度和個(gè)體認(rèn)知能力和社會(huì)認(rèn)知能力決定。由于社會(huì)認(rèn)知（方程的第三部分）是指所有粒子都被全局最優(yōu)吸引并且朝著它移動(dòng)。而另外兩部分，先前的速度和個(gè)體認(rèn)知能力相當(dāng)于自制特性，使粒子保持他們自己的信息。因此，在搜索期間，所有的粒子都朝著全局最優(yōu)位置移動(dòng)，但它們的位置常常不同又接近全局最優(yōu)位置。

論文中明確提出中心粒子在每次迭代中位于種群的中心。在粒子群中另外的N-1個(gè)例子在每次迭代中使用基本粒子群算法更新它們的位置，而中心粒子采用下列方程更新它的位置：

不像其它的粒子，中心粒子沒(méi)有速度，它除過(guò)粒子計(jì)算之外，像其他所有例子一樣參與所有的過(guò)程，例如適應(yīng)值計(jì)算，競(jìng)爭(zhēng)最好粒子等。此算法叫做中心粒子群優(yōu)化算法。中心粒子群算法的偽代碼定義如下：

開(kāi)始粒子群算法

初始化（）；

T從1到 最大迭代次數(shù)

I從1到N-1

根據(jù)方程（更新位置）；

結(jié)束

更新中心離子的位置；

結(jié)束

結(jié)束粒子群優(yōu)化算法

正如上面提到的中心粒子具有潛在的有效解。如果中心粒子得結(jié)果僅僅是使它去尋找好的位置，它就不會(huì)極大的影響算法的性能。一個(gè)粒子太少是沒(méi)法與種群中的其它一般的粒子比較的。更重要的是中心粒子更有可能成為種群的社會(huì)極值。因此中心粒子能夠引導(dǎo)整個(gè)種群的未來(lái)的區(qū)域并且能夠加速收斂。

2 實(shí)驗(yàn)

2.1 函數(shù)優(yōu)化

我們的實(shí)驗(yàn)中要用到三個(gè)基準(zhǔn)函數(shù)（都是最小化）第一個(gè)函數(shù)是Rosenbrock函數(shù)：

第二個(gè)函數(shù)是廣義Rosenbrock函數(shù)：

第三個(gè)函數(shù)是廣義Griewank函數(shù)：

在我們的實(shí)驗(yàn)中對(duì)線性遞減權(quán)重粒子群算法和中心粒子去算法進(jìn)行了比較。對(duì)這兩種算法制定相同的參數(shù)：慣性權(quán)重從0.9線性遞減到0.4；學(xué)習(xí)因子；等于；等于；每個(gè)方程用10，20，30的規(guī)模去檢測(cè)；相應(yīng)的最大迭代次數(shù)被分別設(shè)為1000.1500和2000。為了檢測(cè)算法的可測(cè)量性，用四個(gè)種群（大小為N=20，40，80，160）對(duì)每個(gè)函數(shù)的不同維數(shù)進(jìn)行檢測(cè)。中心粒子群算法包括一個(gè)中心粒子和N-1個(gè)普通粒子。在每個(gè)實(shí)驗(yàn)中，對(duì)每個(gè)算法執(zhí)行100次。

2.2 神經(jīng)網(wǎng)絡(luò)訓(xùn)練

神經(jīng)網(wǎng)絡(luò)訓(xùn)練是一個(gè)復(fù)雜優(yōu)化問(wèn)題。通常，目標(biāo)是所有訓(xùn)練模式的均方誤差。可變因子包括權(quán)重和偏重值。假設(shè)一個(gè)標(biāo)準(zhǔn)的網(wǎng)絡(luò)結(jié)構(gòu)用D表示駛?cè)雴卧?，用M表示隱藏單元，用C表示輸出單元，可變因子的數(shù)目總之，神經(jīng)網(wǎng)絡(luò)訓(xùn)練是一個(gè)具有多個(gè)局部最小值的多空間優(yōu)化問(wèn)題。

神經(jīng)網(wǎng)絡(luò)訓(xùn)練用 n份隨機(jī)劃分技術(shù)將數(shù)據(jù)劃分成大小相等的n份互斥數(shù)據(jù)。選出一組數(shù)據(jù)作為數(shù)據(jù)組，其他的組作為測(cè)試組。在我們的實(shí)驗(yàn)中設(shè)定n為10.對(duì)人物分類采用S型轉(zhuǎn)移函數(shù)的三層前饋神經(jīng)網(wǎng)絡(luò) 。對(duì)于神經(jīng)網(wǎng)絡(luò)被設(shè)置為14個(gè)輸入 單元，5個(gè)隱藏單元，2個(gè)輸出單元，因此每個(gè)粒子的維數(shù)是87。對(duì)于糖尿病，神經(jīng)網(wǎng)絡(luò)被設(shè)置為8個(gè)輸入單元，5個(gè)隱藏單元，2個(gè)輸出單元，因此每個(gè)粒子的維數(shù)是57。在上述實(shí)驗(yàn)的函數(shù)優(yōu)化中，中心粒子群算法和線性遞減權(quán)重粒子群算法的所有參數(shù)除過(guò)之外，其他都是相同的。最大迭代次數(shù)被設(shè)置為1000，種群大小被設(shè)置為20.

3 結(jié)論

論文中我們提出了中心粒子群算法，而其中的中心粒子這一概念是從線性遞減權(quán)重粒子群算法中引進(jìn)的。種群由普通的粒子組成，在每次迭代中中心粒子的位置隨著種群中心的改變而改變。在典型的粒子活動(dòng)中，所有的粒子圍繞種群的中心擺動(dòng)，并且逐漸趨于種群的中心。在運(yùn)行過(guò)程中，中心粒子通常能獲得較好的位置而且變成全局最優(yōu)粒子，因此雖然中心粒子只有一個(gè)，它有更多的機(jī)會(huì)去引導(dǎo)種群的搜索并且極大的影響算法的性能。實(shí)驗(yàn)結(jié)果表明中心粒子群算法的性能比線性遞減權(quán)重粒子群算法的性能要好。

[1] P.J.Angeline,Evolutionary optimization versus particle swarmoptimization:philosophy and performancedifferences,Lecture Notesin Computer Sc ience,vol.1447,Springer,Berlin,1998,pp.601-610.

[2] P.J.Angeline,Using selection to improve particle swarm optimization,Proceedings of the IEEE Conference on Evolutionary Computation,1998,pp. 84-89.

[3] R.Eberhart,Y.Shi,Comparing inertia weights and constrictionfactors in particle swarm optimization,Proceedings of the IEEE Conference on Evolutionary Computation,2000,pp.84-88.

[4] M.Clerc,J.Kennedy,The particle swarm-explosion, stability,andconvergence in a multidimensional complex space,IEEE Trans.Evol.Comput.6 (2002) 58-73.

[5] S.Baskar,P.Suganthan,A novel concurrent particle swarmoptimization,Proceedings of the Congress on Evolutionary Computation,2004,pp.792-796.

[6] C.Blake,C.J.Merz,UCI repository of machine learning databases,1998.

[7] S.C.Esquivel,C.A.Coello Coello,On the use of particle swarm optimization with multimodal functions,Proceedings of the Congress on Evolutionary Computation,2003,pp.1130-1136.

王丹，女，1981年11月，講師，所學(xué)專業(yè)：計(jì)算機(jī)科學(xué)與技術(shù)，現(xiàn)研究方向：計(jì)算機(jī)教學(xué)

Center particle swarm optimization algorithm

Wang Dan
（Liaoning Institute of Technology 121000）

The linear decreasing weight particle swarm optimization algorithm (LDWPSO) is mentioned in the concept of a center particle,and then puts forward center particle swarm optimization algorithm (PSO). The linear decreasing weight particle swarm optimization algorithm, unlike other general center particle particle, particle velocity center is not clear, and is always placed in the center of the particle swarm. In addition, the neural network training algorithm compared to particle swarm optimization algorithm and the linear decreasing weight particle swarm optimization algorithm, results show that: the performance is better than the linear optimization center particle swarm decreasing weight particle swarm optimization algorithm.

particle swarm optimization algorithm；neural network；evolutionary computation