王 偉,龍 文

(1.貴州財(cái)經(jīng)大學(xué)管理科學(xué)與工程學(xué)院,貴州貴陽 550025;2.貴州財(cái)經(jīng)大學(xué)數(shù)學(xué)與統(tǒng)計(jì)學(xué)院,貴州貴陽 550025)

在過去的幾十年中,元啟發(fā)式算法在處理各種工程領(lǐng)域中具有挑戰(zhàn)性的優(yōu)化問題方面越來越受歡迎,這是因?yàn)樗葌鹘y(tǒng)的數(shù)值方法更有效。元啟發(fā)式算法在搜索過程中需要執(zhí)行探索和開發(fā)兩個(gè)關(guān)鍵任務(wù)。在探索任務(wù)中進(jìn)行“宏觀搜索”以找到解空間中最有潛力的區(qū)域,對(duì)應(yīng)于在問題的可行解空間中進(jìn)行全局搜索,以搜索全局最優(yōu)解。在開發(fā)任務(wù)中執(zhí)行“微搜索”以提取搜索區(qū)域中的有用信息,對(duì)應(yīng)于局部搜索,目的是改進(jìn)可用的最佳解決方案。由于這兩個(gè)過程的矛盾性質(zhì),所以在任何元啟發(fā)式算法中都應(yīng)該保持探索和開發(fā)之間的平衡,以執(zhí)行性能良好的搜索。若未處理好探索和開發(fā)的平衡則會(huì)導(dǎo)致跳過真解、局部最優(yōu)停滯和過早收斂等問題。

目前流行的元啟發(fā)式算法有灰狼優(yōu)化(Grey Wolf Optimizer,GWO)算法[1]、鯨魚優(yōu)化算法(Whale Optimization Algorithm,WOA)[2]、正弦余弦算法(Sine Cosine Algorithm,SCA)[3]、蝗蟲優(yōu)化算法(Grasshopper Optimization Algorithm,GOA)[4]、哈里斯鷹優(yōu)化(Harris Hawks Optimizer,HHO)算法[5]、海鷗優(yōu)化算法(Seagull Optimization Algorithm,SOA)[6]、蝴蝶優(yōu)化算法(Butterfly Optimization Algorithm,BOA)[7]等,它們?cè)诮鉀Q全局優(yōu)化問題上顯示出一定的有效性。這些算法是基于種群迭代的,并且能夠同時(shí)使用多個(gè)個(gè)體來執(zhí)行搜索。此外,算法中的個(gè)體在搜索過程中還能夠分享經(jīng)驗(yàn),相互交流。這些特性有助于算法在搜索過程中避免局部最優(yōu),從而增強(qiáng)了算法的探索能力。

人工兔優(yōu)化(Artificial Rabbits Optimization,ARO)算法是由Wang等[8]于2022年提出的一種新型元啟發(fā)式算法,它的靈感來自自然界中兔子的生存策略,包括迂回覓食和隨機(jī)隱藏。ARO算法具有數(shù)學(xué)模型簡(jiǎn)單、需調(diào)整的參數(shù)少、容易編程實(shí)現(xiàn)以及不依賴梯度信息等特點(diǎn),在函數(shù)優(yōu)化和工程優(yōu)化領(lǐng)域中得到成功應(yīng)用[8-11]。然而,基本ARO算法存在精度差、收斂慢以及容易陷入局部最優(yōu)等缺點(diǎn)。為了改善ARO算法的性能,Wang等[12]首先在隨機(jī)隱藏階段引入了Lévy飛行策略,以提高種群的多樣性和動(dòng)態(tài)性,種群的多樣性加深了全局探索過程,從而提高了算法的收斂精度;然后,通過引入選擇性反向策略來提高跟蹤效率,防止ARO陷入當(dāng)前的局部解。Wang等[13]結(jié)合天鷹優(yōu)化(Aquila Optimizer,AO)算法的全局勘探和ARO算法的局部開發(fā)能力,設(shè)計(jì)了自適應(yīng)切換機(jī)制,引入混沌反向?qū)W習(xí)策略,提出一種混合算法。

雖然這些元啟發(fā)式算法在某些問題上可以找到全局最優(yōu),但是沒有算法可以找到所有優(yōu)化問題的全局最優(yōu)值。無免費(fèi)午餐(No Free Lunch,NFL)定理指出,不可能存在適用于所有優(yōu)化問題的理想算法,該定理使得元啟發(fā)式算法領(lǐng)域的研究非?；钴S,并允許對(duì)現(xiàn)有算法進(jìn)行修改以提高其性能[14]。為了改善基本ARO算法的搜索能力,本文提出一種改進(jìn)的ARO算法(稱為IARO算法),不僅設(shè)計(jì)了一種基于正弦函數(shù)的非線性遞減能量因子以平衡IARO算法的探索和開發(fā)能力,還在筆者前期工作的基礎(chǔ)上提出了一種動(dòng)態(tài)透鏡成像學(xué)習(xí)策略以避免算法陷入局部最優(yōu)。數(shù)值實(shí)驗(yàn)部分選取了6個(gè)基準(zhǔn)測(cè)試函數(shù)、2個(gè)工程設(shè)計(jì)優(yōu)化問題和1個(gè)包括15個(gè)數(shù)據(jù)集的特征選擇問題對(duì)IARO算法進(jìn)行性能測(cè)試。

1 基本ARO算法

ARO算法模擬了兔子的生存策略,通過搜索、覓食和躲避攻擊執(zhí)行優(yōu)化過程。與其他元啟發(fā)式算法一樣,ARO算法通過式(1)隨機(jī)產(chǎn)生一組解組成初始種群個(gè)體:

P=lb+rand·(ub-lb),

(1)

其中,ub和lb是解空間的上、下界,rand是[0,1]間的隨機(jī)數(shù)。

ARO算法中的優(yōu)化過程主要包括兩個(gè)階段,即全局勘探(迂回覓食)和局部開發(fā)(隨機(jī)隱藏),具體數(shù)學(xué)模型描述如下:

在迂回覓食階段,假設(shè)種群中的每只兔子都有自己的區(qū)域,有一些草和洞穴,兔子總是隨機(jī)地訪問彼此的位置覓食。事實(shí)上,在覓食時(shí),兔子很可能會(huì)擾亂食物來源以獲取足夠的食物。因此,ARO算法的迂回覓食行為意味著每個(gè)搜索個(gè)體傾向于使用向群中隨機(jī)選擇的其他搜索個(gè)體的位置來更新其位置,并添加擾動(dòng)。迂回覓食策略的數(shù)學(xué)模型為

Xi(t+1)=Xj(t)+R·(Xi(t)-Xj(t))+round(0.5·(0.05+r1))·r2,

(2)

(3)

式中,X表示個(gè)體的位置;i,j=1,2,…,N,i≠j,N為種群規(guī)模;r1、r2和r3分別是[0,1]間的隨機(jī)數(shù);t為當(dāng)前迭代次數(shù);T為最大迭代次數(shù);R表示移動(dòng)步長(zhǎng);k=1,2,…,d,d是問題的維數(shù);c的取值為0或1,round為四舍五入取整函數(shù)。

在隨機(jī)隱藏階段,為了躲避捕食者,兔子通常會(huì)在巢穴周圍挖一些不同的洞來躲藏。在ARO算法的每次迭代中,兔子總是沿著搜索空間的每個(gè)維度在其周圍產(chǎn)生若干個(gè)洞穴,并且總是從所有洞穴中隨機(jī)選擇一個(gè)進(jìn)行隱藏,以降低被捕食的概率,具體數(shù)學(xué)模型為

Xi(t+1)=Xi(t)+R·(r4·H·g·Xi(t)-Xi(t)),

(4)

(5)

式中,H為隱藏參數(shù),在迭代過程中隨機(jī)從1線性減小到1/T,r4和r5分別為[0,1]間的隨機(jī)數(shù),g的取值為0或1。

在ARO算法中,兔子總是傾向于在迭代初始階段頻繁地進(jìn)行迂回覓食,而在迭代后期階段頻繁地進(jìn)行隨機(jī)隱藏,這種搜索機(jī)制取決于兔子的能量,它會(huì)隨著時(shí)間的推移而逐漸收縮。因此,設(shè)計(jì)一個(gè)能量因子來模擬從勘探階段到開發(fā)階段的自動(dòng)轉(zhuǎn)換,能量因子A的定義如下:

(6)

式中,r6是一個(gè)[0,1]間的隨機(jī)數(shù)。

2 改進(jìn)ARO算法(IARO算法)

2.1 非線性遞減能量因子

在搜索過程中平衡好全局勘探和局部開發(fā)能力對(duì)提高元啟發(fā)式算法的搜索性能至關(guān)重要。一般來說,算法搜索前期的主要目的是在解空間中進(jìn)行大范圍搜索,以找到潛在的可行區(qū)域;而在搜索中后期,算法主要執(zhí)行局部精確搜索,以加快收斂速度。不難發(fā)現(xiàn),基本ARO算法設(shè)計(jì)了一種能量因子A以控制其在全局勘探和局部開發(fā)之間的轉(zhuǎn)換。能量因子A較大表示兔子有足夠的能量和體力進(jìn)行迂回覓食;反之,能量因子A較小則表明兔子的體力不足,需要隨機(jī)隱藏。即,當(dāng)A>1時(shí),兔子在探索階段隨機(jī)探索不同兔子的覓食區(qū)域,種群進(jìn)行全局搜索;當(dāng)A≤1時(shí),兔子傾向于在開發(fā)階段隨機(jī)開發(fā)自己的洞穴,進(jìn)行局部搜索。

由式(6)可知,雖然能量因子A的值隨迭代次數(shù)的增加而隨機(jī)擾動(dòng)遞減至0,但這不能真實(shí)反映ARO算法的優(yōu)化過程,即前期進(jìn)行全局搜索需要較大的A值,而中后期局部精確搜索則需要較小的A值。因此,本文設(shè)計(jì)了一種基于正弦函數(shù)的非線性遞減能量因子,其數(shù)學(xué)公式為

(7)

式中,Amax和Amin分別為能量因子A的最大值和最小值,μ為縮放因子。圖1為式(7)描述的能量因子A隨迭代次數(shù)增加的變化曲線。由圖1可以看出,在算法搜索前期,能量因子A取較大值;而在搜索中后期,A取較小值,符合ARO算法前期進(jìn)行全局勘探、后期進(jìn)行局部開發(fā)的特點(diǎn)。

2.2 動(dòng)態(tài)透鏡成像學(xué)習(xí)策略

在基本ARO算法搜索末期,所有個(gè)體均向當(dāng)前群體中最優(yōu)個(gè)體所在區(qū)域靠攏,導(dǎo)致群體多樣性降低,算法很容易陷入局部最優(yōu),這也是元啟發(fā)式算法的固有缺點(diǎn)。為了克服這個(gè)缺點(diǎn),龍文等[15]提出一種基于凸透鏡成像原理的反向?qū)W習(xí)策略用于改進(jìn)GWO算法的性能。然而,固定的縮放因子k無法充分利用透鏡成像學(xué)習(xí)策略的優(yōu)勢(shì)。因此,為了進(jìn)一步增加群體多樣性,本文提出一種動(dòng)態(tài)透鏡成像學(xué)習(xí)策略,如圖2所示。

(8)

式中,k=2·r7,r7是[0,1]之間的隨機(jī)數(shù),j=1,2,…,m。

(9)

基于上述兩個(gè)修改策略,本文提出的IARO算法的流程如圖3所示,迭代步驟如下:

圖3 IARO算法流程

步驟1:初始化算法參數(shù),如種群規(guī)模N、最大迭代次數(shù)T、Amax、Amin、μ、k;

步驟2:在解空間中隨機(jī)產(chǎn)生一組個(gè)體位置作為算法種群初始位置,令t=1;

步驟3:計(jì)算每個(gè)個(gè)體的目標(biāo)函數(shù)值,并記錄當(dāng)前群體最優(yōu)個(gè)體位置;

步驟4:判斷t

步驟5:根據(jù)式(7)計(jì)算能量因子A的值;

步驟6:判斷A>1,如果是,則根據(jù)式(2)更新個(gè)體位置;否則,由式(4)更新個(gè)體位置;

步驟7:針對(duì)當(dāng)前最優(yōu)個(gè)體,執(zhí)行動(dòng)態(tài)透鏡成像學(xué)習(xí)策略,以產(chǎn)生新候選個(gè)體,令t=t+1,返回步驟3。

3 函數(shù)優(yōu)化問題測(cè)試及比較

為了測(cè)試IARO算法的優(yōu)化能力,本文選取6個(gè)基準(zhǔn)函數(shù)進(jìn)行數(shù)值實(shí)驗(yàn),詳細(xì)信息如表1所示。其中f1、f2和f3是單峰函數(shù),通常用來測(cè)試算法的局部開發(fā)能力;多峰函數(shù)f4、f5和f6用于研究算法的全局勘探能力。6個(gè)基準(zhǔn)測(cè)試函數(shù)的全局最優(yōu)值均為0。

表1 6個(gè)基準(zhǔn)測(cè)試函數(shù)

采用IARO算法對(duì)表1中的6個(gè)基準(zhǔn)測(cè)試函數(shù)進(jìn)行求解,并與GWO算法[1]、WOA[2]、SCA[3]和基本ARO算法[8]進(jìn)行比較。5種算法的種群規(guī)模設(shè)為30,最大迭代次數(shù)設(shè)為500。每個(gè)函數(shù)的維數(shù)均設(shè)置為30。每種算法均對(duì)每個(gè)基準(zhǔn)測(cè)試函數(shù)獨(dú)立運(yùn)行30次。

表2列出了5種算法對(duì)6個(gè)基準(zhǔn)測(cè)試函數(shù)的平均值(Mean)和標(biāo)準(zhǔn)差(Standard deviation,St.dev)的結(jié)果。所有算法均在MATLAB R2014a軟件上實(shí)現(xiàn),操作系統(tǒng)為Microsoft windows 8 64位版,處理器為Intel (R) Core (TM) i5-5200U CPU @ 2.20 GHz,內(nèi)存為4 GB RAM。

表2 5種算法在6個(gè)基準(zhǔn)測(cè)試函數(shù)的比較結(jié)果

從表2可知,除了f4外,IARO算法在其他5個(gè)基準(zhǔn)測(cè)試函數(shù)上均獲得了理論最優(yōu)值(0),在f4上的尋優(yōu)結(jié)果也非常接近于0。在5種比較算法中,SCA的尋優(yōu)性能最差。與其他4種算法相比,IARO算法在6個(gè)基準(zhǔn)測(cè)試函數(shù)上均獲得了較好的平均值,且具有較強(qiáng)的魯棒性。關(guān)于5種算法對(duì)6個(gè)函數(shù)的Friedman檢驗(yàn)結(jié)果的排名,IARO算法在目標(biāo)函數(shù)平均值上排名第一,接下來依次是ARO算法、WOA、GWO算法和SCA。另外,圖4是5種算法對(duì)6個(gè)基準(zhǔn)測(cè)試函數(shù)的迭代收斂曲線。從圖4可以看出,與ARO算法、WOA、GWO算法和SCA相比,IARO算法在6個(gè)基準(zhǔn)測(cè)試函數(shù)上顯示出更快的收斂速度和更高的收斂精度。

圖4 5種算法在6個(gè)函數(shù)上的收斂曲線

為了分析兩種改進(jìn)策略的有效性,將基本ARO算法與僅采用非線性能量遞減因子的ARO (NARO)算法、僅采用動(dòng)態(tài)透鏡成像學(xué)習(xí)策略的ARO(DARO)算法和IARO算法進(jìn)行比較,選取表1中的6個(gè)測(cè)試函數(shù)進(jìn)行實(shí)驗(yàn),結(jié)果如表3所示。

表3 4種算法的平均結(jié)果比較

從表3的比較結(jié)果可知,僅采用非線性能量遞減因子對(duì)改進(jìn)ARO算法性能的幫助有限,IARO算法性能改進(jìn)的有效算子是引入動(dòng)態(tài)透鏡成像學(xué)習(xí)策略。

4 IARO算法求解工程設(shè)計(jì)優(yōu)化問題

為了進(jìn)一步驗(yàn)證IARO算法的有效性,將其應(yīng)用于求解兩個(gè)工程設(shè)計(jì)優(yōu)化問題,即壓力容器設(shè)計(jì)優(yōu)化和拉壓彈簧設(shè)計(jì)優(yōu)化問題?？紤]IARO算法在解決這兩個(gè)工程設(shè)計(jì)優(yōu)化問題時(shí)需要結(jié)合約束處理技術(shù),本文使用懲罰函數(shù)法[16]處理約束條件。這里利用GWO算法、WOA、SCA、ARO算法和IARO算法對(duì)兩個(gè)工程設(shè)計(jì)優(yōu)化問題進(jìn)行求解,5種算法的種群規(guī)模設(shè)置為50,最大迭代次數(shù)設(shè)置為1 000。

4.1 壓力容器設(shè)計(jì)

壓力容器設(shè)計(jì)的結(jié)構(gòu)如圖5所示,它有4個(gè)設(shè)計(jì)變量,即壓力容器厚度、封帽厚度、容器內(nèi)徑和容器長(zhǎng)度,優(yōu)化目標(biāo)是在一定約束條件下使得容器總造價(jià)最低,其目標(biāo)函數(shù)和約束條件的數(shù)學(xué)表達(dá)式如下:

圖5 壓力容器設(shè)計(jì)

g1=Ts+0.0193R≤0 ,

g2=Th+0.00954R≤0,

g4=L-240≤0,

(10)

式中,0≤Ts,Th≤99,10≤R,L≤200。

GWO算法、WOA、SCA、ARO算法和IARO算法在壓力容器設(shè)計(jì)優(yōu)化問題上獲得的最優(yōu)結(jié)果如表4所示。從表4的比較結(jié)果可知,與GWO算法、WOA、SCA和ARO算法相比,在相同參數(shù)設(shè)置的條件下,IARO算法在壓力容器設(shè)計(jì)優(yōu)化問題上獲得了最低的總造價(jià)。

表4 5種算法的最優(yōu)結(jié)果比較

4.2 拉壓管柱彈簧設(shè)計(jì)

拉壓管柱彈簧設(shè)計(jì)結(jié)構(gòu)如圖6所示,它有3個(gè)設(shè)計(jì)變量如管柱直徑、平均線圈直徑和有效線圈數(shù)。

圖6 拉壓管柱彈簧設(shè)計(jì)

拉壓管柱彈簧設(shè)計(jì)優(yōu)化問題的目標(biāo)是在最小撓度、剪切應(yīng)力、外徑限制和設(shè)計(jì)變量的約束下,使管柱彈簧的重量最小化,其目標(biāo)函數(shù)和約束條件的數(shù)學(xué)表達(dá)式為

minf=(P+2)Dd2,

(11)

式中,0.05≤d≤2.00,0.25≤D≤1.30,2≤P≤15。

GWO算法、WOA、SCA、ARO算法和IARO算法在拉壓管柱彈簧設(shè)計(jì)優(yōu)化問題上獲得的最優(yōu)結(jié)果如表5所示。由表5的比較結(jié)果可以看出,與GWO算法、WOA、SCA和ARO算法相比,IARO算法在拉壓管柱彈簧設(shè)計(jì)優(yōu)化問題上獲得了最小的重量。

表5 5種算法的最優(yōu)結(jié)果比較

5 IARO算法求解特征選擇問題

特征選擇是處理高維數(shù)據(jù)的一個(gè)重要環(huán)節(jié),它是指從原數(shù)據(jù)集的M個(gè)特征中選擇出N個(gè)特征以降低數(shù)據(jù)集的維數(shù),從而提高機(jī)器學(xué)習(xí)模型的分類效率。特征選擇通過數(shù)學(xué)建模后可轉(zhuǎn)換為求解一個(gè)多目標(biāo)函數(shù)優(yōu)化問題,其目標(biāo)(適應(yīng)度)函數(shù)可描述為

(12)

其中,E為分類器的分類錯(cuò)誤率,ρ是權(quán)重系數(shù),|l|表示算法所選擇的特征數(shù),|L|為原始數(shù)據(jù)集的特征數(shù)。

為了測(cè)試IARO算法求解特征選擇問題的有效性,本文從UCI數(shù)據(jù)庫中選取15個(gè)數(shù)據(jù)集進(jìn)行實(shí)驗(yàn),詳細(xì)信息如表6所示。

表6 實(shí)驗(yàn)中使用的15個(gè)UCI數(shù)據(jù)集

利用GWO算法、WOA、SCA、ARO算法和IARO算法對(duì)表6中的15個(gè)UCI數(shù)據(jù)集進(jìn)行特征選擇并進(jìn)行比較。5種算法的種群規(guī)模為10和最大迭代次數(shù)為20。在每個(gè)數(shù)據(jù)集中,隨機(jī)選擇90%作為訓(xùn)練集,剩下10%作為測(cè)試集,以k最近鄰模型為分類模型,k=3,各種算法分別對(duì)每個(gè)數(shù)據(jù)集單獨(dú)運(yùn)行10次,得到的平均分類準(zhǔn)確率和平均所選特征數(shù)分別見表7和表8。

表7 5種算法的分類準(zhǔn)確率比較

表8 5種算法的所選特征數(shù)比較

從表7的結(jié)果可知,IARO算法在BreastEW、KrvskpEW、PenglungEW和SonarEW數(shù)據(jù)集上的平均分類準(zhǔn)確率達(dá)到100%。與GWO算法相比,IARO算法在8個(gè)數(shù)據(jù)集上分類更為準(zhǔn)確,在Exactly2、SpectEW和Tic-tac-toe數(shù)據(jù)集上的分類能力相當(dāng),在Clean2、Exactly、Semeion和WaveformEW數(shù)據(jù)集上,GWO算法分類更加準(zhǔn)確。除IonosphereEW數(shù)據(jù)集外,IARO算法在其他14個(gè)數(shù)據(jù)集上比WOA分類更加準(zhǔn)確,并且在IonosphereEW數(shù)據(jù)集上二者的分類準(zhǔn)確率相同。與SCA相比,IARO算法在12個(gè)數(shù)據(jù)集上的分類能力更強(qiáng),在SpectEW數(shù)據(jù)集上二者的分類準(zhǔn)確率相等;但是,SCA在IonosphereEW和M-of-n數(shù)據(jù)集上的分類能力更強(qiáng)。與ARO算法相比,IARO算法分別在7個(gè)數(shù)據(jù)集上分類表現(xiàn)更好,在Exactly2、KrvskpEW、Semeion、SonarEW和Tic-tac-toe數(shù)據(jù)集上二者的分類準(zhǔn)確率相同;在數(shù)據(jù)集Clean2、IonosphereEW和M-of-n上,ARO算法的分類能力更強(qiáng)。

6 結(jié)論

ARO算法是最近提出的一種元啟發(fā)式優(yōu)化技術(shù),它在經(jīng)典基準(zhǔn)測(cè)試函數(shù)上顯示出強(qiáng)大的尋優(yōu)性能。然而,基本ARO算法在求解復(fù)雜優(yōu)化問題上存在容易陷入局部最優(yōu)、后期收斂速度慢等缺點(diǎn)。為了平衡算法的全局勘探和局部開發(fā)能力,本研究不僅提出了一種隨正弦函數(shù)變化的非線性遞減能量因子,還設(shè)計(jì)了一種動(dòng)態(tài)透鏡成像學(xué)習(xí)策略以增強(qiáng)種群多樣性?；谏鲜鰞蓚€(gè)改進(jìn)策略,提出了IARO算法。數(shù)值模擬實(shí)驗(yàn)選取了6個(gè)基準(zhǔn)函數(shù)以測(cè)試IARO算法的性能,并與GWO算法、WOA、SCA和ARO算法進(jìn)行比較。數(shù)值模擬實(shí)驗(yàn)結(jié)果表明,IARO算法在解精度和收斂速度性能上比起對(duì)比算法均有較大的提升。此外,將IARO算法應(yīng)用于求解2個(gè)工程設(shè)計(jì)優(yōu)化問題和1個(gè)含15個(gè)UCI數(shù)據(jù)集的特征選擇問題,結(jié)果顯示,與其他4種算法相比,IARO算法在求解工程設(shè)計(jì)優(yōu)化問題和特征選擇問題上具有較強(qiáng)的競(jìng)爭(zhēng)力。下一步的研究方向是將IARO算法應(yīng)用于多目標(biāo)優(yōu)化、動(dòng)態(tài)優(yōu)化以及其他工程應(yīng)用領(lǐng)域中。