嚴(yán)愛軍,曹付起

(1.北京工業(yè)大學(xué)信息學(xué)部，北京 100124；2.數(shù)字社區(qū)教育部工程研究中心，北京 100124；3.城市軌道交通北京實(shí)驗(yàn)室，北京 100124)

權(quán)重指的是某一因素或指標(biāo)相對(duì)于某一事物的重要程度，反映該因素或指標(biāo)的相對(duì)重要性.權(quán)重的分配廣泛應(yīng)用于社會(huì)的各種系統(tǒng)中，無論是在多目標(biāo)多因素系統(tǒng)的綜合評(píng)價(jià)[1]和決策領(lǐng)域[2]，還是在經(jīng)濟(jì)、社會(huì)、環(huán)境、科技等系統(tǒng)的軟科學(xué)研究領(lǐng)域[3]，以及不確定性環(huán)境下的參數(shù)預(yù)測領(lǐng)域[4]，都涉及權(quán)重分配的問題.研究證明，權(quán)重的合理分配與否會(huì)對(duì)預(yù)測和決策結(jié)果產(chǎn)生較大的影響，因此，國內(nèi)外學(xué)者對(duì)特征權(quán)重的分配方法展開了大量的研究.

綜合國內(nèi)外的研究，特征權(quán)重的分配方法主要分為3類：主觀賦權(quán)法、客觀賦權(quán)法和組合賦權(quán)法.主觀賦權(quán)法主要是根據(jù)專家的知識(shí)經(jīng)驗(yàn)或偏好，根據(jù)重要性程度對(duì)各特征的權(quán)重進(jìn)行比較、分配或計(jì)算，主要方法有層次分析法[5]、專家估評(píng)法[6]和環(huán)比評(píng)分法[7]，但主觀賦權(quán)法的主觀性和不確定性很強(qiáng)，專家對(duì)于權(quán)重的分配是根據(jù)實(shí)際經(jīng)驗(yàn)和對(duì)預(yù)測對(duì)象的熟悉程度來制定的，不同的專家得到的結(jié)果并不完全一樣，因此，主觀賦權(quán)法的一致性和可信性難以得到保障.客觀賦權(quán)法則是根據(jù)一定的數(shù)學(xué)理論和計(jì)算方法從特征數(shù)據(jù)出發(fā)對(duì)特征權(quán)重進(jìn)行分配.主要方法有灰色關(guān)聯(lián)度分析法[8]、神經(jīng)網(wǎng)絡(luò)法[9]、遺傳算法[10]等.灰色關(guān)聯(lián)度分析法通過將數(shù)據(jù)對(duì)比與幾何圖形發(fā)展態(tài)勢相結(jié)合來求權(quán)重，該方法具有計(jì)算過程簡單、無需大量樣本等優(yōu)點(diǎn)，但無法解決特征間相關(guān)性導(dǎo)致的冗余問題；神經(jīng)網(wǎng)絡(luò)法通過訓(xùn)練樣本得到特征權(quán)重優(yōu)化分配的計(jì)算模型，但其結(jié)構(gòu)設(shè)計(jì)較為困難，對(duì)訓(xùn)練樣本的要求也比較嚴(yán)格；遺傳算法是一種通過模擬自然進(jìn)化過程搜索最優(yōu)個(gè)體的方法，通過對(duì)權(quán)重進(jìn)行迭代尋優(yōu)得到最優(yōu)權(quán)重，具有運(yùn)行簡單、魯棒性強(qiáng)等優(yōu)點(diǎn)，但收斂速度慢、局部搜索能力差.組合賦權(quán)法[11]將上述的主觀賦權(quán)法和客觀賦權(quán)法結(jié)合起來，依據(jù)不同的偏好系數(shù)確定特征權(quán)重，這種方法可能存在較大的隨機(jī)性偏差，計(jì)算復(fù)雜度普遍比較高.可見，上述3類賦權(quán)法在特征權(quán)重的優(yōu)化分配中得到了廣泛應(yīng)用，但仍具有一些缺陷以及局限性，因此，研究一種新的權(quán)重分配方法十分必要.

元啟發(fā)式算法由于其具有簡單性、靈活性、魯棒性以及高性能性被運(yùn)用到各學(xué)科或工程問題中.作為元啟發(fā)式算法的一個(gè)熱點(diǎn)研究方向，群體智能優(yōu)化算法通過不停地對(duì)群體進(jìn)行迭代從而獲得最優(yōu)解.目前，已經(jīng)有很多群體智能優(yōu)化算法及其改進(jìn)方法被提出，比如粒子群算法[12]、人工蜂群算法[13]、螢火蟲算法[14]、灰狼算法[15]等.

鯨魚優(yōu)化算法(whale optimization algorithm，WOA)是由澳大利亞學(xué)者M(jìn)irjalili等[16]于2016年提出的一種群體智能優(yōu)化算法，它通過鯨魚群體搜索、包圍和追捕攻擊獵物等過程實(shí)現(xiàn)搜索和優(yōu)化目的.雖然鯨魚算法已被證明在求解精度和收斂速度方面存在很大優(yōu)勢，但仍存在局部最優(yōu)問題.針對(duì)此問題，學(xué)者提出了一些改進(jìn)的方法.文獻(xiàn)[17]提出一種反向?qū)W習(xí)自適應(yīng)的WOA，在搜索空間中利用反向?qū)W習(xí)算法對(duì)鯨魚的位置進(jìn)行初始化，并在局部搜索階段加入線性權(quán)重增強(qiáng)算法的局部搜索能力.該文獻(xiàn)對(duì)高維度基準(zhǔn)函數(shù)進(jìn)行計(jì)算，展現(xiàn)出了良好的計(jì)算性能.文獻(xiàn)[18]使用混沌映射來優(yōu)化鯨魚算法的內(nèi)部參數(shù)，進(jìn)一步地提高了算法的計(jì)算精度，具有更好的全局搜索能力.文獻(xiàn)[19]提出了一種結(jié)合自適應(yīng)權(quán)重和模擬退火的鯨魚算法，通過改進(jìn)的自適應(yīng)權(quán)重來調(diào)整算法的收斂速度，并使用模擬退火加強(qiáng)鯨魚算法的全局搜索能力，用于對(duì)測試函數(shù)的極值計(jì)算，計(jì)算精度和收斂速度都有了一定的提高.

Reynolds[20]于1994年提出了文化算法，其思想是利用種群進(jìn)化過程中的知識(shí)構(gòu)造信仰空間，以知識(shí)的方式指導(dǎo)種群空間的種群進(jìn)化，能有效提高算法的全局搜索能力.種群空間可用于實(shí)現(xiàn)任何基于種群的優(yōu)化算法，一方面，對(duì)種群個(gè)體進(jìn)行演化操作，另一方面，將優(yōu)秀的個(gè)體作為樣本提供給信仰空間.信仰空間通過接受函數(shù)接受種群空間中選擇出來的優(yōu)勢個(gè)體，并在各類演化算法的作用下，提取樣本個(gè)體攜帶的隱含信息，以知識(shí)的形式加以概括、描述和儲(chǔ)存.最終各類知識(shí)通過影響函數(shù)作用于種群空間，從而實(shí)現(xiàn)對(duì)種群空間中個(gè)體的更新指導(dǎo).目前已成功應(yīng)用于粒子群算法[21]、螢火蟲算法[22]、蜂群算法[23]等隨機(jī)優(yōu)化算法.文化算法的優(yōu)勢及成功應(yīng)用為有效解決鯨魚算法容易陷入局部最優(yōu)提供了一種很好的思路.鑒于文化算法的全局搜索優(yōu)勢，本文將鯨魚算法納入到文化算法的種群空間，得到一種文化鯨魚優(yōu)化算法(cultural whale optimization algorithm，CWOA)來進(jìn)行特征權(quán)重的優(yōu)化分配.

本文以案例推理預(yù)測模型為例，對(duì)加州大學(xué)歐文分校(University of California Irvine，UCI)標(biāo)準(zhǔn)預(yù)測數(shù)據(jù)集中的特征權(quán)重研究了優(yōu)化分配方法.將本文提出的文化鯨魚算法用于權(quán)重的優(yōu)化分配，并通過實(shí)驗(yàn)測試證明了本文方法的有效性.

1 基于CWOA的權(quán)重優(yōu)化

CWOA的框架結(jié)構(gòu)如圖1所示，包括種群空間和信仰空間.它采用雙層進(jìn)化機(jī)制，即在種群進(jìn)化算法的基礎(chǔ)上構(gòu)建信仰空間，2個(gè)空間相對(duì)獨(dú)立地進(jìn)行進(jìn)化，并通過接受函數(shù)和影響函數(shù)進(jìn)行交互.圖中的種群空間是求解最優(yōu)權(quán)重的主空間，具有性能評(píng)價(jià)和演化操作2個(gè)功能，其中，演化操作是利用WOA更新權(quán)重，性能評(píng)價(jià)則是通過計(jì)算適應(yīng)度對(duì)這些權(quán)重進(jìn)行評(píng)價(jià).信仰空間采用形勢知識(shí)和規(guī)范知識(shí)進(jìn)行該空間的知識(shí)描述，權(quán)重的更新則是利用雙變異演化策略來實(shí)現(xiàn).2個(gè)空間之間的交互操作主要有接受操作和影響操作2種方式，信仰空間通過接受函數(shù)選取種群空間中的最優(yōu)權(quán)重，種群空間通過影響函數(shù)利用信仰空間的形勢知識(shí)和規(guī)范知識(shí)來指導(dǎo)權(quán)重的更新[24].下面從種群空間的演化策略、信仰空間的知識(shí)描述以及2個(gè)空間之間的交互操作三方面來介紹.

圖1 文化鯨魚算法框架Fig.1 Cultural whale algorithm framework

1.1 種群空間的演化策略

種群空間采用鯨魚算法進(jìn)行權(quán)重的演化更新和性能評(píng)價(jià).鯨魚算法是一種模仿座頭鯨泡泡網(wǎng)覓食行為的仿生智能優(yōu)化算法.令每個(gè)鯨魚的位置代表一個(gè)權(quán)重的可行解，該算法主要分為2個(gè)部分：一部分為隨機(jī)搜索最優(yōu)權(quán)重，另一部分是通過泡泡網(wǎng)覓食行為獲得最優(yōu)權(quán)重.

1)隨機(jī)搜索

隨機(jī)搜索階段對(duì)應(yīng)著算法的全局探索階段，是隨機(jī)尋找最優(yōu)權(quán)重的過程.在n個(gè)特征權(quán)重中，令每一個(gè)權(quán)重的可行解在D維空間內(nèi)，則第j個(gè)權(quán)重的可行解可表示為ωj=(ωj,1,ωj,2,…,ωj,i,…,ωj,D)，更新公式為

(1)

A=2ar1-a
C=2r2

(2)

計(jì)算.式中：r1和r2為[0,1]中的隨機(jī)數(shù)；a為控制參數(shù)，隨著迭代次數(shù)t的增加從2線性減小到0，即

a=2-2t/tmax

(3)

式中tmax為最大迭代次數(shù).

當(dāng)式(2)中的|A|≥1時(shí)，進(jìn)入隨機(jī)搜索階段，根據(jù)各權(quán)重的可行解進(jìn)行隨機(jī)搜索最優(yōu)權(quán)重；當(dāng)|A|<1時(shí)，進(jìn)入局部搜索階段，采用泡泡網(wǎng)覓食行為進(jìn)行最優(yōu)權(quán)重的搜索.

2)泡泡網(wǎng)覓食

泡泡網(wǎng)覓食對(duì)應(yīng)著算法的局部搜索階段，通過收縮包圍和螺旋上升更新權(quán)重.當(dāng)式(2)中的|A|<1時(shí)，權(quán)重值會(huì)通過泡泡網(wǎng)覓食行為不斷趨向當(dāng)前最優(yōu)解.其中收縮包圍方式可表示為

(4)

在進(jìn)行螺旋更新權(quán)重時(shí)，當(dāng)前權(quán)重以螺旋形運(yùn)動(dòng)趨向最優(yōu)權(quán)重，即

(5)

上述的式(4)收縮包圍和式(5)螺旋更新權(quán)重的選擇由隨機(jī)產(chǎn)生的概率因子p的值來決定.當(dāng)p≥0.5時(shí)，進(jìn)入螺旋更新權(quán)重階段；當(dāng)p<0.5時(shí)，進(jìn)入收縮包圍階段.即

(6)

在種群空間，通過上述的隨機(jī)搜索和泡泡網(wǎng)覓食算法可得到該空間中的最優(yōu)權(quán)重.

1.2 信仰空間的知識(shí)描述和更新策略

信仰空間的核心是知識(shí)表示和存儲(chǔ)更新，知識(shí)表示根據(jù)種群空間的演化策略和應(yīng)用領(lǐng)域來制定，該空間中的知識(shí)共有5類：形勢知識(shí)、規(guī)范知識(shí)、拓?fù)渲R(shí)、領(lǐng)域知識(shí)和歷史知識(shí)[25].本文采用形勢知識(shí)和規(guī)范知識(shí)描述信仰空間，這2種知識(shí)的形成依賴于對(duì)種群空間的最優(yōu)權(quán)重進(jìn)行雙變異演化和性能評(píng)價(jià)的結(jié)果.下面是具體的算法描述.

1)形勢知識(shí)

形勢知識(shí)用于記錄進(jìn)化過程中的最優(yōu)權(quán)重，采用雙變異演化策略進(jìn)行權(quán)重的更新演化.雙變異演化策略的基本思想是在迭代的早期和后期分別采用非均勻變異算子和柯西變異算子對(duì)權(quán)重進(jìn)行變異操作.其中的非均勻變異算子[26]在迭代早期能均勻地搜索整個(gè)空間以盡快發(fā)現(xiàn)可能的最優(yōu)區(qū)域，但隨著算法的進(jìn)行，搜索范圍隨概率變小不斷縮減，到算法臨近結(jié)束時(shí)僅在當(dāng)前解的小范圍中搜索，因此，需要在迭代后期采用柯西變異算子進(jìn)行變異.柯西變異算子[27]可以產(chǎn)生較大的變異步長，有利于算法引導(dǎo)個(gè)體跳出局部最優(yōu)解，保證了算法的全局搜索能力.下面介紹非均勻變異算子和柯西變異算子，并從中獲得權(quán)重更新演化的形勢知識(shí).

非均勻變異算子定義為

(7)

柯西變異算子定義為

(8)

為了實(shí)現(xiàn)權(quán)重的更新演化，需定義權(quán)重所對(duì)應(yīng)的適應(yīng)度函數(shù)，根據(jù)案例推理預(yù)測模型輸出的均方根誤差得到適應(yīng)度函數(shù)

(9)

式中：s為源案例總數(shù)；y(i)為第i條案例的實(shí)際值；y′(i)為第i條案例的預(yù)測值.

根據(jù)上述雙變異策略，可得到信仰空間在第t次迭代時(shí)用于權(quán)重更新演化的形勢知識(shí)

(10)

2)規(guī)范知識(shí)

規(guī)范知識(shí)用于描述權(quán)重的可行解空間，對(duì)其更新體現(xiàn)為權(quán)重搜索空間的變化.針對(duì)權(quán)重的優(yōu)化問題，其結(jié)構(gòu)描述為Ij,Lj,Uj,j=1,2,…，其中Ij=[lj,uj]={lj≤ωj≤uj，ωj∈}，表示第j個(gè)權(quán)重搜索空間邊界的值，上界uj初始化為1，下界lj初始化為0.規(guī)范知識(shí)根據(jù)每代獲得的優(yōu)勢權(quán)重進(jìn)行更新，規(guī)則[28]為

(11)

(12)

(13)

(14)

信仰空間通過雙變異演化策略對(duì)種群空間的最優(yōu)權(quán)重進(jìn)行更新演化后，為了達(dá)到2個(gè)空間相互影響從而提高精度的目的，還需要進(jìn)行空間之間的交互操作設(shè)計(jì).

1.3 空間之間的交互操作設(shè)計(jì)

種群空間和信仰空間的交互通過接受操作和影響操作來實(shí)現(xiàn)，具體操作如下.

1)接受操作

信仰空間通過接受函數(shù)從種群空間接受一組最優(yōu)權(quán)重子集，這里采取比例接受策略,即按接受比例ka依適應(yīng)值升序接受權(quán)重個(gè)體，接受個(gè)數(shù)為

m=Nka

(15)

式中：m為信仰空間接受權(quán)重個(gè)數(shù)；N為種群空間權(quán)重個(gè)數(shù).

在種群空間的權(quán)重進(jìn)行過程中，每當(dāng)接受操作執(zhí)行間隔為Acc時(shí)，按照

KM=ωopt

(16)

用種群空間中的最優(yōu)權(quán)重代替信仰空間中適應(yīng)度差的權(quán)重.式中：KM為信仰空間中適應(yīng)度最差的權(quán)重個(gè)體，M為信仰空間權(quán)重個(gè)數(shù)；ωopt為種群空間中適應(yīng)度最好的權(quán)重個(gè)體.

2)影響操作

信仰空間中的形勢知識(shí)和規(guī)范知識(shí)形成后，通過影響函數(shù)對(duì)種群空間的權(quán)重進(jìn)行引導(dǎo)以使種群空間在進(jìn)化過程中得到全局最優(yōu)值，每當(dāng)影響操作執(zhí)行間隔為Inf時(shí)，按照

ωf=Xr

(17)

用信仰空間中適應(yīng)度最好的權(quán)重代替種群空間中適應(yīng)度最差的權(quán)重.式中：Xr為信仰空間中適應(yīng)度最好的權(quán)重個(gè)體；ωf為種群空間中適應(yīng)度最差的權(quán)重個(gè)體.

CWOA通過雙層進(jìn)化機(jī)制不斷更新迭代權(quán)重，當(dāng)?shù)阶詈笠淮螘r(shí)，取種群空間中的最優(yōu)權(quán)重ωopt作為特征權(quán)重的最優(yōu)化分配.

根據(jù)上述1.1～1.3節(jié)的算法描述，可以得到CWOA偽代碼如下.

算法1CWOA

輸入：數(shù)據(jù)集Ck=(x1,…，xj,…,xn；y)、最大迭代次數(shù)tmax、信仰空間權(quán)重個(gè)數(shù)M、種群空間權(quán)重個(gè)數(shù)N、接受操作執(zhí)行間隔Acc、影響操作執(zhí)行間隔Inf、權(quán)重搜索空間上限uj和下限lj.

輸出：特征變量權(quán)重值ωopt.

1 隨機(jī)產(chǎn)生種群空間的權(quán)重；

2 通過式(9)計(jì)算每組權(quán)重的適應(yīng)度，并由小到大排列;

3 根據(jù)隨機(jī)權(quán)重的信息給信仰空間中的形勢知識(shí)和規(guī)范化知識(shí)賦初值;

4 獲得當(dāng)前最優(yōu)權(quán)重ωopt；

5 while滿足停止條件

6 fori=1,2,…,tmaxdo

7 ifi%Acc=0

8 通過式(16)將種群空間中的最優(yōu)權(quán)重代替信仰空間中適應(yīng)度差的權(quán)重;

9 end if

10 if|A|≥1

11 種群空間通過式(1)更新下一代權(quán)重；

12 else

13 種群空間通過式(6)更新下一代權(quán)重；

14 ifi>tmax/2

15 信仰空間通過式(8)(10)更新權(quán)重;

16 else

17 信仰空間通過式(7)(10)更新權(quán)重;

18 end if

19 信仰空間通過式(11)(12)(13)(14)進(jìn)行規(guī)范知識(shí)的更新;

20 ifi%Inf=0

21 通過式(17)將信仰空間中適應(yīng)度最好的權(quán)重代替種群空間中適應(yīng)度最差的權(quán)重；

22 end if

23 end for

24 end while

25 返回權(quán)重值ωopt;

1.4 收斂性分析

下面首先給出隨機(jī)優(yōu)化算法全局收斂需要滿足的2個(gè)條件[29]，然后分析CWOA的全局收斂性.

條件1若f(D(x,ξ))≤f(x)且ξ∈A,則f(D(x,ξ))≤f(ξ).

條件2對(duì)于A的任意Borel子集B，若其概率測度v(B)>0，則有

(18)

式中μk(B)為算法第k次迭代的權(quán)重在集合B上的概率測度.此假設(shè)保證了在測度大于0的情況下,算法經(jīng)無窮多次迭代后,未搜索到空間B中的權(quán)重的概率為0.

引理假設(shè)適應(yīng)度函數(shù)f為可測的，Rε為全局最優(yōu)權(quán)重集，P(zk∈Rε)為算法第k步生成的權(quán)重xk屬于最優(yōu)解Rε的概率測度，若條件1和2成立,則有

(19)

CWOA采用信仰空間保存最優(yōu)權(quán)重集，保證了最優(yōu)權(quán)重適應(yīng)度不遞增，符合條件1.

綜上可知，CWOA收斂于全局最優(yōu)權(quán)重.

2 實(shí)驗(yàn)研究

2.1 實(shí)驗(yàn)設(shè)計(jì)

為了驗(yàn)證本文方法進(jìn)行特征權(quán)重優(yōu)化分配的有效性，以基于案例推理的數(shù)據(jù)預(yù)測模型為例，選取UCI機(jī)器學(xué)習(xí)的4個(gè)數(shù)據(jù)集作為測試數(shù)據(jù)進(jìn)行實(shí)驗(yàn).4個(gè)數(shù)據(jù)集分別是Airfoil Self-Noise、Concrete Slump Test、Concrete Compressive Strength、QSAR aquatic toxicity，具體信息如表1所示.Airfoil Self-Noise為預(yù)測機(jī)翼自身噪聲的數(shù)據(jù)集，Concrete Slump Test是混凝土坍落度測試數(shù)據(jù)集，Concrete Compressive Strength是預(yù)測混凝土抗壓強(qiáng)度的數(shù)據(jù)集，QSAR aquatic toxicity是預(yù)測水生毒性定量構(gòu)效關(guān)系的數(shù)據(jù)集.

表1 數(shù)據(jù)集信息Table 1 Dataset information

為了全面考察本文方法的效能,采用五折交叉驗(yàn)證法進(jìn)行實(shí)驗(yàn)，實(shí)驗(yàn)方案如下.

針對(duì)UCI的4個(gè)數(shù)據(jù)集，根據(jù)1.3節(jié)介紹的算法,對(duì)案例推理(case-based reasoning，CBR)檢索環(huán)節(jié)進(jìn)行特征權(quán)重的優(yōu)化分配,然后利用得到的權(quán)重結(jié)果進(jìn)行回歸預(yù)測,并與其他權(quán)重分配方法(傳統(tǒng)均權(quán)值(mean average，MA)、遺傳算法(genetic algorithm，GA)、差分進(jìn)化(differential evolution，DE)和WOA)進(jìn)行實(shí)驗(yàn)結(jié)果的對(duì)比.其中，采用CWOA優(yōu)化權(quán)重的CBR預(yù)測模型簡稱為CBRCWOA，采用其他權(quán)重分配方法的CBR預(yù)測模型依次簡稱為CBRMA、CBRGA、CBRDE和CBRWOA.

實(shí)驗(yàn)中的參數(shù)選取情況為：GA種群大小設(shè)為100,交叉概率為0.4,變異概率為0.05,進(jìn)化代數(shù)為30；DE的種群規(guī)模設(shè)為100，縮放因子為0.5，交叉概率為0.9，進(jìn)化代數(shù)為30；WOA的種群規(guī)模設(shè)為100，最大進(jìn)化代數(shù)為30；CWOA群體空間的種群大小設(shè)為100，信仰空間種群大小30，信仰空間非均勻變異概率為0.4，柯西變異概率為0.5，接受操作執(zhí)行間隔為3，影響操作執(zhí)行間隔為4.

2.2 實(shí)驗(yàn)步驟

根據(jù)上文的實(shí)驗(yàn)設(shè)計(jì)，實(shí)驗(yàn)步驟如下：

步驟1選擇數(shù)據(jù)集，將數(shù)據(jù)集的特征變量進(jìn)行歸一化處理，并把特征值和相應(yīng)的預(yù)測值表示成式(1)的形式存儲(chǔ)在案例庫中.

步驟2采用五折交叉驗(yàn)證法進(jìn)行實(shí)驗(yàn)，將數(shù)據(jù)集中的數(shù)據(jù)平均分為5份，其中的4份組成歷史案例庫，另外1份組成目標(biāo)案例庫.

步驟3分別采用MA、GA、DE、WOA和CWOA五種算法進(jìn)行特征權(quán)重的優(yōu)化分配.

步驟4對(duì)于目標(biāo)案例庫中的案例，采用K最近鄰方法在歷史案例庫中進(jìn)行案例檢索，通過式(9)計(jì)算相似度并將其從大到小進(jìn)行排序，取出前3個(gè)案例.

步驟5計(jì)算前3個(gè)案例輸出值的平均值作為目標(biāo)案例的建議解.

步驟6將目標(biāo)案例特征值及其建議解存儲(chǔ)在歷史案例庫中.

步驟7重復(fù)步驟4～6，直到目標(biāo)案例庫中所有目標(biāo)案例測試完成.

步驟8利用目標(biāo)案例的預(yù)測值和實(shí)際值計(jì)算均方根誤差和平均絕對(duì)百分比誤差.

步驟9重復(fù)步驟1～7十次，計(jì)算10次實(shí)驗(yàn)結(jié)果的標(biāo)準(zhǔn)差.

2.3 比較分析

根據(jù)2.2節(jié)中的實(shí)驗(yàn)步驟1～7，利用表1中的4個(gè)回歸數(shù)據(jù)集分別驗(yàn)證CBRMA、CBRGA、CBRWOA和CBRCWOA的擬合性能，實(shí)驗(yàn)結(jié)果如圖2～5所示.由圖中可以看出，相對(duì)于CBRMA、CBRGA、CBRDE和CBRWOA，CBRCWOA更能擬合數(shù)據(jù)的變化趨勢.CWOA算法能在信仰空間的作用下對(duì)空間全局進(jìn)行搜索得到最優(yōu)權(quán)重，得到的預(yù)測值逼近能力最好，預(yù)測精度最優(yōu).

圖2 Concrete Slump Test數(shù)據(jù)集擬合曲線Fig.2 Fitting curve of Concrete Slump Test dataset

圖3 Airfoil Self-Noise數(shù)據(jù)集擬合曲線Fig.3 Fitting curve of Airfoil Self-Noise dataset

圖4 Concrete Compressive Strength數(shù)據(jù)集擬合曲線Fig.4 Fitting curve of Concrete Compressive Strength dataset

圖5 QSAR aquatic toxicity數(shù)據(jù)集擬合曲線Fig.5 Fitting curve of QSAR aquatic toxicity dataset

根據(jù)2.2節(jié)中的實(shí)驗(yàn)步驟，利用表1中的4個(gè)回歸數(shù)據(jù)集分別驗(yàn)證CBRMA、CBRGA、CBRWOA、CBRDE和CBRCWOA的標(biāo)準(zhǔn)差，實(shí)驗(yàn)結(jié)果如圖6所示.由圖中可以看出，在前3個(gè)數(shù)據(jù)集中5種預(yù)測模型的標(biāo)準(zhǔn)差由低到高依次為CBRMA、CBRCWOA、CBRDE、CBRWOA、CBRGA，而在最后一個(gè)數(shù)據(jù)集中標(biāo)準(zhǔn)差由低到高依次為CBRMA、CBRCWOA、CBRGA、CBRWOA、CBRDE.從結(jié)果可知，CWOA算法通過信仰空間不斷對(duì)權(quán)重迭代尋優(yōu)，得到的權(quán)重比較穩(wěn)定，使得預(yù)測模型的輸出比較穩(wěn)定.

圖6 標(biāo)準(zhǔn)差Fig.6 Standard deviation

根據(jù)2.2節(jié)中的實(shí)驗(yàn)步驟，利用表1中的4個(gè)回歸數(shù)據(jù)集分別驗(yàn)證CBRMA、CBRGA、CBRWOA、CBRDE和CBRCWOA的平均絕對(duì)百分比誤差，實(shí)驗(yàn)結(jié)果如圖7所示.由圖中可知，5種模型的平均絕對(duì)百分比誤差由低到高分別為CBRCWOA、CBRWOA、CBRDE、CBRGA、CBRMA.由結(jié)果分析可知，CWOA算法能夠通過雙層空間機(jī)制進(jìn)行全局搜索得到最優(yōu)權(quán)重，使得預(yù)測模型的實(shí)際預(yù)測誤差較小.

圖7 平均絕對(duì)百分比誤差Fig.7 Mean absolute percentage error

根據(jù)2.2節(jié)中的實(shí)驗(yàn)步驟，利用表1中的4個(gè)回歸數(shù)據(jù)集分別驗(yàn)證CBRMA、CBRGA、CBRWOA、CBRDE和CBRCWOA的均方根誤差，實(shí)驗(yàn)結(jié)果如表2所示.由圖中可以看出，在第2、4個(gè)數(shù)據(jù)集中均方根誤差由小到大分別為CBRCWOA、CBRWOA、CBRDE、CBRGA、CBRMA，而在第1、3個(gè)數(shù)據(jù)集中均方根誤差由小到大分別為CBRCWOA、CBRGA、CBRDE、CBRWOA、CBRMA.由此可得，CWOA算法能有效地利用數(shù)據(jù)集中數(shù)據(jù)的潛在信息，跳出局部最優(yōu)值，得出最優(yōu)權(quán)重，使得模型的預(yù)測精度較高.

表2 均方根誤差Table 2 Root mean squared error

3 結(jié)論

1)為了提高預(yù)測模型的精度，本文將WOA納入文化算法的種群空間得到CWOA，進(jìn)而通過迭代確定特征權(quán)重的最優(yōu)解.通過案例推理的數(shù)據(jù)預(yù)測對(duì)比實(shí)驗(yàn)，CWOA相對(duì)其他方法可以在預(yù)測精度方面得到一定的提升，學(xué)習(xí)性能得到一定的改進(jìn).

2)本文方法的最大優(yōu)勢是采用雙層進(jìn)化結(jié)構(gòu)，信仰空間不受種群空間WOA策略的影響，可以更加充分地利用WOA權(quán)重迭代過程中的進(jìn)化信息，提高進(jìn)化的效率，而且其算法簡單，易實(shí)現(xiàn)，可拓展性好，可以跳出局部最優(yōu)，搜索到最優(yōu)權(quán)重.

3)雖然本方法在特征權(quán)重學(xué)習(xí)領(lǐng)域有一定的價(jià)值，但仍有一些不足之處，比如：一些問題的變量維數(shù)很多，目標(biāo)和約束條件更加復(fù)雜.如何高效實(shí)現(xiàn)高維度變量空間的迭代尋優(yōu)是以后的主要研究方向.