張子寧 單甘霖 段修生

摘要：針對(duì)支持向量機(jī)在分類(lèi)過(guò)程中的特征選擇問(wèn)題，提出了一種改進(jìn)的遺傳算法。在演化進(jìn)程中運(yùn)用Meteopolis準(zhǔn)則通過(guò)合理選群來(lái)防止進(jìn)化陷入局部極值區(qū)域。最后針對(duì)ucI數(shù)據(jù)庫(kù)中的數(shù)據(jù)，通過(guò)將該算法與其他幾種方法進(jìn)行了比較，證明了本文算法具有較優(yōu)的特征選擇效果，并已成功應(yīng)用在基于支持向量機(jī)的數(shù)字電路板故障診斷中。

關(guān)鍵詞：支持向量機(jī)；互敏感度信息量；獨(dú)立敏感度信息量；自適應(yīng)變異率；Meteopolis準(zhǔn)則

引言

支持向量機(jī)是一種在統(tǒng)計(jì)學(xué)習(xí)理論的基礎(chǔ)上發(fā)展而來(lái)的機(jī)器學(xué)習(xí)方法，通過(guò)學(xué)習(xí)類(lèi)別之間分界面附近的精確信息，可以自動(dòng)尋找那些對(duì)分類(lèi)有較好區(qū)分能力的支持向量，由此構(gòu)造出的分類(lèi)器可以使類(lèi)與類(lèi)之間的間隔最大化，因而有較好的泛化性能和較高的分類(lèi)準(zhǔn)確率。由于支持向量機(jī)具有小樣本、非線(xiàn)性、高維數(shù)、避免局部最小點(diǎn)以及過(guò)學(xué)習(xí)現(xiàn)象等優(yōu)點(diǎn)，所以被廣泛運(yùn)用于故障診斷、圖像識(shí)別、回歸預(yù)測(cè)等領(lǐng)域。但是如果缺少了對(duì)樣本進(jìn)行有效地特征選擇，支持向量機(jī)在分類(lèi)時(shí)往往會(huì)出現(xiàn)訓(xùn)練時(shí)間過(guò)長(zhǎng)以及較低的分類(lèi)準(zhǔn)確率，這恰恰是由于支持向量機(jī)無(wú)法利用混亂的樣本分類(lèi)信息而引起的，因此特征選擇是分類(lèi)問(wèn)題中的一個(gè)重要環(huán)節(jié)。特征選擇的任務(wù)是從原始的特征集合中去除對(duì)分類(lèi)無(wú)用的冗余特征以及那些具有相似分類(lèi)信息的重復(fù)特征，因而可以有效降低特征維數(shù)，縮短訓(xùn)練時(shí)間，提高分類(lèi)準(zhǔn)確率。

目前特征選擇的方法主要有主成分分析法、最大熵原理、粗糙集理論等。然而由于這些方法主要依據(jù)繁復(fù)的數(shù)學(xué)理論，在計(jì)算過(guò)程中可能存在求導(dǎo)和函數(shù)連續(xù)性等客觀限定條件，在必要時(shí)還需要設(shè)定用來(lái)指導(dǎo)尋優(yōu)搜索方向的搜索規(guī)則。遺傳算法作為一種魯棒性極強(qiáng)的智能識(shí)別方法，直接對(duì)尋優(yōu)對(duì)象進(jìn)行操作，不存在特定數(shù)學(xué)條件的限定，具有極好的全局尋優(yōu)能力和并行性；而由于遺傳算法采用概率化的尋優(yōu)方法，所以在自動(dòng)搜索的過(guò)程中可以自主獲取與尋優(yōu)有關(guān)的線(xiàn)索，并在加以學(xué)習(xí)之后可以自適應(yīng)地調(diào)整搜索方向，不需要確定搜索的規(guī)則。因此遺傳算法被廣泛應(yīng)用在知識(shí)發(fā)現(xiàn)、組合優(yōu)化、機(jī)器學(xué)習(xí)、信號(hào)處理、自適應(yīng)控制和人工生命等領(lǐng)域。

基于改進(jìn)遺傳算法的特征選擇

遺傳算法是一種新近發(fā)展起來(lái)的搜索最優(yōu)化算法。遺傳算法從任意一個(gè)的初始生物種群開(kāi)始，通過(guò)隨機(jī)的選擇、交叉和變異操作，產(chǎn)生一群擁有更適應(yīng)自然界的新個(gè)體的新一代種群，使得種群的進(jìn)化趨勢(shì)向著最，優(yōu)的方向發(fā)展。圖1中所示的是標(biāo)準(zhǔn)的遺傳算法的流程框圖。

傳統(tǒng)的遺傳算法存在早熟收斂、非全局收斂以及后期收斂速度慢的缺點(diǎn)，為此本文提出了一種能夠在進(jìn)化過(guò)程中自適應(yīng)調(diào)節(jié)變異率，以及利用模擬退火防止早熟的改進(jìn)遺傳算法，同時(shí)該算法利用敏感度信息可以有效地控制遺傳操作。圖2是改進(jìn)遺傳算法的流程框圖。

染色體編碼和適應(yīng)度函數(shù)

所謂編碼是指將問(wèn)題的解空間轉(zhuǎn)換成遺傳算法所能處理的搜索空間。在特征選擇問(wèn)題中，常常使用二進(jìn)制的編碼形式，使得每個(gè)二進(jìn)制就是一個(gè)染色體，其位數(shù)長(zhǎng)度等于特征的個(gè)數(shù)。每一位代表一個(gè)特征，每位上的1表示選中該特征，0則表示不選中。每一代種群都由若干個(gè)染色體組成。

適應(yīng)度函數(shù)是整個(gè)遺傳算法中極為重要的部分，好的適應(yīng)度函數(shù)能使染色體進(jìn)化到最優(yōu)個(gè)體，它決定了在整個(gè)尋優(yōu)過(guò)程中是否能夠合理地協(xié)調(diào)好過(guò)早收斂和過(guò)慢結(jié)束這對(duì)矛盾。由于本文針對(duì)的是支持向量機(jī)的特征選擇問(wèn)題，所以考慮以分類(lèi)正確率和未選擇的特征個(gè)數(shù)這兩個(gè)參數(shù)作為函數(shù)的自變量。將分類(lèi)正確率作為主要衡量標(biāo)準(zhǔn)，未選擇的特征個(gè)數(shù)為次要標(biāo)準(zhǔn)。由此建立以下的適應(yīng)度函數(shù)：式中c為分類(lèi)正確率。為未選擇的特征個(gè)數(shù)，a是調(diào)節(jié)系數(shù)，用來(lái)平衡分類(lèi)正確率和未選擇的特征個(gè)數(shù)對(duì)適應(yīng)度函數(shù)的影響程度，同時(shí)該系數(shù)也體現(xiàn)了用最少的特征得到較大分類(lèi)正確率的原則，在本文中a取0.00077。由上式可知，分類(lèi)正確率越高，未選的特征個(gè)數(shù)越多，染色體的適應(yīng)度就越大。

選擇操作

選擇操作需要按照一定的規(guī)則從原有的種群中選擇部分優(yōu)秀個(gè)體用來(lái)交叉和變異。選擇原則建立在對(duì)個(gè)體適應(yīng)度進(jìn)行評(píng)價(jià)的基礎(chǔ)上，目的是避免基因損失，提高全局收斂性和計(jì)算效率。本文首先將整個(gè)種群中最優(yōu)的前40％的個(gè)體保留下來(lái)，以確保有足夠的優(yōu)良個(gè)體進(jìn)入下一代，對(duì)剩下的60％的個(gè)體采用輪盤(pán)算法進(jìn)行選擇，這樣做可以彌補(bǔ)保留前40％個(gè)體而帶來(lái)的局部最優(yōu)解不易被淘汰的不利影響，有利于保持種群的多樣性。

基于敏感度信息量的交叉、變異操作

獨(dú)立敏感度信息量Q(i)指的是對(duì)在所有特征都被選中時(shí)計(jì)算所得到的適應(yīng)度值A(chǔ)llfitness以及只有特征i未被選中時(shí)計(jì)算得到的適應(yīng)度值Wfitness(i)按式(2)進(jìn)行計(jì)算得到的數(shù)值。獨(dú)立敏感度信息量刻畫(huà)了適應(yīng)度對(duì)特征是否被選擇的敏感程度。

互敏感度信息量R(i，j)由(3)式可得，互敏感度信息量體現(xiàn)了特征與特征之間對(duì)適應(yīng)度的近似影響程度。

交叉操作的作用是通過(guò)交換兩個(gè)染色體之間的若干位從而生成含有部分原始優(yōu)良基因的新個(gè)體。由式(3)可知互敏感度信息量可作為不同特征之間含有相似分類(lèi)信息的一種度量，所以可以將互敏感度信息量代入式(4)計(jì)算出染色體在第一位發(fā)生交叉的幾率β(j)，在式(4)中i和j分別代表特征和特征j，是染色體的長(zhǎng)度。β(i)是特征，相對(duì)于其他所有特征在互敏感度信息量上的歸一量，反映了特征與其余特征在相似信息量上的總和。由此對(duì)應(yīng)到染色體上，β(i)就可以認(rèn)為是染色體的第i位與整個(gè)染色體在基因信息上的相關(guān)性，β(i)越小則說(shuō)明相關(guān)性越大，第i位與整個(gè)染色體所含的基因信息越接近，此位為分裂點(diǎn)的幾率越小。由于β(i)是歸一化量，故可采用輪盤(pán)算法來(lái)選擇一個(gè)交叉點(diǎn)。

變異操作是引入新物種的重要手段，可以有效地增加種群個(gè)體的多樣性。本文中的變異率Pm采用相鄰兩代之間的最優(yōu)適應(yīng)度增幅比作為自變量進(jìn)行自適應(yīng)調(diào)節(jié)，如式(5)所示。當(dāng)適應(yīng)度增幅比正向增大時(shí)，較小的增幅比可以使變異率維持在中等水平，并且變異率隨著增幅比的增大而緩慢降低，這樣既能夠擁有一定數(shù)量的新個(gè)體也可以抑制過(guò)多不良染色體的產(chǎn)生，保證優(yōu)秀染色體的進(jìn)化足夠穩(wěn)定；而當(dāng)適應(yīng)度增幅比反向增大時(shí)，由較小增幅比則可以獲得較高的變異率。并且變異率也伴隨增幅比同比緩慢升高，確保有足夠的染色體發(fā)生變異，穩(wěn)定地加快進(jìn)化速度。式中dis指新生種群的最優(yōu)適應(yīng)度相對(duì)于原種群的最優(yōu)適應(yīng)度的增幅比，尚k均是區(qū)間(0，1)上的調(diào)節(jié)系數(shù)。文中的j與k分別取0.65和0.055。

獨(dú)立敏感度信息量在一定程度上體現(xiàn)了單個(gè)特征所含有的分類(lèi)信息量，如果獨(dú)立敏感度信息量小，則說(shuō)

明該特征所含信息大部分對(duì)分類(lèi)沒(méi)有幫助，即該基因位發(fā)生突變后對(duì)整個(gè)染色體的優(yōu)異性影響不大，突變的概率也就相應(yīng)減小。因此將獨(dú)立敏感度信息量歸一化后所得到的q(i)作為特征i被選為變異點(diǎn)的概率。變異點(diǎn)的具體選擇方法為：針對(duì)一個(gè)染色體按照染色體的位數(shù)進(jìn)行循環(huán)遍歷，在該循環(huán)中由變異率Pm判定是否產(chǎn)生變異位。若需要產(chǎn)生變異位，則依據(jù)q(i)按照輪盤(pán)算法進(jìn)行選擇。

模擬退火選群

在每一輪進(jìn)化完成后都需要決定進(jìn)入下一輪進(jìn)化的種群。如果過(guò)多地將較優(yōu)種群作為父代，就會(huì)使算法過(guò)早收斂或搜索緩慢。文獻(xiàn)中指出模擬退火算法能夠以一定的概率接受劣解從而跳出局部極值區(qū)域并最終趨于全局最優(yōu)解。因此可以將上文提到的最優(yōu)適應(yīng)度增幅比作為能量函數(shù)，運(yùn)用模擬退火的Meteopolis準(zhǔn)則來(lái)選擇待進(jìn)化的種群。為了使每個(gè)種群得到充分地進(jìn)化，預(yù)防最優(yōu)解的丟失，這里采用設(shè)置退火步長(zhǎng)的策略來(lái)實(shí)現(xiàn)模擬退火選群。該策略具體為：使退火步長(zhǎng)對(duì)同一種群作為父代的次數(shù)進(jìn)行計(jì)數(shù)，一旦產(chǎn)生更優(yōu)種群則退火步長(zhǎng)就置零并重新計(jì)數(shù)。若退火步長(zhǎng)累計(jì)超過(guò)一定的閾值時(shí)，就進(jìn)入模擬退火選群階段。退火步長(zhǎng)累計(jì)到一定數(shù)量意味著原有種群的進(jìn)化已經(jīng)停滯，需要用模擬退火算法擺脫這種停滯狀態(tài)。如果增幅比大于零，則說(shuō)明新生種群優(yōu)于原有種群。這時(shí)完全接受新種群進(jìn)入下一輪進(jìn)化：否則新生種群劣于原有種群，并以一定的概率p接受較劣的新生種群進(jìn)入下一輪進(jìn)化。接受概率lp由式(6)和式(7)共同決定，其中dis為增幅比，T(s)指溫度參數(shù)，To和s分別是初始溫度和迭代次數(shù)。

以上兩式的參數(shù)要滿(mǎn)足進(jìn)化對(duì)接受概率的要求。即增幅比負(fù)增長(zhǎng)越大，接受概率降低越迅速，但接受概率隨迭代次數(shù)的增加應(yīng)緩慢下降。這樣做能夠保證在有限的迭代次數(shù)內(nèi)有一個(gè)適應(yīng)度較優(yōu)的新生種群進(jìn)入下一輪進(jìn)化，以達(dá)到減少計(jì)算量和優(yōu)選待進(jìn)化種群的目的。在本文中To=0.2，A=0.9，m=0.5。

實(shí)例的驗(yàn)證與分析

UCI數(shù)據(jù)庫(kù)常用來(lái)比較各種方法的分類(lèi)效果，因此可以用其驗(yàn)證本算法對(duì)支持向量機(jī)作用后的分類(lèi)效果。文獻(xiàn)㈨采用了UCI數(shù)據(jù)庫(kù)中的German、Ionosphere和Sonar三種數(shù)據(jù)作為實(shí)驗(yàn)對(duì)象，為了便于與文獻(xiàn)中所用的幾種方法進(jìn)行對(duì)比，本文也采用這三種數(shù)據(jù)進(jìn)行實(shí)驗(yàn)，并按照文獻(xiàn)中所述的比例將各類(lèi)數(shù)據(jù)分成相應(yīng)的訓(xùn)練樣本和測(cè)試樣本。

在種群規(guī)模為30，交叉率為0.8、起始變異率為0.1的條件下使用支持向量機(jī)作為分類(lèi)器(懲罰參數(shù)為13.7，徑向基核函數(shù)參數(shù)為10.6)對(duì)所選數(shù)據(jù)進(jìn)行分類(lèi)，表1中顯示了本文算法與文獻(xiàn)中幾種算法在分類(lèi)效果上的對(duì)比，表2給出了三種數(shù)據(jù)的最終選擇結(jié)果。表1中共出現(xiàn)了四種方法：方法1：使用本文算法：方法2：使用NGA／PCA方法；方法3：使用PCA方法；方法4：使用簡(jiǎn)單遺傳算法。

由于本文算法旨在用最少的特征個(gè)數(shù)最大化分類(lèi)正確率，因此從表1中可以看出本文算法在特征選擇個(gè)數(shù)和分類(lèi)正確率上均比其他三種方法更具優(yōu)勢(shì)。由于NGA／PCA算法是針對(duì)簡(jiǎn)單遺傳算法和主成分分析法的不足而做的改進(jìn)，其性能優(yōu)于簡(jiǎn)單遺傳算法和主成分分析法，所以本文算法的分類(lèi)效果優(yōu)于NGA／PcA算法這一事實(shí)更能說(shuō)明該算法可以較好地解決支持向基機(jī)的特征選擇問(wèn)題。

結(jié)語(yǔ)

通過(guò)與其他方法的比較，本文算法的分類(lèi)效果得到了充分的驗(yàn)證，也說(shuō)明了該算法具有極好的泛化能力以及在敏感度信息量地指導(dǎo)下遺傳操作的有效性。

適應(yīng)度函數(shù)的設(shè)計(jì)至關(guān)重要，它直接影響到最終結(jié)果的優(yōu)劣以及算法的收斂性，所以在適應(yīng)度函數(shù)的設(shè)計(jì)應(yīng)考慮所解決問(wèn)題的側(cè)重點(diǎn)。

分類(lèi)正確率的高低不僅取決于合理的特征選擇，而且與支持向量機(jī)的參數(shù)優(yōu)化有關(guān)。只有在合理的特征選擇和參數(shù)優(yōu)化的前提下，支持向量機(jī)分類(lèi)器才能發(fā)揮出最佳的分類(lèi)效果。

由于算法能夠較好地解決支持向量機(jī)的特征選擇問(wèn)題，因此已被應(yīng)用在基于支持向量機(jī)的數(shù)字電路板故障診斷當(dāng)中，并取得了良好的效果。