陳虎

(重慶市軌道交通(集團(tuán))有限公司，重慶400042)

基于參數(shù)優(yōu)化的支撐矢量機(jī)及其在故障診斷中的應(yīng)用

陳虎

(重慶市軌道交通(集團(tuán))有限公司，重慶400042)

為了有效的診斷出設(shè)備的故障，給出了一種基于參數(shù)優(yōu)化的支撐矢量機(jī)算法。該算法首先引入免疫克隆選擇機(jī)制，以?xún)蓚€(gè)十進(jìn)制數(shù)表示一個(gè)抗體來(lái)構(gòu)建抗體群，以漏報(bào)率為基礎(chǔ)構(gòu)造親和度函數(shù)，實(shí)現(xiàn)支撐矢量機(jī)參數(shù)的優(yōu)化。然后使用優(yōu)化后的參數(shù)構(gòu)造支撐矢量分類(lèi)器對(duì)設(shè)備數(shù)據(jù)進(jìn)行分類(lèi)檢測(cè)。通過(guò)在汽輪發(fā)電機(jī)組的數(shù)據(jù)集上進(jìn)行仿真驗(yàn)證，實(shí)驗(yàn)結(jié)果表明，該算法相對(duì)傳統(tǒng)的支撐矢量機(jī)算法不會(huì)顯著增加訓(xùn)練時(shí)間，并且能夠有效提高檢測(cè)率和降低誤檢率。

機(jī)電工程；故障診斷；支撐矢量機(jī)；參數(shù)優(yōu)化；免疫克隆算法

故障診斷是工程技術(shù)領(lǐng)域一個(gè)重要的問(wèn)題。如何及時(shí)有效地檢測(cè)出故障對(duì)保證設(shè)備正常運(yùn)行和業(yè)務(wù)的連續(xù)開(kāi)展有關(guān)鍵作用。近年來(lái)故障診斷方法研究也成為學(xué)術(shù)及工程技術(shù)等領(lǐng)域的熱點(diǎn)，相關(guān)學(xué)者提出了許多可用的方法，如神經(jīng)網(wǎng)絡(luò)[1]、支撐矢量機(jī)[2]、獨(dú)立分量分析[3]及各種組合算法[4-7]的使用，都取得了一定的效果。

作為一個(gè)好的分類(lèi)器，支撐矢量機(jī)相對(duì)于其它的分類(lèi)算法具有更高的推廣能力。然而，支撐矢量機(jī)在實(shí)際的應(yīng)用中有一個(gè)顯著的問(wèn)題是如何選擇合適的參數(shù)來(lái)構(gòu)造一個(gè)有效的分類(lèi)器并使其具有最好的性能。一般而言，支撐矢量機(jī)中的參數(shù)選擇主要借助于專(zhuān)家的實(shí)踐經(jīng)驗(yàn)，但這種參數(shù)的確定方法在實(shí)踐中往往不能夠獲得最優(yōu)的分類(lèi)器，從而影響了支撐矢量機(jī)的分類(lèi)效果。

基于上述原因，筆者引入了免疫克隆選擇算法，并將其用于優(yōu)化支撐矢量機(jī)的參數(shù)。為驗(yàn)證優(yōu)化后的分類(lèi)效果，筆者將優(yōu)化后的分類(lèi)器用于對(duì)汽輪發(fā)電機(jī)組的故障進(jìn)行診斷分類(lèi)，提出了一種基于參數(shù)優(yōu)化的支撐矢量機(jī)故障診斷方法。

筆者的內(nèi)容組織如下：首先對(duì)文中用到的基本技術(shù)，既支撐矢量機(jī)和免疫克隆選擇算法[8]進(jìn)行介紹；并提出了一種基于免疫克隆選擇優(yōu)化的支撐矢量分類(lèi)器；最后描述了其仿真結(jié)果并對(duì)仿真結(jié)果進(jìn)行了分析。

1技術(shù)背景

1.1支撐矢量機(jī)(support vector machines，SVM)

支持矢量機(jī)是當(dāng)前比較流行的一種小樣本分類(lèi)算法，它能夠利用少量的樣本進(jìn)行訓(xùn)練學(xué)習(xí)，從而得到比較理想的分類(lèi)效果。其基礎(chǔ)理論是利用了統(tǒng)計(jì)學(xué)中的VC維理論[9]，并引入了結(jié)構(gòu)風(fēng)險(xiǎn)最小化原理。利用少量樣本，對(duì)SVM進(jìn)行訓(xùn)練，得到一個(gè)相對(duì)最佳的超平面，并通過(guò)該超平面可實(shí)現(xiàn)數(shù)據(jù)的分類(lèi)。

SVM主要用來(lái)解決二類(lèi)可分的問(wèn)題，基本目標(biāo)就是找到一個(gè)最佳的超平面，它可用于線(xiàn)性可分與線(xiàn)性不可分兩種場(chǎng)景。在線(xiàn)性可分的情況下，可將尋找最佳超平的問(wèn)題轉(zhuǎn)化為求解一個(gè)最優(yōu)(凸規(guī)劃)的問(wèn)題。而在非線(xiàn)性可分的問(wèn)題中，則需要使用非線(xiàn)性映射算法將低維線(xiàn)性不可分的問(wèn)題轉(zhuǎn)化為高維特征空間中線(xiàn)性可分的問(wèn)題，因此它具有較好的推廣能力。同時(shí)它基于Vapnik結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則，具有較好的泛化能力?；赟VM的非線(xiàn)性問(wèn)題的分類(lèi)算法如下。

假定：x為k維向量，并給定m個(gè)樣本集分別為(x1，y1)，…，(xm，ym)，x∈Rk，y∈{-1，1}。則有如下超平面：w·x+b=0。

若上述超平面可以將樣本分隔為兩類(lèi)，則構(gòu)造最佳超平面的問(wèn)題，就可以轉(zhuǎn)化為尋找向量w0和常數(shù)b0的問(wèn)題。由此可給出如下的構(gòu)造，即使向量w0具有最小的范數(shù)，并且滿(mǎn)足約束條件：

yi[(xi·w0)+b0]≥1

(1)

引入松弛變量ζi≥0，問(wèn)題轉(zhuǎn)化為最小化下列二次優(yōu)化問(wèn)題，約束條件如式(1)：

(2)

式中：C為正常數(shù)，代表對(duì)錯(cuò)分的懲罰因子。

在對(duì)偶空間求解這個(gè)二次優(yōu)化問(wèn)題，由此問(wèn)題轉(zhuǎn)化為

(3)

C≥ai≥0，i=1，…，m

得到解

(4)

最優(yōu)解w0和b0必須滿(mǎn)足Kuhn-Tucker條件，由此得

yi(xi·w0+b0)=1

(5)

(6)

根據(jù)Mercer定理，任何滿(mǎn)足半正定的函數(shù)都可以作為核函數(shù)，而對(duì)于滿(mǎn)足條件的核函數(shù)，都會(huì)對(duì)應(yīng)一個(gè)特征空間中的內(nèi)積。因此在最佳超平面上選擇合適的內(nèi)積函數(shù)，就可實(shí)現(xiàn)線(xiàn)性不可分問(wèn)題到線(xiàn)性可分問(wèn)題的映射。由此非線(xiàn)性支持矢量機(jī)的優(yōu)化問(wèn)題如式(6)。

非線(xiàn)性支持矢量機(jī)的判決函數(shù)如下：

(7)

1.2免疫克隆選擇算法

受生物免疫系統(tǒng)克隆選擇機(jī)理的啟發(fā)，研究者設(shè)計(jì)了一種新的智能優(yōu)化算法，既免疫克隆選擇算法(immune clone selection algorithm，ICSA)。該算法可很好的結(jié)合先驗(yàn)知識(shí)，并引入了生物免疫系統(tǒng)中的自適應(yīng)能力，所以在信息處理方面具有很強(qiáng)的魯棒性，在進(jìn)行優(yōu)化搜索時(shí)可收斂到全局最優(yōu)。

作為一種新提出的全局最優(yōu)搜索算法，該算法在實(shí)現(xiàn)上能夠兼顧全部和局部搜索。在搜索過(guò)程中能夠構(gòu)造記憶單元，記憶最優(yōu)解的群體，從而比單純的遺傳算法具有更好的收斂性。

克隆算法利用記憶單元和將變異算子升級(jí)為主要算法，可以在候選解中構(gòu)造一個(gè)變異解的群體，使得搜索范圍更大，從而使得抗體群的多樣性大大增加，由此可以保證算法能夠以概率1收斂到最優(yōu)解。免疫克隆算法的基本步驟如下：

步驟1：初始化抗體群，設(shè)定算法的參數(shù)并計(jì)算初始親和度；

步驟2：根據(jù)親和度和抗體克隆規(guī)模，進(jìn)行克隆操作、免疫基因操作、克隆選擇，生成新的抗體群；

步驟3：計(jì)算新的親和度；

步驟4：若滿(mǎn)足結(jié)束條件，則退出；否則，跳轉(zhuǎn)到步驟2。

2參數(shù)優(yōu)化的支撐矢量機(jī)

在使用支撐矢量機(jī)進(jìn)行分類(lèi)的過(guò)程中，其參數(shù)的選擇對(duì)分類(lèi)和檢測(cè)的性能有很大的影響，因此筆者介紹使用免疫克隆選擇算法進(jìn)行支撐矢量機(jī)參數(shù)優(yōu)化的基本思路。

2.1支撐矢量機(jī)中的主要參數(shù)

在式(2)中：C為一個(gè)正常數(shù)，它控制對(duì)錯(cuò)分樣本懲罰的程度。若C太小，則懲罰力度不夠，會(huì)導(dǎo)致算法對(duì)數(shù)據(jù)的擬合不夠；若C太大，則會(huì)導(dǎo)致算法的過(guò)度擬合。ξ為算法引入的一個(gè)正的松弛因子，代表允許錯(cuò)分樣本的存在，它會(huì)影響到分類(lèi)器所產(chǎn)生的支撐矢量的個(gè)數(shù)，從而進(jìn)一步影響到分類(lèi)器的最大總誤差。如果ξ太大，則獲得支撐矢量的個(gè)數(shù)就會(huì)減少，使得分類(lèi)的誤差增加，反之依然。

而核函數(shù)中的參數(shù)則反應(yīng)了訓(xùn)練數(shù)據(jù)的特征，對(duì)整體的分類(lèi)性能有很大影響，因此也需慎重選擇。在支撐矢量機(jī)中經(jīng)常用到的核函數(shù)是線(xiàn)性核函數(shù)、多項(xiàng)式核函數(shù)和RBF核函數(shù)。筆者選擇RBF核函數(shù)作為支撐矢量機(jī)的核，原因是雖然線(xiàn)性核函數(shù)，參數(shù)比較少，相對(duì)速度快，但對(duì)非線(xiàn)性問(wèn)題無(wú)能為力。RBF核函數(shù)與多項(xiàng)式核函數(shù)相比，RBF需要確定的參數(shù)要少，復(fù)雜度相應(yīng)較低。此外，需要考慮的是：多項(xiàng)式核函數(shù)存在當(dāng)階數(shù)較高時(shí)，核矩陣元素值過(guò)大或過(guò)小的問(wèn)題，而RBF則不會(huì)出現(xiàn)此類(lèi)問(wèn)題。

RBF核函數(shù)的形式如式(8)：

(8)

式中：σ為函數(shù)的寬度參數(shù)，用于控制函數(shù)的徑向范圍。

2.2編碼方案

進(jìn)行優(yōu)化的第一步就是對(duì)需要優(yōu)化的參數(shù)確定合適的編碼方案，能夠以指定長(zhǎng)度的數(shù)字串來(lái)標(biāo)示這些參數(shù)在問(wèn)題空間中的所有取值情況。筆者考慮到所要解決問(wèn)題的實(shí)際情況，以十進(jìn)制的編碼方式來(lái)構(gòu)造抗體種群，基因使用了十進(jìn)制整數(shù)的方式進(jìn)行編碼，設(shè)計(jì)使用兩個(gè)十進(jìn)制數(shù)表示一個(gè)抗體，參數(shù)取值組合的索引則由碼位的值來(lái)表示。

2.3親和度函數(shù)

優(yōu)化中抗體選擇與否與該抗體值構(gòu)造的支撐矢量機(jī)的分類(lèi)效果有關(guān)。為了盡量降低計(jì)算的復(fù)雜度，筆者設(shè)計(jì)的親和度函數(shù)如式(9)：

f=1/(1+F)

(9)

式中：F為漏報(bào)率。

3仿真結(jié)果

3.1實(shí)驗(yàn)中使用的數(shù)據(jù)集

為評(píng)價(jià)文中算法的性能，筆者選用汽輪發(fā)電機(jī)組的故障數(shù)據(jù)集作為實(shí)驗(yàn)數(shù)據(jù)，以機(jī)組常見(jiàn)的3種故障(油膜振蕩F1，不平衡F2，不對(duì)中F3)為分析對(duì)象。表1列出了用于訓(xùn)練的代表性樣本，數(shù)據(jù)中有振幅數(shù)據(jù)6個(gè)，f為發(fā)電機(jī)轉(zhuǎn)子的頻率。

表1汽輪發(fā)電機(jī)組數(shù)據(jù)集Table 1Turbo generator data set

3.2獲得優(yōu)化后的參數(shù)

選擇好實(shí)驗(yàn)用的數(shù)據(jù)集后，利用免疫克隆選擇算法根據(jù)分類(lèi)器在分類(lèi)過(guò)程的漏報(bào)率進(jìn)行優(yōu)化獲得優(yōu)化的參數(shù)值。優(yōu)化過(guò)程中當(dāng)進(jìn)行800次迭代時(shí)，親和度的變化趨于穩(wěn)定，最后得到優(yōu)化后的結(jié)果為：C=6.4，ξ=3.9，σ=0.026；為了避免優(yōu)化過(guò)程中的偶然性，提高參數(shù)的可靠性，所給出的優(yōu)化參數(shù)是30次試驗(yàn)的均值。

3.3實(shí)驗(yàn)結(jié)果及分析

在此使用兩個(gè)指標(biāo)對(duì)算法的性能進(jìn)行評(píng)價(jià)，一個(gè)是能夠正確檢測(cè)的比率(既檢測(cè)率)，記作TDR(true detection rate)；另一個(gè)是錯(cuò)誤檢測(cè)的比率(既誤檢率)，記作FDR(falsedetection rate)。在實(shí)驗(yàn)中還分別測(cè)試了標(biāo)準(zhǔn)SVM算法的診斷結(jié)果，實(shí)驗(yàn)結(jié)果如表2。

由表2看出：文中算法在檢測(cè)率方面明顯優(yōu)于傳統(tǒng)的SVM算法。在誤檢率方面也比傳統(tǒng)的SVM算法低。

表2文中算法和標(biāo)準(zhǔn)SVM的性能比較Table 2Performance comparison of the proposed algorithm and the standard SVM

此外，筆者對(duì)引入優(yōu)化算法后的算法執(zhí)行效率情況進(jìn)行了分析。圖1表示在不同數(shù)據(jù)規(guī)模的情況下，使用文中算法和標(biāo)準(zhǔn)的支撐矢量算法進(jìn)行分類(lèi)器訓(xùn)練學(xué)習(xí)所消耗時(shí)間的比較。

圖1文中算法和標(biāo)準(zhǔn)SVM訓(xùn)練時(shí)間比較Fig.1Comparison of the training time of the proposed algorithm and the standard SVM

由圖1看出：由于筆者在參數(shù)優(yōu)化時(shí)所選擇的交叉驗(yàn)證的數(shù)據(jù)量比較小，使得文中算法和傳統(tǒng)支撐矢量機(jī)的訓(xùn)練速度基本相當(dāng)。從而也體現(xiàn)了文中算法在提高故障分類(lèi)診斷檢測(cè)正確率的情況下，并沒(méi)有產(chǎn)生時(shí)間顯著增加的問(wèn)題，而在算法的診斷檢測(cè)階段，由于已經(jīng)獲得了優(yōu)化的參數(shù)，因此在診斷階段無(wú)需再附加優(yōu)化的過(guò)程。

4結(jié)語(yǔ)

筆者研究了基于參數(shù)優(yōu)化的支撐矢量機(jī)，引入免疫克隆選擇算法采用交叉驗(yàn)證的方法，優(yōu)化獲得了支撐矢量機(jī)的參數(shù)，并在汽輪發(fā)電機(jī)組故障數(shù)據(jù)集進(jìn)行了驗(yàn)證，從實(shí)驗(yàn)結(jié)果可以看出，文中方法在保證訓(xùn)練速度的基礎(chǔ)上提升了識(shí)別正確率。

[1] SIMANI S，F(xiàn)ANTUZZI C.Fault diagnosis in power plant using neural networks[J].InformationSciencesanInternationalJournal，2000，127(3/4)：125-136.

[2] MURALIDHARAN V，SUGUMARAN V，INDIRA V.Fault diagnosis of mono-block centrifugal pump using SVM[J].EngineeringScienceandTechnologyanInternationalJournal，2014，17(3)：152-157.

[3] 陸百川，張凱，馬慶祿，等.基于數(shù)據(jù)驅(qū)動(dòng)的數(shù)據(jù)故障診斷模型[J].重慶交通大學(xué)學(xué)報(bào)(自然科學(xué)版)，2014，33(5)：111-115.

LU Baichuan，ZHANG Kai，MA Qinglu，et al.Data fault diagnosis model based on data-driven[J].JournalofChongqingJiaotongUniversity(NaturalScience)，2014，33(5)：111-115.

[4] JAYASWAL P，VERMA S N，WADHWANI A K.Application of ANN，fuzzy logic and wavelet transform in machine fault diagnosis using vibration signal analysis[J].JournalofQualityinMaintenanceEngineering，2010，16(2)： 190-213.

[5] 高振興，郭創(chuàng)新，俞斌，等.基于多源信息融合的電網(wǎng)故障診斷方法研究[J].電力系統(tǒng)保護(hù)與控制，2011，39(6)：17-23.

GAO Zhenxing，GUO Chuangxin，YU Bin，et al.Study of a fault diagnosis approach for power grid with information fusion based on multi-data resources[J].PowerSystemProtectionandControl，2011，39(6)：17-23.

[6] 陸百川，郭桂林，肖汶謙，等.基于多尺度主元分析法的動(dòng)態(tài)交通數(shù)據(jù)故障診斷與修復(fù)[J].重慶交通大學(xué)學(xué)報(bào)(自然科學(xué)版)，2016，35(1)：134-137.

LU Baichuan，GUO Guilin，XIAO Wenqian，et al.Fault diagnosing and modifying of dynamic traffic data based on MSPCA[J].JournalofChongqingJiaotongUniversity(NaturalScience)，2016，35(1)：134-137.

[7] 王波，劉樹(shù)林，張宏利，等.相關(guān)向量機(jī)及其在機(jī)械故障診斷中的應(yīng)用研究進(jìn)展[J].振動(dòng)與沖擊，2015，34(5)：145-153.

WANG Bo，LIU Shulin，ZHANG Hongli，et al.Advances about relevance vector machine and its applications in machine fault diagnosis[J].JournalofVibrationandShock，2015，34(5)：145-153.

[8] DU Haifeng，JIAO Licheng，WANG Sunan.Clonal operator and antibody clone algorithms[C]//InternationalConferenceonMachineLearningandCybernetics2002 Proceedings.IEEE，2002： 506-510.

[9] VAPNIK V N.TheNatureofStatisticalLearningTheory[M].New York： Springer-Verlag，1995.

(責(zé)任編輯：劉韜)

Support Vector Machine Based on Parameter Optimization and Its Application in Fault Diagnosis

CHEN Hu

(Chongqing Rail Transit (Group)Co.Ltd.，Chongqing400042，P.R.China)

In order to effectively diagnose the fault of the equipment，a support vector machine algorithm based on parameter optimization was proposed.Firstly，the immune clonal selection mechanism was introduced.The antibody group was constructed，in which an antibody was expressed in two decimal numbers.Then，the affinity function was established on the basis of the missing report rate.Thus，the parameters of support vector machine were optimized.After that，the support vector classifier with optimized parameters was constructed and used to classify and detect the equipment data.Simulation verification was carried out on the data of turbo generator set.The simulation results indicate that the proposed algorithm does not significantly increase the training time，compared with the traditional support vector machine algorithm.Moreover，it can effectively improve the detection rate and reduce the false detection rate.

electromechanical engineering; fault diagnostics; support vector machines; parameter optimization; immune clone algorithm

TH17

A

1674-0696(2017)10-119-04

2016-03-16；

2016-06-16

國(guó)家安全監(jiān)管總局科技攻關(guān)項(xiàng)目(zhishu-031-2013AQ)

陳虎(1982—)，男，山東冠縣人，工程師，主要從事事故診斷與檢測(cè)方面的研究。E-mail： chenhu531@163.com。

10.3969/j.issn.1674-0696.2017.10.20