程思嘉,張昌宏

(海軍工程大學(xué) 信息安全系，武漢　430033)

?

基于粒子群算法優(yōu)化最小二乘支持向量機(jī)的電路故障診斷方法

程思嘉,張昌宏

(海軍工程大學(xué) 信息安全系，武漢430033)

摘要：針對(duì)數(shù)/?；旌想娐饭收系奶攸c(diǎn)，采用將粒子群算法與最小二乘支持向量機(jī)相結(jié)合的故障診斷方法，在保證診斷過(guò)程準(zhǔn)確率的基礎(chǔ)上，實(shí)現(xiàn)多類故障的快速診斷。在診斷過(guò)程中，支持向量機(jī)的參數(shù)尋優(yōu)過(guò)程存在隨意性、盲目性和效率低等問(wèn)題，采用改進(jìn)的粒子群算法優(yōu)化支持向量機(jī)的參數(shù)，建立基于支持向量機(jī)的故障分類模型。實(shí)驗(yàn)結(jié)果表明，與其他方法相比，該方法提高了故障診斷的精度，具有明顯的實(shí)用價(jià)值。

關(guān)鍵詞：故障診斷；粒子群算法；最小二乘支持向量機(jī)

Citation format:CHENG Si-jia，ZHANG Chang-hong.Fault Diagnosis Method of Circuit Using LS-SVM and Improved PSO[J].Journal of Ordnance Equipment Engineering,2016(3):98-101.

近年來(lái)，數(shù)/?；旌想娐吩谛畔踩O(shè)備中得到了廣泛應(yīng)用。電路的工作狀態(tài)直接影響了設(shè)備的穩(wěn)定性。因此，研究混合電路的故障診斷技術(shù)，提高設(shè)備的運(yùn)行維護(hù)水平，具有重要的現(xiàn)實(shí)意義。由于混合電路的非線性特征、元器件的參數(shù)容差性、故障類型的多樣性，使故障字典法、參數(shù)識(shí)別法、故障驗(yàn)證法等傳統(tǒng)檢測(cè)方法因其自身局限性已經(jīng)不再適用。神經(jīng)網(wǎng)絡(luò)相比于傳統(tǒng)方法，具有較強(qiáng)的非線性擬合能力和自學(xué)習(xí)能力，在診斷中具有良好的實(shí)時(shí)性和魯棒性，但是也暴露了網(wǎng)絡(luò)收斂速度慢，效果依賴樣本選擇等問(wèn)題[1]。

支持向量機(jī)(Support Vector Machine，SVM)是建立VC維理論和結(jié)構(gòu)風(fēng)險(xiǎn)最小化原理基礎(chǔ)上的機(jī)器學(xué)習(xí)方法。它克服了神經(jīng)網(wǎng)絡(luò)的不足，而且在小樣本、非線性及高維模式識(shí)別問(wèn)題中具有結(jié)構(gòu)簡(jiǎn)單、全局最優(yōu)、泛化能力強(qiáng)等優(yōu)勢(shì)[2]。相對(duì)于SVM，最小二乘支持向量機(jī)(least squares support vector machine,LS-SVM)利用等式約束條件代替不等式約束條件，進(jìn)一步簡(jiǎn)化了計(jì)算的復(fù)雜度，提高了運(yùn)行效率[3,4]。本文首先研究LS-SVM的原理，使用改進(jìn)的粒子群算法對(duì)LS-SVM的參數(shù)進(jìn)行優(yōu)化，然后根據(jù)電路故障診斷特點(diǎn)建立診斷LS-SVM模型，最后結(jié)合數(shù)/?；旌想娐饭收系膶?shí)例分析，驗(yàn)證了本文方法的可行性。

1LS-SVM算法

假設(shè)訓(xùn)練集D中共包括N個(gè)樣本，并表示為D={(xi,yi)|i=1,2,…,N}，其中xi∈RN，yi∈{+1,-1}。利用非線性函數(shù)φ(x)將輸入樣本映射到高維特征空間中，這樣就將原樣本的線性不可分的問(wèn)題轉(zhuǎn)化為高維特征空間的線性可分的問(wèn)題

其中:ω為權(quán)重;β是偏置項(xiàng)。

此分類問(wèn)題可根據(jù)結(jié)構(gòu)風(fēng)險(xiǎn)最小化原理表示為等式約束的優(yōu)化問(wèn)題。求解標(biāo)準(zhǔn)最小二乘支持向量機(jī)的最優(yōu)化問(wèn)題的目標(biāo)函數(shù)為

其中:ω為權(quán)向量;εi≥0為誤差向量;C為控制對(duì)超出誤差的樣本懲罰程度;β為偏置項(xiàng);φ(xi)為核特征空間映射函數(shù)。

為求解上述優(yōu)化問(wèn)題，引入Lagrange乘子，構(gòu)建方程

式中αi為L(zhǎng)agrange乘子。分別對(duì)ω,β,εi求偏導(dǎo)數(shù)，根據(jù)KKT條件，可以得到

消去εi和ω，可以得到最后的矩陣形式

其中ZT=[φ(x1),…,φ(xN)]。ZZT內(nèi)積運(yùn)算可以用滿足Mercer條件的核函數(shù)K(xi,yi)替代，則最小二乘支持向量機(jī)分類決策函數(shù)為

核函數(shù)是LS-SVM重要部分，采用不同核函數(shù)，性能上會(huì)存在很大差異，大量實(shí)驗(yàn)結(jié)果表明，采用高斯徑向基核函數(shù)可以獲得良好的性能推廣性[5-6]。因此本文LS-SVM采用高斯徑向基核函數(shù)。由于徑向基核函數(shù)中有一個(gè)參數(shù)σ，在表達(dá)式中有參數(shù)C，這兩個(gè)參數(shù)的變化對(duì)運(yùn)行結(jié)果有很大的影響，因此尋找到最優(yōu)參數(shù)對(duì)于提高性能至關(guān)重要。

2基于粒子群算法的LS-SVM電路故障診斷技術(shù)

近年來(lái)，很多學(xué)者對(duì)SVM中的參數(shù)優(yōu)化方法做了大量工作，如將粒子群算法、模擬退火和遺傳算法應(yīng)用到優(yōu)化中[7-9]。針對(duì)數(shù)/?；旌想娐返奶攸c(diǎn)，本節(jié)設(shè)計(jì)基于粒子群優(yōu)化算法優(yōu)化SVM建模。首先針對(duì)粒子群算法自身缺點(diǎn)進(jìn)行改進(jìn)，提高了粒子群算法準(zhǔn)確性；其次利用改進(jìn)后算法對(duì)LS-SVM的參數(shù)進(jìn)行優(yōu)化，提高其學(xué)習(xí)和泛化性能；最后結(jié)合二值分類器故障診斷策略，設(shè)計(jì)故障診斷方案。

2.1粒子群算法理論

粒子群算法(particle swarm optimization,PSO)與遺傳算法等其他算法相同，都是基于種群的搜索算法，可以數(shù)學(xué)表達(dá)為：在一個(gè)D維空間內(nèi)，S個(gè)粒子構(gòu)成一個(gè)種群X=(x1,…,xr,…xS)，各粒子分別是一個(gè)潛在的解，對(duì)應(yīng)D維空間上的某點(diǎn)，通過(guò)迭代運(yùn)算尋找最優(yōu)解。其中第i個(gè)粒子的位置為Xi=(xi1,xi2,…,xid)T，速度為Vi=(vi1,vi2,…,vid)T：第i個(gè)粒子所找的最優(yōu)點(diǎn)為Pi=(pi1,pi2,…,pid)T,鄰域內(nèi)粒子所搜到最優(yōu)點(diǎn)為Pg=(pg1,pg2,…,pgd)T，粒子根據(jù)下面兩個(gè)公式更新速度與位置：

vid(t+1)=vid(t)+c1r1(t)pid(t)-xid(t))+

c2r2(t)(pid(t)-xid(t))

xid(t+1)=xid(t)+vid(t+1)

公司要注重提升對(duì)大數(shù)據(jù)的開(kāi)發(fā)技能，不僅要處理好會(huì)計(jì)系統(tǒng)的財(cái)務(wù)信息，而且要注重對(duì)會(huì)計(jì)管理的規(guī)劃，要全面提高管理人員對(duì)信息數(shù)據(jù)的采集分析能力，并且做出合理有效的預(yù)測(cè)。在專業(yè)的技術(shù)問(wèn)題上，要積極需求專業(yè)公司的幫助，合理科學(xué)地加強(qiáng)對(duì)信息的整合，要根據(jù)實(shí)際情況從本質(zhì)上將大數(shù)據(jù)的價(jià)值發(fā)揮出來(lái)，優(yōu)化資源配置避免浪費(fèi)。

學(xué)習(xí)粒子c1和c2為非負(fù)常數(shù)，r1(t) 和r2(t)在[0,1]內(nèi)隨機(jī)取值，體現(xiàn)出了算法的隨機(jī)性。由于標(biāo)準(zhǔn)PSO算法具有快速收斂性，實(shí)際應(yīng)用中易陷入局部最大，使得尋優(yōu)停滯。為避免過(guò)早收斂和提高運(yùn)算效率，J.Riget提出了一種保證種群多樣性粒子群算法(Attractive and Repulsive Particle Swarm Optimizer,ARPSO)[10]。算法提出“吸引”和“擴(kuò)散”兩個(gè)概念，動(dòng)態(tài)調(diào)整求解過(guò)程，公式如下：

vid(t+1)=vid(t)+Dir[c1r1(t)]pid(t)-xid(t))+

c2r2(t)(pid(t)-xid(t))

xid(t+1)=xid(t)+vid(t+1)

式中：|L|為搜索空間的最長(zhǎng)半徑，|S|為種群所含微粒個(gè)數(shù)。在算法運(yùn)行過(guò)程中，Diversity(s)Dhigh時(shí)，Dir=1，從而種群中的粒子開(kāi)始向整體最優(yōu)位置靠攏，執(zhí)行吸引操作。通過(guò)對(duì)速度的動(dòng)態(tài)調(diào)節(jié)，在達(dá)到一定精度后，繼續(xù)尋找最優(yōu)解，確保最后結(jié)果最優(yōu)。

2.2基于ARPSO優(yōu)化LS-SVM的故障診斷模型

利用上文所提到的改進(jìn)算法對(duì)LS-SVM參數(shù)σ和懲罰系數(shù)C進(jìn)行優(yōu)化。假設(shè)每個(gè)粒子X(jué)i可用參數(shù)集合(C,σ)表示。在二維目標(biāo)搜索空間中，N個(gè)粒子構(gòu)成的集合進(jìn)行尋優(yōu)，按照調(diào)整公式調(diào)整自己位置與速度，完成迭代次數(shù)，輸出最佳(C,σ)，流程如圖1所示。

圖1　算法優(yōu)化LS-SVM參數(shù)流程

2.3基于ARPSO優(yōu)化LS-SVM的二值分類診斷方法

本節(jié)進(jìn)一步解決適用于數(shù)/?；旌想娐饭收显\斷的二值分類器的設(shè)計(jì)問(wèn)題。為了確保電路正常運(yùn)行，這就要求不僅要診斷出整個(gè)電路有無(wú)故障，同時(shí)還要診斷出電路中的故障信息，這就構(gòu)成了多值分類問(wèn)題。多值分類問(wèn)題是目前SVM研究領(lǐng)域的一個(gè)重要方向,源于二類分類問(wèn)題，通常采用多個(gè)兩類SVM串聯(lián)進(jìn)行組合分類[11-14]。

根據(jù)上一部分LS-SVM構(gòu)造方法，構(gòu)建一個(gè)N類故障分類器。當(dāng)構(gòu)建第i個(gè)分類器時(shí)，屬于該類LS-SVM的故障訓(xùn)練樣本作為一類，類別標(biāo)號(hào)由原來(lái)的i改為1，將其他故障的所有訓(xùn)練樣本作為一類，標(biāo)記為-1。診斷策略如圖2所示。

圖2　多故障分類流程

根據(jù)所設(shè)計(jì)的多故障分類算法，結(jié)合建模方法，采用ARPSO優(yōu)化LS-SVM的數(shù)/?；旌想娐饭收显\斷方法，步驟如下：

步驟1：對(duì)樣本數(shù)據(jù)進(jìn)行小波變換，提取特征參數(shù)，構(gòu)建特征樣本；

步驟3：按照上文建模方法，建立數(shù)/?；旌想娐饭收显\斷模型，為每一種故障類型建立分類器；

步驟4：裝訂LS-SVM的相關(guān)參數(shù)；

步驟5：輸入未知故障的特征參數(shù)，根據(jù)輸出判斷故障所屬類型。

3故障診斷實(shí)例

如圖3所示的正弦波信號(hào)發(fā)生器電路，設(shè)電路中電阻和電容的容差分別為其標(biāo)值的5% 和10% 。用PSPICE 軟件對(duì)其進(jìn)行仿真，通過(guò)靈敏度分析，發(fā)現(xiàn)元件R1， R2， C1， C2 的變化對(duì)電路輸出響應(yīng)的影響最大。

圖3　正弦波信號(hào)發(fā)生器

設(shè)置待測(cè)電路共有12種故障狀態(tài)，其中硬故障8種，軟故障4種，以及電路的正常工作狀態(tài)Normal(故障代碼F0)，則電路共有13種狀態(tài)模式，如表1所示。其中符號(hào)“↑”表示元件參數(shù)值偏離標(biāo)值的20%。

表1　故障模式設(shè)定

分別對(duì)每種模式下的電路進(jìn)行200次蒙特卡洛分析，提取電路響應(yīng)信號(hào)，隨機(jī)抽取50次作為訓(xùn)練樣本，其余作為測(cè)試樣本。使用改進(jìn)的粒子群算法對(duì)LS-SVM進(jìn)行參數(shù)尋優(yōu)，種群規(guī)模設(shè)為20，C，σ的初始范圍設(shè)定為(10-3，10+3)，(10-4，10+2)，最大進(jìn)化迭代數(shù)為30，定義Dlow=5×10-3,Dhigh=0.25。本文將神經(jīng)網(wǎng)絡(luò)方法、標(biāo)準(zhǔn)PSO優(yōu)化LS-SVM方法與本文算法演算得到的故障診斷率進(jìn)行比較說(shuō)明，其中標(biāo)準(zhǔn)PSO方法所用參數(shù)與本文方法相同。

通過(guò)表2可以得知，采用本文方法與PSO優(yōu)化方法計(jì)算得到的故障診斷率要明顯高于采用神經(jīng)網(wǎng)絡(luò)計(jì)算得到的故障診斷率，這說(shuō)明在訓(xùn)練樣本有限的條件下，支持向量機(jī)方法具有更強(qiáng)的泛化能力，體現(xiàn)出更好的分類性能。將粒子群算法應(yīng)用到LS-SVM的兩個(gè)參數(shù)優(yōu)化中，通過(guò)實(shí)驗(yàn)發(fā)現(xiàn)標(biāo)準(zhǔn)粒子群算法與本文提出的改進(jìn)粒子群算法都能較快的收斂，并達(dá)到較高的分類正確率，并且本文所采用的改進(jìn)方法取得了更好的效果。

表2　故障診斷率比較　%

4結(jié)論

本文根據(jù)數(shù)/?；旌想娐返奶攸c(diǎn)，研究基于LS-SVM的電路故障診斷方法。首先使用ARPSO對(duì)其參數(shù)進(jìn)行優(yōu)化,然后串聯(lián)組合多個(gè)兩類LS-SVM進(jìn)行分類診斷。實(shí)驗(yàn)表明，在小樣本情況下，支持向量機(jī)方法要優(yōu)于神經(jīng)網(wǎng)絡(luò)方法，應(yīng)用改進(jìn)的粒子群算法進(jìn)行參數(shù)優(yōu)化，提高了故障診斷正確率。下一步的工作將是對(duì)故障特征的提取方法進(jìn)行研究，提高對(duì)故障狀態(tài)的分辨率。

參考文獻(xiàn)：

[1]AMINIAN F,AMINIAN M.Analog fault diagnosis of actual circuits using neural networks[J].IEEE Transaction on Instrumentation and Measurement,2002,51(3):544-550.

[2]張學(xué)工.關(guān)于統(tǒng)計(jì)理論與支持向量機(jī)[J].自動(dòng)化學(xué)報(bào),2000,26(1)：32-41.

[3]焦鵬,王新政,謝鵬.基于SVM的模擬電路故障診斷及參數(shù)優(yōu)化方法[J].計(jì)算機(jī)測(cè)量與控制,2013,21(8)：2039-2043.

[4]CORTES,VAPNIK V.Support Vector Network[J].Machine Learning,1995(20):273-297.

[5]HSU C W,LIN C J.A comparison of methods for multiclass support vector machines[J].IEEE Transactions on Neural Networks,2002,13(2):415-425.

[6]KEERTHI S S,LIN C J.Asymptotic behaviors of support vector machines Gaussian kernel[J].Neural Computation,2003,15(10):1722-1731.

[7]劉愛(ài)軍,楊育，李斐,等.混沌模擬退火粒子群優(yōu)化算法研究及應(yīng)用[J].浙江大學(xué)學(xué)報(bào),2013,47(10):1722-1731.

[8]秦慶強(qiáng),張曉安,李艾華.基于GA-SVM的數(shù)?；旌想娐饭收显\斷研究[J].計(jì)算機(jī)工程與設(shè)計(jì),2012,33(10):3984-3990.

[9]陳濤,洪增林,鄧方安.基于優(yōu)化的鄰域粗糙集的混合基因選擇算法[J].計(jì)算機(jī)科學(xué),2014,41(10):291-294.

[10]KENNEDY J,EBERHART R C.Particle swarm optimization[C]//IEEE International Conference on Neural Networks.Perth,Australia:IEEE,1995:1942-1948.

[11]王浩天,單甘霖,段修生.基于多模型的模擬電路軟故障診斷[J].火力與指揮控制,2014,39(11):119-123.

[12]郭陽(yáng)明,冉從寶,姬崎禹.基于組合優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的模擬故障診斷[J].西北工業(yè)大學(xué)學(xué)報(bào),2013,31(1):44-48.

[13]王旭婧,陳長(zhǎng)興,王明芳,等.基于支持向量機(jī)的模擬電路故障診斷[J].計(jì)算機(jī)工程與設(shè)計(jì),2014,35(10):3584-3588.

[14]WANG T H,THOMAS J B.Volterra mapping based be-havioral modeling of nonlinear circuits and systems for high frequencies[J].IEEE Transactions on Microwave Theory and Techniques,2012,51(5):1433-1440.

(責(zé)任編輯楊繼森)

Fault Diagnosis Method of Circuit Using LS-SVM and Improved PSO

CHENG Si-jia，ZHANG Chang-hong

(Department of Information Security, Navy University of Engineering, Wuhan 430033, China)

Abstract:In allusion to the features of hybrid circuit fault, this text adopted a diagnostic method combined least squares support vector machine with particle swarm optimization. The method completes the diagnostic test frequently on the base of accuracy rate. Support vector machine’s parameters overcomes the randomness, blindness and inefficiency of the searching process by using modified particle swam optimization. The fault classification model based on support vector machine was established. Experimental results show the method raises the accuracy rate of fault diagnosis compared to other methods and has excellent practical value.

Key words:fault diagnosis; particle swarm; least square support vector machine

文章編號(hào)：1006-0707(2016)03-0098-04

中圖分類號(hào)：TP309.2

文獻(xiàn)標(biāo)識(shí)碼：A

doi:10.11809/scbgxb2016.03.024

作者簡(jiǎn)介：程思嘉(1992—)，男，碩士，主要從事密碼裝備保障研究。

基金項(xiàng)目：全軍軍事類研究生課題(2013JY430)

收稿日期：2015-08-31；修回日期：2015-09-15

本文引用格式：程思嘉,張昌宏.基于粒子群算法優(yōu)化最小二乘支持向量機(jī)的電路故障診斷方法[J].兵器裝備工程學(xué)報(bào)，2016(3):98-101.

【信息科學(xué)與控制工程】