仝　奇，胡雙演，葉　霞，張仲敏，李俊山

(1.第二炮兵工程大學(xué) 信息工程系，西安　710025；2.西安通信學(xué)院，西安　710106)

?

多分類SVDD混疊域識(shí)別的模擬電路故障診斷

仝奇1，胡雙演1，葉霞1，張仲敏2，李俊山1

(1.第二炮兵工程大學(xué) 信息工程系，西安710025；2.西安通信學(xué)院，西安710106)

針對(duì)多分類支持向量域數(shù)據(jù)描述(SVDD)方法中混疊樣本診斷精度差的問題，提出了一種帶異類樣本的多分類SVDD算法；該方法在普通SVDD超球模型基礎(chǔ)上，對(duì)于存在混疊區(qū)域的類別，以該類所有樣本為目標(biāo)類，其他類與之混疊的樣本為異類，利用帶異類樣本的SVDD算法重新訓(xùn)練，直至所有超球優(yōu)化完畢；仿真實(shí)驗(yàn)驗(yàn)證了文章算法消除混疊和提高精度的能力，并將該算法應(yīng)用于模擬電路故障診斷中；相較與SVDD多分類算法、一對(duì)一和一對(duì)多SVM算法，文章方法在模擬電路故障診斷中具有更高的診斷精度。

支持向量域數(shù)據(jù)描述；混疊；異類樣本；故障診斷；模擬電路

0　引言

隨著電子技術(shù)的飛速發(fā)展，導(dǎo)彈電子防護(hù)裝備中的電路板集成度越來越高，結(jié)構(gòu)和功能也日趨復(fù)雜，而模擬電路的故障診斷和維修能力相對(duì)較弱。模擬電路的測(cè)試由于受條件和人員水平的限制，往往無(wú)法獲得完備信息，再加上當(dāng)前電路中器件的緊密性，單故障可能引發(fā)多故障，導(dǎo)致故障診斷難度加大，采用傳統(tǒng)的故障診斷方法已不能滿足現(xiàn)有裝備的故障維修要求。因此，研究合適的模擬電路混疊故障診斷方法對(duì)確保裝備的有效性能及戰(zhàn)爭(zhēng)的勝利具有重要意義。

支持向量數(shù)據(jù)域描述(support vector data description，SVDD)[1]是一種常用的典型單分類器，不少研究者[2-4]將其擴(kuò)展到多分類應(yīng)用，即多分類SVDD(Muti-SVDD，MSVDD)。理想的MSVDD模型是各個(gè)超球之間彼此相互獨(dú)立，但在實(shí)際應(yīng)用中很有可能出現(xiàn)兩個(gè)或者多個(gè)超球相互混疊的情況，如何對(duì)混疊區(qū)域樣本進(jìn)行正確分類，并將改進(jìn)算法應(yīng)用到實(shí)際問題中，是MSVDD算法研究的熱點(diǎn)和難點(diǎn)之一。目前有許多研究學(xué)者提出各自的解決方案并應(yīng)用到故障診斷問題中，例如，文獻(xiàn)[5]從SVDD算法本身進(jìn)行改進(jìn)，以消除混疊。文獻(xiàn)[6]提出一種基于圖譜空間映射SVDD的模擬電路故障診斷新方法，改進(jìn)了標(biāo)準(zhǔn)SVDD松弛的球體描述邊界，降低了因交叉區(qū)域而產(chǎn)生的誤診率。文獻(xiàn)[7-8]采用了相對(duì)距離的判決方法，提出一種基于隸屬度函數(shù)的判決準(zhǔn)則，通過考慮兩個(gè)混疊超球的大小，來改善混疊問題。文獻(xiàn)[9]利用絕對(duì)距離測(cè)度與相對(duì)距離測(cè)度實(shí)現(xiàn)了狀態(tài)監(jiān)測(cè)與故障分類的識(shí)別。文獻(xiàn)[10]在SVDD算法基礎(chǔ)上，引入超球體核距離度量，將多參數(shù)轉(zhuǎn)化為單參數(shù)，解決了參數(shù)過多相互矛盾的問題。

通過分析混疊產(chǎn)生的原因，結(jié)合前期仿真實(shí)驗(yàn)結(jié)果，證實(shí)如果在SVDD訓(xùn)練時(shí)加入少量異類樣本，則可以適當(dāng)增強(qiáng)數(shù)據(jù)描述能力，使得超球體更為緊致，從而提高模型分類準(zhǔn)確率。因此，本文在MSVDD模型訓(xùn)練過程中加入異類樣本，提出一種帶異類樣本的MSVDD算法，解決多分類混疊問題，先利用仿真數(shù)據(jù)集驗(yàn)證算法消除混疊和提高精度的能力，而后將該算法應(yīng)用于模擬電路的故障診斷中，獲得了較理想的試驗(yàn)結(jié)果。

1　MSVDD算法及其不足

相比于-支持向量機(jī)“一對(duì)一[11]”、“一對(duì)多[12]”等多分類算法，多分類SVDD算法具有模型簡(jiǎn)單、擴(kuò)展性強(qiáng)、計(jì)算量少等優(yōu)點(diǎn)。MSVDD算法的基本思想是：針對(duì)每類樣本分別進(jìn)行SVDD訓(xùn)練，得到各自的超球模型，然后利用各模型對(duì)測(cè)試樣本進(jìn)行分類。

(1)

(2)

其中：

φ為映射函數(shù)；

(3)

其中：

σ為高斯核參數(shù)。

任一測(cè)試樣本x與超球Sk球心之間的距離可表示為：

(4)

1)樣本自身原因，比如各類樣本數(shù)量不平衡、樣本之間的模糊性等。目前，已有不少研究者針對(duì)樣本自身原因提出相關(guān)的改進(jìn)算法，如文獻(xiàn)[13]。

2)超球體緊致性不足。通過增大拒識(shí)率fracrej或減小高斯參數(shù)σ的方法可以提高超球緊致性，但同時(shí)也使得模型的推廣能力下降；因此，在模型訓(xùn)練前需要先對(duì)參數(shù)對(duì)( fracrej,σ)進(jìn)行優(yōu)化。

2　帶異類樣本的MSVDD算法

通過分析多分類SVDD混疊原因，本文從另一角度出發(fā)，在最佳參數(shù)對(duì)的前提下，通過提高超球體緊致性，從而改善多分類模型的樣本混疊問題。為了提高超球的緊致性，引入了帶異類樣本的SVDD算法(SVDD with Negative Samples，NSVDD)，NSVDD算法是在SVDD訓(xùn)練時(shí)加入少量異類樣本，研究發(fā)現(xiàn)這樣可以適當(dāng)提高數(shù)據(jù)描述能力和模型分類準(zhǔn)確率。當(dāng)多分類存在混疊區(qū)域時(shí)，通過NSVDD算法重新訓(xùn)練混疊超球，可以消除混疊，鑒于此，構(gòu)建了NMSVDD算法訓(xùn)練模型，提出了帶異類樣本的多分類SVDD算法(NMSVDD)。

2.1NSVDD算法

帶異類樣本的SVDD算法的目標(biāo)是建立一個(gè)包圍所有正常樣本，而將故障樣本排除在外的最小超球體。用i,j表示正常樣本的下標(biāo)，p,q表示故障樣本的下標(biāo)，將正常樣本標(biāo)記為yi=1，故障樣本標(biāo)記為yp=-1，兩類樣本的數(shù)目分別為m和n。超球體半徑為R，球心為a，則求解優(yōu)化問題可以表示為：

(5)

(6)

其中：

ξi,ξp為松弛變量；

Ci,Cp為懲罰因子。

式(5)對(duì)應(yīng)的Lagrange函數(shù)如下：

(7)

其中：

αi≥0,αp≥0,βi≥0,βp≥0為L(zhǎng)agrange乘子。

由極值條件并化簡(jiǎn)可得：

(8)

2.2NMSVDD算法流程

NMSVDD的基本思路是：如果某類超球與其他類超球存在混疊區(qū)域，則以該類所有樣本為目標(biāo)類，其他類與之混疊的樣本為異類重新訓(xùn)練超球，以增強(qiáng)超球體的緊致性，削減甚至消除混疊區(qū)域，同時(shí)提高模型精度。其算法的流程圖如圖1所示，其詳細(xì)步驟如下。

Step1：對(duì)待測(cè)電路信號(hào)進(jìn)行提取及預(yù)處理，形成模擬電路所需的故障樣本，建立樣本集并將其分為訓(xùn)練樣本和測(cè)試樣本；

Step2：利用SVDD訓(xùn)練L類樣本得到L個(gè)初始超球體S1,S2,...,SL；

Step3：用式(4)依次判斷各類超球與其余超球之間是否存在混疊樣本，若不存在，則該類樣本初始模型優(yōu)化完畢，否則轉(zhuǎn)下一步；

Step4：對(duì)于存在混疊區(qū)域的類別，以該類所有樣本為目標(biāo)類，其他類與之混疊的樣本為異類按NSVDD算法重新訓(xùn)練超球；

Step5：判斷各類超球與其余超球之間是否存在混疊樣本，直至所有超球優(yōu)化完畢，否則返回執(zhí)行Step4。

通過前期仿真實(shí)驗(yàn)，一般經(jīng)過2～3次循環(huán)，基本上可以完全消除混疊情況，因此設(shè)置算法循環(huán)次數(shù)上限為5次。

圖1　NMSVDD算法流程

3　仿真與實(shí)例分析

3.1仿真驗(yàn)證與結(jié)果分析

選用鳶尾屬植物數(shù)據(jù)集(Iris dataset)進(jìn)行仿真分析，Iris是標(biāo)準(zhǔn)多分類數(shù)據(jù)集，含setosa、versicolor、virginica三類樣本，每類50個(gè)，共150個(gè)樣本點(diǎn)，每個(gè)樣本各有四維特征，分別是：萼片長(zhǎng)度、萼片寬度、花瓣長(zhǎng)度和花瓣寬度。為方便直觀顯示，僅考慮花瓣長(zhǎng)度與寬度兩個(gè)屬性，各類前25個(gè)樣本用于訓(xùn)練，后25個(gè)樣本用于測(cè)試。首先使用標(biāo)準(zhǔn)MSVDD算法訓(xùn)練各類超球，應(yīng)用交叉驗(yàn)證法確定參數(shù)對(duì)(fracrej,σ)=(0.05,0.35)，結(jié)果如圖2(a)所示。發(fā)現(xiàn)versicolor類與virginica類超球存在部分混疊，然后利用NMSVDD算法對(duì)這兩類樣本重新訓(xùn)練，參數(shù)對(duì)保持不變，異類樣本拒絕因子fracrej取0.99，versicolor類訓(xùn)練時(shí)，將混疊域內(nèi)的virginica類樣本作為異類樣本；類似地，virginica類訓(xùn)練時(shí)，將混疊域內(nèi)的versicolor類樣本作為異類樣本，結(jié)果如圖2(b)所示。

圖2　MSVDD和NMSVDD算法分類

由圖2可以看出，本文算法能夠消除versicolor類與virginica類的混疊區(qū)域，為進(jìn)一步說明NMSVDD算法的效果，分別對(duì)兩種算法訓(xùn)練的versicolor和virginica超球的分類性能進(jìn)行測(cè)試，利用操作者工作曲線(ROC)進(jìn)行對(duì)比，ROC曲線越靠左上方，曲線下的面積(AUC值)越大，表示分類器的分類性能越好，圖3上半部分是versicolor類的ROC曲線，下半部分是virginica的ROC曲線。

圖3　MSVDD和NMSVDD算法的ROC曲線

圖3直觀顯示了本文算法較傳統(tǒng)MSVDD的優(yōu)勢(shì)，特別是virginica類的ROC曲線，兩種算法的AUC值分別0.960和0.996，本文算法的分類性能有較大的提升。測(cè)試樣本的分類結(jié)果如表1所示。

表1　MSVDD與NMSVDD分類結(jié)果

通過仿真結(jié)果可知，NMSVDD平均診斷結(jié)果為96%，較MSVDD具有更好的分類診斷效果，驗(yàn)證了NMSVDD算法消除混疊和提高精度的能力。

3.2實(shí)例分析

為了驗(yàn)證帶異類樣本多分類SVDD算法應(yīng)用于模擬電路故障診斷的效果，以Sallen-Key帶通濾波器電路為對(duì)象，如圖4所示。

圖4　Sallen-Key帶通濾波電路

1)激勵(lì)信號(hào)和測(cè)試點(diǎn)的選擇：

輸入節(jié)點(diǎn)為5的激勵(lì)信號(hào)是幅度為5 V，基頻為10 KHz的電壓信號(hào)，節(jié)點(diǎn)3為輸出測(cè)試點(diǎn)。

2)故障元件及故障模式選擇：

采用Multisim軟件以較難判斷的軟故障為主仿真待測(cè)電路。各元件的標(biāo)稱值已在圖中標(biāo)出，其中電阻的容差范圍為5%，電容的容差范圍為10%。通過對(duì)電路進(jìn)行靈敏度分析，發(fā)現(xiàn)R1、R2、R3和C1、C2的靈敏度較高，對(duì)電路的輸出影響較大，因此電路故障模式設(shè)定如表2所示，包括五類故障模式和電路正常模式。

表2　電路故障模式設(shè)定表

3)故障樣本的獲?。?/p>

采集輸出節(jié)點(diǎn)3的信號(hào)，利用Multisim對(duì)每種故障模式進(jìn)行30次的Monte Carlo分析，共得到180個(gè)故障樣本集，90個(gè)樣本用來訓(xùn)練，另外90個(gè)用來測(cè)試。

4)故障診斷及結(jié)果分析：

首先使用MSVDD算法進(jìn)行訓(xùn)練，參數(shù)對(duì)(fracrej,σ)=(0.03,5)，分析后發(fā)現(xiàn)存在4種混疊故障，對(duì)電路存在的混疊故障利用新算法重新訓(xùn)練，異類樣本拒絕因子取0.99，并在相同條件下將NMSVDD算法與基于MSVDD算法、一對(duì)一、一對(duì)多SVM診斷方法的測(cè)試結(jié)果進(jìn)行對(duì)比，診斷結(jié)果如表3所示。

表3　算法分類器故障診斷結(jié)果比較

由表3可以看出，將NMSVDD算法應(yīng)用于模擬電路的混疊故障診斷中，其準(zhǔn)確率比基于MSVDD算法、一對(duì)一和一對(duì)多SVM多分類算法的診斷準(zhǔn)確率都要高許多，說明當(dāng)電路出現(xiàn)模糊故障即混疊故障，模糊故障會(huì)陷入標(biāo)準(zhǔn)SVDD多個(gè)超球體的交叉區(qū)域以及SVM分類面的交叉區(qū)域，因此利用傳統(tǒng)的故障診斷方法將很難正確判斷。本文方法針對(duì)此問題，將混疊的樣本作為異類重新訓(xùn)練超球，以消除混疊，實(shí)驗(yàn)結(jié)果也證明了采用本文方法能夠?qū)δM電路的混疊故障診斷實(shí)現(xiàn)快速故障檢測(cè)和定位，較傳統(tǒng)的故障診斷算法有更好的診斷效果。

4　結(jié)論

本文研究了一種新的模擬電路故障診斷方法，針對(duì)經(jīng)典診斷方法在模擬電路混疊故障診斷中的不足，提出了一種帶異類樣本的多分類SVDD算法。通過仿真實(shí)驗(yàn)驗(yàn)證了NMSVDD算法能夠較好地消除混疊，增強(qiáng)數(shù)據(jù)的描述能力，使超球體更為緊致，提高了模型分類準(zhǔn)確率。另外，在模擬電路的故障診斷實(shí)例中將本文算法與經(jīng)典的故障診斷算法作對(duì)比，從實(shí)驗(yàn)結(jié)果可以看出，NMSVDD算法應(yīng)用在模擬電路故障診斷中取得了較好的效果，具有很大的應(yīng)用潛力。

[1]David M J T , Robert P W D.Support vector data description[J]. Machine Learning,2004,54:45-66.

[2]Kang W S, Im K H, Choi J Y. SVDD-Based Method for Fast Training of Multi-class Support Vector Classifier[A].Third International Symposium on Neural Networks[C]. Chengdu, China: Springer, 2006:991-996.

[3]Lee D, Lee J. Domain Described Support Vector Classifier for Multi-classification Problems[J]． Pattern Recognition, 2007,40(1):41-51.

[4]Luo H, Wang Y R, Cui J. A SVDD Approach of Fuzzy Classification for Analog Circuit Fault Diagnosis with FWT as Preprocessor[J]. Expert Systems with Applications,2011,38(8):10554-10561.

[5]Mu T T, Nandi A K. Multi class Classification Based on Extended Support Vector Data Description[J]. IEEE Transactions on Systems,Man,and Cybernetics—part B: Cybernetics,2009,39(5):1206-1216.

[6]羅慧, 王友仁. 基于GSM-SVDD的模擬電路故障診斷方法[J]. 電機(jī)與控制學(xué)報(bào), 2013,17(1):108-113.

[7]Chiang J H,Hao P Y.A New Kernel-based Fuzzy Clus-tering Approach: Support Vector Clustering with Cell Growing[J]. IEEE Transation on Fuzzy System 2003,11(4):518-527.

[8]Liu S,Liu Y K,Wang B,et al. An Improved Hyper-sphere Support Vector Machine[A]Third International Conference on Natural Computation[C]. Haikou, China: IEEE,2007:497-500.

[9]王濤, 李艾華, 王旭平, 等. 基于SVDD與距離測(cè)度的齒輪泵故障診斷方法研究[J]. 振動(dòng)與沖擊, 2013,32(11):62-65.

[10]李冬, 李本威, 王永華, 等. 基于聚類和多尺度優(yōu)化的超球體核距離評(píng)估的航空發(fā)動(dòng)機(jī)性能衰退[J]. 推進(jìn)技術(shù), 2013,34(7):977-983.

[11]Debnath R, Takahide N, Takahashi H.A decision based on one-against-one method for multi-class support vector machine[J]. Pattern Anal Applic 2004, 27(5):164-175.

[12]R. Rifkin, A Klautau. In defense of One-vs-all classification[J].J Mach. Learning Res,2004(5):101-141.

[13]李傳亮, 王友仁, 羅慧,等. 全樣本支持矢量數(shù)據(jù)描述模擬電路故障分類[J]. 電工技術(shù)學(xué)報(bào), 2012,27(8):215-221.

An Approach to Discriminate Overlap Region of Multi-class Classification SVDD for Analog Circuits Fault Diagnosis

Tong Qi1, Hu Shuangyan1, Ye Xia1, Zhang Zhongmin2, Li Junshan1

(1.Department of Information Engineering, Second Artillery Engineering University, Xi’an710025, China;2. Xi’an Communications Institute, Xi’an710106, China)

To improve the discrimination accuracy of conventional multi-class classification support vector data description (SVDD) methods, a multiple classification Support vector data description algorithm with Negative Samples is proposed. Based on the general model of SVDD, the proposed algorithm treats the samples in the class as the target class, while the other classes of overlap and sample is heterogeneous for the overlap region. By using SVDD algorithm with Negative samples, the hypersphere model is trained again until all hypersphere models optimized. Simulated experimental results show that the proposed algorithm can eliminate overlap and improve the discrimination accuracy. The algorithm is applied in the implemention of analog circuits fault diagnosis, comparing with SVDD classification algorithm, one-to-one and one-to-many SVM algorithm, results show that the algorithm is more effective and higher accuracy in fault diagnosis.

support vector data description; overlap region; heterogeneous samples; fault diagnosis; analog circuit

2015-07-09；

2015-09-06。

仝奇(1988-)，男，河南開封人，碩士研究生，主要從事裝備故障診斷方向的研究。

葉霞(1977-)，女，,江蘇南京人，副教授，碩士生導(dǎo)師，主要從數(shù)據(jù)庫(kù)、指揮信息系統(tǒng)方向的研究。

1671-4598(2016)01-0050-04

10.16526/j.cnki.11-4762/tp.2016.01.013

TP391

A

李俊山(1956-)，男，陜西白水人，教授，博士生導(dǎo)師，主要從事圖像處理與目標(biāo)識(shí)別、網(wǎng)絡(luò)信息安全、電子對(duì)抗模擬與仿真方向的研究。