王月海 王瀚晨

(北方工業(yè)大學(xué)信息學(xué)院，100144，北京)

現(xiàn)代電子電路一般由數(shù)字電路和模擬電路組成. 雖然模擬電路只占混合電路的20%，但80%的故障都發(fā)生在模擬電路中，模擬電路故障診斷對(duì)電子系統(tǒng)的穩(wěn)定性和可靠性至關(guān)重要.

基于深度學(xué)習(xí)的故障診斷本質(zhì)是模式識(shí)別問(wèn)題，其研究?jī)?nèi)容主要包括特征提取和分類器設(shè)計(jì). 模擬電路的故障診斷研究起源于1960年代，從經(jīng)典的故障字典法到BP神經(jīng)網(wǎng)絡(luò)，從單一的算法到多種算法組合優(yōu)化，分類器設(shè)計(jì)的相關(guān)算法越來(lái)越成熟. 相比之下，特征提取的相關(guān)研究進(jìn)展則較為緩慢. 實(shí)際上，診斷效果與輸入的特征數(shù)據(jù)有直接的關(guān)系. 目前，對(duì)于原始信號(hào)的特征提取方法主要依靠經(jīng)驗(yàn)豐富的領(lǐng)域工程師來(lái)選擇恰當(dāng)?shù)奶卣鹘M合，或采用各類統(tǒng)計(jì)特征或抽象數(shù)據(jù)特征，如譚陽(yáng)紅等通過(guò)對(duì)原始信號(hào)進(jìn)行小波多尺度分解，并對(duì)特征能量進(jìn)行正交化、歸一化處理后得到特征信息、但小波函數(shù)的選擇和小波分解的層數(shù)等參數(shù)卻只能憑經(jīng)驗(yàn)或?qū)嶒?yàn)對(duì)比進(jìn)行確認(rèn)[1]，Yuan Lifen等應(yīng)用峭度和熵提取故障特征，但在分類診斷時(shí)易收斂于局部最小值[2]，Shen Hong 等提出基于高階統(tǒng)計(jì)量的方法[3]，但其缺點(diǎn)是遺漏了低階信號(hào)中的特征. 為解決特征選擇和特征提取的難題，減少特征選擇和特征提取中領(lǐng)域?qū)＜业慕槿?，降低特征選取的門檻，直接將測(cè)量所得到的響應(yīng)信號(hào)作為輸入，由提取算法自動(dòng)提取故障特征是一個(gè)很有前景的想法. 但直接輸入故障數(shù)據(jù)所帶來(lái)的龐大計(jì)算量會(huì)使得分類器性能急劇下降，同時(shí)診斷結(jié)果也差強(qiáng)人意. 深度學(xué)習(xí)技術(shù)的出現(xiàn)為這一想法的實(shí)現(xiàn)提供了支持，以犧牲可接受范圍內(nèi)的效率作為代價(jià)，本文提出一種基于卷積神經(jīng)網(wǎng)絡(luò)(Convolution Neural Network,簡(jiǎn)稱CNN)的故障特征直接提取方法.

支持向量機(jī)(Support Vector Machine，簡(jiǎn)稱SVM)針對(duì)非線性問(wèn)題而設(shè)計(jì)，泛化能力強(qiáng)，適用于故障診斷的場(chǎng)景. 孔夢(mèng)君、萬(wàn)國(guó)發(fā)等使用不同組合優(yōu)化后的SVM分類器均取得了較高的故障診斷率.[4-5]所以我們選擇SVM用于測(cè)試特征提取性能的故障診斷算法.

本文提出一種基于CNN+SVM的模擬電路故障診斷方法，使用輸出點(diǎn)電壓波形作為原始數(shù)據(jù)，應(yīng)用CNN完成特征提取后輸入SVM構(gòu)建分類器，最終完成對(duì)目標(biāo)電路的故障分類.

1 基于CNN的特征提取

卷積神經(jīng)網(wǎng)絡(luò)CNN由紐約大學(xué)的Yann LeCun于1998年提出，其質(zhì)是一個(gè)采用了局部連接和共享權(quán)值的多層感知機(jī). CNN是一種深度的監(jiān)督學(xué)習(xí)下的機(jī)器學(xué)習(xí)模型，善于挖掘二維圖像中的局部特征. 與基于小波分析的特征提取方法相比，CNN可以使用物理量(如電壓、電流)隨時(shí)間變化的二維矢量圖作為輸入，在不經(jīng)過(guò)變換和分解的情況下完成局部特征的提取.

1.1 卷積神經(jīng)網(wǎng)絡(luò)原理

1.1.1局部連接

卷積神經(jīng)網(wǎng)絡(luò)使用局部感知結(jié)構(gòu)的構(gòu)思理念，每一個(gè)卷積層節(jié)點(diǎn)只與前一層的部分節(jié)點(diǎn)相連接，即每一個(gè)節(jié)點(diǎn)只用來(lái)學(xué)習(xí)局部特征.

如圖1所示，第N層的每個(gè)節(jié)點(diǎn)只與第N-1層的3個(gè)節(jié)點(diǎn)連接，權(quán)值參數(shù)由15個(gè)減少到9個(gè)，參數(shù)量減少了40%. 這樣做的好處是加快了學(xué)習(xí)速率，降低過(guò)擬合的可能.

1.1.2權(quán)值共享

在卷積神經(jīng)網(wǎng)絡(luò)中，卷積核通過(guò)與輸入數(shù)據(jù)的不同區(qū)域做卷積運(yùn)算的方法檢測(cè)特征，相同的卷積核檢測(cè)相同的特征，所以相同的卷積核對(duì)應(yīng)的權(quán)值參數(shù)也是相同的.

如圖1所示，第N-1層到第N層的權(quán)值僅僅需要3個(gè)權(quán)值，在局部連接的基礎(chǔ)上參數(shù)數(shù)量又減少了66.7%. 這樣做不僅進(jìn)一步提高了學(xué)習(xí)的速率，而且在提取特征的過(guò)程中不需要考慮局部特征的位置.

1.2 故障特征提取

本文使用模擬電路的輸出電壓波形圖作為卷積神經(jīng)網(wǎng)絡(luò)的輸入，波形圖與手寫字體都可以看做是較為簡(jiǎn)單的二值圖像，如果將不同的故障模式看成是分類的標(biāo)簽，電路故障診斷和圖像識(shí)別本質(zhì)相同. 誕生于1994年，針對(duì)手寫字體識(shí)別設(shè)計(jì)的LeNet- 5是最早最成熟的的卷積神經(jīng)網(wǎng)絡(luò)之一，因此我們?cè)贚eNet- 5的基礎(chǔ)上進(jìn)行改進(jìn)以設(shè)計(jì)電路故障自動(dòng)提取器.

本文網(wǎng)絡(luò)模型改動(dòng)如下：1)C1層卷積核大小縮小為5×5，個(gè)數(shù)增加到8個(gè)，C1層降采樣后得到的S2層個(gè)數(shù)也增加到8個(gè)；C3層卷積核大小縮小為3×3，個(gè)數(shù)不變，改動(dòng)原因是相比手寫字體，模擬電路輸出的電壓波形圖采樣間隔較短，輸入數(shù)據(jù)量較大，因此縮小卷積核的大小，以達(dá)到減少參數(shù)，加快訓(xùn)練速率的目的. 同時(shí)為了盡可能的保證網(wǎng)絡(luò)精度，增加了卷積核的數(shù)量. 2)S4層的最大池化大小改為3×3，省略掉S2層. 原因是通過(guò)C1、C2層所得到的特征圖像已經(jīng)很小了，S2和S4層的本質(zhì)是進(jìn)行降采樣，對(duì)于已經(jīng)很小的特征無(wú)需進(jìn)行多次池化. 3)每一層的激活函數(shù)都由tanh改為RELU，原因是tanh在飽和區(qū)域變化較為平緩，在使用梯度下降法訓(xùn)練最優(yōu)解時(shí)，容易出現(xiàn)梯度消失的問(wèn)題，而RELU的梯度通常是常數(shù)，可以解決訓(xùn)練過(guò)程中的梯度消失問(wèn)題.

2 實(shí)驗(yàn)

2.1 數(shù)據(jù)采集

應(yīng)用二級(jí)四運(yùn)放高通濾波器仿真電路進(jìn)行故障診斷實(shí)驗(yàn)，電路如圖2所示.

容差允許范圍：電阻5%、電容10%，激勵(lì)信號(hào)為5 V，脈寬10 μs，周期20 μs的理想激勵(lì)信號(hào).[6]該電路故障模式共有12種，故障值與標(biāo)稱值參照文獻(xiàn)[7]設(shè)置，如表1所示. 單點(diǎn)采樣頻率為5萬(wàn)赫茲，1 ms內(nèi)共采集501個(gè)點(diǎn)，使用Pspice對(duì)正常模式及每種故障模式進(jìn)行50次高斯分布的蒙特卡洛分析，每種模式采集50組數(shù)據(jù). 其中35組數(shù)據(jù)作為訓(xùn)練集，剩余15組作為測(cè)試集.

表1 各元件標(biāo)準(zhǔn)值及故障值

2.2 卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練過(guò)程

2.3 支持向量機(jī)算法參數(shù)設(shè)置

Libsvm模型選擇C- SVC，核函數(shù)選擇RBF核，初始懲罰系數(shù)設(shè)置為3.

3 實(shí)驗(yàn)結(jié)果及分析

為對(duì)比不同特征提取算法，本文使用Haar小波分析+SVM應(yīng)用于四運(yùn)放高通濾波器電路，卷積神經(jīng)網(wǎng)絡(luò)與Haar小波針對(duì)相同的采樣數(shù)據(jù)分別從時(shí)域和頻域信號(hào)提取特征. 每種診斷方法分別對(duì)13種故障模式的測(cè)試集進(jìn)行診斷，診斷結(jié)果如表2所示.

表2 2種故障診斷方法診斷結(jié)果比較

從診斷結(jié)果中的測(cè)試準(zhǔn)確率可以發(fā)現(xiàn)，在使用相同分類器算法時(shí)，使用卷積神經(jīng)網(wǎng)絡(luò)提取的特征經(jīng)過(guò)分類測(cè)試后的準(zhǔn)確率有所提升，說(shuō)明使用卷積神經(jīng)網(wǎng)絡(luò)對(duì)模擬電路提取故障特征的方法是可行的. 相比Haar小波分析提取特征的方法，小幅度提升了準(zhǔn)確率的同時(shí)，省略了繁瑣的特征工程 . 另外本文實(shí)驗(yàn)中所使用的訓(xùn)練樣例相對(duì)較少，在應(yīng)對(duì)大規(guī)模模擬電路上百種故障時(shí)，使用小波分析這樣復(fù)雜的特征提取方法，需要極其豐富的專家經(jīng)驗(yàn)和巨大的時(shí)間成本. 相比之下，在應(yīng)對(duì)大規(guī)模數(shù)據(jù)問(wèn)題時(shí)，卷積神經(jīng)網(wǎng)絡(luò)不需要增加投入的成本，只需要適當(dāng)增加各層神經(jīng)元數(shù)量，就能夠增加抽取的特征，提高識(shí)別大規(guī)模數(shù)據(jù)的能力.

從診斷結(jié)果中支持向量機(jī)訓(xùn)練過(guò)程的迭代次數(shù)可以發(fā)現(xiàn)，雖然卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程犧牲了一些效率，但訓(xùn)練后的特征在輸入分類器診斷的過(guò)程中效率是haar小波特征提取方法的兩倍左右. 而且在實(shí)際的工程問(wèn)題中，卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程應(yīng)是在實(shí)際故障發(fā)生前，因此訓(xùn)練過(guò)程犧牲的效率是可以忽略不計(jì)的. 當(dāng)實(shí)際故障發(fā)生時(shí)，測(cè)試人員只需將針對(duì)某一類故障電路訓(xùn)練好的網(wǎng)絡(luò)模型調(diào)出即可完成測(cè)試，實(shí)際是提升了測(cè)試的效率.

4 結(jié)語(yǔ)

本文將卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用到模擬電路故障特征提取中，使得故障診斷系統(tǒng)可以使用模擬電路的電壓響應(yīng)信號(hào)作為原始輸入數(shù)據(jù)，取代了傳統(tǒng)特征工程中復(fù)雜的故障特征提取過(guò)程，降低了測(cè)試門檻，減少了人工成本. 同時(shí)結(jié)合支持向量機(jī)，對(duì)四運(yùn)放高通濾波器完成了模擬診斷試驗(yàn)，實(shí)驗(yàn)結(jié)果表明，相比小波分析，基于卷積神經(jīng)網(wǎng)絡(luò)的特征提取方法雖然增加了一定程度的訓(xùn)練時(shí)間，但減少了分類器診斷的時(shí)間，且分類準(zhǔn)確率獲得了一些提升，具備較好的實(shí)際應(yīng)用價(jià)值.