池明赫， 夏若淳， 羅青林， 張潮海， 曹津銘， 關毅， 陳慶國

(1. 哈爾濱理工大學 工程電介質(zhì)及其應用教育部重點試驗室，黑龍江 哈爾濱 150080；2.特變電工股份有限公司，新疆 昌吉 750306；3. 哈爾濱工業(yè)大學 電氣工程及自動化學院，黑龍江 哈爾濱 150006)

0 引 言

油浸式變壓器因其具有良好的電氣與機械的性能，作為關鍵設備被廣泛應用于高壓電網(wǎng)[1-2]。油浸變壓器內(nèi)絕緣主要是油紙組合絕緣，變壓器紙質(zhì)絕緣件在制造、裝配或運行過程中可能出現(xiàn)氣隙、金屬顆粒等缺陷。各類缺陷使得絕緣內(nèi)部的電場分布出現(xiàn)畸變，引發(fā)局部放電，進而對變壓器絕緣造成損傷，對變壓器的運行壽命產(chǎn)生影響[3-5]。有研究資料表明，變壓器安全事故中很大部分是因絕緣缺陷造成的[6-7]。因此，應對變壓器進行有效的局部放電檢測，在事故發(fā)生以前及時發(fā)現(xiàn)故障并進行排除[8-10]。

目前因國內(nèi)外學者在局部放電的研究對象與測量方式的不同，其分析與識別局部放電信號的方法也不盡相同。目前采用的機器學習的方法主要有K-鄰近法(K-nearest neighbors,KNN)[11-12]、決策樹與隨機森林(decision tree and random forest,DT&RF)[13]、K均值聚類分析法(K-means)[14]與支持向量機(support vector machine,SVM)[15]等。目前較為常見的方式是對局部放電圖譜包含的各類特征統(tǒng)計參量進行特征提取再運用機器學習的對局部放電信號進行分析[16]。浙江大學的杜浩等人研究了直流電壓下的交聯(lián)聚乙烯電纜的三種典型缺陷模型的局部放電特性，并通過局部放電參數(shù)的時域圖譜，提出四類統(tǒng)計特征圖譜以進行表征[17]。X.Peng等人提出了一種可用于電纜檢測系統(tǒng)的方法，該方法基于K-means方法且無需相位參考信息即可識別局部放電的模式[18]。朱永利等人以SVM回歸代替基于變量預測模型的模式識別方法(variable predictive model based class discriminate,VPMCD)中原有的多項式回歸，以樣本之間預測最小誤差平方和最小為依據(jù)進行放電模式識別，解決了原有方法對高維度小樣本數(shù)據(jù)預測精度差的問題，結果表明其較傳統(tǒng)的SVM與VPMCD方法的更為優(yōu)秀[19]。N.Pattanadech與Y.Zang等人運用主成分分析與KNN相結合的方法對局部放電類型進行識別，并研究了不同訓練集與測試集比例下的識別精度[20-21]。秦雪等人運用二維Littlewood-Paley經(jīng)驗小波變換的特征提取方法，分解四種電纜絕緣缺陷的φ-q-n局部放電圖譜，得到小波系數(shù)子圖并對其特征值進行提取，得到了相較傳統(tǒng)方法的更高精度的識別效果[22]。

以上常用的局部放電識別算法均屬于傳統(tǒng)機器學習范疇的算法。傳統(tǒng)的機器學習方法因其結構上過于簡單而需要提取更有效的特征量來解決實際問題[23]，同時也無法通過對訓練數(shù)據(jù)集的增加來對其進行持續(xù)改進[24]。因此其在運用層面已經(jīng)落后于當前主流的深度學習，深度學習因需求少、功能性優(yōu)化且能借助大數(shù)據(jù)以及算法和硬件的革命以實現(xiàn)更高的性能而受到了越來越多的關注[24]。深層神經(jīng)網(wǎng)絡(deep neural networks，DNN)是深度學習中基礎的網(wǎng)絡結構形式，其被廣泛應用于其他各領域，它是從傳統(tǒng)人工神經(jīng)網(wǎng)絡中的反向傳播神經(jīng)網(wǎng)絡(back propagation neural networks，BPNN)演變而來的。因不同研究對象及不同類型的局部放電性狀不同，基于DNN的識別效果也不同，但是卻少有基于上述情形而對DNN參數(shù)與結構的研究，尤其是針對變壓器油紙絕緣的局部放電類型識別問題上的優(yōu)化。

為此，本文提出一種基于局部放電信號及深層神經(jīng)網(wǎng)絡的油紙絕緣缺陷分類方法，以不同缺陷試樣在任意局部放電階段下的局部放電信號的特征算子作為模式識別的特征參量，利用DNN網(wǎng)絡實現(xiàn)油紙絕緣缺陷的類型識別。同時，本文探究DNN參數(shù)對于識別效果的影響，得到最適合于變壓器紙質(zhì)絕緣件內(nèi)部局部放電識別的DNN模型并與傳統(tǒng)及其學習方法對比了識別效果，驗證所提方法有效性。

1 試驗方法

1.1 試驗平臺及電極

本試驗在局部放電屏蔽室內(nèi)進行，按照圖1所示搭建局部放電測試系統(tǒng)。該局部放電測試系統(tǒng)主要包括調(diào)壓器T0，無局放試驗變壓器T1，保護電阻R1，分壓器R2C1、R3C2，耦合電容器Ck以及檢測阻抗Zm和采集系統(tǒng)X1。

圖1 試驗電路圖Fig.1 Diagram of test circuit

根據(jù)測量標準IEC60243-1:1998，本次試驗使用柱板電極，其中柱電極直徑為25 mm，附帶半徑為3 mm的邊緣倒角，板電極為直徑80 mm的圓盤，電極尺寸圖與實物圖如圖2所示。

圖2 柱板電極示意圖Fig.2 Schematic diagram of column-plate electrodes

1.2 缺陷模型的制作及加壓方式

本試驗依照實際工程運行條件下出現(xiàn)的缺陷類型制備了無缺陷紙板、含氣隙缺陷紙板和含金屬雜質(zhì)紙板進行局部放電測試，分別對應模擬紙質(zhì)絕緣件內(nèi)無缺陷但設計或制造不合理導致的油中放電、絕緣件內(nèi)含氣隙以及含金屬雜質(zhì)導致的絕緣件內(nèi)部放電。仿照目前工程上制備電氣絕緣紙板的方式，以電工級的未漂針葉木材硫酸鹽紙漿為原材料，經(jīng)紙漿打漿、疏解、稱取、瀝水操作后，在紙板未干燥時把紙板分成兩份，將聚酯膜置于兩張濕紙板之間，進行壓榨和烘干，抽去聚酯膜制成含氣隙缺陷紙板試樣；制作含金屬雜質(zhì)紙板時將上述過程中的聚酯膜替換為金屬薄片，且壓制烘干后將金屬片留在紙板中，試樣尺寸如圖3所示。

圖3 缺陷尺寸圖Fig.3 Diagram of defect size

升壓方式上采用恒壓法與階梯升壓法結合的升壓方式[25-26]。首先，以每次2 kV的步長開始升壓，每次進行一次升壓操作后維持該電壓5 min，以觀察局部放電信號是否出現(xiàn)(選取3 pC作為起始局放量)。記錄下首次出現(xiàn)局部放電信號時的電壓值，然后再以每次2 kV的速率升壓至上述電壓的1.5倍數(shù)值附近后獲取較為穩(wěn)定的局部放電信號。

1.3 局部放電信號采集與處理

選取尺寸相同的3種試樣模型進行局部放電試驗，并從放電起始時刻至臨近擊穿時刻隨機采集數(shù)據(jù)，總共1 200組放電信號數(shù)據(jù)。按著上述試驗方式采集到的無缺陷紙板、含氣隙紙板和含金屬雜質(zhì)缺陷紙板各自在不同階段的局部放電二維圖譜如圖4所示。從圖4的局部放電圖譜可以看出，這3種局部放電信號圖譜具有一定的相似性，難以通過直觀識圖判斷是何種缺陷導致的放電，應用智能識別算法是解決該問題的有效途徑。

圖4 試樣局部放電特性圖Fig.4 PD characteristic diagram of sample

隨著統(tǒng)計學在高壓與絕緣領域上的應用，基于放電統(tǒng)計圖譜的局部放電類型識別成為了當前研究的熱點，通過對局部放電的各類圖譜進行統(tǒng)計特征提取，得到能夠定量描述圖譜形態(tài)及其變化情況的特征參數(shù)，能夠很大程度上提升對局部放電的模式識別的效果[27-28]。常用的統(tǒng)計參數(shù)有偏斜度Sk、峭度Ku、不對稱度Asy、互相關系數(shù)CC以及Weibull參數(shù)α、β。偏斜度與峭度分別代表圖譜的偏斜程度和圖譜分布特性，不對稱度代表放電量相對于相位的不對稱度；互相關系數(shù)用以表征不同類型圖譜在正負半周上的形狀分布相似程度，Weibull參數(shù)α為圖像的尺度參數(shù)、β為圖像的形狀參數(shù)。以上參數(shù)的計算公式如表1所示，所提取到的統(tǒng)計參數(shù)如表2所示。

表1 統(tǒng)計特征量參數(shù)

表2 用于局部放電識別的特征量

提取的部分特征參數(shù)如圖5所示，通過對3種試樣的部分特征參量的比較可以看出，它們的特征量在整體分布上沒有明確的規(guī)律，同時其分散性不佳，因此不能直接用其進行局部放電類型的識別。鑒于神經(jīng)網(wǎng)絡方法在分類與聚類問題已有一定規(guī)模的運用，其效果遠高于人工識別分類。將局部放電圖譜統(tǒng)計參數(shù)與深層神經(jīng)網(wǎng)絡結合，對不同缺陷局部放電進行識別。

圖5 不同試樣的部分統(tǒng)計特征量比較Fig.5 Comparison of partial statistical features of different samples

2局部放電模式識別

2.1 深層神經(jīng)網(wǎng)絡的結構與運行

深層神經(jīng)網(wǎng)絡的結構包括輸入層、隱含層以及輸出層。深層神經(jīng)網(wǎng)絡相比于BP神經(jīng)網(wǎng)絡具有更多的隱含層，使得深層神經(jīng)網(wǎng)絡具有更優(yōu)異的非線性模擬能力與特征學習能力[29]。在FAN Fenglei等人[30]的啟發(fā)下采用了一種三階神經(jīng)元的深層神經(jīng)網(wǎng)絡，其較單階神經(jīng)元具備更優(yōu)異的非線性模擬能力，同時不像更高階神經(jīng)元那樣引起過擬合，其結構如圖6所示。

圖6 深層神經(jīng)網(wǎng)絡與三階神經(jīng)元Fig.6 Structures of DNN and the three-order neuron

深層神經(jīng)網(wǎng)絡的前向運算為輸入值向量x與權值矩陣W以及偏差向量b進入神經(jīng)元后通過激活函數(shù)F(x)的運算獲得激活值的過程。從輸入層開始逐層運算，上一層的輸出值作為下一層的輸入，在神經(jīng)元中進行運算并產(chǎn)生新的輸出矩陣Z，依此層層運算至輸出層并得到輸出為止。表達式為

Zi=F(Wi·xi-1+bi)。

(1)

式中：Zi表示第i層的輸出向量；Wi表示上一層連接第i層的權值矩陣；xi-1表示來自第i-1層的輸出向量；bi表示第i層的偏差向量；F(x)表示激活函數(shù)，由于Tanh函數(shù)具有較好的非線性擬合特性，神經(jīng)元內(nèi)處理目的是讓神經(jīng)元具有更強的非線性擬合能力，因此在此采用Tanh函數(shù)。

在上述基礎上使用三階神經(jīng)元，其使神經(jīng)元內(nèi)每個預激活值被分別激活三次，以獲得更好的非線性模擬能力，其表達式為：

(2)

2.2 深層神經(jīng)網(wǎng)絡的參數(shù)尋優(yōu)

神經(jīng)網(wǎng)絡的誤差優(yōu)化算法、學習率以及隱含層層數(shù)會對神經(jīng)網(wǎng)絡運行的迭代速度與誤差下降速率產(chǎn)生影響，進而影響識別過程中的識別效率。因此對影響神經(jīng)網(wǎng)絡分類的因素進行對比，從而尋找變壓器紙質(zhì)成型件的局部放電類型識別的最適合神經(jīng)網(wǎng)絡模型。將總共采集到1 200組數(shù)據(jù)以8∶2劃分為訓練數(shù)據(jù)集與測試數(shù)據(jù)集，以圖7所示的流程運行神經(jīng)網(wǎng)絡。

圖7 神經(jīng)網(wǎng)絡的訓練測試流程圖Fig.7 Flow chart of neural network training and testing

適合的優(yōu)化算法會使神經(jīng)網(wǎng)絡在運行過程中損失函數(shù)做到快速減少，達到較高的識別精度。為對比優(yōu)化算法對運行效果影響，在使用64-32-32-16(數(shù)字代表每層隱含層的神經(jīng)元數(shù)量)的4層結構作為神經(jīng)網(wǎng)絡結構(經(jīng)初步測試該結構的擬合度較高、不易出現(xiàn)欠擬合或過擬合)、控制神經(jīng)網(wǎng)絡其他參數(shù)不變、暫定學習率為0.01的情況下，對神經(jīng)網(wǎng)絡在使用梯度下降法、RMSProp算法與Adam算法情況下?lián)p失函數(shù)的下降情況和訓練集識別精度進行了對比，不同優(yōu)化算法下?lián)p失函數(shù)曲線如圖8所示?？梢钥闯?，相比于梯度下降法，Adam算法收斂效果較好，且不像梯度下降法那樣易走向局部最優(yōu)。同時Adam算法的收斂表現(xiàn)也不像RMSProp算法那樣表現(xiàn)出較大程度的振蕩并最終難以收斂。運用Adam算法后損失函數(shù)在大約750次迭代后趨于穩(wěn)定。不同優(yōu)化算法的訓練集精度隨迭代次數(shù)的變化曲線如圖9所示?？梢钥闯鯝dam算法具備高識別精度的優(yōu)勢，且不像RMSProp算法那樣隨著迭代次數(shù)增加而精度出現(xiàn)振蕩現(xiàn)象，Adam算法不僅收斂速度快而且在收斂過程中精度一直處于穩(wěn)定的狀態(tài)。

圖8 3種優(yōu)化算法的損失函數(shù)變化Fig.8 Changes in the loss function of the three optimization algorithms

圖9 3種優(yōu)化算法下訓練集精度變化曲線Fig.9 Variation curve of training set accuracy under different optimization algorithms

學習率會影響神經(jīng)網(wǎng)絡的誤差優(yōu)化算法的表現(xiàn)，因此這里對不同神經(jīng)網(wǎng)絡的學習率進行參數(shù)尋優(yōu)，對比在學習率為0.1、0.01、0.001、0.000 1的情況下優(yōu)化算法的表現(xiàn)，以使神經(jīng)網(wǎng)絡獲取更好的訓練集的學習和測試集的識別效果?？刂粕窠?jīng)網(wǎng)絡其他參數(shù)不變，神經(jīng)網(wǎng)絡結構采用64-32-32-16的4層結構的，優(yōu)化算法采用上述已優(yōu)選的Adam算法，不同學習率的損失函數(shù)變化曲線如圖10所示?？梢钥闯觯攲W習率為0.1時，損失函數(shù)幾乎不變，而當學習率為0.000 1時，損失函數(shù)曲線則是一條下降的曲線，直到1 000次迭代后仍是發(fā)散狀態(tài)。這說明學習率過高，步長過大，使得函數(shù)無法做到收斂；學習率過低，步長過小，使得計算量極大，損失函數(shù)收斂速度極慢，由此說明應設定一個適中的學習率以兼顧收斂性與收斂速度，對比學習率為0.01與0.001時的收斂性與收斂速度，可以看出后者的收斂性與收斂速度更優(yōu)，因此最終將學習率設定為0.001。

圖10 3種學習率的損失函數(shù)變化Fig.10 Changes in the loss function of the three learning rates

神經(jīng)網(wǎng)絡的深度是神經(jīng)網(wǎng)絡參數(shù)中一個很重要的參數(shù)，神經(jīng)網(wǎng)絡的深度由隱含層的層數(shù)來表征，其在很大程度上影響該神經(jīng)網(wǎng)絡的非線性模擬能力與特征學習能力。控制神經(jīng)網(wǎng)絡其他參數(shù)不變，選擇前文已優(yōu)選的Adam算法和0.001為損失函數(shù)的優(yōu)化算法與學習率，以此選取合適的深度。共對比3種隱含層結構的神經(jīng)網(wǎng)絡，如表3所示，其中64-32-32-16表示共有4個隱含層，其神經(jīng)元數(shù)量依次為64、32、32、16，其他結構同理。

表3 用于對比的隱含層結構

這3種隱含層結構之所以選擇64、32、16的組合是因為輸入的特征量為16個，在此基礎上成倍數(shù)選擇神經(jīng)元。經(jīng)過初步測試后，在表3所示的這3種隱含層結構的擬合度最高，未出現(xiàn)欠擬合或者過擬合，由此選擇這3種結構進行比較。不同隱含層數(shù)下的損失函數(shù)曲線如圖11所示?？梢钥闯鯣roup 2為相對最優(yōu)選擇，其既不使損失函數(shù)下降速率相對過慢，且在達到相似效果的前提下(Group 2與Group 3曲線高度重合)具有較Group 3更為簡單的結構，網(wǎng)絡的結構過深、過復雜的網(wǎng)絡結構會使網(wǎng)絡的運行陷入梯度消失現(xiàn)象或梯度爆炸現(xiàn)象，由此采用Group 2的結構作為神經(jīng)網(wǎng)絡的隱含層結構。

圖11 3種隱含層的損失函數(shù)變化Fig.11 Changes in the loss function of the three type of hidden layers

根據(jù)上述結果建立了被優(yōu)化的深層神經(jīng)網(wǎng)絡，其神經(jīng)元為三階神經(jīng)元；隱含層結構為Group 2：64-32-32-32-16；損失函數(shù)優(yōu)化方案選擇為Adam算法+0.001的學習率。依據(jù)圖7所述的流程對優(yōu)化的深層神經(jīng)網(wǎng)絡進行訓練與測試，并與相同條件下的使用KNN、SVM和BP神經(jīng)網(wǎng)絡的結果進行對比，其結果以混淆矩陣的形式呈現(xiàn)，如圖12所示。可以看出，優(yōu)化后的深層神經(jīng)網(wǎng)絡的表現(xiàn)優(yōu)于其他三者的表現(xiàn)，前者的整體正確識別率已超過90%。

圖12 不同方法的識別結果的混淆矩陣Fig.12 Confusion matrix of classification results with different methods

以上結果可以看出，采用深層神經(jīng)網(wǎng)絡+三階神經(jīng)元的結構處理局放特征量的方式，對無缺陷、含氣隙缺陷以及含金屬雜質(zhì)缺陷的絕緣紙試樣識別率可以達到91.6%以上，能夠有效識別紙質(zhì)絕緣件含缺陷導致的故障。在實際運用中，含氣隙缺陷和金屬雜質(zhì)缺陷為主要的缺陷類型，因此該方法便于對變壓器紙質(zhì)絕緣件缺陷導致故障的快速處理。當局放超標，對局放特征分析結果為絕緣件含氣隙或金屬雜質(zhì)時，可將篩查目標首先定位為紙質(zhì)絕緣件，采用X光重點檢查；分類結果為無缺陷時，應檢查絕緣件是否有變形或安裝不到位導致的油中放電。

3 結 論

1)運用Adam算法使損失函數(shù)能迅速下降并收斂，識別準確率相對最佳;當學習率設置為0.001時,使用Adam損失函數(shù)能迅速下降并收斂；當深層神經(jīng)網(wǎng)絡隱含層結構為64-32-32-32-16時，神經(jīng)網(wǎng)絡性能達到最優(yōu)且未出現(xiàn)過擬合。

2)采用深層神經(jīng)網(wǎng)絡+三階神經(jīng)元的結構處理局放特征量的方式，對無缺陷、含氣隙缺陷以及含金屬雜質(zhì)缺陷的絕緣紙試樣識別率可以達到91.6%，優(yōu)于傳統(tǒng)KNN、SVM和BP神經(jīng)網(wǎng)絡的表現(xiàn)，進而能夠有效識別紙質(zhì)絕緣件含缺陷導致的故障，便于對變壓器紙質(zhì)絕緣件缺陷導致故障的快速處理。