趙 珣， 陳 帥， 邱海洋

（1.遼寧石油化工大學 信息與控制工程學院，遼寧 撫順 113001； 2.廣州航海學院 船舶與海洋工程學院，廣東 廣州 111006）

變壓器是送變電中最重要的電氣設備，其運行方式直接影響電力系統(tǒng)的正常運轉，進而影響向用戶供電，一旦發(fā)生故障不僅消耗大量人力、財力及時間，影響社會生產，還有可能威脅人身安全[1]。傳統(tǒng)變壓器故障診斷采用特征氣體法進行人工判別，其判別過程取決于經驗，因此存在人為判斷錯誤等隱患。此外，對變壓器的絕緣檢修，需要對被測試的變壓器進行停電處理，且對變壓器定期檢修時更換的未超過使用壽命的設備或零部件造成資源的浪費，降低電力系統(tǒng)的經濟性[2]。隨著計算機科學與技術學科的發(fā)展，機器學習方法的研究與應用受到了眾多學科學者的廣泛重視，并且取得了許多方面的突破，其在電力變壓器故障診斷中的應用也必將成為電力設備故障診斷的趨勢，旨在改善變壓器故障診斷的有效性和可靠性，提高電力系統(tǒng)維護的經濟性。

在提高故障診斷準確度方面，B.YILDIZ 等[3]綜合利用混合智能系統(tǒng)實現(xiàn)了核電站大型復雜機電系統(tǒng)的在線監(jiān)測、故障診斷和預知維修。P.CHEN等[4]在故障機理與特征提取等實用技術方面進行了大量研究，但模型有非常多的局限性，準確度受干擾大。J.RAFIEE 等[5]在基于小波變換的信號處理與特征提取技術方面進行了深入探索，利用自相關函數(shù)消除了連續(xù)小波變換的缺點，引入連續(xù)小波系數(shù)的自相關特性作為機器狀態(tài)監(jiān)測中故障識別的原始模式，使振動信號減小，有效頻率成分的損失最小。李可軍等[6]使用核極限學習機對頂層油溫度以及環(huán)境因素之間的關系進行擬合預測，使用粒子群算法優(yōu)化混合核函數(shù)參數(shù)，取得了較好的成果。王曉霞等[7]提出用粒子群算法優(yōu)化神經網絡，結果表明可自動對參數(shù)進行調節(jié)，加快收斂速度。徐文等[8]提出用遺傳算法優(yōu)化神經網絡，使神經網絡得到最優(yōu)權值的時間縮短，增加神經網絡的收斂性和準確度。趙婉芳等[9]提出了一種以最小二乘法建立支持向量機模型，并根據(jù)多種環(huán)境因素對變壓器故障進行診斷的方法。隨著更加復雜的神經網絡的出現(xiàn)，更多的深度學習方式被運用到故障診斷方向。I.B.M.TAHA 等[10]提出了一種適用于噪聲環(huán)境下的改進卷積神經網絡方法，該方法提高了原有卷積神經網絡模型的準確率，但是卷積神經網絡模型對時序數(shù)據(jù)的分類效果并不是很好，不能有效地對數(shù)據(jù)進行時序上的特征提取。為了使神經網絡更好地考慮時序特征，范曉丹等[11]提出了使用長短時記憶網絡（Long Short-Term Memory Network, LSTM）進行變壓器故障診斷，此方法比卷積神經網絡的效果好。但是，當訓練次數(shù)增多時，模型的穩(wěn)定性難以得到保證，長時序的準確性下降。為了提高模型的穩(wěn)定性，吳曉欣等[12]提出了一種考慮復雜關聯(lián)特性的雙向循環(huán) 神 經 網 絡（Bidirectional Recurrent Neural Network，Bi-RNN），雖然與RNN 模型相比Bi-RNN穩(wěn)定性更高，能夠考慮的關聯(lián)特性更多，但是模型的泛化能力不高，只能在特定的訓練集上才能得到較好的訓練結果。

針對當前LSTM 對時序特征量進行數(shù)據(jù)分析的模型過于簡單、只能考慮單一時序、對故障數(shù)據(jù)識別不夠理想的問題，本文提出一種基于雙向LSTM并與多核SVM 相結合的優(yōu)化算法。增加一條反向時序的LSTM，模型能夠考慮未來時刻的特征量，增加模型能夠考慮的影響因素，提高模型對故障數(shù)據(jù)的識別能力。使用支持向量機（Support Vector Machines,SVM）代替softmax 函數(shù)實現(xiàn)故障分類，以提高泛化能力。在單核支持向量機中,單一核函數(shù)對個別異常數(shù)據(jù)難以進行分類,導致分類器分類能力受到影響，而采用多核學習可使多個核函數(shù)融合成為新的核函數(shù)，提高分類器對異常數(shù)據(jù)的分類能力。選取變壓器故障時油中的溶解氣體為特征氣體，以其濃度作為數(shù)據(jù)集，對模型進行了交叉檢驗，仿真實驗結果驗證了本文提出的改進Bi-RNN 的變壓器故障診斷模型的有效性和準確性。

1 雙向循環(huán)神經網絡變壓器故障診斷原理

對油中溶解氣體進行準確預測，能更加有效地了解變壓器的運行狀態(tài)，對故障做出及時判斷。油中溶解氣體分析(Dissolved Gas Analysis，DGA)方法具有操作簡單、抗干擾能力強等優(yōu)點。DGA 方法按照時間順序不間斷地對一個固定時間段的變壓器油中溶解氣體數(shù)據(jù)進行采集，是一種典型的時序數(shù)據(jù)。因此，可將Bi-RNN 作為模型的特征提取部分，對變壓器油中的時序數(shù)據(jù)進行特征提取。為了保證循環(huán)神經網絡的時序特征提取能力和實際應用的可靠性，本文采用循環(huán)神經網絡中時序提取能力較好且運行穩(wěn)定的LSTM。

1.1 變壓器的DGA 方法

變壓器故障一般可以分為電故障、熱故障和機械故障三種。但是，由于機械故障的頻率最低，且在發(fā)生時伴隨著熱故障和電故障，因此變壓器故障的主要分析對象為熱故障和電故障兩種。

當變壓器在故障運行過程中，變壓器的絕緣油因為放電作用和熱作用發(fā)生氧化和裂解反應，絕緣油的主要組成物碳氫化合物會產生氫氣和低分子烷烴類、烯烴類和炔烴類等氣體。根據(jù)故障嚴重程度的不同，每種氣體體積分數(shù)的上升速率也不同；根據(jù)產生的氣體種類及其體積分數(shù)的不同，對變壓器故障類型可進行大致判斷。不同故障下的特征氣體如表1 所示。

表1 不同故障下的特征氣體

根據(jù)表1 中不同故障下的特征氣體種類，以變壓器絕緣油被電解產生的幾種特征氣體為參量，在不同的運行狀態(tài)下對特征氣體的體積分數(shù)和產生速率進行分析，就能評估變壓器的運行狀態(tài)，進而確定變壓器的故障類型。該分析方法具有支持帶電在線檢測，不受電、磁信號場影響，操作方式簡單等優(yōu)點，在變壓器狀態(tài)監(jiān)測和故障診斷領域中取得了最為廣泛的應用[13-15]。在正常運行的變壓器中，由于絕緣油和絕緣固體材料的緩慢分解和氧化，會產生微量的CO、CO2氣體，相較于其他特征氣體，CO、CO2氣體的測量誤差更加難以控制，并且可判斷的故障種類較少，其對故障種類的判斷幫助較小，因此本文未將其作為實驗特征氣體。H2、CH4、C2H4、C2H2、C2H6等五種氣體在氣體體積分數(shù)的檢測中得到的結果更加準確，并且能夠準確地確定變壓器故障類型。為此，本文變壓器故障數(shù)據(jù)選取H2、CH4、C2H4、C2H2、C2H6作為實驗用的五種特征氣體。

1.2 長短時記憶網絡

循環(huán)神經網絡（Recurrent Neural Network,RNN）的神經元結構具有自反饋功能，可以同時保留當前時刻和先前的信息，并用于計算當前的輸出。但是，當采用RNN 模型對長時間序列數(shù)據(jù)進行分析時，其訓練過程中延時反向傳播有梯度爆炸、消失問題，所以RNN 模型對長序列數(shù)據(jù)的分析能力不好[16]。LSTM 在一般循環(huán)網絡的基礎上增加了門控單元，是一種能夠較為長時間保存?zhèn)鬟f時序信息的循環(huán)神經網絡模型。為了增加神經網絡對時序數(shù)據(jù)特征提取的準確度，以LSTM 模型為基礎，引入反向時序長短時記憶網絡，增加特征氣體對時序信息的依賴程度,提高模型對氣體預測的正確率。

LSTM 的時序圖如圖1 所示，圖中虛線框內為LTSM 的基本單元結構圖。在LSTM 基本單元結構圖中，Xt為當前時刻的輸入，ct-1為前一時刻記憶單元中的值，激活函數(shù)σ一般選擇sigmoid 函數(shù)。LSTM 的特點是設置了門控機制，整個門控機制包括遺忘門、輸入門和輸出門三個部分[17]。LSTM 的輸出是由門控單元與輸入共同決定的，如式（1）-（5）所示。

圖1 LSTM 的時序圖

式中：Wf、Wi、Wo分別為遺忘門、輸入門、輸出門的權重；bf、bi、bo分別為遺忘門、輸入門、輸出門的偏置；g()和h( )分別表示Xt→ct、ct→Yt的映射關系；·表示矩陣相乘；ct包含輸入狀態(tài)和歷史狀態(tài)，可增加神經網絡的穩(wěn)定性，也可解決RNN 中經常出現(xiàn)的梯度消失問題。

在變壓器油溶解氣體數(shù)據(jù)中，某一時刻的數(shù)據(jù)與前一時刻的數(shù)據(jù)有緊密的聯(lián)系，一般的神經網絡無法找到這種聯(lián)系，從而限制模型預測的準確率。LSTM 因為記憶單元的存在可以存儲一定時間尺度的歷史數(shù)據(jù)，這樣的結構使LSTM 在處理時序特征數(shù)據(jù)時有極大的優(yōu)勢。

2 基于多核學習支持向量機的Bi-RNN 診斷模型

一般RNN 將Softmax 函數(shù)作為分類函數(shù)使用，但是分類效果取決于RNN 對數(shù)據(jù)分析的好壞，并且泛化能力不高。為了解決這個問題，使用SVM替換循環(huán)神經網絡中的Softmax 函數(shù)。當RNN 結合時序信息對變壓器油中溶解氣體進行分析時，在分類空間的邊緣常常會出現(xiàn)一些異構數(shù)據(jù)，單核支持向量機很難對其進行處理，所以經常會采取忽略的處理方式。為了能夠更加有效地利用處理后的異構數(shù)據(jù)，采用一種多種核函數(shù)結合產生的多核學習支持向量機（Multi - Kernel Learning Support Vector Machines，MKL-SVM）。

2.1 數(shù)據(jù)預處理

將H2、CH4、C2H4、C2H2、C2H6五種特征氣體的體積與總體積之比作為模型的輸入，并按照式（6）對數(shù)據(jù)做歸一化處理。

式中：為歸一化后的數(shù)據(jù)；xi(i=1,2,3,4,5)分別為H2、CH4、C2H4、C2H2、C2H6五種特征氣體歸一化之前的體積分數(shù)。

2.2 Bi-RNN 結構

一般RNN 的數(shù)據(jù)分析依據(jù)時間序列來進行，需要參考前一時刻的數(shù)據(jù)預測未來數(shù)據(jù)的變化。當數(shù)據(jù)處理需要聯(lián)系前后時刻或者數(shù)據(jù)對時間依賴性較強時，這樣的網絡結構往往會產生較大的誤差。此外，這類神經網絡的訓練需要大規(guī)模的訓練樣本，如果訓練樣本中的元素較少，那么很可能難以得到理想的模型[18]。為此，本文在原有RNN 模型的基礎上，增加了一條反向時序的RNN，兩條RNN在同一時刻共享輸入層和輸出層。Bi-RNN 結構圖如圖2 所示。

圖2 Bi-RNN 結構圖

由圖2 可知，RNN 有兩個循環(huán)層；數(shù)據(jù)同時輸入正向時序和反向時序，W2 為正向時序，W5 為反向時序；W1 進入正向時序，W3 進入反向時序；W4和W6 共同構成輸出層。與一般神經網絡不同，RNN 中的正向循環(huán)層和反向循環(huán)層并不相互連接，能有效地防止自循環(huán)現(xiàn)象出現(xiàn)。

2.3 SVM

在故障數(shù)據(jù)分類過程中，RNN 采用Softmax 函數(shù)，但該函數(shù)并不能在廣泛的故障中都具有良好的表現(xiàn)，只有當各類互斥時才能有好的分類能力[19]。SVM 在分類任務中具備良好的分類效果和泛化能力，與RNN 結合進行數(shù)據(jù)的分析與分類是比較常見的故障診斷方式。將LSTM 模型與SVM 分類器相結合得到的LSTM-SVM 模型，可以同時發(fā)揮LSTM 對長序列信息的處理能力和SVM 對低維特征數(shù)據(jù)的分類能力[20]。

SVM 的主要思想就是分類學習，對于給定的訓練樣本集，在樣本空間中找到一個分類超平面作為決策邊界，以分開不同類別的樣本[21]。超平面劃分兩類樣本的示意圖如圖3 所示。圖3 中，ω為輸入量的權重；b為數(shù)值的偏移量；x為輸入的數(shù)據(jù)集。

圖3 超平面劃分兩類樣本的示意圖

超平面可通過式（7）來描述。

樣本點在樣本空間中滿足式（8）。

式中：y為劃分類的超平面。

樣本空間中距離超平面最近的點稱之為“支持向量”，兩個類的支持向量到超平面的距離之和為：

使數(shù)據(jù)集到超平面的幾何間隔最大，可以得到SVM 的基本形式，即：

從式（10）可以看出，SVM 的求解本身是一個凸二次規(guī)劃問題，使用拉格朗日乘子法，由式（10）可以得到一個對偶問題。該對偶問題的拉格朗日函數(shù)可以用式（11）來表達：

式中：α=(α1,α2,…,αm)。分別將拉格朗日函數(shù)L對ω和b求偏導，并令其為零，得函數(shù)的最優(yōu)解：

將式（12）和式（13）代入式（11），可以得到對偶問題：

根據(jù)式（8）、（12）、（13），可得模型：

對非線性可分的情況，在特征空間中超平面對應模型為：

式中：φ(x)是將二維樣本x映射到更高維的特征空間后產生的表達方式。

根據(jù)式（11）、（12）、（13）可以得到一個新的對偶問題：

需要找到一個函數(shù)K(xi,xj)=φ(xi)φ(xj),即SVM 的核函數(shù)。通常使用的核函數(shù)有線性核、高斯核、多項式核以及Sigmoid 核。

2.4 多核學習

一般在SVM 中使用單核結構，都是基于單個特征空間進行分類，對于核函數(shù)的選擇需要根據(jù)實際需要進行判斷，然后按照經驗進行選擇，并設定不同的參數(shù)。這樣的核函數(shù)設計并不方便，而且SVM 很難對訓練樣本中的特異數(shù)據(jù)進行訓練，導致分類器的準確率降低。

為解決單核支持向量機存在的上述問題，本文采用多種核函數(shù)組合的方式，建立了MKL-SVM 模型，通過MLK 來提高SVM 對復雜數(shù)據(jù)的適應能力。MKL 將多個子核整合到一個統(tǒng)一的優(yōu)化框架內以尋求最佳組合，使用多核模型可提升學習模型的性能，同時獲得可解釋的決策函數(shù)[22]。通過采用MLK 的方式，改變單核支持向量機對少數(shù)特異數(shù)據(jù)的分類效果，提高故障數(shù)據(jù)的分類準確度。

MLK 中的核函數(shù)由多個基本核函數(shù)組合而成，即：

式中：n為核函數(shù)的總數(shù)，λi為每個核函數(shù)的權值。在計算每個核函數(shù)的權值之前，需要得到每個核函數(shù)的核矩陣：

在得到核矩陣之后，根據(jù)訓練數(shù)據(jù)集中的特征向量計算得到特征矩陣M。為了得到每個核函數(shù)的權值，首先用每個矩陣的跡tr(K)、tr(M)來表征每個矩陣的特點，然后計算每個tr(K)、tr(M)的歐式距離：

再將核矩陣代入特征矩陣，得到每個核矩陣對特征的重要程度：

最后，分別計算每個核函數(shù)的權值：

2.5 基于MKL-SVM 的Bi-LSTM 模型的故障診斷計算步驟

在基于MKL-SVM 的Bi-LSTM 模型中，將時間步長設置為1，采集每一時刻五種特征氣體數(shù)據(jù)，并將其通過式（6）進行預處理，得到提取特征之后的新樣本；將新樣本輸入至MKL-SVM，采用序列最小優(yōu)化算法（Sequential Minimal Optimization，SMO）對MKL-SVM 求解。

通過SMO 將式（14）中除αi、αj以外的所有參量全部固定，然后求αi、αj的極值，循環(huán)執(zhí)行這兩步直至收斂?；贛KL-SVM 的Bi-LSTM 模型的程序流程圖如圖4 所示，其對應的計算步驟如下。

圖4 基于MKL-SVM的Bi-LSTM模型的程序流程圖

步驟一：對氣體數(shù)據(jù)進行預處理。

步驟二：通過Bi-LSTM 對數(shù)據(jù)進行處理，處理過程如下：

①設置時間步長為1，初始化輸入門、輸出門、遺忘門參數(shù)W和b，初始學習率。

②輸入前時刻的隱層狀態(tài)Yt-1和當前時刻的輸入值Xt，根據(jù)式（1）、（2）、（3）計算當前時刻遺忘門的值ft、輸入門的值it、輸出門的值ot。

③計算當前時刻記憶值ct，按照式（4）進行計算。

④根據(jù)式（5）計算當前時刻輸出值Y1t。

⑤按照步驟②、③、④進行反向時序LSTM 前向計算流程，得到當前時刻輸出值Y2t。

⑥將當前時刻的輸出值求和得到Yt：

⑦按照時間步長，返回步驟②，對下一時刻進行計算，得到Yt+1。

⑧完成一次訓練后對權重參數(shù)進行更新：

式中：gt為時間步梯度，?J為門控函數(shù)對W的偏導。

式中：mt是梯度的指數(shù)移動平均數(shù)，m0默認為0；β1為指數(shù)衰減率，控制權重分配，通常取接近于1 的值，默認為0.9。

式中：vt為梯度平方的指數(shù)移動平均數(shù)，v0初始化為0；β2為指數(shù)衰減率，控制之前的梯度平方的影響情況，默認為0.999。

由于m0初始化為0，會導致mt偏向于0，尤其在訓練初期階段。所以，此處需要對梯度均mt進行偏差糾正，降低偏差對訓練初期的影響。同理，對vt進行糾正：

式中：α為學習率，更新參數(shù)。

⑨當W的變化量小于0.001 時更新停止，學習過程結束，輸出當前特征向量，否則轉到步驟②。

步驟三：將LSTM 得到的特征提取后的特征向量x輸入MKL-SVM 中，MKL-SVM 選取不同組合的核函數(shù)按照式（20）的方式進行組合。

步驟四：通過式（19）、（20）、（21）和式（22）確定多核系數(shù)，多種組合方式分別對x進行分類，最后輸出最優(yōu)組合與正確率。

3 實驗分析

3.1 訓練集的選擇

本實驗采集了500 kV 岷珠變電站變壓器多種故障條件下的油中溶解氣體數(shù)據(jù)，將不同的數(shù)據(jù)片段組合后作為數(shù)據(jù)集。五種特征氣體的體積分數(shù)曲線如圖5 所示。

對于油中溶解氣體集合，采用交叉檢驗的方式把數(shù)據(jù)集劃分為訓練集和驗證集，交叉檢驗次數(shù)為5，訓練集用于模型的訓練，通過驗證集對模型的準確率進行評估，這樣劃分能夠避免模型出現(xiàn)過擬合的現(xiàn)象。訓練集和驗證集的劃分一般依據(jù)數(shù)據(jù)集的大小。對于規(guī)模大的數(shù)據(jù)集，采用比較小的訓練集就可以滿足模型訓練的要求；對于規(guī)模比較小的數(shù)據(jù)集，需要劃分一個比較大的訓練集來完成模型的訓練。在劃分訓練集的同時，還需要一定的驗證集樣本來保證模型的泛化程度。在本次實驗中使用的數(shù)據(jù)樣本規(guī)模較小，因此80%的數(shù)據(jù)集作為訓練集，20%的數(shù)據(jù)集為驗證集。

通過對表1 中各種變壓器的代表性故障特征氣體的研究，結合實際生產中經常遇到的故障，為在實際操作中更快地處理故障并且提高模型分類的準確率，將多種故障按照故障性質進行總結與歸納，把變壓器的故障分為六類：正常0、局部放電1、低能放電2、高能放電3、中低溫過熱4、高溫過熱5。

3.2 訓練次數(shù)的選擇

Bi-LSTM 的訓練集和驗證集的正確率如圖6所示。從圖6 可以看出，在訓練次數(shù)大于300 時，驗證集的正確率明顯下降，模型訓練存在過擬合現(xiàn)象。因此，為了達到最佳的訓練效果，將訓練次數(shù)設定為300。

圖6 Bi-LSTM 的訓練集和驗證集的正確率

3.3 時序數(shù)據(jù)特征提取性能分析

為了驗證Bi-RNN 提升時序分析準確度方面的有效性，將訓練集數(shù)據(jù)分別輸入Bi-LSTM、LSTM、RNN 以及卷積神經網絡（Convolutional Neural Networks, CNN）四種模型進行訓練，使用訓練后的模型對驗證集進行特征提取，對比四種模型的正確率。為了保證對模型時序體征提取能力無干擾，四種模型使用相同的Softmax 函數(shù)作為分類器。

四種模型的時序數(shù)據(jù)特征提取正確率對比結果見表2。由表2 可知，RNN 因為有記憶性，在訓練時序數(shù)據(jù)時準確率高于CNN；相較于RNN，LSTM 因為有門控單元,數(shù)據(jù)分析的準確率更高，而RNN 因為尋優(yōu)路徑崎嶇，存在梯度爆炸的問題，需要使用剪枝操作并降低學習率，增加了模型訓練的時間。由表2 還可知，在多種循環(huán)神經網絡中，添加雙向循環(huán)通道的Bi-LSTM 模型的正確率最高，正確率達到84.00%以上。在模型訓練過程中，隨著迭代次數(shù)的不斷增加，Bi-LSTM 模型不僅加快了模型的收斂速度，同時也加深了各參量在時序上的關聯(lián)，并在模型訓練時提供修正，使模型在預測時有更好的準確率，其正確率的波動遠遠小于其他RNN 和CNN。實驗證明,通過增加反向時序循環(huán)神經網絡建立的Bi-LSTM 能更好地完成對時序數(shù)據(jù)的特征提取任務。

表2 四種模型的時序數(shù)據(jù)特征提取正確率對比結果

3.4 基于MKL-SVM的Bi-RNN模型診斷結果分析

通過核融合組成多核，建立MKL-SVM 模型。在MKL 中，可以采用多種不同核函數(shù)進行融合，也可以使用不同參數(shù)的同一種核函數(shù)進行融合，這樣能保證核融合的多樣性。MKL-SVM 的工作過程如圖7 所示。

圖7 MKL-SVM 的工作過程

為了驗證基于多核學習支持向量機的雙向長短期記憶（Bidirectional Long Short-Term Memory based on Multi - Kernel Learning Support Vector Machines, Bi-LSTM-MKL-SVM）網絡模型在提升時序分析模型預測準確度的有效性，對SVM、基于支持向量機的長短期記憶網絡（Bidirectional Long Short - Term Memory Network based on Support Vector Machines，Bi-LSTM-SVM）、LSTM、Bi-LSTM、Bi-LSTM-MKL-SVM 五種模型的驗證集預測結果進行了比較分析。五種模型平均PR 曲線圖如圖8 所示。由圖8 可以看出，受到異構數(shù)據(jù)的影響，Bi-LSTM-SVM 的分類性能與Bi-LSTM、LSTM 的分類性能相差不大，Bi-LSTM-MKLSVM 有更好的分類性能，SVM 分類效果最差。

圖8 五種模型的平均PR 曲線

Bi-LSTM-MKL-SVM 模型的PR 曲線如圖9 所示。由圖9 可以看出，Bi-LSTM-MKL-SVM 的總體分類性能較好，而且，對每種故障類別都有較好的分類性能。相較于SVM 模型，經過RNN 對時序數(shù)據(jù)提取的組合模型能夠有效提高分類器的分類效率；對于LSTM 模型，使用SVM 進行分類能夠明顯提高模型的泛化能力；Bi-LSTM 對時序數(shù)據(jù)進行特征提取會產生較多的異構數(shù)據(jù)，使用一般的SVM不僅無法提高分類器的性能，產生的異構數(shù)據(jù)還會對SVM 的分類能力產生干擾，而MKL-SVM 對其中的少數(shù)異構數(shù)據(jù)分類更有效。使用Bi-LSTMMKL-SVM 更好地解決了異構數(shù)據(jù)對模型判斷造成的影響，提高了模型對時序數(shù)據(jù)的利用能力，模型整體的泛化能力更強，并且穩(wěn)定性也有所提升。

圖9 Bi-LSTM-MKL-SVM 模型的PR 曲線

真實數(shù)據(jù)與預測數(shù)據(jù)對比結果如圖10 所示。由圖10 可以看出，SVM 模型對測試樣本的擬合效果較差，LSTM 模型的擬合精度不如Bi-LSTM 模型，Bi-LSTM-MKL-SVM 模型對測試樣本的分類和擬合效果均最優(yōu)，說明本文提出模型的時序特征提取能力強。

圖10 真實數(shù)據(jù)與預測數(shù)據(jù)對比結果

五種模型的預測正確率對比結果如表3 所示。由表3 可知，使用Bi-LSTM 模型對時序數(shù)據(jù)進行處理，提高了MKL-SVM 的分類效率，模型整體的準確性、穩(wěn)定性都得到了提升，組合使用有效地解決了神經網絡和SVM 單獨使用存在的缺點。通過模型預測正確率的對比可以看出，MKL-SVM 確實能夠較好地對少數(shù)異構數(shù)據(jù)進行精準判斷，并且可以節(jié)省SVM 的調參時間，減少憑借經驗對參數(shù)進行選擇而出現(xiàn)錯誤的可能性，更多的基本核函數(shù)組合方式提高了SVM 模型的泛化能力和適用性。

表3 五種模型預測正確率對比結果

4 結 論

針對變壓器診斷領域，深度學習診斷方法存在穩(wěn)定性和有效利用數(shù)據(jù)樣本的問題，本文提出了基于Bi-LSTM-MKL-SVM 的網絡模型，將Bi-LSTM作為網絡模型的前端特征提取部分，使用MKLSVM 代替Bi-LSTM 中的Softmax 函數(shù)對特征提取后的數(shù)據(jù)進行分類，Bi-LSTM-MKL-SVM 網絡模型通過增加反向時序，能夠考慮更多的時序因素，對時序數(shù)據(jù)的預測效果更好，能夠對時序數(shù)據(jù)進行更有效的特征提取，對異構數(shù)據(jù)有更好的分類能力，減少依靠經驗進行調參所用的時間。通過PR曲線和正確率對比等多方面實驗，驗證了Bi-LSTM-MKL-SVM 網絡模型的特征提取能力和泛化能力，與其他現(xiàn)有模型相比，其診斷的準確率更高。

Bi-LSTM-MKL-SVM 網絡模型能夠提高變壓器故障診斷的準確性，減少在變壓器運行過程中對故障誤判的概率，從而降低因變壓器故障帶來的經濟損失，對保障電力系統(tǒng)安全意義重大。