蔣 強，黃 劍

(沈陽理工大學 信息科學與工程學院，沈陽 110159)

?

支持向量機在化工過程故障診斷中的應用

蔣 強，黃 劍

(沈陽理工大學 信息科學與工程學院，沈陽 110159)

針對當前復雜的化工過程，提出一種基于主元分析和優(yōu)化參數(shù)支持向量機相結合的故障診斷方法。先采用主元分析法對TEP的5種狀態(tài)模式進行特征提取和故障監(jiān)測，若監(jiān)測為異常，再利用優(yōu)化參數(shù)的支持向量機進一步進行故障診斷。實驗結果表明，與單獨使用支持向量機方法相比，所提方法克服了單一方法的缺陷與不足，提高了故障診斷的準確率。

主元分析；支持向量機；故障診斷

化工幾乎涉及了人類生產(chǎn)生活的各方面，而化工過程的復雜化和大型化也帶來了許多安全隱患，如果系統(tǒng)一處發(fā)生故障，就有可能引起連鎖效應，造成巨大的人員傷亡和財產(chǎn)損失。因此，研究化工過程的故障診斷顯得尤為重要。

針對化工過程的特殊性，依斯曼化學品公司開發(fā)了一種高級仿真工業(yè)過程—田納西伊斯曼過程(TEP)，眾多學者利用它進行化工過程故障診斷的研究[1]。目前，應用于TE過程的故障診斷方法已經(jīng)越來越成熟，主要集中在多變量統(tǒng)計分析、神經(jīng)網(wǎng)絡、支持向量機等方法[2]。

但是這些方法的故障診斷準確率仍有待提高，本文提出主元分析和支持向量機相結合的方法，利用兩種方法的優(yōu)點提高TEP故障診斷準確率。首先，利用主元分析進行故障監(jiān)測和特征提取，若監(jiān)測正常，則繼續(xù)進行監(jiān)測，否則采用支持向量機確定異常數(shù)據(jù)屬于哪類故障，最后對支持向量機的相關參數(shù)進行優(yōu)化，進一步提高其故障診斷的準確率。

1 主元分析

主元分析(Principal Components Analysis，PCA)是一種經(jīng)典的數(shù)據(jù)降維方法，其提取的主成分可以摒除原始數(shù)據(jù)空間的冗余信息而保留大量的方差信息，并且各主成分變量相互正交[3]。

1.1 PCA的數(shù)據(jù)降維

假設樣本數(shù)據(jù)X∈Rm×n，其中m表示樣本數(shù)，n表示變量數(shù)，那么可對X做如下的主元分解：

(1)

式中:[t1t2… tn]表示樣本X的得分矩陣，其兩兩相互正交；[p1p2… pn]表示樣本X的負荷矩陣，其兩兩相互正交且長度為1。

使用累積貢獻率的方法選出k個主元構造出主元子空間，這k個主元代表了樣本數(shù)據(jù)最主要的變化，而變化較小的幾個主元可以忽略，因此樣本X可以近似表示為

(2)

這樣，原樣本數(shù)據(jù)X近似為X*，變量數(shù)從n個減少到k個，實現(xiàn)了數(shù)據(jù)的降維。

1.2 PCA的故障監(jiān)測

基于PCA的TEP故障監(jiān)測策略是：提取TEP正常狀態(tài)樣本的主元并構造主元子空間，計算主元子空間的T2統(tǒng)計量設為正常狀態(tài)的控制限，將測試樣本投影到主元子空間并計算其統(tǒng)計量，若其超出了正常狀態(tài)的控制限，則認為系統(tǒng)發(fā)生故障，這種方法無需了解系統(tǒng)的結構和原理，建模簡單，易于實現(xiàn)[4]。

TEP的樣本數(shù)據(jù)有52維，若將樣本直接送入支持向量機進行訓練，由于維數(shù)過高，計算量較大，勢必會影響訓練的速度。而PCA方法不但可以實現(xiàn)數(shù)據(jù)降維，還可以消除變量間的非線性關聯(lián)，因此可使用PCA方法對TEP樣本數(shù)據(jù)進行故障特征提取，再利用支持向量機進行故障診斷。

2 支持向量機

支持向量機(SupportVectorMachine，SVM)是Vapnik等人提出的一種基于統(tǒng)計學習理論的機器學習方法，它可以將非線性問題轉化為線性問題并能得到全局最優(yōu)解，從而避免了神經(jīng)網(wǎng)絡中經(jīng)常出現(xiàn)的過學習、欠學習、局部最小化等問題，近年來在故障診斷領域得到了廣泛的應用[5-6]。

2.1 兩分類SVM

標準SVM是兩分類分類器，其結構示意圖如圖1所示，x=(x1,x2,…,xm)為輸入向量。

圖1 SVM結構示意圖

其基本策略是把輸入空間的樣本映射到高維特征空間，然后在特征空間中求出把樣本線性分開的最優(yōu)分類面[7]。假設兩類樣本集(xi,yi),其中，xi∈Rn，yi∈{-1,+1}(i=1,2,…,m)，m為訓練樣本總數(shù)，n為樣本空間的維數(shù)，yi為樣本的類別標簽。那么對這兩類進行分類時，標準SVM即解決如下問題

(3)

式中：K(xi,xj)為滿足Mercer條件的核函數(shù)；αi為拉格朗日乘子，上式的解中只有一部分αi不為零，對應的樣本稱為支持向量(SupportVector，SV)；C是一個大于0的常數(shù)，稱為懲罰系數(shù)。由此構造分類決策函數(shù)為

(4)

式中，sign為符號函數(shù)，b*為決策函數(shù)的閾值。

2.2 “一對一”多分類SVM

故障診斷大多是多分類問題，Kressel提出的“一對一”算法可以實現(xiàn)多分類問題的求解，此方法需要在每兩個類別間構造一個分類器。在故障診斷中，若研究對象共有a個故障模式，則需要構造b=a(a-1)/2個分類器，每個分類器訓練兩種故障模式的訓練集，并構造相應的決策函數(shù)。對于每個測試樣本點而言，b個分類器會給出b個判別結果，統(tǒng)計所有判別結果得到各個類的總票數(shù)，得票數(shù)最多的類即為該樣本點所屬的類，這種算法的優(yōu)點是每個分類問題的規(guī)模都很小，每次只需要將兩類的訓練數(shù)據(jù)進行訓練，訓練時間比較短[8]。

2.3 SVM參數(shù)優(yōu)化

Vapnik等人的研究說明，SVM的性能主要取決于誤差懲罰因子C和核函數(shù)中的參數(shù)g[9]，最優(yōu)的參數(shù)可以避免過學習和欠學習狀態(tài)對分類準確率的影響，但是目前國際上并沒有公認最好的參數(shù)優(yōu)化方法。

采用交叉驗證(Cross Validation，CV)的方法，可以找到一組相對較好的參數(shù)C和g使得訓練集達到最高的分類準確率，CV方法有多種，其中K-CV法的基本思想是讓參數(shù)C和g在某一范圍內(nèi)離散取值，對于取定的C和g，將原始訓練集均分成k組，將每個子集作一次驗證集，余下的k-1組作為訓練集對SVM進行訓練，這樣就會得到k個驗證集的分類準確率，取它們的平均數(shù)作為此組C和g下的分類準確率，使分類準確率最高一組C和g即為SVM的最佳參數(shù)。

3 實驗仿真與結果分析

3.1 樣本的建立

本文從網(wǎng)站http://web.mit.edu/braatzgroup/links.html上下載的數(shù)據(jù)是故障診斷的標準數(shù)據(jù)集，此數(shù)據(jù)集包括正常狀態(tài)和各故障模式下的訓練集和測試集。

TE過程共預設了21種故障，其中故障1～7為階躍、8～12為隨機擾動、13為慢漂移、14～15為粘滯、16～20為未知，21為恒定故障。本文選擇正常狀態(tài)、故障6、故障8、故障13和故障18作為故障診斷的研究對象，5種模式的描述如表1所示，將其重新編號為F0、F1、F2、F3和F4，并將其分類標簽分別設為0、1、2、3和4。對這5種模式分別選擇200組訓練集和100組測試集組成最終的訓練集1000和測試集500×52，其中1000和500代表樣本數(shù)，52表示樣本點的變量數(shù)。

表1 5種模式的描述

3.2 實驗仿真

3.2.1 基于PCA的TEP故障檢測和特征提取

基于PCA的故障檢測步驟如下：

(1)建立正常樣本的主元模型：使用TEP正常狀態(tài)(F0)的200組訓練集建立主元模型，通過累計貢獻率的方法確定主元的個數(shù)。實驗中當累計貢獻率設置為0.9時，主元個數(shù)為29個，即通過PCA降維后原始的52維數(shù)據(jù)變?yōu)?9維。

(2)計算正常樣本的控制限：計算主元模型的T2統(tǒng)計量，當T2統(tǒng)計的置信度設置為99%時，主元子空間的控制限為：T2UCL=74.5801。

(3)對測試集進行測試：對5種模式共500組測試集進行測試，測試結果如圖2所示，圖中的紅色虛線為主元子空間的控制限。從圖2可以看出，前100組正常工況下的數(shù)據(jù)未超過控制限，而后400組的4種故障數(shù)據(jù)均超過控制限，可判定為發(fā)生故障。因此基于PCA的TEP故障監(jiān)測準確率達到了100%。

PCA的故障特征提?。簩⑺杏柧毤蜏y試集投影到前面確定的主元空間，這樣原始的52維數(shù)據(jù)經(jīng)降維后變?yōu)?9維，即完成了PCA的故障特征提取，降維后的樣本為X*，將其分為新的訓練集和測試集用于SVM故障診斷。

3.2.2 基于PCA_SVM的化工過程故障診斷

實驗中SVM 的實現(xiàn)采用臺灣大學林智仁教授的LIBSVM工具箱，在Matlab軟件平臺下運行，此工具箱默認采用“一對一”法支持多分類問題。

圖2 主元分析統(tǒng)計量變化圖

(1)訓練SVM模型。由于降維后的樣本X*各維數(shù)據(jù)量綱不同，因此首先對其數(shù)據(jù)進行歸一化處理，使各維的數(shù)據(jù)被規(guī)整到[0,1]的范圍，假設樣本X*其中一維數(shù)據(jù)為x*，則此維歸一化后的數(shù)據(jù)x^為

(5)

將樣本X^中的訓練集1000×29運用LIBSVM工具箱的相關函數(shù)訓練SVM，訓練過程中使用的相關參數(shù)如表2所示。

表2 訓練SVM所選參數(shù)

表中核函數(shù)參數(shù)g是默認值，為樣本維數(shù)的倒數(shù)，懲罰系數(shù)C默認值為1；由于樣本中各類的樣本數(shù)量相同，因此，各類的權重都設為1。

利用表2中所選的相關參數(shù)對SVM進行訓練，訓練完成的SVM模型如圖3所示。圖中nr_class表示樣本集中有多少個類別，和所設的類別數(shù)相同為5個；totalSV代表支持向量的總個數(shù)，這里共有644個；nSV表示每類樣本的支持向量的數(shù)目，樣本共有5類，所以它是一個5×1的矩陣；rho是決策函數(shù)中閾值b*的相反數(shù)，由于采用“一對一”法來解決多分類的問題，因此對于一個5類的樣本，共構造了10個決策函數(shù)，每個決策函數(shù)對應的閾值列于表3中；sv_coef是一個644×4的矩陣，裝載的是644個支持向量在決策函數(shù)中的系數(shù)；SVs是一個稀疏矩陣，裝載的是全部644個支持向量。

model=

由于SVM的模型選擇為C-SVC，核函數(shù)選擇為RBF，故每兩個類別間的決策函數(shù)變?yōu)?/p>

(6)

式中：n代表支持向量的個數(shù)；Wi=yiαi=sv_coef(i)為決策函數(shù)的系數(shù)；gamma是所選參數(shù)g，其大小為0.0345；xi表示支持向量；x是待測試標簽的樣本。根據(jù)式(6)和model中的所得參數(shù)，即可確定10個SVM模型的決策函數(shù)。

(2)測試集的預測。將樣本X^中的500組測試集送入訓練好的SVM模型中，得到測試集的預測標簽，統(tǒng)計預測標簽和期望標簽一致的個數(shù)記為d，計算分類準確率。

(7)

分類準確率反映了SVM模型對預測集預測的準確性，在本實驗中反映了其對各故障的識別能力。

為驗證PCA_SVM方法的優(yōu)異性，將原始樣本X采用相同的方法對SVM進行訓練并得到測試集的分類準確率，兩種方法的預測結果如圖4所示，其中圖4a為原始測試集的預測結果，圖4b為PCA_SVM測試集的預測結果。

圖4 SVM和PCA_SVM預測結果

從圖4可以看出，PCA_SVM方法較單一的SVM方法對測試集預測準確率更高，即對故障的識別率更高，因此PCA_SVM方法更適合于化工過程的故障診斷。

(3)SVM參數(shù)優(yōu)化。實驗中采用K-CV法對PCA_SVM模型的相關參數(shù)進行優(yōu)化，優(yōu)化結果如5圖所示，最佳參數(shù)C=256，g=0.57435。將優(yōu)化的參數(shù)用于PCA_SVM模型中，得到最終的故障識別結果如圖6所示，經(jīng)過優(yōu)化后PCA_SVM的分類準確率達到91%，高于之前的兩次識別準確率。

3.3 結果分析

各方法故障診斷準確率的對比結果如表4所示，從表4可以看出，經(jīng)過PCA特征提取再進行SVM故障診斷的方法比單一使用SVM的方法更好，而經(jīng)K-CV法參數(shù)優(yōu)化后，PCA_SVM法的故障診斷準確率得到了顯著提高。

圖5 SVM參數(shù)優(yōu)化

圖6 優(yōu)化參數(shù)后的PCA_SVM預測輸出

故障診斷方法SVMPCA_SVM參數(shù)優(yōu)化PCA_SVM準確率70.4%80.2%91%

4 結論

通過實驗仿真結果可以看出，單一SVM法的故障識別率為70.4%，PCA_SVM法故障識別率為80.2%，故障識別率提高了9.8%，而經(jīng)參數(shù)優(yōu)化后的PCA_SVM法故障識別率為91%，故障識別率又提高了10.8%，為3種方法中故障識別率最高的一種。因此，經(jīng)參數(shù)優(yōu)化的PCA_SVM法的故障識別率較單一的SVM法和PCA_SVM法有較大程度的提高，更適合應用于TEP的故障診斷。

[1]王鮮芳,王歲花,杜昊澤,等.基于模糊粗糙集和支持向量機的化工過程故障診斷[J].控制與決策,2015(2):353-356.

[2]張姮.TE過程故障診斷方法比較研究[D].沈陽:沈陽理工大學,2014.[3]童楚東.基于特征提取與信息融合的工業(yè)過程監(jiān)測研究[D].上海:華東理工大學,2015.

[4]薛永飛.基于改進T-PLS的化工過程故障診斷研究[D].蘭州:蘭州理工大學,2014.

[5]GE M,DU R,ZHANG G C,et al.Fault diagnosis using support vector machine with an application in sheetm etal stamping operations[J].Mechanical Systems & Signal Processing,2004(18):143-159.

[6]ZHANG Y W.Enhanced statistical analysis of nonlinear processes using KPCA,KICA and SVM[J].Journal of Chemical Engineering Science,2009(64):801-811.

[7]沈懷榮,楊露,周偉靜,等.信息融合故障診斷技術[M].北京:科學出版社,2013:151.

[8]陳銘.基于LS-SVM的復雜工業(yè)過程故障診斷方法研究[D].南京:南京理工大學,2009.

[9]徐曉明.SVM參數(shù)尋優(yōu)及其在分類中的應用[D].大連:大連海事大學,2014.

(責任編輯：馬金發(fā))

The Application of Support Vector Machine in the Fault Diagnosis of Chemical Process

JIANG Qiang,HUANG Jian

(Shenyang Ligong University,Shenyang 110159,China)

A fault diagnosis method based on principal component analysis and support vector machine is proposed for the complex chemical process.Feature extraction and fault detection of five kinds of chemical process fault mode is analyzed by using principal component method.If the detection is abnormal,samples of fault classes could be tested by using SVM for fault diagnosis.Experimental results show that the fault diagnosis method overcomes the defects of single method and improves fault diagnosis accuracy based on PCA and SVM in comparison with SVM method.

PCA；SVM；fault diagnosis

2015-07-03

蔣強(1974—)，男，副教授，研究方向：先進控制理論與應用、故障診斷。

1003-1251(2016)05-0028-05

TP29

A