郭金玉，李 濤，李 元

沈陽(yáng)化工大學(xué)信息工程學(xué)院，遼寧沈陽(yáng)110142

現(xiàn)代工業(yè)生產(chǎn)高度智能化，對(duì)復(fù)雜工業(yè)過(guò)程而言，有效提高控制系統(tǒng)的故障檢測(cè)性能變得尤為重要．近年來(lái)，基于數(shù)據(jù)驅(qū)動(dòng)的多元統(tǒng)計(jì)分析方法被深入研究和應(yīng)用，并在工業(yè)過(guò)程領(lǐng)域取得了快速發(fā)展[1-4]．該方法只需在實(shí)際工業(yè)生產(chǎn)過(guò)程中獲取歷史數(shù)據(jù)，再通過(guò)數(shù)據(jù)建立監(jiān)測(cè)模型，從而實(shí)現(xiàn)工業(yè)過(guò)程的故障檢測(cè)，過(guò)程中不需要依賴先驗(yàn)知識(shí)和數(shù)學(xué)模型，因此備受關(guān)注．

主元分析(principal component analysis, PCA)是工業(yè)過(guò)程中故障診斷和檢測(cè)的典型算法，已被廣泛用于多種場(chǎng)景[5-6]．PCA算法是一種線性降維的方法，它將過(guò)程數(shù)據(jù)投影到低維空間，保留主要變量，實(shí)現(xiàn)降維目的，主要針對(duì)相關(guān)過(guò)程中因變量引起的共線性問(wèn)題．在主元子空間和殘差子空間中，該算法使用平方預(yù)測(cè)誤差(squared prediction error, SPE)和Hotelling’sT2指標(biāo)對(duì)樣本狀態(tài)進(jìn)行監(jiān)控[7]．由于PCA算法處理的數(shù)據(jù)需滿足高斯分布的假設(shè)前提，對(duì)非線性工業(yè)過(guò)程的故障檢測(cè)效果不佳．為此，SHIOKAWA等[8-10]提出核主元分析(kernel principal component analysis, KPCA)算法，但由于KPCA算法是用SPE和Hotelling’sT2指標(biāo)監(jiān)控過(guò)程變量，而這2個(gè)指標(biāo)需要數(shù)據(jù)服從多元高斯分布且樣本間相互獨(dú)立，導(dǎo)致它們的故障檢測(cè)效果較差．在現(xiàn)代工業(yè)生產(chǎn)過(guò)程中，變量之間常存在較強(qiáng)的非高斯特性和樣本自相關(guān)性，很大程度上影響了故障檢測(cè)的性能．

支持向量機(jī)(support vector machine, SVM)因有強(qiáng)大的泛化能力和解決各種分類問(wèn)題等優(yōu)勢(shì)，被廣泛研究學(xué)習(xí)[11-12]．采用SVM對(duì)數(shù)據(jù)進(jìn)行故障檢測(cè)時(shí)，需同時(shí)使用正常數(shù)據(jù)和故障數(shù)據(jù)來(lái)訓(xùn)練模型，學(xué)習(xí)兩種數(shù)據(jù)的特征變化．針對(duì)高維數(shù)據(jù)，GUYON等[13]提出支持向量機(jī)遞歸特征消除(support vector machine recursive feature elimination, SVM-RFE)算法．SHIEH等[14]通過(guò)使用總體排序或特定類型的排序來(lái)選擇關(guān)鍵特征，提高線性SVM-RFE對(duì)樣本特征的提?。捎诠收蠙z測(cè)與診斷并不只是線性問(wèn)題，XUE等[15]用高斯核SVM-RFE提取非線性特征進(jìn)行故障檢測(cè)與診斷，該方法關(guān)鍵是核參數(shù)的選擇，通過(guò)對(duì)比選擇出最優(yōu)參數(shù)，建立一種先進(jìn)的故障檢測(cè)與診斷框架．針對(duì)非線性過(guò)程中SVM檢測(cè)性能不足的問(wèn)題，ZHANG等[16]結(jié)合核獨(dú)立元分析(kernel independent component analysis, KICA)、KPCA和SVM的優(yōu)點(diǎn)，開(kāi)發(fā)了一種非線性動(dòng)態(tài)故障檢測(cè)方法．

對(duì)于高維數(shù)據(jù)，SVM的運(yùn)行時(shí)間較長(zhǎng)．為減少SVM的運(yùn)行時(shí)間，需對(duì)數(shù)據(jù)進(jìn)行特征提取和降維．但是，SVM算法性能的優(yōu)異依賴數(shù)據(jù)特征提取的能力．傳統(tǒng)的PCA算法對(duì)數(shù)據(jù)進(jìn)行特征提取和降維，獲得的主元和殘差中仍具有較強(qiáng)的自相關(guān)性，這會(huì)降低Hotelling’sT2和SPE控制圖的故障檢測(cè)性能．為減少SVM的運(yùn)行時(shí)間，本研究運(yùn)用時(shí)滯和時(shí)差特性降低樣本自相關(guān)性，減少分類過(guò)程中類別與附加維度的重疊，提高SVM的故障檢測(cè)性能，提出一種基于主元增廣矩陣的SVM(SVM based on principal component augmented matrix, PCAM-SVM)故障檢測(cè)方法．通過(guò)建立PCA模型提取數(shù)據(jù)的得分矩陣，對(duì)得分引入時(shí)差和時(shí)滯輸入特性，將3者組合成增廣矩陣作為SVM的輸入，再運(yùn)用SVM模型對(duì)數(shù)據(jù)進(jìn)行故障檢測(cè)．該方法考慮到了樣本的空間和時(shí)間分布情況，通過(guò)引入時(shí)滯和時(shí)差輸入特性，有效降低了樣本間的自相關(guān)性，減少了分類過(guò)程中類別與附加維度的重疊，提高了SVM算法的故障檢測(cè)性能．

1 PCAM-SVM故障檢測(cè)

1.1 SVM

SVM[11-12]作為機(jī)器學(xué)習(xí)中的經(jīng)典分類算法，在處理小規(guī)模數(shù)據(jù)集和非線性問(wèn)題上有許多優(yōu)點(diǎn)．對(duì)線性數(shù)據(jù)，SVM能夠建立最大分離超平面對(duì)數(shù)據(jù)進(jìn)行分類；對(duì)非線性問(wèn)題，需先將數(shù)據(jù)投影到高維空間，去除數(shù)據(jù)非線性再建立最大分離超平面，使數(shù)據(jù)被有效分類．由于分離平面是基于支持向量構(gòu)造的，所以SVM是一種很好的解決高維問(wèn)題的方案．

假設(shè)樣本訓(xùn)練集為H={(x1,y1),(x2,y2),…,(xm,ym)}， 樣本類別yi∈{-1, 1}， 在樣本空間中需要找到一個(gè)最大分離超平面，將樣本劃分為不同類別．SVM對(duì)指定數(shù)據(jù)分類的超平面(w,b)滿足

wTx+b=0

(1)

其中， 權(quán)重向量w=(w1,w2, …,wm)Т；b為位移項(xiàng)；xi為樣本空間中任意點(diǎn)．若(w,b)能夠?qū)颖菊_分類，則對(duì)于(xi,yi)∈H， 有

(2)

距離超平面最近的樣本點(diǎn)使式(2)成立，此類樣本點(diǎn)即為支持向量．兩個(gè)異類支持向量到超平面的距離之和為間隔γ． 為找到最大間隔的超平面，實(shí)現(xiàn)最大程度分類，需找到滿足式(2)的參數(shù)w和b， 即SVM的基本型為

(3)

考慮到一些無(wú)法分類的樣本，以及SVM在一些樣本上可能分類錯(cuò)誤，引入懲罰因子C和松弛變量ξi， 則式(3)可改寫為

(4)

其中，ξi≥0，C>0．

將式(4)轉(zhuǎn)化為對(duì)偶問(wèn)題，使用拉格朗日乘數(shù)法求解，則該問(wèn)題的拉格朗日函數(shù)為

(5)

其中，拉格朗日乘子αi≥0，μi≥0，α=(α1,α2, …,αm)，μ=(μ1,μ2, …,μm)．

令L(w,b,α,ξi,μ)對(duì)w、b和ξi的偏導(dǎo)為0，可得

(6)

(7)

C=αi+μi

(8)

對(duì)式(4)求解，得到模型

(9)

假設(shè)樣本為非線性數(shù)據(jù)，為更好地實(shí)現(xiàn)分類，通過(guò)非線性映射φ(x)將數(shù)據(jù)投影到高維空間．為避免高維運(yùn)算，引入核函數(shù)

K(xi,xj)=[φ(xi),φ(xj)]=

[φ(xi)]Tφ(xj)

(10)

則通過(guò)核函數(shù)計(jì)算后模型(9)變?yōu)?/p>

(11)

因此，無(wú)論是在對(duì)線性還是非線性數(shù)據(jù)進(jìn)行分類時(shí)，SVM都可將其有效轉(zhuǎn)化，實(shí)現(xiàn)對(duì)數(shù)據(jù)高效準(zhǔn)確地分類．

1.2 基于主元增廣矩陣的SVM算法

在多元統(tǒng)計(jì)分析中，PCA能夠達(dá)到降維并提取原始數(shù)據(jù)主要特征的目的．假設(shè)隨機(jī)變量xi的樣本集表示為X=[x1,x2, …,xm]，m為樣本數(shù)，xi∈Rn(i=1, 2, …,m)， 則定義標(biāo)準(zhǔn)化后X的協(xié)方差矩陣為

(12)

對(duì)S進(jìn)行特征值分解，計(jì)算特征值和特征向量，并按照特征值降序排列，再求取主元個(gè)數(shù)z． 現(xiàn)有的選擇主元得分個(gè)數(shù)的方法包括累計(jì)方差貢獻(xiàn)率(cumulative percent variance, CPV)、碎石檢驗(yàn)、平行分析和重建誤差準(zhǔn)則等方法，何種方法最佳，目前尚未達(dá)成共識(shí)．由于當(dāng)CPV≥85%時(shí)，所獲得的主元能夠代表樣本的主要特征[17-18]，因此，本研究采用CPV方法．CPV的計(jì)算式為

(13)

其中，λi為協(xié)方差矩陣的特征根．由前z個(gè)特征向量構(gòu)成的矩陣就是負(fù)載矩陣P， 則得分矩陣為

T=XP

(14)

在動(dòng)態(tài)主元分析(dynamic principal component analysis, DPCA)中，KU等[19]通過(guò)引入時(shí)滯特性實(shí)現(xiàn)了對(duì)過(guò)程靜態(tài)信息和動(dòng)態(tài)信息的同步提取，提高了故障檢測(cè)性能．CHIANG等[20]指出，用時(shí)滯特性解決樣本自相關(guān)性的思想在分類問(wèn)題中能夠減少類別與附加維度的重疊，只要數(shù)據(jù)充足并且增加維度合理，引入時(shí)滯特性就會(huì)帶來(lái)良好的檢測(cè)結(jié)果．ZHANG等[21]運(yùn)用時(shí)差思想，通過(guò)建立不同的統(tǒng)計(jì)信息，消除了樣本非線性對(duì)故障檢測(cè)的影響，提高了工業(yè)過(guò)程的故障檢測(cè)性能．本研究通過(guò)同時(shí)引入得分矩陣的時(shí)滯和時(shí)差特性來(lái)提升SVM算法的性能．

由式(14)可得正常數(shù)據(jù)在時(shí)刻t的得分Tn(t)， 然后構(gòu)造時(shí)滯輸入特性Tn(t-1)和時(shí)差輸入特性Tn(t)-Tn(t-1)， 并組合成增廣矩陣

Tnormal=[Tn(t),Tn(t-1),Tn(t)-Tn(t-1)]

(15)

在故障操作條件下獲取故障數(shù)據(jù)，同樣通過(guò)PCA模型計(jì)算得分矩陣為Tf， 在主元空間中構(gòu)造出故障數(shù)據(jù)的增廣矩陣為

Tfault=[Tf(t),Tf(t-1),Tf(t)-Tf(t-1)]

(16)

將Tnormal與Tfault作為SVM模型的訓(xùn)練數(shù)據(jù)，即Ttrain=[Tnormal,Tfault]， 對(duì)SVM訓(xùn)練后獲得判別分類函數(shù)．建立模型后，SVM能學(xué)習(xí)正常和故障數(shù)據(jù)的特性，進(jìn)而對(duì)數(shù)據(jù)正確分類．將測(cè)試數(shù)據(jù)輸入模型，通過(guò)超平面劃分，將正常數(shù)據(jù)劃分成一類并標(biāo)記為0，故障數(shù)據(jù)劃分成另一類并標(biāo)記為1．

1.3 基于主元增廣矩陣的SVM故障檢測(cè)

PCAM-SVM方法故障檢測(cè)流程如圖1．該方法主要包括離線模型建立和在線故障檢測(cè)兩個(gè)步驟．

圖1 PCAM-SVM方法故障檢測(cè)流程圖Fig.1 Flow chart of fault detection method using PCAM-SVM

離線模型建立具體步驟為：

1)采集正常操作條件下的數(shù)據(jù)集X1和故障操作條件下的數(shù)據(jù)集X2；

2)通過(guò)PCA建模在主元子空間分別計(jì)算正常和故障數(shù)據(jù)的得分矩陣Tn和Tf；

3)在時(shí)刻t的Tn(t)和Tf(t)中分別加入時(shí)滯輸入特性和時(shí)差輸入特性，并根據(jù)式(15)和(16)生成增廣矩陣Tnormal和Tfault；

4)生成SVM訓(xùn)練數(shù)據(jù)集Ttrain并對(duì)Ttrain貼標(biāo)簽，正常數(shù)據(jù)標(biāo)記為0，故障數(shù)據(jù)標(biāo)記為1；

5)用Ttrain訓(xùn)練SVM模型,獲得判別分類函數(shù)．

在線故障檢測(cè)具體步驟為：

1)利用離線建模數(shù)據(jù)的均值和方差，對(duì)測(cè)試數(shù)據(jù)集xtest進(jìn)行標(biāo)準(zhǔn)化；

2)將標(biāo)準(zhǔn)化后的測(cè)試數(shù)據(jù)投影到PCA模型上，采用式(14)計(jì)算得分矩陣Tt；

3)在時(shí)刻t的Tt(t)中加入時(shí)滯和時(shí)差輸入特性生成測(cè)試數(shù)據(jù)集的增廣矩陣

Ttest′=[Tt(t),Tt(t-1),Tt(t)-Tt(t-1)]

(17)

即SVM模型的測(cè)試數(shù)據(jù)集；

4)將測(cè)試數(shù)據(jù)集的主元增廣矩陣Ttest′送入SVM模型進(jìn)行分類，正常數(shù)據(jù)標(biāo)記為0，故障數(shù)據(jù)標(biāo)記為1．

2 仿真結(jié)果與分析

2.1 多變量動(dòng)態(tài)過(guò)程數(shù)值仿真

根據(jù)文獻(xiàn)[22]構(gòu)造一個(gè)具有5個(gè)變量E(t)、Y(t)、V(t)、U(t)和W(t)的動(dòng)態(tài)過(guò)程，對(duì)應(yīng)的數(shù)值模型為

(18)

Y(t)=Z(t)+V(t)

(19)

其中，V(t)為均值為0、標(biāo)準(zhǔn)差為0.01的正態(tài)分布的噪聲序列； 輸入U(xiǎn)(t)為

(20)

其中，W(t)是服從[-2，2]的均勻分布．當(dāng)t=1時(shí)，設(shè)U(0)=[0 0]T，W(0)=[-1 1]T， 則由過(guò)程相關(guān)輸入U(xiǎn)(t)和輸出Y(t)共同組成監(jiān)控?cái)?shù)據(jù)集．為驗(yàn)證PCAM-SVM的有效性，由上述模型生成1 000個(gè)正常樣本，并引入兩種類型的故障：① 對(duì)W(t)增加幅值在[0.1 -0.7]內(nèi)的階躍，產(chǎn)生400個(gè)階躍故障；② 對(duì)W(t)增加斜坡信號(hào)為0.003×(i-1 400)的擾動(dòng)(i為采樣時(shí)刻)，產(chǎn)生400個(gè)斜坡故障．其中，斜坡信號(hào)斜率的變化范圍是[0.000 8 -0.005 0]．

采用SVM、PCA-SVM和PCAM-SVM三種方法對(duì)不同幅值階躍故障條件下的故障檢測(cè)率進(jìn)行仿真，結(jié)果如圖2．由圖2可見(jiàn)，在不同幅值情況下，PCAM-SVM方法的故障檢測(cè)率最高．

圖2 不同幅值的階躍故障檢測(cè)率Fig.2 Detection rates against step changed sizes

改變斜坡故障信號(hào)的斜率值，分別計(jì)算3種方法的檢測(cè)率，結(jié)果如圖3．由圖3可見(jiàn)，在不同斜率的斜坡故障情況下， PCAM-SVM方法的故障檢測(cè)率仍然最優(yōu)．

圖3 不同斜率的斜坡故障檢測(cè)率Fig.3 Detection rates against slope sizes

值得注意的是，本例中斜坡故障信號(hào)的斜率范圍較小，屬于微小型故障，一般算法在故障特征提取上具有一定難度．PCAM-SVM方法通過(guò)引入時(shí)滯和時(shí)差輸入特性來(lái)構(gòu)建主元增廣矩陣，增加了模型輸入復(fù)雜度，減少分類過(guò)程中類別與附加維度的重疊，降低了樣本間的自相關(guān)性，能有效提取數(shù)據(jù)的特征，提高SVM的檢測(cè)效果．

圖4為PCA-SVM主元得分和PCAM-SVM主元增廣矩陣自相關(guān)性．由圖4可見(jiàn)，PCAM-SVM方法在主元空間中通過(guò)時(shí)滯和時(shí)差輸入特性構(gòu)造的增廣矩陣能有效地降低樣本間的自相關(guān)性．

圖4 PCA-SVM和PCAM-SVM方法的自相關(guān)性Fig.4 Autocorrelation of PCA-SVM and PCAM-SVM

2.2 TE過(guò)程仿真

田納西-伊斯曼(Tennessee-Esatman, TE)過(guò)程是國(guó)際通用的模擬實(shí)際工業(yè)過(guò)程的仿真平臺(tái)[23-24]，被廣泛應(yīng)用于過(guò)程監(jiān)控領(lǐng)域．TE過(guò)程包括5個(gè)主要操作單元、4種氣體進(jìn)料、2個(gè)氣液放熱反應(yīng)生成的2種主產(chǎn)品和2個(gè)衍生放熱反應(yīng)生成的2種副產(chǎn)品等，過(guò)程工藝復(fù)雜，涉及變量較多．TE過(guò)程具體的模型流程圖如圖5．其中，1～13表示13個(gè)檢測(cè)點(diǎn)，每個(gè)檢測(cè)點(diǎn)包含1個(gè)或多個(gè)變量傳感器，用于數(shù)據(jù)采集．將TE過(guò)程產(chǎn)生的數(shù)據(jù)集用于仿真測(cè)試，該數(shù)據(jù)集是在TE仿真器中持續(xù)運(yùn)行48 h獲得，包含流量、壓力、溫度和液位等52個(gè)觀測(cè)變量(41個(gè)測(cè)量變量和11個(gè)控制變量)，采樣頻率為3 min．

訓(xùn)練數(shù)據(jù)集包含正常樣本和故障樣本各500個(gè)，測(cè)試數(shù)據(jù)集包含160個(gè)故障樣本．分別對(duì)訓(xùn)練集的正常樣本和故障樣本進(jìn)行主元分析，獲取對(duì)應(yīng)的得分矩陣，然后進(jìn)行時(shí)滯和時(shí)差操作并將數(shù)據(jù)進(jìn)行組合， 再將相應(yīng)的主元增廣矩陣用于SVM模型訓(xùn)練．本研究通過(guò)尋優(yōu)測(cè)試設(shè)置懲罰因子C=0.15， 窗寬g=0.45． 對(duì)PCA、ICA、KPCA、PCA-SVM和PCAM-SVM算法中主元和獨(dú)立元個(gè)數(shù)的選取，采用85% CPV來(lái)確定，具體設(shè)置如表1．

圖5 TE過(guò)程模型流程圖Fig.5 Flow chart of TE process model

表2是6種故障檢測(cè)方法對(duì)不同故障類型的檢測(cè)率結(jié)果．由表2可見(jiàn)，使用PCAM-SVM算法，故障1、3、4、5、8、9、10、11、14、15、16、17、19、20和21的檢測(cè)率，比其他檢測(cè)方法都有不同程度的提高，平均故障檢測(cè)率為99.49%，驗(yàn)證了該方法的有效性．

表1 五種故障檢測(cè)方法的主元和獨(dú)立元數(shù)量Table 1 Numbers of principal components and independentcomponents for five fault detection methods 個(gè)

表2 6種算法對(duì)TE過(guò)程故障檢測(cè)率

(續(xù)表2)

結(jié) 語(yǔ)

提出一種基于主元增廣矩陣的SVM故障檢測(cè)方法，通過(guò)PCA提取得分矩陣，引入其時(shí)滯輸入特性和時(shí)差輸入特性，有效去除過(guò)程變量之間的自相關(guān)性，將3者組合成增廣矩陣作為SVM的輸入，運(yùn)用SVM進(jìn)行故障檢測(cè)．將PCAM-SVM方法應(yīng)用到多變量動(dòng)態(tài)過(guò)程數(shù)值例子和實(shí)際的TE過(guò)程中，結(jié)果表明，與PCA、ICA、KPCA、SVM和PCA-SVM方法相比，PCAM-SVM方法有效提高了故障檢測(cè)率．