郭金玉 趙文君 李元

摘 要：針對核熵成分分析算法（kernel entropy component analysis，KECA）為不同的故障選擇相同的核參數影響檢測效果的問題，提出了一種基于集成核熵成分分析（ensemble kernel entropy component analysis，EKECA）算法的工業(yè)過程故障檢測方法。首先，選取一系列具有不同寬度參數的核函數將非線性數據投影到核特征空間，選取Rényi熵值貢獻較大的特征值和特征向量，得到轉換后的得分矩陣，建立多個KECA子模型;然后，將測試數據投影到各KECA子模型上，計算各KECA子模型的統(tǒng)計量，得到檢測結果;最后，將各KECA子模型的檢測結果利用Bayesian決策進行概率換算，利用集成學習法計算檢測結果統(tǒng)一的統(tǒng)計量，判斷其是否超出控制限，并將該算法應用于數值例子和TE過程。仿真結果表明，與傳統(tǒng)的EKPCA，KECA等算法相比，所提方法有效提高了故障檢測率，降低了誤報率。新方法解決了傳統(tǒng)KECA算法中不同故障核參數的選擇問題，為提高KECA算法在非線性工業(yè)過程故障檢測中的性能提供了參考。

關鍵詞：自動控制技術其他學科;核熵成分分析;高斯核函數;Bayesian決策;集成學習法

中圖分類號：TP277?? 文獻標識碼：A

doi：10.7535/hbkd.2021yx05006

收稿日期：2021-06-03;修回日期：2021-09-30;責任編輯：王淑霞

基金項目：國家自然科學基金（61673279）;遼寧省教育廳一般項目（LJ2019007）

第一作者簡介：郭金玉（1975—），女，山東高唐人，副教授，博士，主要從事故障診斷、生物特征識別算法及應用方面的研究。

E-mail：969554959@qq.com

Fault detection of industrial process based on ensemble kernel entropy component analysis algorithm

GUO Jinyu，ZHAO Wenjun，LI Yuan

（College of Information Engineering，Shenyang University of Chemical Technology，Shenyang Liaoning，110142，China）

Abstract：To solve the problem caused by kernel entropy component analysis （KECA） for selecting the same kernel parameters for different faults，a fault detection of industrial process based on ensemble kernel entropy component analysis （EKECA） was proposed.Firstly，a series of kernel functions with different width parameters were selected to project the nonlinear data into the kernel feature space.The eigenvalues and eigenvectors with large contribution to Rényi entropy were selected to obtain the transformed score matrix.The multiple KECAsubmodels were established.Secondly，the test data were projected onto each KECA submodel.The statistics of each KECA submodel were calculated to obtain the detection results.Finally，the detection results of each KECA submodel were turned into probability by Bayesian decision.The unified statistics were calculated by ensemble learning strategy and judged whether it exceeds the control limit.The algorithm was applied to a numerical example and the TE process.The simulation results show that the proposed algorithm can effectively improve the fault detection rate and reduce the false alarm rate compared with traditional EKPCA，KECA and other algorithms.This method solves the problem of selecting kernel parameters for different faults in the traditional KECA algorithm and provides a reference for improving the performance of KECA algorithm in fault detection of nonlinear industrial processes.

Keywords：

other disciplines of automatic control technology;kernel entropy component analysis;Gaussian kernel function;Bayesian decision;ensemble learning method

在流程工業(yè)和制造業(yè)中，隨著現代制造業(yè)的快速發(fā)展，對高質量產品的需求不斷增加，保證系統(tǒng)正常運行成為一項至關重要的任務。雖然運行過程中的標準控制器可以補償許多類型的干擾，但也存在控制器無法完全處理的變化，將這種特征屬性或變量不允許的偏差定義為故障。隨著新儀器和通信技術的發(fā)明，人們可以從工廠裝置中收集大量的實時過程數據，通過監(jiān)測收集到的數據來識別過程中的異常情況。因此，多元統(tǒng)計過程監(jiān)控（multivariate statistical process monitoring，MSPM）方法[1-4]在過去幾十年中得到了發(fā)展。

在MSPM方法中，主成分分析[5-8]（principal component analysis，PCA）是應用最廣泛的一種。它通過構造原始數據最大方差的低維空間來壓縮數據，將監(jiān)測數據投影到該空間以捕獲偏差進行過程監(jiān)測。與PCA相比，核主元分析（kernel principal component analysis，KPCA）可以處理非線性系統(tǒng)[9-13]。傳統(tǒng)KPCA方法的不足阻礙了對過程數據變化的觀察，且由KPCA模型生成的特征值矩陣沒有得到足夠的重視，如何從動態(tài)過程中有效獲取重要信息還需要進一步研究。KANO等[14]根據特征值評估差異性提出一種稱為DISSIM的統(tǒng)計監(jiān)測方法，但他們建立的監(jiān)測計算公式難以確定最優(yōu)時間窗口的大小。JOHANNESMEYER等[15]基于相似性提出將snapshopt數據與分割的歷史數據進行比較，進而對數據進行監(jiān)測，但是比較對象是T2和SPE統(tǒng)計量，其計算量比特征矩陣大。JOSHPH等[16]提出塊增量核主元分析（chunk incremental kernel principal component analysis，CIKPCA）算法。普通算法在信息特征提取方面用時較長，CIKPCA算法彌補了此缺陷，加快了提取速度。然而，CIKPCA算法只能獲取和保留原始樣本的全局特征，不能很好地保留局部特征。

JENSSEN[17]提出核熵成分分析（kernel entropy component analysis，KECA）算法，該算法用于處理非線性原始數據的降維和矩陣轉換，已應用于工業(yè)過程檢測[18]。與KPCA類似，核熵成分分析可以處理非線性系統(tǒng)，但與KPCA不同的是，KECA算法通過選取對熵值貢獻最大的前k個特征向量作為投影方向，在保證熵值損失最小的情況下進行故障檢測。JIANG等[19] 驗證了KECA算法在工業(yè)過程監(jiān)測方面具有優(yōu)越的可行性和有效性。韓宇等[20]提出在監(jiān)督學習和無監(jiān)督學習下建立KECA模型，進而使用Bayesian方法對工業(yè)過程故障進行檢測。齊詠生等[21]提出采用改進KECA算法監(jiān)測統(tǒng)計量的方法。該算法根據KECA的特性構造新的檢測方式，其微小故障檢測效果雖然高于傳統(tǒng)的監(jiān)測統(tǒng)計量，但檢測效果仍然不理想。傳統(tǒng)的KECA算法通常采用經驗法確定核函數中的寬度參數c，對不同的故障使用相同的參數，影響其檢測效果。針對KECA算法中核參數的選擇問題，本文利用Bayesian決策[22]和集成學習法[23]提出了集成核熵成分分析（ensemble kernel entropy component analysis，EKECA）算法。通過建立一系列的子KECA模型，使不同的故障選擇不同的寬度參數，然后計算各子模型的檢測結果，并使用Bayesian決策將其轉化為概率的形式。為了組合各子模型的故障概率，選用集成學習算法，彌補因核參數選擇不合理導致檢測效果差的不足。

1 集成核熵成分分析算法

2 基于集成核熵成分分析算法的建模與檢測

基于集成核熵成分分析算法的工業(yè)過程故障檢測分為離線建模和在線檢測?；诩珊遂爻煞址治鏊惴ǖ墓收蠙z測流程圖如圖1所示。

2.1 離線建模

1）獲取訓練數據：獲取包含m個變量和n個樣本的訓練數據集X=[x1，x2，…，xn]∈Rm×n，對X進行標準化處理;

2）選擇一系列具有不同寬度參數的高斯核函數k（j）（x，xt）=exp[-（‖x-xt‖2/（2j-1rnσ2））]，j=1，2，…，ns為核函數的個數;

3）對于每個高斯核函數，根據式（5）獲得熵貢獻較大的特征值和特征向量，定義核主元分析主軸張成的子空間為U（j）k，建立一系列KECA子模型;

4）將訓練數據集通過非線性函數Φ映射到U（j）k上，根據式（12）得到各子模型的得分矩陣T（j）k;

5）根據式（14）和式（15）分別計算各子模型的監(jiān)測統(tǒng)計量SPE（j）和T2（j）;

6）令檢驗水平為β，利用核密度估計方法確定各子模型統(tǒng)計量的控制限SPE（j）lim和T2（j）lim。

2.2 在線檢測

1）對測試數據Xnew根據訓練數據的均值和方差進行標準化處理;

2）將測試數據投影到各個子模型上，通過式（13）得到得分矩陣Tknew（j）;

3）根據式（14）和（式15），分別計算各個子模型中測試數據的監(jiān)測統(tǒng)計量SPE（j）和T2（j）;

4）通過式（16）-式（23），將每個子模型的監(jiān)測統(tǒng)計量轉換成故障發(fā)生的概率;

5）通過式（24）和式（25），組合各子模型的檢測結果，計算統(tǒng)一的監(jiān)測統(tǒng)計量ESPE和ET2;

6）將統(tǒng)一的統(tǒng)計量ESPE和ET2與檢驗水平β對比，若統(tǒng)計量大于檢驗水平則視為故障。

3 仿真結果與分析

3.1 數值仿真結果與分析

本文構造一個數值例子，該數據有3個變量，模型如下：

x1x2x3=rr2-3r-r3+3r2+e1e2e3，（26）

式中：[e1，e2，e3]T服從高斯分布，均值為0，標準差為0.01;r服從均勻分布。為了便于說明，由式（26）生成500個樣本作為正常數據，利用這些數據構造常規(guī)的核熵成分分析模型，并設定99%的置信限進行狀態(tài)判斷。根據數值例子創(chuàng)建2種不同的故障數據，在生成故障數據集的過程中設定微小故障。

故障1：變量x3從第161個樣本到第500個樣本發(fā)生0.001 5×（i-160）的微小斜坡變化。

故障2：變量x2從第201個樣本到第500個樣本發(fā)生幅值大小為0.012的微小階躍變化。

每個故障類型產生500個樣本作為測試數據。圖2和圖3分別為PCA，KPCA，EKPCA，KECA，KECA-CS和EKECA對微小斜坡故障和階躍故障的檢測結果。由圖2 a）和圖3 a）可知，PCA算法的SPE和T2統(tǒng)計量幾乎檢測不出故障。主要原因是PCA是線性算法，對非線性數據的檢測效果較差;由圖2 b）和圖3 b）可知，與PCA類似，KPCA算法的2個統(tǒng)計量幾乎檢測不出故障，主要原因是KPCA通過奇異值分解（singular value decomposition，SVD）生成特征矩陣，實現對非線性數據降維，但在數據變換的過程中可能會導致特征矩陣中的信息丟失，而且對不同的故障運用相同的核參數，從而導致檢測效果較低;由圖2 c）和圖3 c）可知，EKPCA完全檢測不出故障，主要原因是EKPCA算法僅解決了核參數選擇的問題，并未解決傳統(tǒng)KPCA在數據變換時導致特征矩陣信息丟失的問題，故檢測效果較差;由圖2 d）和圖3 d）可知，KECA中僅T2統(tǒng)計量檢測出故障，SPE統(tǒng)計量幾乎檢測不出故障。主要原因是KECA算法根據Rényi熵值來選取核特征矩陣的特征值，解決了傳統(tǒng)KPCA算法特征矩陣丟失重要信息的問題，但KECA對不同的故障運用相同的核參數，建立的單個模型不適用于所有故障，故檢測效果不佳;由圖2 e）和圖3 e）可知，雖然KECA-CS算法對微小故障檢測效果高于傳統(tǒng)的KECA，但檢測效果仍不理想，主要原因是KECA-CS沒有解決核參數的選擇問題;由圖2 f）和圖3 f）可知，EKECA算法能夠在主元空間和殘差空間中以較低的誤報率及時監(jiān)測出故障的發(fā)生。綜上所述，與其他5種方法相比，EKECA算法在故障發(fā)生前基本沒有超過控制限，誤報率較低，且在故障發(fā)生時及時觸發(fā)報警，檢測效果較好。主要原因是EKECA算法根據非線性數據變換的方法，有效地計算出輸入空間數據集的最大Rényi熵值，既解決了數據變化前后的熵損失問題，又解決了傳統(tǒng)KECA算法中不能很好地選擇核參數的問題，將具有不同核參數子模型的監(jiān)測統(tǒng)計量利用Bayesian決策轉化成概率的形式，通過集成算法進行組合形成統(tǒng)一的統(tǒng)計量，適用于檢測不同類型的故障。

表1為斜坡和階躍故障的檢測結果。由表1可以看出，PCA，KPCA，EKPCA，KECA和KECA-CS 5種算法的故障檢測率較低，而EKECA在保證誤報率較低的情況下，具有較高的故障檢測率，驗證了該方法在非線性數據故障檢測中的有效性。

3.2 TE仿真結果與分析

為了更有效地說明EKECA算法的有效性，將該算法應用到TE仿真平臺進行驗證。TE工業(yè)生產過程廣泛應用于故障檢測研究領域[24]。TE工業(yè)流程主要有5個操作單元：反應器、產品冷凝器、循環(huán)壓縮機、氣液分離器和產品汽提器[18，25-26]?？紤]到過程中變量可能受到任何變化的影響，將TE流程的21個預定義的異常操作事件編入系統(tǒng)，并收集相應過程的數據。每組采集的數據集由960個樣本組成，人為故障從第161個樣本引入。在21個故障中，由于一些故障比較容易識別，故排除這些容易識別的故障。因此，選用故障4，10，15，19和20來測試所提方法的有效性，如表2所示。

6種算法對故障4的檢測結果如圖4所示。從檢測結果圖可以看出PCA算法與EKPCA類似，SPE統(tǒng)計量能保證在誤報率較低的情況下檢測出故障，但T2統(tǒng)計量一直在控制限周圍波動，檢測效果較差;KPCA算法的SPE統(tǒng)計量雖然能檢測出故障，但檢測率較低，T2統(tǒng)計量的檢測效果較差;EKPCA算法的SPE統(tǒng)計量檢測出故障但誤報指標較高，而T2統(tǒng)計量一直在控制限周圍波動，故障檢測率較低;KECA算法的2個統(tǒng)計量基本檢測不出故障的發(fā)生;KECA-CS算法的檢測效果好于KECA，但是仍有漏報;而本文所提出的EKECA算法不僅誤報率較低，當故障發(fā)生時也能及時報警。主要原因是EKECA算法根據非線性數據的變換方法，保持了輸入空間的最大Rényi值，又解決了不同故障核參數的選擇問題。

6種方法對故障19的檢測結果如圖5所示，可以看到PCA和KPCA算法的SPE統(tǒng)計量雖然檢測出部分故障，但故障檢測率較低，且有較多的正常樣本在控制限上方，誤報率較高，而T2統(tǒng)計量的漏報現象比較嚴重;EKPCA，KECA和KECA-CS算法的漏報現象也比較嚴重，且KECA算法的統(tǒng)計量基本都在控制限以下，檢測效果較差;相對其他5種算法，EKECA算法的SPE統(tǒng)計量在保證誤報率較低的情況下，檢測出大部分故障，T2統(tǒng)計量在故障發(fā)生時不僅及時檢測出故障的發(fā)生，且誤報樣本較少，在保證較低誤報率的情況下故障檢測率較高。

為了更簡明地證明本文所提方法的有效性，表3列出了EKECA算法與PCA，KPCA，EKPCA，KECA和KECA-CS算法的對比情況。以故障4為例，由表3可以看出，PCA算法的SPE統(tǒng)計量雖檢測率為100%，但誤報率較高，而T2統(tǒng)計量的故障檢測率較低，故PCA的檢測效果不佳;KPCA的SPE統(tǒng)計量不能保證在誤報率較低的情況下達到較高的故障檢測率，且T2統(tǒng)計量的檢測率較低;與PCA類似，EKPCA在殘差空間雖有較高的檢測率，但誤報率較高，且主元空間的檢測效果不佳，故障檢測率較低;KECA的2個統(tǒng)計量的故障檢測率較低，檢測效果較差;KECA-CS雖然在保證誤報率較低的情況下提高了故障檢測率，但檢測效果仍不理想;而EKECA算法的SPE和T2統(tǒng)計量在保證誤報率指標較低的情況下故障檢測率較高，驗證了EKECA算法在非線性數據故障檢測中的有效性。

4 結 語

本文提出了一種基于集成核熵成分分析算法的工業(yè)過程故障檢測方法。利用一系列具有不同寬度參數的高斯核函數將原始數據映射到核特征空間，然后對核矩陣進行特征值分解獲取特征值和特征向量，計算特征向量所對應的熵值的貢獻，選取前k個最大貢獻的特征向量作為投影方向，從而解決了數據變化前后的熵損失問題。將不同模型的檢測結果通過Bayesian決策轉換成故障發(fā)生的概率形式，然后通過集成學習法將各故障的概率進行組合，實現故障檢測。

EKECA算法有效解決了傳統(tǒng)KECA算法對不同故障核參數選擇不合理的問題。將該算法應用于數值例子和TE過程的仿真實驗，并與其他故障檢測方法進行比較，表明了該方法的有效性。

本文方法雖然能檢測出TE過程中的大部分故障，但對于一些未知故障（故障19和20）僅提高了故障檢測率，卻未能完全檢測出故障。因此，未來將繼續(xù)改進算法，提高對未知故障的檢測率。

參考文獻/References：

[1] 文成林，呂菲亞，包哲靜，等.基于數據驅動的微小故障診斷方法綜述[J].自動化學報，2016，42（9）：1285-1299.

WEN Chenglin，LYU Feiya，BAO Zhejing，et al.A review of data driven-based incipient fault diagnosis[J].Acta Automatica Sinica，2016，42（9）：1285-1299.

[2] HUANG J P，YAN X F.Quality-driven principal component analysis combined with kernel least squares for multivariate statistical process monitoring[J].IEEE Transactions on Control Systems Technology，2019，27（6）：2688-2695.

[3] ROSSOUW R F，COETZER R L J，LE ROUX N J.Variable contribution identification and visualization in multivariate statistical process monitoring[J].Chemometrics and Intelligent Laboratory Systems，2020，196：103894.

[4] YANG W A.Monitoring and diagnosing of mean shifts in multivariate manufacturing processes using two-level selective ensemble of learning vector quantization neural networks[J].Journal of Intelligent Manufacturing，2015，26（4）：769-783.

[5] 趙帥，宋冰，侍洪波.基于加權互信息主元分析算法的質量相關故障檢測[J].化工學報，2018，69（3）：962-973.

ZHAO Shuai，SONG Bing，SHI Hongbo.Quality-related fault detection based on weighted mutual information principal component analysis[J].CIESC Jorunal，2018，69（3）：962-973.

[6] DU Y C，DU D P.Fault detection and diagnosis using empirical mode decomposition based principal component analysis[J].Computers & Chemical Engineering，2018，115：1-21.

[7] GUEDDI I，NASRI O，BENOTHMAN K，et al.Fault detection and isolation of spacecraft thrusters using an extended principal component analysis to interval data[J].International Journal of Control Automation and Systems，2017，15（2）：776-789.

[8] HAMADACHE M，LEE D.Principal component analysis based signal-to-noise ratio improvement for inchoate faulty signals：Application to ball bearing fault detection[J].International Journal of Control Automation and Systems，2017，15（2）：506-517.

[9] 翟坤，杜文霞，呂鋒，等.一種改進的動態(tài)核主元分析故障檢測方法[J].化工學報，2019，70（2）：716-722.

ZHAI Kun，DU Wenxia，LYU Feng，et al.Fault detect method based on improved dynamic kernel principal component analysis[J].CIESC Jorunal，2019，70（2）：716-722.

[10]鄧佳偉，鄧曉剛，曹玉蘋，等.基于加權統(tǒng)計局部核主元分析的非線性化工過程微小故障診斷方法[J].化工學報，2019，70（7）：2594-2605.

DENG Jiawei，DENG Xiaogang，CAO Yuping，et al.Incipient fault diagnosis method of nonlinear chemical process based on weighted statistical local KPCA[J].CIESC Jorunal，2019，70（7）：2594-2605.

[11]SHIOKAWA Y，DATE Y，KIKUCHI J.Application of kernel principal component analysis and computational machine learning to exploration of metabolites strongly associated with diet[J].Scientific Reports，2018，8（1）：3426.

[12]SOH W，KIM H，YUM B J.Application of kernel principal component analysis to multi-characteristic parameter design problems[J].Annals of Operations Research，2018，263（1）：69-91.

[13]HUANG J，YAN X F.Related and independent variable fault detection based on KPCA and SVDD[J].Journal of Process Control，2016，39：88-99.

[14]KANO M，HASEBE S，HASHIMOTO I，et al.Statistical process monitoring based on dissimilarity of process data[J].AIChE Journal，2002，48（6）：1231-1240.

[15]JOHANNESMEYER M C，SINGHAL A，SEBORG D E.Pattern matching in historical data[J].AIChE Journal，2002，48（9）：2022-2038.

[16]JOSHPH A A，TOKUMOTO T，OZAWA S.Online feature extraction based on accelerated kernel principal component analysis for data stream[J].Evolving Systems，2016，7（1）：15-27.

[17]JENSSEN R.Kernel entropy component analysis[J].IEEE Transactions on Pattern Analysis and Machine Intelligence，2010，32（5）：847-860.

[18]YANG Y H，LI X L，LIU X Z，et al.Wavelet kernel entropy component analysis with application to industrial process monitoring[J].Neurocomputing，2015，147：395-402.

[19]JIANG Q C，YAN X F，LYU Z M，et al.Fault detection in nonlinear chemical processes based on kernel entropy component analysis and angular structure[J].Korean Journal of Chemical Engineering，2013，30（6）：1181-1186.

[20]韓宇，李俊芳，高強，等.基于故障判別增強KECA算法的故障檢測[J].化工學報，2020，71（3）：1254-1263.

HAN Yu，LI Junfang，GAO Qiang，et al.Fault detection based on fault discrimination enhanced kernel entropy component analysis algorithm[J].CIESC Jorunal，2020，71（3）：1254-1263.

[21]齊詠生，張海利，高學金，等.基于KECA的化工過程故障監(jiān)測新方法[J].化工學報，2016，67（3）：1063-1069.

QI Yongsheng，ZHANG Haili，GAO Xuejin，et al.Novel fault monitoring strategy for chemical process based on KECA[J].CIESC Journal，2016，67（3）：1063-1069.

[22]YU C M，PAN Q，CHENG Y M，et al.A kernel-based bayesian classifier for fault detection and classification[C]// 2008 7th World Congress on Intelligent Control and Automation，Chongqing：IEEE，2008：124-128.

[23]JIANG H，QIU X J，CHEN J，et al.Insulator fault detection in aerial images based on ensemble learning with multi-level perception[J].IEEE Access，2019，7：61797-61810.

[24]呂永艷，馬潔.基于KPCA的多工況TE過程故障檢測研究[J].北京信息科技大學學報（自然科學版），2016，31（6）：32-36.

LYU Yongyan，MA Jie.Fault detection of multi-condition TE process based on KPCA[J].Journal of Beijing Information Science & Technology University，2016，31（6）：32-36.

[25]LEE C J，LEE G，LEE J M.A fault magnitude-based strategy for effective fault diagnosis and isolation[J].Journal of Chemical Engineering of Japan，2015，48（1）：44-51.

[26]YIN S，DING S X，HAGHANI A，et al.A comparison study of basic data-driven fault diagnosis and process monitoring methods on the benchmark Tennessee Eastman process[J].Journal of Process Control，2012，22（9）：1567-1581.