譚 莉，于春梅

(西南科技大學(xué)信息工程學(xué)院，四川 綿陽 621010)

IIWPSO-PNN在化工過程故障診斷中的應(yīng)用

譚 莉，于春梅

(西南科技大學(xué)信息工程學(xué)院，四川 綿陽 621010)

概率神經(jīng)網(wǎng)絡(luò)(PNN)已成功應(yīng)用于化工過程故障診斷。在概率神經(jīng)網(wǎng)絡(luò)中，平滑參數(shù)對網(wǎng)絡(luò)性能有很大的影響，并且很難確定。因此，采用粒子群優(yōu)化(PSO)算法，尋找最優(yōu)平滑參數(shù)。針對粒子群優(yōu)化算法中線性變化的慣性權(quán)重易使其陷入局部極值問題，采用非線性變化的慣性權(quán)重替代線性變化的慣性權(quán)重，并將其應(yīng)用于改進(jìn)慣性權(quán)重粒子群(IIWPSO)算法。將IIWPSO算法應(yīng)用于概率神經(jīng)網(wǎng)絡(luò)中(即IIWPSO-PNN)，使其自動搜索并尋找最優(yōu)的平滑參數(shù)用于概率神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和測試。與前人提出的線性變化慣性權(quán)重、兩種非線性變化的慣性權(quán)重(分別記為w1、w2和w3)進(jìn)行比較，將w1、w2和w3應(yīng)用于PSO-PNN中(分別記為PSO-PNN1、PSO-PNN2和PSO-PNN3)。最后將IIWPSO-PNN應(yīng)用于田納西-伊斯曼過程中，與PNN、PSO-PNN、PSO-PNN1、PSO-PNN2和PSO-PNN3網(wǎng)絡(luò)進(jìn)行比較。試驗結(jié)果表明：IIWPSO-PNN在解決故障診斷問題時，識別率與收斂速度都有較大的提高。試驗結(jié)果驗證了IIWPSO-PNN算法應(yīng)用于化工過程的可行性和有效性。

概率神經(jīng)網(wǎng)絡(luò)； 故障診斷； 平滑參數(shù)； 慣性權(quán)重； 粒子群算法； 田納西-伊斯曼； 化工過程

0 引言

化工過程具有規(guī)模大、復(fù)雜性高、變量多等特點。為確?；み^程安全可靠地運行、消除故障隱患，對其進(jìn)行及時、有效的故障診斷非常必要。概率神經(jīng)網(wǎng)絡(luò)(probabilistic neural network,PNN)已廣泛地應(yīng)用于各類故障診斷中。Wang等提出采用概率神經(jīng)網(wǎng)絡(luò)進(jìn)行故障診斷，結(jié)果表明，識別率與仿真速度明顯優(yōu)于其他網(wǎng)絡(luò)[1]。

針對概率神經(jīng)網(wǎng)絡(luò)平滑參數(shù)的問題，Yi等提出自適應(yīng)策略改進(jìn)概率神經(jīng)網(wǎng)絡(luò)的平滑參數(shù)，效果優(yōu)于PNN網(wǎng)絡(luò)，但隨著自適應(yīng)的范圍逐漸增大，效率逐漸降低[2]。黎群輝等將差異演化算法應(yīng)用于PNN中，識別率提高，但收斂速度較慢[3]。Porwik等提出粒子群優(yōu)化(particle swarm optimization-PNN,PSO-PNN)概率神經(jīng)網(wǎng)絡(luò)進(jìn)行識別，效果明顯優(yōu)于PNN網(wǎng)絡(luò)，并且穩(wěn)定性提高[4]。因此，本文在PSO-PNN的基礎(chǔ)上，將改進(jìn)慣性權(quán)重粒子群(improved inertia weight PSO,IIWPSO)算法應(yīng)用于PNN網(wǎng)絡(luò)中，并基于標(biāo)準(zhǔn)化工測試過程——田納西-伊斯曼過程進(jìn)行仿真驗證。

1 算法描述

1.1 概率神經(jīng)網(wǎng)絡(luò)

概率神經(jīng)網(wǎng)絡(luò)是基于徑向基神經(jīng)網(wǎng)絡(luò)發(fā)展而來的一種前向性神經(jīng)網(wǎng)絡(luò)[5]，1990年由Specht提出，是一種基于貝葉斯規(guī)則與Parzen窗的概率密度函數(shù)發(fā)展而來的并行算法，具有訓(xùn)練時間短、結(jié)構(gòu)固定、非線性識別能力強等特點，特別適合故障診斷以及識別問題[6]。概率神經(jīng)網(wǎng)絡(luò)由輸入層、模式層、求和層和輸出層組成，其網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

圖1 概率神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

輸入層神經(jīng)元的數(shù)目和訓(xùn)練樣本的維數(shù)相等，記訓(xùn)練樣本為X=(x1,x2,…,xm)T。

模式層計算訓(xùn)練樣本X與權(quán)值向量IW的距離，通常采用歐氏距離；然后通過徑向基非線性映射后獲得模式層的輸出向量M。徑向基函數(shù)通常選取高斯函數(shù)，輸出向量M表示訓(xùn)練樣本輸出為各類的概率，由式(1)計算，σ為平滑參數(shù)。

(1)

求和層計算模式層輸出向量M的加權(quán)和S，由式(2)計算：

(2)

(3)

式中：wij為各向量的權(quán)重；n為總的模式數(shù)；Ni為i類模式層的神經(jīng)元數(shù)目。

輸出層根據(jù)求和層的輸出S中的最大值，獲得網(wǎng)絡(luò)的輸出Q(X)。

(4)

平滑參數(shù)決定了以樣本點為中心的高斯曲線的寬度，并對網(wǎng)絡(luò)性能有很大的影響，且在一定范圍內(nèi)有一個值使識別效果達(dá)到最好。在概率神經(jīng)網(wǎng)絡(luò)中，平滑參數(shù)通常是經(jīng)驗設(shè)定，需要在多次仿真試驗中才能找出使識別效果最好的值。因此，本文提出改進(jìn)粒子群優(yōu)化算法尋找最優(yōu)平滑參數(shù)，使其自動搜索并尋找最優(yōu)的平滑參數(shù)，并將其應(yīng)用于概率神經(jīng)網(wǎng)絡(luò)中。

1.2 改進(jìn)粒子群優(yōu)化算法

粒子群優(yōu)化算法是由Kennedy和Eberhart于1995年提出的種群智能優(yōu)化算法[7]。在粒子群算法中，每個粒子代表尋優(yōu)空間中一個潛在的解。每一次迭代進(jìn)化中，粒子通過自身和群體的歷史最優(yōu)位置更新當(dāng)前的速度和位置，在任意(t+1)時刻，粒子群算法中第i個粒子第d維的速度和位置由式(5)和式(6)更新[8]。

vid(t+1)=wvid(t)+c1r1[pid-xid(t)]+c2r2[pgd-xid(t)]

(5)

xid(t+1)=xid(t)+vid(t+1)

(6)

式中：vid和xid為粒子的速度和位置；w為慣性權(quán)重；c1和c2為加速因子，分別代表認(rèn)知參數(shù)和社會參數(shù)；pid和pgd分別為個體和群體的歷史最優(yōu)位置；r1和r2為相互獨立且服從[0,1]均勻分布的隨機數(shù)。

w由式(7)計算，wmax為w的最大值；wmin為w的最小值；t為當(dāng)前迭代步數(shù)；Tmax為最大迭代步數(shù)[8]。

(7)

當(dāng)w較大時，全局搜索能力強，局部開發(fā)能力弱[9]。因此，在全局搜索算法中，希望前期有較高的全局搜索能力以搜索更大的空間，并定位全局最優(yōu)的近似位置，而在后期有較高的開發(fā)能力，以增強局部搜索能力，加快收斂速度。文獻(xiàn)[10]與文獻(xiàn)[11]提出的非線性變化慣性權(quán)重，其計算公式分別如式(8)和式(9)所示。Nickabadi等提出自適應(yīng)慣性權(quán)重的粒子群算法(adaptive inertia weight PSO,AIWPSO)，具體過程見文獻(xiàn)[12]。

(8)

(9)

本文針對慣性權(quán)重的特點進(jìn)行相應(yīng)改進(jìn)，其計算公式如式(10)所示。

(10)

假設(shè)最大慣性權(quán)重wmax=1、最小慣性權(quán)重wmin=0.3、最大迭代步數(shù)Tmax=100、s=-0.7，則四種慣性權(quán)重變化曲線如圖2所示。

圖2 慣性權(quán)重變化曲線

從圖2比較可知，w1呈線性變化，在前期全局搜索能力較強，但如果搜索不到最優(yōu)點，隨著w的減小，局部搜索能力隨之加強，容易陷入局部極值；w2在前期下降緩慢，有較強的全局搜索能力，但在后期下降很快，局部搜索能力較差；w3整個曲線下降緩慢，有較強的全局與局部搜索能力，但收斂速度較慢；而w4的變化曲線在前期和后期變化緩慢，中間區(qū)域下降較快，因此，前期能夠保持較長時間的全局搜索能力以搜索到最優(yōu)解區(qū)域，后期保持較長時間的局部開發(fā)能力搜索到最優(yōu)解，并且收斂速度快。

1.3 IIWPSO-PNN訓(xùn)練過程

本文采用概率神經(jīng)網(wǎng)絡(luò)的識別率作為改進(jìn)粒子群算法的適應(yīng)度函數(shù)，由式(11)計算:

(11)

IIWPSO-PNN的訓(xùn)練步驟如下。

①載入訓(xùn)練樣本與測試樣本。

②初始化粒子群參數(shù)。

③用訓(xùn)練樣本訓(xùn)練PNN網(wǎng)絡(luò)，計算每個微粒的適應(yīng)度函數(shù)值。

④將每個微粒的適應(yīng)值pid與當(dāng)前全局最優(yōu)適應(yīng)值pgd比較，更新pgd，使pgd保持較大值。

⑤根據(jù)式(5)和式(6)更新微粒的速度和位置，并根據(jù)式(10)更新慣性權(quán)重。

⑥終止條件。當(dāng)訓(xùn)練樣本識別率大于99%或者達(dá)到最大迭代步數(shù)，循環(huán)結(jié)束，否則返回步驟③。

⑦返回粒子群全局最優(yōu)值pgd。

⑧用測試樣本訓(xùn)練PNN網(wǎng)絡(luò)，此時平滑參數(shù)為pgd，統(tǒng)計識別率，仿真結(jié)束。

2 仿真分析

本文以TE過程為試驗背景，對IIWPSO-PNN網(wǎng)絡(luò)仿真驗證。TE過程是Downs和Vogel于1993年在“Computer & Chemical Engineer”上發(fā)表的一個典型化工過程[13]。其工藝流程圖及詳細(xì)仿真過程見文獻(xiàn)[14]。

為保證仿真結(jié)果的客觀性，所有仿真都在同一臺計算機上完成，計算機處理器為Pentium(R) Dual-Core，安裝內(nèi)存(RAM)為2 GB，系統(tǒng)類型為32位操作系統(tǒng)；MATLAB版本為R2012b。

2.1 仿真驗證

在仿真過程中，每一種故障的訓(xùn)練集數(shù)據(jù)是480組(都是有故障的情況)，測試集數(shù)據(jù)為320組(前160組為正常情況，后160組為有故障情況)。對于PNN網(wǎng)絡(luò)，仿真中網(wǎng)絡(luò)判斷當(dāng)前輸入狀況為正常情況，則輸出1；反之，若判斷當(dāng)前輸入狀況為故障情況，則輸出2。本文采用粒子群算法優(yōu)化平滑參數(shù)，因此設(shè)置粒子的維數(shù)為1。根據(jù)文獻(xiàn)[15],設(shè)置粒子數(shù)為10、最大迭代步數(shù)為100、wmax=1、wmin=0.3、c1=c2=2、粒子最大速度為1、r1和r2為[0,1]之間的隨機數(shù)。

2.2 結(jié)果分析

將前人提出[10-12]的w1、w2和w3應(yīng)用于PSO-PNN中，分別記為PSO-PNN1、PSO-PNN2和PSO-PNN3。為驗證IIWPSO-PNN算法的有效性，將仿真結(jié)果與PNN、PSO-PNN1、PSO-PNN2和PSO-PNN3進(jìn)行比較。其中概率神經(jīng)網(wǎng)絡(luò)的平滑參數(shù)σ設(shè)為0.7。本文給出TE過程中21種故障(共21種)的識別率，具體如表1所示。

表1 故障識別率比較

從表1可得，IIWPSO-PNN對每一種故障的識別率都在0.7以上，并且故障6、7的識別率達(dá)到了100%。故障3、11、15、16的識別率高于PSO-PNN1和PSO-PNN2；故障3、11的識別率高于PSO-PNN3，其他故障識別率基本一樣；說明在故障3、11、15、16中，四種粒子群算法尋找到的平滑參數(shù)不一樣，IIWPSO算法找到相對更優(yōu)的平滑參數(shù)，因此故障診斷的效果更好。另外，經(jīng)過粒子群優(yōu)化的概率神經(jīng)網(wǎng)絡(luò)對于每一種故障的仿真結(jié)果都優(yōu)于PNN(σ=0.7)網(wǎng)絡(luò)。

故障3、11、15、16的收斂曲線如圖3所示。

圖3 收斂曲線

IIWPSO-PNN網(wǎng)絡(luò)分別在20步、27步、25步開始收斂，并趨于穩(wěn)定。比較發(fā)現(xiàn)，IIWPSO-PNN的收斂速度最快，其次是PSO-PNN3，且收斂速度優(yōu)于PSO-PNN2，最慢的是PSO-PNN1。綜上可知，針對故障3、11、15、16，IIWPSO-PNN網(wǎng)絡(luò)不僅識別率高于其他網(wǎng)絡(luò)，而且收斂速度更快，驗證了改進(jìn)算法的有效性。

3 結(jié)束語

本文以典型田納西-伊斯曼化工過程為研究對象，針對過程數(shù)據(jù)分布復(fù)雜、高維以及相關(guān)等特性，采用概率神經(jīng)網(wǎng)絡(luò)進(jìn)行故障診斷。針對網(wǎng)絡(luò)中平滑參數(shù)的不確定性，提出改進(jìn)粒子群優(yōu)化算法尋找最優(yōu)平滑參數(shù)的方法，并將其成功應(yīng)用于概率神經(jīng)網(wǎng)絡(luò)中。TE過程仿真結(jié)果表明，針對故障1～21，IIWPSO-PNN的平均識別率是86.61%，與PNN、PSO-PNN1、PSO-PNN2和PSO-PNN3網(wǎng)絡(luò)相比，平均識別率分別提高了21.91%、3.28%、2.15%和0.67%，收斂速度也相對加快。因此，收斂速度與識別率兩方面數(shù)據(jù)表明，IIWPSO-PNN能有效解決化工過程故障診斷問題。

[1] WANG C Q,ZHOU J Z,QIN H,et al.Fault diagnosis based on pulse coupled neural network and probability neural network [J].Expert Systems with Applications,2011,38(6):14307-14313.

[2] YI J H,WANG J,WANG G G.Improved probabilistic neural networks with self-adaptive strategies for transformer fault diagnosis problem[J].Advances in Mechanical Engineering,2016,8(1):1-13.

[3] 黎群輝,張航.基于改進(jìn)概率神經(jīng)網(wǎng)絡(luò)的交通標(biāo)志圖像識別方法[J].系統(tǒng)工程,2006,24(4):97-101.

[4] PORWIK P,DOROZ R,ORCZYK T.Signatures verification based on PNN classifier optimized by PSO algorithm [J].Pattern Recognition,2016,60(9):998-1014.

[5] 李浩,王福忠,王銳.免疫粒子群優(yōu)化RBF神經(jīng)網(wǎng)絡(luò)的變壓器故障診斷[J].自動化儀表,2016,37(11):4-7.

[6] SPECHT D.Probabilistic neural network [J] .Neural Networks,1990,3(1):109-118.

[7] KENNEDY J,EBERHART R.Particle swarm optimization[C]//Proceedings of the 1995 IEEE International Conference on Neural Networks,1995:1942-1948.

[8] SHI Y,EBERHART R.A modified particle swarm optimizer[C]//Proceedings of the 1998 IEEE International Conference on Evolutionary Computation,1998:1942-1948.

[9] EBERHART R,SHI Y.Comparsion between genetic algorithm and particle swarm optimization[M]//Lecture Notes in Computer Science(Evolutionary Progranllning Vll).Berlin:Springer Press,1998:611-616.

[10]LEI K,QIU Y,HE Y.A new adaptive well- chosen inertia weights in particle automat- ically harmonize global and local search ability in particle swarm optimization[C]//ISSCAA,2006.

[11]胡建秀,曾建潮.微粒群算法中慣性權(quán)重的調(diào)整策略[J].計算機工程,2007,33(11):193-195.

[12]TICKABADI A,EBADZADEH M M,SAFABAKHSH R.A novel particle swarm optimization algorithm with adaptive inertia weight[J].Applied Soft Computing,2011(11):3658- 3670.

[13]DOWNS J J,VOGEL E F.A plant-wide industrial-process control problem [J].Computer & Chemical Engineering,1993,17(3):245-255.

[14]蔣浩天,拉塞爾，布拉茨.工業(yè)系統(tǒng)的故障檢測與診斷[M].段建明,譯.北京:機械工業(yè)出版社,2003.

[15]王東風(fēng),孟麗.粒子群優(yōu)化算法的性能分析和參數(shù)選擇[J].自動化學(xué)報,2016,42(10):1552- 1561.

ApplicationofIIWPSO-PNNinFaultDiagnosisofChemicalProcess

TAN Li，YU Chunmei

(School of Information Engineering,Southwest University of Science and Technology,Mianyang 621010,China)

Probabilistic neural network has been successfully applied in fault diagnosis of chemical process.In probabilistic neural network,the smoothing parameter has great influence on its performance and it is difficult to determine the optimal value.Therefore,the particle swarm optimization (PSO) algorithm is used to seek for the optimal smoothing parameter.In PSO algorithm,the inertia weight of linear variation is easy to make the algorithm fall into local extremum,so the inertia weight of nonlinear change is used to replace the inertia weight of linear change and apply into the improved inertia weight particle swarm optimization algorithm (IIWPSO).Then,the IIWPSO is applied to probabilistic neural network,which can automatically search and find the optimal smoothing parameter to be used for training and testing the probabilistic neural network.Compared with the inertia weight of the linear change and two kinds of nonlinear inertia weight (namedw1,w2andw3),thew1,w2andw3are applied to PSO-PNN respectively,which are denoted as PSO-PNN1,PSO-PNN2 and PSO-PNN3.Finally,the IIWPSO-PNN network is applied in Tennessee Eastman process,and compared with PNN,PSO-PNN,PSO-PNN1,PSO-PNN2 and PSO-PNN3 networks.The test results indicate that IIWPSO-PNN network has higher recognition rate and convergence rate when addressing the fault diagnosis problem.The feasibility and effectiveness of the IIWPSO-PNN algorithm in chemical process are verified.

Probabilistic neural network; Fault diagnosis; Smoothing parameter; Inertia weight; Particle swarm optimization; Tennessee-Eastman; Chemical process

TH165; TP277

： A

10.16086/j.cnki.issn1000-0380.201709003

修改稿收到日期:2017-03-19

四川省重點實驗室開放基金資助項目(13zxtk16)、 西南科技大學(xué)博士基金資助項目(11zx07)

譚莉(1991—)，女，在讀碩士研究生，主要從事故障檢測與診斷方向的研究。E-mail：tanlicq521@163.com。 于春梅(通信作者)，女，博士，教授，主要從事故障診斷、模式識別、機器人控制方向的研究。E-mail：512232478@qq.com。