(昆明理工大學(xué),昆明 650500)
控制圖是統(tǒng)計(jì)過程控制的基本工具和手段,經(jīng)過不斷發(fā)展有學(xué)者相繼提出了兩種控制圖模式識別理論,即統(tǒng)計(jì)模式識別和人工智能模式識別。其中人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network,ANN)作為一種人工智能技術(shù)被廣泛應(yīng)用于控制圖模式識別研究。1989年,Pugh[1]首次提出將神經(jīng)網(wǎng)絡(luò)應(yīng)用于過程控制中,并證明所提方法比傳統(tǒng)休哈特控制圖的性能更優(yōu)越。HB Hwang[2]對BP神經(jīng)網(wǎng)絡(luò)(Back-propagation Network,BPN)應(yīng)用于隨機(jī)過程控制做出了研究,也取得了良好的效果。分析ANN在控制圖模式識別的研究成果概率神經(jīng)網(wǎng)絡(luò)(probabilistic neural network, PNN)在控制圖模式識別中的運(yùn)用較少。pecht D.F.[3]在1990年提出的PNN網(wǎng)絡(luò)是一種4層前饋神經(jīng)網(wǎng)絡(luò),與傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)相比,概率神經(jīng)網(wǎng)絡(luò)的訓(xùn)練時(shí)間更短。然而PNN網(wǎng)絡(luò)的自適應(yīng)學(xué)習(xí)能力以及較強(qiáng)的容錯(cuò)能力主要取決于平滑因子。對優(yōu)化PNN網(wǎng)絡(luò),很多學(xué)者也做出了相關(guān)的研究成果;K.Z.Mao等人[4]提出通過遺傳算法選擇合適的PNN的平滑因子,通過簡化PNN的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)獲得更高的分類精確率。
針對傳統(tǒng)PNN網(wǎng)絡(luò)應(yīng)用于控制圖模式識別中的不足,本文選擇粒子群算法(Particle swarm optimization, PSO)對PNN的平滑因子spread參數(shù)進(jìn)行優(yōu)化,將優(yōu)化的PNN網(wǎng)絡(luò)對自相關(guān)過程的6種模式進(jìn)行識別,以獲得更高的控制圖模式識別精度為研究目標(biāo),并通過模擬實(shí)驗(yàn)進(jìn)行了驗(yàn)證。
按照GB/T4091-2001對控制圖模式判斷的準(zhǔn)則,異常狀態(tài)分為8種,本文主要對其中的6種模式進(jìn)行研究分別為正常模式(NOR)、向上階躍模式(US)、向下階躍模式(DS)、上升趨勢模式(IT)、下降趨勢模式(DT)和周期模式(CYC),如圖1所示。
生產(chǎn)過程中的數(shù)據(jù)很容易產(chǎn)生自相關(guān)性,違背了控制圖以數(shù)據(jù)相互獨(dú)立的理論前提。因此在自相關(guān)過程中使用控制圖會產(chǎn)生大量的虛發(fā)報(bào)警或漏發(fā)報(bào)警。Cook等[5]研究了BPN在監(jiān)測自相關(guān)過程方差能得到較好識別率;孫靜[6]在殘差控制圖的基礎(chǔ)上進(jìn)一步解釋了自相關(guān)過程受控狀態(tài)的含義。
圖1 6種基本控制圖模式
在自相關(guān)過程的研究中,通常利用時(shí)間序列來描述自相關(guān)過程的動態(tài)規(guī)律性。其中,一階自回歸模型AR(1)擬合的自相關(guān)過程在實(shí)際生產(chǎn)中最為常見,研究也最多。AR(1)過程可描述如下:
PNN模型基于Bayes分類規(guī)則與Parzen窗概率密度估計(jì)方法的神經(jīng)網(wǎng)絡(luò)模型。PNN模型由4層組成分別為:輸入層、隱含層、求和層和輸出層。模型的基本結(jié)構(gòu)如圖2所示。
圖2 PNN網(wǎng)絡(luò)結(jié)構(gòu)示意圖
式中,Wi為輸入層與輸出層之間的連接權(quán)值,δ為平滑因子對分類有非常重要的作用,求和層計(jì)算得出故障模式的估計(jì)概率密度函數(shù)。輸出層其作用是在每個(gè)模式的估計(jì)概率密度中選擇最大后驗(yàn)概率密度的神經(jīng)元作為整個(gè)模型的輸出。
Kennedy和Eberhar在模擬鳥群覓食過程中發(fā)現(xiàn)了PSO算法的優(yōu)化性能[7]。PSO算法的數(shù)學(xué)描述如下:
假設(shè)D維搜索空間中有n個(gè)粒子,第i個(gè)粒子的位置向量為xi=(xi1,xi2,…,xiD),第i個(gè)粒子的當(dāng)前最優(yōu)位置為pbesti=(pi1,pi2,…,piD),整個(gè)粒子群的當(dāng)前最優(yōu)位置為gbest=(g1,g2,…,gD),第i個(gè)粒子的位置變化率為vi=(vi1,vi2,…,viD)。粒子的速度和位置變化公式如下所示:
其中,和c1=c2=2為學(xué)習(xí)因子,Arand是0到1之間的隨機(jī)數(shù)。
本文以測試精度作為目標(biāo)函數(shù),利用PSO算法優(yōu)化平滑因子SPREAD參數(shù)。
算法步驟如下:
Step1:設(shè)定平滑因子的取值范圍[0,10],隨機(jī)產(chǎn)生初始化種群。
制定完善合理的科研成果評價(jià)體系和科研成果轉(zhuǎn)化政策,將科研成果轉(zhuǎn)化納入科研成果評價(jià)體系,作為創(chuàng)新性能力評價(jià)標(biāo)準(zhǔn)之一,并與績效獎勵、職稱評聘、科研獎項(xiàng)的評比等掛鉤,保證評價(jià)指標(biāo)的多樣化??筛鶕?jù)高校發(fā)展需求和實(shí)際發(fā)展?fàn)顩r制定若干權(quán)變量,明確獎勵范圍、獎勵力度,提高對科研成果持有人的獎勵力度,并保證實(shí)時(shí)激勵,充分調(diào)動科研成果持有人的積極性和主動性。
Step2:根據(jù)粒子獲得的平滑因子,構(gòu)建PNN網(wǎng)絡(luò),計(jì)算識別精度即粒子的適應(yīng)度值。
Step3:與當(dāng)前局部最優(yōu)pbest比較,更新局部最優(yōu)值,使得目標(biāo)函數(shù)最大。
Step4:每個(gè)粒子的局部最優(yōu)值與當(dāng)前全局最優(yōu)值gbest比較,更新gbest,獲得最大的目標(biāo)函數(shù)值。
Step5:更新粒子的速度和位置。
Step6:迭代次數(shù)達(dá)到最大或者目標(biāo)函數(shù)達(dá)到最優(yōu)則終止循環(huán),否則返回Step3。
Step7:返回的粒子群的全局最優(yōu)值gbest為平滑因子的最優(yōu)值。
本文通過AR(1)時(shí)間序列模型模擬產(chǎn)生自相關(guān)數(shù)據(jù),其公式為:
Rt是具有一階自回歸AR(1)特性的時(shí)間序列數(shù)據(jù),μ=80是受控狀態(tài)的均值,φ是自相關(guān)系數(shù),隨機(jī)噪聲et服從N(0,λσε)分布(0≤λ≤1噪聲幅度參數(shù))。Xt為t時(shí)刻的觀測值,dt為異常波動,t時(shí)刻的異常波動為d(t)。窗口寬度為24,基于蒙特卡洛模擬產(chǎn)生訓(xùn)練樣本集和測試樣本集。
本文所構(gòu)建的基于PSO優(yōu)化概率神經(jīng)網(wǎng)絡(luò)的控制圖模式識別模型框架如圖3所示。
為了驗(yàn)證構(gòu)建的概率神經(jīng)網(wǎng)絡(luò)參數(shù)優(yōu)化模型,進(jìn)行了數(shù)值模擬實(shí)驗(yàn),通過得出的實(shí)驗(yàn)結(jié)果確定出概率神經(jīng)網(wǎng)絡(luò)運(yùn)用于自相關(guān)過程模式識別中的最優(yōu)參數(shù)。
實(shí)驗(yàn)在臺式計(jì)算機(jī)上進(jìn)行軟件環(huán)境為MATLAB 2015b。根據(jù)3.2節(jié)所述的訓(xùn)練樣本集和測試樣本集,如表1所示。
為了驗(yàn)證所構(gòu)建的概率神經(jīng)網(wǎng)絡(luò)的參數(shù)優(yōu)化模型的有效性,根據(jù)實(shí)驗(yàn)得出的結(jié)果進(jìn)行客觀分析。經(jīng)過迭代得到的最優(yōu)粒子編碼及其適應(yīng)度值如表2所示。
通過表2所示,經(jīng)過30次迭代優(yōu)化,PNN網(wǎng)絡(luò)對6種基本控制圖模式的平均識別精度在第30次迭代中達(dá)到最優(yōu),即平滑因子為2.34時(shí),取得的最優(yōu)適應(yīng)度為0.9518。
由表3所示,每種模式的識別準(zhǔn)確度都在90%以上,其中CYC模式的識別精度達(dá)到100%,US和DT模式的識別精度相對較低都為92.22%,經(jīng)過計(jì)算得出的平均識別精度達(dá)到95.18%。
優(yōu)化的PNN網(wǎng)絡(luò)用于自相關(guān)過程的控制圖模式識別,為了分析不同自相關(guān)水平下優(yōu)化的網(wǎng)絡(luò)的模式識別性能,本文選擇了相關(guān)系數(shù)為φ∈{0.9,0.7,0.5,0.3,0.1}55種情況進(jìn)行比較,結(jié)果如表4所示。
表4所示的實(shí)驗(yàn)結(jié)果顯示,自相關(guān)水平φ=0.5的識別精度最高,相關(guān)水平高于0.5或低于0.5識別精度都有降低;自相關(guān)水平對CYC模式的識別精度基本沒有影響,都能達(dá)到100%;當(dāng)φ=0.7時(shí),NOR模式的識別精度達(dá)到最高100%;綜上分析,數(shù)據(jù)的自相關(guān)水平對優(yōu)化的PNN網(wǎng)絡(luò)控制圖模式識別性能會產(chǎn)生影響。
圖3 構(gòu)建模式識別模型框架
本文將基于PSO優(yōu)化的概率神經(jīng)網(wǎng)絡(luò)控制圖模式識別方法與BP神經(jīng)網(wǎng)絡(luò)(BPANN)進(jìn)行比較研究。實(shí)驗(yàn)分別比較了不同自相關(guān)水平(φ∈{0.9,0.7,0.5,0.3,0.1})下兩種模型的過程異常模式識別準(zhǔn)確率,如圖4所示。
表1 訓(xùn)練與測試數(shù)據(jù)集
表2 最優(yōu)粒子編號及其適應(yīng)度值
表3 優(yōu)化的PNN網(wǎng)絡(luò)測試結(jié)果和準(zhǔn)確率
表4 不同自相關(guān)水平的識別精度(%)比較
圖4 不同自相關(guān)水平下優(yōu)化的PNN網(wǎng)絡(luò)與BP神經(jīng)網(wǎng)絡(luò)識別準(zhǔn)確率對比
從圖4中可見,正自相關(guān)系數(shù)無論相關(guān)程度的高低,優(yōu)化的PNN神經(jīng)網(wǎng)絡(luò)比BP神經(jīng)網(wǎng)絡(luò)的識別準(zhǔn)確率高,自相關(guān)水平越高BP神經(jīng)網(wǎng)絡(luò)的識別準(zhǔn)確率越低,相比之下優(yōu)化的PNN網(wǎng)絡(luò)的識別準(zhǔn)確率相對穩(wěn)定。
本文針對概率神經(jīng)網(wǎng)絡(luò)中SPREAD參數(shù)對網(wǎng)絡(luò)性能的影響,分別構(gòu)建平滑因子不同的PNN網(wǎng)絡(luò),通過粒子群算法經(jīng)過30次迭代優(yōu)化最終確定出最優(yōu)的平滑系數(shù)為2.34。優(yōu)化后的PNN網(wǎng)絡(luò)作用于自相關(guān)過程的控制圖模式識別中,當(dāng)自相關(guān)系數(shù)為0.5時(shí),平均識別精度最高。與控制圖識別領(lǐng)域常用的BP神經(jīng)網(wǎng)絡(luò)進(jìn)行了比較,結(jié)果顯示基于PSO優(yōu)化的概率神經(jīng)網(wǎng)絡(luò)的控制圖模式識別性能更強(qiáng)。
本文主要解決了PNN網(wǎng)絡(luò)在自相關(guān)過程控制圖模式識別應(yīng)用中的平滑因子不確定問題,PSO算法簡化了SPREAD參數(shù)通過經(jīng)驗(yàn)進(jìn)行調(diào)整的復(fù)雜過程。經(jīng)過數(shù)據(jù)仿真實(shí)驗(yàn),優(yōu)化的PNN網(wǎng)絡(luò)在自相關(guān)過程中的控制圖模式識別中可以取得較強(qiáng)的分類效果。
[1]Pugh G A.Synthetic neural networks for process control[J].Computers and Industrial Engineering,1989,17(1-4):24-26.
[2]Hwarng H B.Detecting process mean shift in the presence of autocorrelation: a neural-network based monitoring scheme[J].International Journal of Production Research,2004,42:573-595.
[3]Specht.D.F. Probability Neural Networks[J].Neural Networks,1990,3:109-118.
[4]Mao K Z, Tan K C,Ser W. Probabilistic Neural-network Structure Determination for Pattern Classification[J].IEEE Transactions on Neural Networks,2000,11(4):1009-1016.
[5]Cook D. F., Zobel C. W., Nottingham Q. J.Utilization of neural networks for the recognition ofvariance shifts in correlated manufacturing process parameters[J].International Journal of Production Research,2001,39(17):3881-3887.
[6]孫靜,自相關(guān)過程的統(tǒng)計(jì)控制狀態(tài)[J].管理工程學(xué)報(bào),2003,17(2):75-80.
[7]Kennedy, J.,Ebethart,R.C Particle swam optimization[A].Proceedings of IEEE international Conference on NeuraI Networks[C].1995,1942-1948.