陳耿新，林若波

(揭陽職業(yè)技術(shù)學(xué)院 信息工程系，廣東 揭陽 522000)

傳感器往往工作在惡劣環(huán)境中，較易發(fā)生故障，因此要求智能傳感器具備自診斷能力.自聯(lián)想神經(jīng)網(wǎng)絡(luò)(auto-associative neural network, AANN)具有內(nèi)部非正交性及網(wǎng)絡(luò)輸入向量等于輸出向量的特點(diǎn)，適用于傳感器故障診斷[1-3].但是，AANN乃至所有神經(jīng)網(wǎng)絡(luò)在參數(shù)選擇上至今沒有建立理論指導(dǎo)，也沒有提出真正有效的方法，大多數(shù)是試湊選擇、隨機(jī)選擇或經(jīng)驗(yàn)選擇，導(dǎo)致神經(jīng)網(wǎng)絡(luò)未能充分發(fā)揮優(yōu)勢.

近年來，許多學(xué)者開展了神經(jīng)網(wǎng)絡(luò)參數(shù)優(yōu)選的研究[4-9].張輝等[4]提出一種RBF(radial basis function)神經(jīng)網(wǎng)絡(luò)參數(shù)優(yōu)化算法，通過資源分配網(wǎng)絡(luò)算法、剪枝策略、改進(jìn)粒子群算法優(yōu)化RBF網(wǎng)絡(luò)的隱層神經(jīng)元數(shù)目、權(quán)值等參數(shù)，以獲得RBF網(wǎng)絡(luò)的合適結(jié)構(gòu)；薛升翔等[5]利用蛙跳算法優(yōu)化RBF神經(jīng)網(wǎng)絡(luò)參數(shù)，與標(biāo)準(zhǔn)遺傳優(yōu)化算法、粒子群優(yōu)化算法相比，該算法均方誤差更小、逼近能力更好；趙晶等[6]針對部分優(yōu)化方法收斂精度不高的缺點(diǎn)，提出基于文化量子粒子群算法的模糊神經(jīng)網(wǎng)絡(luò)參數(shù)優(yōu)化方法，并應(yīng)用于混沌時(shí)間序列預(yù)測，該方法具有一定優(yōu)越性.上述方法均較復(fù)雜，僅能應(yīng)用于特定神經(jīng)網(wǎng)絡(luò)，不能應(yīng)用于AANN及推廣至其他神經(jīng)網(wǎng)絡(luò).正交試驗(yàn)法是研究和處理多因素試驗(yàn)的一種科學(xué)方法，將正交試驗(yàn)應(yīng)用于AANN參數(shù)選擇，是一種優(yōu)化AANN直觀易行、客觀科學(xué)的方法.

本文對智能傳感器自診斷模型中AANN進(jìn)行建模，通過正交試驗(yàn)法對AANN的隱層神經(jīng)元數(shù)目、μ值減小率和增長率、樣本數(shù)目進(jìn)行試驗(yàn)，利用訓(xùn)練時(shí)間t和誤差平方和SSE (sum of the squared errors)組成的綜合指標(biāo)進(jìn)行參數(shù)優(yōu)化分析，得到最優(yōu)參數(shù).

1 系統(tǒng)建模

圖1為智能傳感器系統(tǒng)自診斷模型，首先通過一個(gè)訓(xùn)練好的AANN檢測是否發(fā)生故障，如發(fā)生故障，再利用九叉樹故障定位算法及AANN定位1個(gè)或多個(gè)故障傳感器.

圖1中AANN是拓?fù)浣Y(jié)構(gòu)對稱的前饋型傳遞網(wǎng)絡(luò)，除了具有一般前向神經(jīng)網(wǎng)絡(luò)的特征外，其獨(dú)特之處在于具有單位增益，即正常情況下，其輸入向量Xi(i=1, 2, …,s)等于輸出向量Yi(i=1, 2, …,s)，其中s為輸入層、輸出層神經(jīng)元數(shù)目[10].

AANN的結(jié)構(gòu)如圖2所示，它包括1個(gè)輸入層、若干隱含層和1個(gè)輸出層.隱含層的第1層為映射層，用于提取輸入信息的精華部分，其節(jié)點(diǎn)傳遞函數(shù)是Sigmoid函數(shù)f(x)= 1/(1+e-x)或其它類似的非線性函數(shù)；隱含層的中間層為瓶頸層，其維數(shù)是網(wǎng)絡(luò)中最小的，對信息進(jìn)行壓縮，具有濾波去噪的作用，其節(jié)點(diǎn)傳遞函數(shù)可以是線性函數(shù)或非線性函數(shù)；隱含層的最后一層為解映射層，用于還原信息，其節(jié)點(diǎn)傳遞函數(shù)為非線性函數(shù).可見，瓶頸層之前網(wǎng)絡(luò)的功能是對輸入信息進(jìn)行映射，提取輸入信息中精華部分，而瓶頸層之后網(wǎng)絡(luò)的功能是對信息進(jìn)行解映射，還原信息.

AANN利用誤差反向傳播(back propagation, BP)算法來進(jìn)行訓(xùn)練.通過大量的訓(xùn)練樣本，AANN自動(dòng)調(diào)整隱含層(映射層、瓶頸層和解映射層)各節(jié)點(diǎn)傳遞函數(shù)的權(quán)重，進(jìn)而得到各輸入信息之間的內(nèi)在關(guān)聯(lián)，使輸出信息和輸入信息盡可能相等.當(dāng)正確數(shù)據(jù)輸入到AANN中，Yi=Xi；如果1個(gè)或多個(gè)輸入數(shù)據(jù)受損，由于AANN內(nèi)部的非正交性，Yi≠Xi.

2 正交試驗(yàn)

2.1 因素與水平選取

假設(shè)智能傳感器系統(tǒng)包含10個(gè)傳感通道，則AANN輸入層、輸出層神經(jīng)元數(shù)目s=10.AANN采用收斂速度最快的訓(xùn)練方法：Levenberg-Marquardt算法，訓(xùn)練精度為0.01.選擇AANN隱層神經(jīng)元數(shù)目(m,n,m)、μ值減小率與增長率(p,q)、樣本數(shù)目作為試驗(yàn)因素，其中，m為映射層和解映射層的神經(jīng)元數(shù)目，n為瓶頸層的神經(jīng)元數(shù)目，p和q分別為Levenberg-Marquardt算法參數(shù)μ值減小率與增長率.每個(gè)因素選取3個(gè)具有代表性的水平.

確定因素及水平后，選用正交表L9(33)，其中下標(biāo)表示需進(jìn)行9次實(shí)驗(yàn)，33表示3因素3水平.表1是因素和水平表，因素A是隱層神經(jīng)元數(shù)目(m,n,m)，對應(yīng)3個(gè)水平分別是(12, 2, 12)、(15, 3, 15)、(18，4, 18)；因素B是μ值減小率與增長率(p,q)，對應(yīng)3個(gè)水平分別是(0.08, 8)、(0.1, 10)、(0.125, 12.5)；因素C是樣本數(shù)目，對應(yīng)3個(gè)水平分別是100、120、140個(gè).

表1 因素和水平表

2.2 指標(biāo)選取

神經(jīng)網(wǎng)絡(luò)的2個(gè)重要指標(biāo)是收斂速度及擬合程度.收斂速度可用訓(xùn)練時(shí)間t或訓(xùn)練次數(shù)表示，訓(xùn)練時(shí)間t更能反映實(shí)際收斂速度，故本試驗(yàn)選取訓(xùn)練時(shí)間t作為收斂速度指標(biāo)；擬合程度可用誤差平方和SSE或均方誤差MSE(mean squared error)表示，誤差平方和SSE更能反映各因素導(dǎo)致的誤差變化趨勢，故本試驗(yàn)選用誤差平方和SSE作為擬合程度指標(biāo)，SSE計(jì)算如式(1)所示，式中i=1,2,…,10.因?yàn)檫@2個(gè)指標(biāo)重要程度均等，故在本試驗(yàn)中，訓(xùn)練時(shí)間t和誤差平方和SSE權(quán)值均取50%.

(1)

AANN訓(xùn)練時(shí)間t和誤差平方和SSE越小，AANN性能越優(yōu)，所以采用式(2)所示綜合指標(biāo).

(2)

式中，tk、SSEk分別為第k次試驗(yàn)結(jié)果的t值、SSE值(k=1, 2, ……, 9)，tmax、SSEmax分別為tk、SSEk中的最大值，Zk為第k次試驗(yàn)結(jié)果的綜合指標(biāo)值，Zk越大，AANN越優(yōu).

2.3 AANN訓(xùn)練與試驗(yàn)

采用Matlab的神經(jīng)網(wǎng)絡(luò)工具箱對智能傳感器自診斷中AANN參數(shù)正交試驗(yàn)優(yōu)選法進(jìn)行仿真.首先，建立AANN絡(luò)，利用newff()函數(shù)建立5層AANN，輸入層及3個(gè)隱含層傳遞函數(shù)為tansig，輸出層傳遞函數(shù)為purelin，學(xué)習(xí)算法采用Levenberg-Marquardt算法；其次，訓(xùn)練AANN，訓(xùn)練時(shí)間設(shè)為 1 000 ms，精度設(shè)為0.01，設(shè)置μ值減小率和增長率相應(yīng)水平值；最后，測試網(wǎng)絡(luò)，驗(yàn)證網(wǎng)絡(luò)建立及訓(xùn)練結(jié)果.

AANN訓(xùn)練完成后，根據(jù)正交表L9(33)輸入A、B、C因素的不同水平組合，進(jìn)行9次試驗(yàn)，得到相應(yīng)的tk、SSEk，再根據(jù)式(2)計(jì)算綜合指標(biāo)值Zk.表2是AANN正交試驗(yàn)結(jié)果.

表2 AANN正交試驗(yàn)結(jié)果

從表2可以看出，6號試驗(yàn)結(jié)果Z6最大，表明該因素水平組合是9個(gè)試驗(yàn)中最佳的，但不一定是所有水平組合中最優(yōu)的，需進(jìn)一步進(jìn)行數(shù)據(jù)處理與參數(shù)優(yōu)選.

3 數(shù)據(jù)處理與參數(shù)優(yōu)化

3.1 數(shù)據(jù)處理

首先，通過式(3)計(jì)算9次試驗(yàn)結(jié)果的均值.

(3)

然后，計(jì)算表2中j因素(j為A、B、C)第i水平(i=1, 2, 3)試驗(yàn)結(jié)果之和Kij.如B因素第2水平試驗(yàn)結(jié)果之和K2B=Z2+Z5+Z8.再由式(4)計(jì)算ωij.

(4)

式中，ωij表示j因素第i水平的效應(yīng)，r為j因素上第i水平出現(xiàn)的次數(shù)，本試驗(yàn)中r=3.利用式(5)計(jì)算j因素的極差Rj.

Rj=max{ωij}-min{ωij}.

(5)

Rj越大，則j因素對試驗(yàn)結(jié)果影響越大.表3是試驗(yàn)直觀分析計(jì)算表.

表3 試驗(yàn)直觀分析計(jì)算表

從表3可以看出:①RC>RB>RA，所以各因素對AANN性能影響程度由主到次依次為C、B、A，C為主要影響因素；②ω2A>ω1A>ω3A，ω1B>ω3B>ω2B，ω1C>ω2C>ω3C，可斷定A2、B1、C1分別為A、B、C因素的優(yōu)水平(其中ji表示j因素的i水平).所以，A2B1C1為本試驗(yàn)的最優(yōu)水平組合，即隱層神經(jīng)元數(shù)目為(15, 3, 15)，μ值減小率和增長率為(0.08, 8)，樣本數(shù)目為100時(shí)，AANN的收斂速度和擬合程度在本試驗(yàn)中最優(yōu).

3.2 參數(shù)優(yōu)選

上述正交試驗(yàn)是簡便、快速得到試驗(yàn)中最優(yōu)水平組合的方法，能快速趨近于最優(yōu)方案，但仍有可能漏掉最優(yōu)方案.下面結(jié)合正交試驗(yàn)與因素-效應(yīng)關(guān)系圖，進(jìn)行AANN參數(shù)優(yōu)選，找出真正最優(yōu)因素水平組合.

根據(jù)表2和表3作出圖3所示的因素-效應(yīng)圖(趨勢圖).從因素-效應(yīng)圖可以看出，A3、B1、C1分別為A、B、C因素的優(yōu)水平，組合A3B1C1總效應(yīng)最大，即A3B1C1為趨勢最優(yōu)水平組合.但是，此趨勢最優(yōu)水平組合與上述試驗(yàn)最優(yōu)水平組合A2B1C1不同.

一般來說，AANN隱層神經(jīng)元數(shù)目越多，神經(jīng)網(wǎng)絡(luò)的擬合程度越高(神經(jīng)元數(shù)目過多也會(huì)導(dǎo)致過擬合)，但此時(shí)訓(xùn)練時(shí)間會(huì)相對較長，兩者存在矛盾.所以，需對趨勢最優(yōu)水平組合A3B1C1和試驗(yàn)最優(yōu)水平組合A2B1C1進(jìn)一步試驗(yàn)、評估，找出AANN最優(yōu)參數(shù).

對趨勢最優(yōu)水平組合A3B1C1和試驗(yàn)最優(yōu)水平組合A2B1C1重新試驗(yàn)的結(jié)果如表4所示.可以看出，A2B1C1在訓(xùn)練時(shí)間t和誤差平方和SSE兩項(xiàng)指標(biāo)上均明顯優(yōu)于A3B1C1，所以A2B1C1為AANN最優(yōu)參數(shù)，即隱層神經(jīng)元數(shù)目為(15, 3, 15)，μ值減小率和增長率為(0.08, 8)，樣本數(shù)目為100時(shí)，AANN性能最優(yōu)，使智能傳感器自診斷性能最優(yōu)越.

表4 A3B1C1和A2B1C1試驗(yàn)結(jié)果

4 結(jié)語

正交試驗(yàn)是AANN等神經(jīng)網(wǎng)絡(luò)參數(shù)優(yōu)選的簡便、快速、有效方法，試驗(yàn)參數(shù)優(yōu)選過程需結(jié)合趨勢最優(yōu)水平組合和試驗(yàn)最優(yōu)水平組合，選擇最優(yōu)參數(shù).

AANN可應(yīng)用于智能傳感器系統(tǒng)故障診斷，利用正交試驗(yàn)法對AANN參數(shù)進(jìn)行優(yōu)選，對于10個(gè)傳感通道的傳感器系統(tǒng)，其AANN的最優(yōu)參數(shù)是隱層神經(jīng)元數(shù)目為(15, 3, 15)，Levenberg-Marquardt訓(xùn)練算法μ值減小率和增長率為(0.08, 8)，樣本數(shù)目為100；

AANN各因素對其性能影響程度由主到次依次為樣本數(shù)目、μ值減小率和增長率、隱層神經(jīng)元數(shù)目，樣本數(shù)目為主要影響因素.

參考文獻(xiàn):

[1] HUANG Guo-jian, LIU Gui-xiong, CHEN Geng-xin, et al. Self-recovery method based on auto-associative neural network for intelligent sensors[C]//Intelligent Control and Automation (WCICA).IEEE,2010：6918-6922.

[2] SHAH B, SARVAJITH M, SANKAR B, et al. Multi-auto associative neural network based sensor validation and estimation for aero-engine[C]//AUTOTESTCON 2013. 2013：1-7.

[3] 李歡歡, 司風(fēng)琪, 徐治皋. 一種基于魯棒自聯(lián)想神經(jīng)網(wǎng)絡(luò)的傳感器故障診斷方法[J]. 中國電機(jī)工程學(xué)報(bào), 2012, 32(14)：116-120.

[4] 張輝, 柴毅. 一種改進(jìn)的RBF神經(jīng)網(wǎng)絡(luò)參數(shù)優(yōu)化方法[J]. 計(jì)算機(jī)工程與應(yīng)用, 2012, 48(20)：146-149.

[5] 薛升翔, 賈振紅, 楊杰, 等. 用蛙跳算法優(yōu)化RBF神經(jīng)網(wǎng)絡(luò)參數(shù)的研究[J]. 計(jì)算機(jī)工程與應(yīng)用, 2011, 47(28)：59-61.

[6] 趙晶, 孫俊, 須文波. 基于文化量子粒子群的模糊神經(jīng)網(wǎng)絡(luò)參數(shù)優(yōu)化[J]. 計(jì)算機(jī)工程與應(yīng)用, 2011, 47(10)：17-19.

[7] 吳貴芳, 林青松, 孫秀明, 等. 基于小樣本的神經(jīng)網(wǎng)絡(luò)參數(shù)優(yōu)化選擇方法[J]. 計(jì)算機(jī)應(yīng)用, 2008, 28(7)：1662-1664.

[8] 馮再勇. 一種值得推廣的神經(jīng)網(wǎng)絡(luò)參數(shù)初始化方法[J]. 陜西科技大學(xué)學(xué)報(bào), 2008, 26(6)：124-127.

[9] 陳廷, 李立輕, 陳霞. 一種基于模糊邏輯的神經(jīng)網(wǎng)絡(luò)輸入?yún)?shù)篩選方法:中國， 200610147213 [P]. 2006-12-14.

[10] KRAMER M A. Autoassociative neural networks[J]. Computers and Chemical Engineering, 1992, 16(4)：313-328.