張 寧,李 祥,鹿珂珂
(1.海軍航空工程學(xué)院訓(xùn)練部,山東煙臺(tái) 264001; 2.海軍航空工程學(xué)院控制工程系,山東煙臺(tái) 264001)
神經(jīng)網(wǎng)絡(luò)具有自適應(yīng)學(xué)習(xí)能力、并行處理信息的能力,在自動(dòng)控制、參數(shù)辨識(shí)、信號(hào)處理、信號(hào)加密等領(lǐng)域應(yīng)用非常廣泛。在神經(jīng)網(wǎng)絡(luò)算法中,如何提高參數(shù)的收斂速度和精度是很多人研究的方向。很多學(xué)者對(duì)如何提高神經(jīng)網(wǎng)絡(luò)的收斂速度做了大量的研究,例如,使算法避免陷入局部最小,提高算法的學(xué)習(xí)效率,使權(quán)值向更好的方向調(diào)整,減少算法所產(chǎn)生的誤差[1]。雖然研究人員開發(fā)出來(lái)一些學(xué)習(xí)算法,提高了算法的效率,但是仍然很難照顧到全部的數(shù)據(jù)信息,有可能造成數(shù)據(jù)的丟失,從而影響到對(duì)參數(shù)的估計(jì)。有的學(xué)者提出利用灰色系統(tǒng)理論知識(shí),將灰色系統(tǒng)和神經(jīng)網(wǎng)絡(luò)算法結(jié)合起來(lái),進(jìn)一步優(yōu)化神經(jīng)網(wǎng)絡(luò)算法,提高算法的精度[2]。
當(dāng)系統(tǒng)的特征不清晰,比較模糊,不能真實(shí)反映系統(tǒng)的數(shù)據(jù)信息,這樣的系統(tǒng)我們稱之為灰色系統(tǒng)。在數(shù)據(jù)庫(kù)中龐大的信息中,使用傳統(tǒng)的算法很難對(duì)數(shù)據(jù)進(jìn)行分析和處理。采用灰色系統(tǒng)理論來(lái)分析這些數(shù)據(jù),會(huì)發(fā)現(xiàn)這些數(shù)據(jù)內(nèi)部會(huì)存在某種規(guī)律。利用灰色系統(tǒng)理論將規(guī)律尋找出來(lái),對(duì)數(shù)據(jù)信息進(jìn)行建模,形成描述系統(tǒng)狀態(tài)和變化規(guī)律的模型?;疑皇潜硎緮?shù)據(jù)信息中部分已知,視不確定量為灰色信息,這些灰色數(shù)據(jù)信息會(huì)給人一種不放心的感覺,在現(xiàn)實(shí)世界中存在著大量的不確定或者不清晰的信息[3]?;疑到y(tǒng)理論可以運(yùn)用數(shù)學(xué)模型將這些數(shù)據(jù)信息用數(shù)學(xué)方程式表達(dá)出來(lái),對(duì)其中的參數(shù)進(jìn)行估計(jì)和預(yù)測(cè)。數(shù)學(xué)模型的輸入是實(shí)際中的數(shù)據(jù)信息,首先要對(duì)這些信息進(jìn)行分析和處理,選取不同的目標(biāo)數(shù)據(jù)進(jìn)行訓(xùn)練,進(jìn)而確定模型中的不確定參數(shù),對(duì)參數(shù)進(jìn)行預(yù)測(cè)和辨識(shí)[4]?;疑到y(tǒng)的參數(shù)估計(jì)過(guò)程如圖1所示。
多層前向 BP神經(jīng)網(wǎng)絡(luò)包含一個(gè)輸出層和一個(gè)輸入層,一個(gè)或多個(gè)隱含層。輸出層的變換函數(shù)可以是非線性的,也可以是線性的。多層前向BP神經(jīng)網(wǎng)絡(luò)能逼近任意非線性函數(shù),三層BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖如圖2所示。
圖1 灰色系統(tǒng)的參數(shù)估計(jì)過(guò)程圖
圖2 三層BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖
圖3 灰色系統(tǒng)和BP神經(jīng)網(wǎng)絡(luò)算法相結(jié)合的結(jié)構(gòu)圖
以具有n個(gè)輸入、q個(gè)隱含節(jié)點(diǎn)、r個(gè)輸出的三層BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為例,則BP神經(jīng)網(wǎng)絡(luò)輸入層的輸出為:
隱含層第j個(gè)神經(jīng)元的輸入、輸出可寫成:
式中,ωji——隱含層加權(quán)系數(shù);
輸出層的第k個(gè)神經(jīng)元的總輸入為[5-6]:
灰色系統(tǒng)模型在參數(shù)的估計(jì)中,精度不是很高,存在較大的誤差,如果要辨識(shí)離散程度比較大的信息數(shù)據(jù),將不能較好的反映全部數(shù)據(jù)的變化,對(duì)數(shù)據(jù)信息的學(xué)習(xí)和訓(xùn)練能力比較有限。BP神經(jīng)網(wǎng)絡(luò)對(duì)數(shù)據(jù)信息的學(xué)習(xí)訓(xùn)練能力比較強(qiáng),不容易陷入局部最小值,但是學(xué)習(xí)訓(xùn)練速度和建模時(shí)間比較長(zhǎng)。將灰色系統(tǒng)理論和BP神經(jīng)網(wǎng)絡(luò)算法相結(jié)合,利用每個(gè)算法的優(yōu)勢(shì)對(duì)數(shù)據(jù)信息進(jìn)行分析和處理,從而避免單一理論算法的缺點(diǎn),在不足的地方用另一個(gè)算法的優(yōu)勢(shì)來(lái)補(bǔ)償,這種組合算法會(huì)獲得更好的參數(shù)估計(jì)精度。灰色系統(tǒng)和BP神經(jīng)網(wǎng)絡(luò)算法相結(jié)合的結(jié)構(gòu)圖如圖3所示。
系統(tǒng)的離散數(shù)學(xué)模型為:
其中參數(shù)θ0,θ1為定值時(shí),?。害?=1.524,θ1=-0.573。參數(shù)θ的仿真結(jié)果圖4至圖5所示。
圖4 參數(shù)θ0的估值圖
圖5 參數(shù)θ1的估值圖
從圖4和圖5的仿真圖可以看出,灰色系統(tǒng)理論和BP神經(jīng)網(wǎng)絡(luò)算法相融合對(duì)數(shù)學(xué)模型中的參數(shù)進(jìn)行估計(jì)會(huì)得到較好的效果。參數(shù)的收斂速度較快,沒有超調(diào)量,對(duì)參數(shù)的估值精度比較高,誤差較小。
灰色系統(tǒng)模型在參數(shù)的估計(jì)中,精度不是很高,存在較大的誤差,BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練能力比較強(qiáng),不容易陷入局部最小值,但是學(xué)習(xí)訓(xùn)練速度和建模時(shí)間比較長(zhǎng)。兩種算法都存在各自的缺陷,為了提高模型中參數(shù)的收斂速度和精度,本文將灰色系統(tǒng)理論和BP神經(jīng)網(wǎng)絡(luò)算法相融合,對(duì)模型中的參數(shù)進(jìn)行預(yù)測(cè),通過(guò)仿真,我們可以看出,模型中參數(shù)的收斂速度較快,沒有超調(diào)量,對(duì)參數(shù)的估值精度比較高,誤差較小。
[1]陳淑燕.交通量的灰色神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法[J].東南人學(xué)學(xué)報(bào)(自然科學(xué)版),2004,34(4): 541-544.
[2]趙奇,劉開第.灰色補(bǔ)償神經(jīng)網(wǎng)絡(luò)及其應(yīng)用研究[J].微計(jì)算機(jī)信息,2005,21(8):428-431.
[3]何斌.蒙清灰色預(yù)測(cè)模型拓廣方法研究[J].系統(tǒng)工程理論與實(shí)踐,2002,19(6):137-140.
[4]左云波,張懷存.一種改進(jìn)的BP網(wǎng)絡(luò)快速算法[J].北京機(jī)械工業(yè)學(xué)院學(xué)報(bào),2005,14(20):31-34.
[5]劉峰,瞿俊.基于聚類分析和神經(jīng)網(wǎng)絡(luò)的時(shí)間序列預(yù)測(cè)方法[J].微電子學(xué)與汁算機(jī),2006,23(9):85-87.
[6]謝景新,科春田,秦穎.基于并行神經(jīng)網(wǎng)絡(luò)集成的多步預(yù)測(cè)方法[J].計(jì)算機(jī)工程與用,2006,14(8):75-80.