王祖順,韓吉德,王春青
(青海省第二測繪院,青海西寧810001)
?
回歸-Elman網(wǎng)絡(luò)在礦壩變形預測中的應用
王祖順,韓吉德,王春青
(青海省第二測繪院,青海西寧810001)
摘 要:金礦開展礦壩的變形監(jiān)測工作,引入多層遞階回歸分析模型,有較高的預測精度,但方法較繁瑣,計算較復雜。由于變形數(shù)據(jù)可分離成趨勢項與隨機項,趨勢項可用多元線性回歸良好地擬合;隨機項的預測,文中采用Elman網(wǎng)絡(luò)建模計算,最后利用礦壩的實測高程位移數(shù)據(jù)進行驗證,并與多層遞階回歸進行比較。結(jié)果表明:回歸-Elman網(wǎng)絡(luò)模型比多層遞階回歸的預測精度更高,效果更好,且方法簡潔實用性強。
關(guān)鍵詞:Elman神經(jīng)網(wǎng)絡(luò);回歸分析;變形預測;多層遞階回歸;組合模型
回歸分析模型、時間序列分析模型、人工神經(jīng)網(wǎng)絡(luò)模型等,是對變形數(shù)據(jù)進行預測預報的多種方法,是測繪人員長期地研究相關(guān)課題而相繼提出的[1]。然而每種模型都有一定的局限性,需滿足一定的適用條件。變形體變形機理多樣且復雜,結(jié)合多學科知識來逼近模擬變形規(guī)律是未來研究趨勢之一。
形變序列往往既具有確定的趨勢項,又具有不確定的隨機項。趨勢項可以由回歸分析較好地擬合,但是隨機項,需要進一步處理[2]。文獻[3]采取的是多層遞階回歸,方法繁瑣,且其回歸分析的參數(shù)并不固定,隨時間而改變,計算復雜。而神經(jīng)網(wǎng)絡(luò)能夠自學習自適應與信息綜合,不僅能夠運算數(shù)值數(shù)據(jù),對抽象的問題或未知的系統(tǒng)也能處理[1]。
張文博[4]等將BP神經(jīng)網(wǎng)絡(luò)應用于建筑物沉降預測。BP神經(jīng)網(wǎng)絡(luò)具有3層的網(wǎng)絡(luò)結(jié)構(gòu)[5]。它是非線性、自適應處理系統(tǒng),可以通過自學來逼近輸入輸出之間的非線性映射關(guān)系。預測速度快,容錯能力和抗干擾能力強。但是網(wǎng)絡(luò)信息只能向前單方向流動。學者Elman等提出Elman神經(jīng)網(wǎng)絡(luò)模型。其內(nèi)部的神經(jīng)元不僅有前饋連接還有反饋連接,是具有記憶的功能動態(tài)神經(jīng)網(wǎng)絡(luò)。能夠更生動更直接地反映系統(tǒng)的動態(tài)特性[6]。故本文提出用Elman神經(jīng)網(wǎng)絡(luò)來預測隨機項。
因此,本文結(jié)合回歸分析和Elman網(wǎng)絡(luò),嘗試用回歸分析來擬合形變序列里的趨勢項并用Elman神經(jīng)網(wǎng)絡(luò)來預測隨機項,并通過具體算例來加以實現(xiàn)。
對于大壩監(jiān)測點高程變化的線性系統(tǒng),設(shè)系統(tǒng)有n個影響因子μ1、μ2……μn。沉降擬合值為,則多元線性回歸分析的數(shù)學模型為
其中a0,a1……an為回歸系數(shù)。
進行多元回歸擬合之后,將實測值與回歸擬合值作差,則得到一組殘差序列。該殘差序列即是隨機項。有很多因素影響監(jiān)測點殘差序列的變化,且這些因素同樣也是不可準確預知未來值的[10]。但是觀測點的時間序列數(shù)據(jù)內(nèi)暗含了這些因素造成的影響。故可采用神經(jīng)網(wǎng)絡(luò)模型來預測這些監(jiān)測點的時間序列數(shù)據(jù)。對隨機項用Elman網(wǎng)絡(luò)建模后,預測出未來的殘差值。然后將預測的殘差值與回歸分析的預測值相加,即得到最終的組合模型的預測值。
Elman神經(jīng)網(wǎng)絡(luò)[7]與前饋神經(jīng)網(wǎng)絡(luò)的區(qū)別在于增加了反饋通路,是一種動態(tài)的非線性模型。陳幸瓊等[8]認為,引入反饋通路使得網(wǎng)絡(luò)能夠更有效地綜合處理時間序列信息,可將某些神經(jīng)元的輸出經(jīng)過延時之后反饋到其它神經(jīng)元或自身,具有適應時變特性的能力。邱峻等[9]認為,Elman神經(jīng)網(wǎng)絡(luò)在慣性輸入輸出數(shù)據(jù)的處理方面具有無法比擬的優(yōu)勢,從而廣泛應用于時間序列預測等方面。不同于與BP神經(jīng)網(wǎng)絡(luò)經(jīng)典的三層結(jié)構(gòu),Elman神經(jīng)網(wǎng)絡(luò)由輸入層、隱藏層、關(guān)聯(lián)層、輸出層共4層組成,見圖1。
其中輸入層、隱藏層和輸出層的作用與前饋神經(jīng)網(wǎng)絡(luò)相似。而關(guān)聯(lián)層的作用在于讓當前和以前的輸入層數(shù)據(jù)皆對輸出層有影響。此特性有利于時間序列的預測。
圖1 Elman神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
簡述Elman網(wǎng)絡(luò)的算法[9]如下。Elman網(wǎng)絡(luò)的非線性狀態(tài)空間表達式為
其中,y為輸出結(jié)點向量,x為n維中間層結(jié)點單元向量,u為r維輸入向量,xc為n維反饋狀態(tài)向量,w3為中間層到輸出層連接權(quán)值,w2為輸入層到中間層連接權(quán)值,w1為承接層到中間層的連接權(quán)值,g函數(shù)為輸出神經(jīng)元的傳遞函數(shù),是中間層輸出的線性組合。f函數(shù)為中間層神經(jīng)元的傳遞函數(shù),常采用Sigmoid函數(shù)。
本實驗數(shù)據(jù)采用文獻[3]中提供的算例。某金礦開展了礦壩的移動與變形監(jiān)測工作。從1995年5月開始平均每月監(jiān)測一次下沉值。根據(jù)歷史經(jīng)驗,壩內(nèi)所蓄物質(zhì)的施壓μ1(k)及溫度μ2(k)是影響礦壩變形的主要因素。用y(k)表示礦壩的移動值,其中k為離散的流動時間(月)。原始數(shù)據(jù)及影響因子數(shù)據(jù)如表1。
表1 礦壩下沉值與影響因素
續(xù)表1
現(xiàn)由監(jiān)測到的33次尾壩下沉值,取其前29次下沉值進行建模,并預測出未來4期的數(shù)據(jù)。圖2是前29期的監(jiān)測值變化曲線。
圖2 前29期監(jiān)測數(shù)據(jù)
3.1 多元線性回歸分析
根據(jù)實測數(shù)據(jù),進行多元線性回歸分析,建立回歸方程為:
畫出多元回歸分析的擬合值,如圖3所示。
圖3 回歸模型擬合值
將原始觀測值與回歸分析的擬合值作差,得到殘差序列。如圖4所示。
3.2 Elman網(wǎng)絡(luò)預測殘差序列
牛家洋等[10]認為,用人工神經(jīng)網(wǎng)絡(luò)模型來預測殘差序列的方法,就是將殘差序列分為許多組一定長度的樣本作為網(wǎng)絡(luò)的輸入,每組樣本都將對應1個或多個未來的預測數(shù)據(jù),未來的預測值即作為網(wǎng)絡(luò)的輸出。訓練網(wǎng)絡(luò),利用訓練集中的樣本對各個神經(jīng)元的連接進行權(quán)重調(diào)整,使預測值盡可能逼近期待值,符合精度要求。訓練完成后,網(wǎng)絡(luò)即可用于殘差序列的預測。具體步驟如下。
圖4 殘差值
3.2.1 歸一化
數(shù)據(jù)歸一化是把最小的序列值映射為0,最大的序列值映射為1。其余數(shù)據(jù)依次按照其值的大小按公式映射到[0,1]這個區(qū)間。歸一化公式如下:
進行歸一化避免了因為某些變化范圍廣的數(shù)據(jù)在數(shù)值上相差過大而造成大數(shù)據(jù)淹沒小數(shù)據(jù)的問題,將樣本數(shù)據(jù)統(tǒng)一映射到一個符合激活函數(shù)要求的區(qū)間之內(nèi)。
3.2.2 確定時間序列的長度
在預測模型中網(wǎng)絡(luò)輸入層的節(jié)點數(shù)即為時間序列每組樣本的長度p。通常將時序數(shù)據(jù)的變動周期作為步長值。時序數(shù)據(jù)的變動周期值根據(jù)自相關(guān)系數(shù)來確定。設(shè)一個含有n個數(shù)據(jù)的時間序列{xi},其滯后k步的自相關(guān)系數(shù)為r(k):
當自相關(guān)系數(shù)為式(7)時[11],推斷時序延遲k步相關(guān)性顯著,否則不顯著。通常選取最大相關(guān)性對應的k作為每組樣本的長度p。
3.2.3 網(wǎng)絡(luò)建模
在Matlab中使用newelm的命令來建立Elamn神經(jīng)網(wǎng)絡(luò)。通過反復調(diào)試,設(shè)置隱含層節(jié)點數(shù)為10,隱藏層傳遞函數(shù)為tansig函數(shù),輸出層激活函數(shù)為purelin函數(shù),訓練函數(shù)選為trainlm函數(shù),并對網(wǎng)絡(luò)進行訓練。
經(jīng)過上述數(shù)據(jù)集的訓練最終得到Elman網(wǎng)絡(luò)的預測模型。利用模型得到后4個時間段的預測結(jié)果。并將預測結(jié)果與多層階梯回歸法做比較。如表2所示。
表2 預測結(jié)果比較
由上述對比分析結(jié)果可以看出,總體上Elman網(wǎng)絡(luò)在有限次預測內(nèi)有更好的效果,預測精度普遍提高。
分別計算小波神經(jīng)網(wǎng)絡(luò)和Elman神經(jīng)網(wǎng)絡(luò)模型預測結(jié)果的中誤差。
多層階梯預測結(jié)果的中誤差為
Elman網(wǎng)絡(luò)預測結(jié)果的中誤差為
由于σ2<σ1,故同樣證明了Elman網(wǎng)絡(luò)模型用于變形預測的有效性,可見該模型具有良好的短期預報效果。
回歸分析可以很好描述歷史數(shù)據(jù)的趨勢項。而Elman網(wǎng)絡(luò)屬于典型的動態(tài)神經(jīng)網(wǎng)絡(luò)。采用的是動態(tài)的建模方法,能夠更生動直接地反映出殘差的動態(tài)特性,使得變形建模能因觀測時序數(shù)據(jù)的更新而更新,并作出相應時序值的預報。所以組合模型預測精度更高、收斂速率更快、效果更好。因此回歸分析與Elman網(wǎng)絡(luò)組合模型適用于變形監(jiān)測數(shù)據(jù)的預測,實用價值較好。
參考文獻:
[1] 潘國榮,谷川.變形監(jiān)測數(shù)據(jù)的小波神經(jīng)網(wǎng)絡(luò)預測方法[J].大地測量與地球動力學,2007,27(4):47-50.
[2] 吳益平,滕偉福,李亞偉.灰色–神經(jīng)網(wǎng)絡(luò)模型在滑坡變形預測中的應用[J].巖石力學與工程學報,2007,26 (3):632-637.
[3] 欒元重,呂法奎,班訓海.動態(tài)變形觀測與預報[M].北京:中國農(nóng)業(yè)科學技術(shù)出版社,2007.217-224.
[4] 張文博,郭云開.基于BP神經(jīng)網(wǎng)絡(luò)的建筑物沉降預測模型研究[J].測繪工程,2013.22(2):52-56.
[5] ANDERSON J A.Introduction to Neural Networks [M].Cambridge,MA:MIT Press,1995.
[6] 朱群雄,孫鋒.RNN神經(jīng)網(wǎng)絡(luò)的應用研究[J].北京化工大學學報.1998,25(1):86-90.
[7] Elman J.Finding structure in time[J].Cognitive science,1990,14(2):179-211.
[8] 陳幸瓊,鄧長虹,潘章達,等.基于RBF循環(huán)神經(jīng)網(wǎng)絡(luò)的電力系統(tǒng)負荷建模[J].電網(wǎng)技術(shù),2007,31(17):56-59.
[9] 邱峻,張瑞林.基于遺傳算法的循環(huán)神經(jīng)網(wǎng)絡(luò)在銷售預測中的應用[J].浙江理工大學報,2007.5(3):266-270.
[10]牛家洋,王洪國,邵增珍.BP人工神經(jīng)網(wǎng)絡(luò)算法在鳥情時間序列預測的應用[J].信息技術(shù)與信息化,2013 (3):93-97.
[11]許國根,賈瑛.模式識別與智能計算的MATLAB實現(xiàn)[M].北京:北京航空航天大學出版社,2012.
[12]張拯,張獻州.時間序列協(xié)整關(guān)系及其在變形分析中的應用研究[J].測繪工程,2015,24(9):53-59.
[13]郇小龍,甄宗坤.基于自回歸分布滯后模型的地面沉降預測[J].測繪工程,2015,24(9):59-61.
[14]任遠軍,李龍,石寧,等.改進的GM(1,1)模型在大壩變形預測中的應用[J].測繪工程,2015,24(6):61-64.
[責任編輯:王文福]
Application of regression-Elman network model to the dam deformation forcasting
WANG Zushun,HAN Jide,WANG Chunqing
(Second Surveying and Mapping Institute of Qinghai Province,Xi’ning 810001,China)
Abstract:A deformation monitoring for a gold mine is conducted in Shangdong using multi-layered hierarchical regression analysis.A good prediction accuracy is obtained,but the method is complicated in calculation.The deformation monitoring data can be seperated into trend values and random values.Regression method can predict trend values well.To predict the random value,this paper has introduced Elman neural network.The actual monitoring data for elevation displacement variation of mine dam is used for model verification.The prediction result is compared with multi-level recursive regression.It is concluded that better accuracy of prediction can be obtained through the regression-Elman network model and this method is concise and practical.
Key words:Elman neural network;regression;deformation prediction;multi-level recursive regression; combined model
作者簡介:王祖順(1978-),男,工程師.
收稿日期:2014-06-03;修回日期:2015-09-30
中圖分類號:TU196+.1
文獻標識碼:A
文章編號:1006-7949(2016)01-0039-04