牛志娟,胡紅萍

(中北大學(xué) 理學(xué)院,山西 太原 030051)

基于最小二乘法的BP神經(jīng)網(wǎng)絡(luò)在極端溫度預(yù)測模型中的應(yīng)用

牛志娟,胡紅萍

(中北大學(xué) 理學(xué)院,山西 太原 030051)

摘要：指出了極端溫度預(yù)測問題受到多種因素的共同影響,具有非線性和高度復(fù)雜性。為了提高非線性時間序列在預(yù)測模型中的準(zhǔn)確性,提出了一種利用最小二乘法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)預(yù)測方法。該方法通過采用最小二乘法對數(shù)據(jù)樣本集進行擬合,用BP算法進行優(yōu)化,構(gòu)建了兩者結(jié)合的預(yù)測模型。應(yīng)用1989～2009年的密云市溫度數(shù)據(jù)資料,分別建立了基于最小二乘優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)和單一BP神經(jīng)網(wǎng)絡(luò)模型,并對預(yù)測結(jié)果進行了分析對比。結(jié)果表明:最小二乘法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)具有更好的泛化能力,對平均最低溫度的預(yù)測更加穩(wěn)定,預(yù)測精度高于單一的BP神經(jīng)網(wǎng)絡(luò)。該模型可以對氣候變化中氣候變化中的平均最低氣溫具有較好的預(yù)測能力。

關(guān)鍵詞：BP神經(jīng)網(wǎng)絡(luò);最小二乘法;極端溫度;預(yù)測

收稿日期：2015-09-08

基金項目：國家自然科學(xué)基金項目(編號:61275120)資助

作者簡介：牛志娟(1988—)，女，河南開封人,中北大學(xué)理學(xué)院碩士研究生。

通訊作者：胡紅萍(1988—),女,山西靈石人,博士后,副教授,主要從事數(shù)學(xué)在工程中的應(yīng)用研究。

中圖分類號：O29

文獻標(biāo)識碼：A

文章編號：：1674-9944(2015)11-0017-03

Abstract:The prediction of extreme temperature is affected by many factors,which has nonlinearity and high complexity.In order to improve the accuracy of nonlinear time series in the prediction model,the article proposes a BP neural network prediction method which is optimized by least squares method.This method builds a combination forecasting model by using the least square method for fitting sample data set and using BP algorithm for optimizing.Taking the temperature data of Miyun from 1989 to 2009 as data source,the article establishes the BP neural network model based on least squares optimization and the single BP neural network model respectively.Then the article analyzes and compares the forecasting results.The results show that the BP neural network model which is optimized by the least squares exhibits better generalization ability than single BP neural network model.The forecast of average minimum temperature is more stable by the BP neural network model which is optimized by the least squares and the prediction accuracy is higher than that by single BP neural network model.The developed model can be expected to predict the average minimum temperature in the climate change with high predictive ability.

1引言

氣候變化對人類健康和農(nóng)業(yè)經(jīng)濟起著重要作用[1],溫度的變化是重要的影響因素之一,對溫度準(zhǔn)確性預(yù)測的研究具有重要的科學(xué)實際意義。極端溫度是一段時間內(nèi)某一地區(qū)達到的最低和最高溫度，對人類健康有重要影響，影響極端溫度的因素包括：降水量、平均氣溫、降水距百分率等。目前氣候預(yù)測主要是運用基本的物理過程通過數(shù)學(xué)方程式表達構(gòu)成數(shù)學(xué)模式進行預(yù)測研究[2],這些傳統(tǒng)的線性模型對非線性的時間序列預(yù)測很難有較好的預(yù)測精度。近年來,人工神經(jīng)網(wǎng)絡(luò)廣泛應(yīng)用于氣象預(yù)測領(lǐng)域中,并取得良好的預(yù)測效果[3]。在預(yù)測問題時采用單一的模型不能全面客觀地預(yù)測出系統(tǒng)的運行情況。因此,需要選用其它預(yù)測模型來反映系統(tǒng)的運行。將神經(jīng)網(wǎng)絡(luò)和最小二乘法二者結(jié)合起來可以彌補最小二乘法的不足,充分利用了二者的優(yōu)點對未來的平均最低溫進行精確預(yù)測。同時,將神經(jīng)網(wǎng)絡(luò)預(yù)測與最小二乘法有效地結(jié)合起來,能很好地解決非線性系統(tǒng)問題。通過 實證分析,結(jié)果表明：最小二乘法的BP神經(jīng)網(wǎng)絡(luò)模型預(yù)測結(jié)果明顯優(yōu)于單一BP神經(jīng)網(wǎng)絡(luò),既能更接近預(yù)測精度的要求又提高了訓(xùn)練速度,可以有效用于氣候變化中氣溫的預(yù)測。

2最小二乘法原理

最小二乘法(又稱最小平方法)是一種數(shù)學(xué)優(yōu)化技術(shù)。它通過最小化誤差的平方和尋找數(shù)據(jù)的最佳函數(shù)匹配。利用最小二乘法解決如何從一組測量值中尋求可信賴值得問題,使得這些求得的數(shù)據(jù)與實際數(shù)據(jù)之間誤差的平方和為最小。最小二乘法還可用于曲線擬合。使得這條擬合曲線上的各點的值與測量值的差的平方和在所有擬合曲線中最小。

研究物理量和一個變量x1,x2,Lxi間的依賴關(guān)系式為:

y=f(x1,x2,Lxi;a0,a1,Lan)

(1)

最小二乘法又稱曲線擬合,所謂“擬合”是求一條曲線使數(shù)據(jù)點離曲線上下方的不遠(yuǎn)處點。將實測值與計算值得離差的平方和最小為“優(yōu)化判據(jù)”。

3BP神經(jīng)網(wǎng)絡(luò)的基本原理

人工神經(jīng)網(wǎng)(Artificial Neural Network-ANN),是通過對人腦結(jié)構(gòu)及其信息處理方式的算法數(shù)學(xué)模型,是基于模仿大腦神經(jīng)網(wǎng)絡(luò)功能而建立的一種信息處理系統(tǒng)。人工神經(jīng)網(wǎng)絡(luò)是由大量簡單的神經(jīng)元互相連接而成的非線性動態(tài)系統(tǒng)網(wǎng)絡(luò)。在理論上能逼近任意非線性映射。目前BP神經(jīng)網(wǎng)絡(luò)是應(yīng)用最廣泛的網(wǎng)絡(luò)模型之一[4]。它是一種反向傳播算法訓(xùn)練的多層前饋網(wǎng)絡(luò)該模型具有高度的非線性,能夠進行復(fù)雜的邏輯操作和非線性關(guān)系實現(xiàn)的系統(tǒng)模型[5],與其它傳統(tǒng)模型相比,能更好地應(yīng)用于氣象要素的分析和預(yù)測。

三層誤差反向傳播算法(Back Propagation,BP)模型是氣象預(yù)測中最為常用的模型,是由一個輸入層為N節(jié)點、隱含層有M個節(jié)點、輸出層為P個節(jié)點組成的BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖,詳見圖1。

BP神經(jīng)網(wǎng)絡(luò)的隱含層節(jié)點數(shù)對BP神經(jīng)網(wǎng)絡(luò)預(yù)測精度有較大的影響:節(jié)點數(shù)太少,網(wǎng)絡(luò)就不能很好地學(xué)習(xí),需要增加訓(xùn)練次數(shù),訓(xùn)練精度就受到影響;節(jié)點數(shù)太多,訓(xùn)練時間增加則網(wǎng)絡(luò)就易擬合。最佳隱含層節(jié)點數(shù)選擇選擇范圍如下公式[6]:

l

(2)

(3)

l=log2n

(4)

式中,n為輸入層節(jié)點數(shù);l為隱含層節(jié)點數(shù);m為輸出層節(jié)點數(shù);a為0～10之間的常數(shù)。在實際問題中,隱含層節(jié)點數(shù)首先參考公式確定范圍,然后再選用試湊法確定最佳節(jié)點數(shù)。一般來說,BP神經(jīng)網(wǎng)絡(luò)的分類誤差會隨著隱含層節(jié)點數(shù)的增加呈現(xiàn)先減少后增加的趨勢。

BP人工神經(jīng)網(wǎng)絡(luò)使用優(yōu)化中最簡便的最小二乘法把輸入和輸出樣本問題作為非線性優(yōu)化問題來處理,用迭代算法求解網(wǎng)絡(luò)權(quán)值,并通過調(diào)節(jié)隱節(jié)點的方法增加優(yōu)化參數(shù),從而使得更可能得到精確解。BP算法求解函數(shù)最優(yōu)問題如下:

(5)

(6)

4基于最小二乘法的BP神經(jīng)網(wǎng)絡(luò)在月平均最低溫度的預(yù)測方法

采用最小二乘法與BP神經(jīng)網(wǎng)絡(luò)相結(jié)合方法來預(yù)測月平均最低溫度,需選取的數(shù)據(jù)樣本集進行直線擬合,然后用BP算法進行優(yōu)化,最后將得到的數(shù)據(jù)樣本集進行作為BP神經(jīng)網(wǎng)絡(luò)模型的輸入進行訓(xùn)練預(yù)測。最小二乘法的擬合過程是根據(jù)BP神經(jīng)網(wǎng)絡(luò)模型及最小二乘法理論得知,預(yù)測溫度的時間序列x={xi/i=0,1,2,Lm},實際上是用已知{xk,xk-1,Lxk-n+1}來求xk+1。首先對原始輸入數(shù)據(jù)進行歸一化處理[7],將數(shù)據(jù)轉(zhuǎn)化成[0,1]區(qū)間的值,歸一化公式:

(7)

5模型的應(yīng)用及預(yù)測結(jié)果分析

本文選取1989～2009年密云市月平均最低氣溫資料作為網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練樣本,建立與最低氣溫相關(guān)的6個因子組成的前期平均氣溫時間序列,作為神經(jīng)網(wǎng)路的輸入,然后以2010年3～9月平均最低氣溫數(shù)據(jù)作為預(yù)測樣本,分別利用單一的BP神經(jīng)網(wǎng)絡(luò)和基于最小二乘法的BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練和預(yù)測,預(yù)測結(jié)果分別如圖2和如圖3所示。

圖2、圖3中的兩條預(yù)測線分別代表數(shù)據(jù)的預(yù)測輸出(虛線)及期望輸出(實線)?？梢钥闯?圖2中第一個點和最后一個點的預(yù)測值和期望值偏差較為明顯,而圖3中的兩條曲線走勢基本趨于吻合。因此,基于最小二乘法的BP神經(jīng)網(wǎng)絡(luò)對溫度的預(yù)測較于單一的BP網(wǎng)絡(luò)的預(yù)測精度。

表1給出的2010年密云市月平均最低溫度的最小二乘法的BP模型和單一的BP預(yù)測數(shù)據(jù)的對比。由表1可以看出,單一的BP神經(jīng)網(wǎng)絡(luò)模型9月份的預(yù)測值與實測值之間誤差最大,基于最小二乘法的BP神經(jīng)網(wǎng)絡(luò)模型對相同數(shù)據(jù)進行預(yù)測的整體效果高于單一BP神經(jīng)網(wǎng)絡(luò),BP神經(jīng)網(wǎng)絡(luò)的平均相對誤差為5.1232%。然而最小二乘法的BP神經(jīng)網(wǎng)絡(luò)的平均相對誤差為2.1559%。預(yù)測精度較優(yōu)于單一BP神經(jīng)網(wǎng)絡(luò)。

表1　2010年密云市月平均最低溫度的最小二乘法的BP模型和單一的BP預(yù)測數(shù)據(jù)的對比

6結(jié)語

文中利用BP神經(jīng)網(wǎng)絡(luò)基本原理與最小二乘法結(jié)合的方法構(gòu)建網(wǎng)絡(luò)模型,對極端溫度進行預(yù)測,將非線性轉(zhuǎn)化成線性優(yōu)化方法,采用最小二乘法計算網(wǎng)絡(luò)權(quán)值,避免了傳統(tǒng)BP網(wǎng)絡(luò)在訓(xùn)練過程中易陷入網(wǎng)絡(luò)局部極小問題。實驗結(jié)果表明,在預(yù)測月平均最低溫度時,最小二乘法優(yōu)化過的BP神經(jīng)網(wǎng)絡(luò)的預(yù)測精度比單一的BP網(wǎng)絡(luò)精度高,同時該方法也降低了預(yù)測方法的復(fù)雜性。本文所用模型的擬合和預(yù)報精度均優(yōu)于單一的BP神經(jīng)網(wǎng)絡(luò)的預(yù)測誤差和精度,能更好地滿足預(yù)測的實際需求。

參考文獻：

[1] 智協(xié)飛,伍清,白永清,等.基于IPCC-AR4模式資料地面氣溫超級集合預(yù)測[J].氣象科學(xué),2010,30(5):708～714.

[2] 劉國光,茅寧.氣溫隨機模型與我國氣溫期權(quán)定價研究[J].數(shù)理統(tǒng)計與管理,2008,27(6):959～967.

[3] S S Yang,X H Hua,R Jiang,at al,New optimal weight combination model for forecasting precipitation[J].Mathematical Problems in Engineering,2012:1～13.

[4] 賀艷輝,袁永明,張紅燕,等.BP人工神經(jīng)網(wǎng)絡(luò)在羅非魚價格預(yù)測中的應(yīng)用[J].安徽農(nóng)業(yè)科學(xué),2010,38(35):20443～20445.

[5] 王芳,涂春麗,勾永堯.基于Elman神經(jīng)網(wǎng)絡(luò)的氣溫預(yù)測研究[J].安徽農(nóng)業(yè)科學(xué),2011,39(33):20859～20860.

[6] 王小川,史峰,郁磊,等.MATLAB神經(jīng)網(wǎng)絡(luò)43個案例分析[M].北京:北京航空航天大學(xué)出版社,2011:8～19.

[7] 叢爽.面向 MATLAB工具箱的神經(jīng)網(wǎng)絡(luò)理論與應(yīng)用[M].合肥:中國科技大學(xué)出版社,1998:84～89.

[8] 季剛,姚艷,江雙五.基于徑向基神經(jīng)網(wǎng)絡(luò)的月降水量預(yù)測模型研究[J].計算機技術(shù)與發(fā)展,2013,23(12).

[9] 李倩,周彬倩,張建成,等.基于自適應(yīng)差分進化和BP神經(jīng)網(wǎng)絡(luò)的光伏功率預(yù)測[J].陜西電力,2014,42(2):1672～7598.

[10] 紀(jì)廣月.基于灰色關(guān)聯(lián)分析的BP神經(jīng)網(wǎng)絡(luò)模型在中國碳排放預(yù)測中的應(yīng)用[J].數(shù)學(xué)的實踐與認(rèn)識,2014,44(14):243～24.

Application of BP Neural Network in Extreme Temperature Prediction

Model Based on Least Square Method

Niu Zhijuan,Hu Hongping

(SchoolofScience,NorthUniversityofChina,Taiyuan030051,China)

Key words:BP neural network;least square method;extreme temperature;prediction