公維祥,陳國初
(上海電機(jī)學(xué)院 電氣學(xué)院,上海 200240)
基于Kalman濾波相空間重構(gòu)的Elman神經(jīng)網(wǎng)絡(luò)短期風(fēng)速組合預(yù)測模型
公維祥,陳國初
(上海電機(jī)學(xué)院 電氣學(xué)院,上海 200240)
為了合理利用風(fēng)電,提高電網(wǎng)的穩(wěn)定性、經(jīng)濟(jì)性,需要對風(fēng)電的輸出功率進(jìn)行有效預(yù)測;然而,單一模型的預(yù)測結(jié)果精度不高。提出一種基于Kalman濾波相空間重構(gòu)的Elman神經(jīng)網(wǎng)絡(luò)短期風(fēng)速組合預(yù)測模型。該模型采用Kalman濾波算法對風(fēng)速進(jìn)行濾波處理,通過相空間重構(gòu)來確定風(fēng)速序列的延時(shí)時(shí)間和嵌入維數(shù);并利用Elman神經(jīng)網(wǎng)絡(luò)建立了預(yù)測模型。仿真實(shí)驗(yàn)表明,該模型預(yù)測精度有了明顯提高。
Kalman濾波算法; Elman神經(jīng)網(wǎng)絡(luò); 風(fēng)速預(yù)測; 模型
近年來,風(fēng)力發(fā)電技術(shù)在全球范圍內(nèi)迅速發(fā)展;2012年12月,全球風(fēng)電裝機(jī)容量已由2000年的60GW增加到282GW;預(yù)計(jì)到2015年,全球風(fēng)電裝機(jī)容量將達(dá)到460GW[1]。隨著風(fēng)電的迅速發(fā)展,并網(wǎng)成為了充分利用風(fēng)電的研究熱點(diǎn)。風(fēng)電的輸出功率依賴于風(fēng)速,然而,由于風(fēng)速的不確定性和間歇性,勢必會給電網(wǎng)的穩(wěn)定性帶來嚴(yán)重沖擊。如果能夠準(zhǔn)確預(yù)測風(fēng)電機(jī)組輸出的功率,將會促進(jìn)電力調(diào)度部門制定調(diào)度計(jì)劃的合理性,進(jìn)而減輕由風(fēng)電并入對電網(wǎng)穩(wěn)定性的沖擊。
目前,我國對風(fēng)電場風(fēng)速及風(fēng)電功率的預(yù)測仍處于起步階段,大部分僅對單一模型預(yù)測進(jìn)行研究,且對風(fēng)速的預(yù)測存在較大誤差,容易陷入局部最優(yōu)[2-6]。針對風(fēng)速序列的隨機(jī)性和非線性,本文提出了一種基于Kalman濾波相空間重構(gòu)的Elman神經(jīng)網(wǎng)絡(luò)短期風(fēng)速組合預(yù)測方法。該方法用Kalman濾波算法對風(fēng)速數(shù)據(jù)處理,對風(fēng)速時(shí)間序列進(jìn)行相空間重構(gòu),然后利用Elman神經(jīng)網(wǎng)絡(luò)建立預(yù)測模型。最后,用該方法對某風(fēng)場風(fēng)速數(shù)據(jù)進(jìn)行仿真實(shí)驗(yàn),并對實(shí)驗(yàn)結(jié)果誤差進(jìn)行分析,從而驗(yàn)證該方法的有效性。
Kalman濾波算法最初由卡爾曼博士提出,其濾波的基本思想如下[7-9]:利用噪聲與信號的狀態(tài)空間表示模型,充分利用前一時(shí)刻的估計(jì)值和當(dāng)前時(shí)刻的量測值來對當(dāng)前時(shí)刻的狀態(tài)估計(jì)進(jìn)行更新,得到當(dāng)前時(shí)刻量測值的估計(jì)值。Kalman濾波的本質(zhì)是通過觀測值重新構(gòu)建系統(tǒng)的狀態(tài)變量,以預(yù)測—實(shí)測—修正的順序遞推,針對系統(tǒng)的量測值來消除干擾,還原系統(tǒng)的估計(jì)狀態(tài)或通過系統(tǒng)的量測值,從被干擾的噪聲和信號系統(tǒng)中恢復(fù)原始信號的本來特征。
1.1Kalman濾波算法數(shù)學(xué)描述
假設(shè)第k時(shí)刻被估計(jì)狀態(tài)Xk受噪聲序列Wk-1驅(qū)動(dòng),驅(qū)動(dòng)機(jī)理由狀態(tài)方程描述為
Xk=φk,k-1Xk-1+Γk-1Wk-1
(1)
式中,φk,k-1為k-1時(shí)刻到k時(shí)刻的一步轉(zhuǎn)移矩陣;Γk-1為系統(tǒng)噪聲驅(qū)動(dòng)矩陣;Wk-1為系統(tǒng)激勵(lì)噪聲序列。
對Xk的量測滿足線性關(guān)系,量測方程為
Zk=HkXk+Vk
(2)
式中,Zk為Xk的量測值;Hk為量測陣;Vk為量測噪聲驅(qū)動(dòng)序列。
Wk和Vk的均值E,同時(shí)滿足
(3)
式中,j為不同時(shí)刻點(diǎn)(j≠k);Qk為系統(tǒng)噪聲序列的方差陣,本文假設(shè)為非負(fù)定陣;Rk為量測噪聲序列的方差陣,本文假定為正定陣;δk,j為單位脈沖函數(shù)。
若滿足上述條件,則利用Kalman濾波算法進(jìn)行k-1時(shí)刻狀態(tài)對k時(shí)刻狀態(tài)的一步估計(jì)為
(4)
k時(shí)刻的狀態(tài)估計(jì)為
(5)
k時(shí)刻的濾波增益為
(6)
k時(shí)刻的協(xié)方差一步預(yù)測為
(7)
k時(shí)刻的協(xié)方差估計(jì)為
Pk=(E-KkHk)Pk,k-1(E-KkHk)T+
(8)
1.2Kalman濾波算法實(shí)現(xiàn)
利用Kalman濾波算法對風(fēng)速進(jìn)行處理,過程如下:
(1) 假設(shè)Pk=P0,Xk=X0,其中,P0為初始預(yù)測矩陣,X0為初始狀態(tài)矩陣;
(3) 根據(jù)k-1時(shí)刻風(fēng)速的量測對k時(shí)刻的風(fēng)速進(jìn)行預(yù)測,得
然后,計(jì)算得到信息協(xié)方差為
(4) 計(jì)算新息,即量測與量測預(yù)測的誤差值為
計(jì)算v(k)的濾波增益,得到Kk。
風(fēng)速時(shí)間序列是一類混沌時(shí)間序列。為避免模型中信息丟失和Elman神經(jīng)網(wǎng)絡(luò)選取輸入節(jié)點(diǎn)的任意性,本文采用相空間重構(gòu)的方法,Elman神經(jīng)網(wǎng)絡(luò)輸入節(jié)點(diǎn)的個(gè)數(shù)由嵌入維數(shù)m所確定。嵌入維數(shù)m和延遲時(shí)間z是衡量相空間重構(gòu)有效性的重要指標(biāo)[10]。
2.1互信息熵法確定延時(shí)時(shí)間
互信息法源于信息論,適用于解決非線性系統(tǒng)和線性系統(tǒng)問題,而風(fēng)速時(shí)間序列是非線性的。本文延遲時(shí)間的確定通過互信息熵法實(shí)現(xiàn)[11]。
令{x(i),i=1,2,…,k}為第1組風(fēng)速信號,其中,Px[x(i)]為點(diǎn)x(i)的概率密度;令{y(i),i=1,2,…,k}為第2組風(fēng)速信號,Py[y(i)]為點(diǎn)y(i)的概率密度;則兩組信號的聯(lián)合概率為Pxy[x(i),y(i)]。對兩組信號{x(i),y(i)},給定x(i) 的一個(gè)量測值,預(yù)測y(i)的平均信息量為互信息函數(shù)I(x,y),有
(9)
式中,H(x)、H(y)分別為信號{x(i)},{y(i)}的熵,分別由它們的量測平均信息量組成;H(x,y)為聯(lián)合熵。
本文重點(diǎn)研究相空間重構(gòu)過程中,風(fēng)速時(shí)間序列x(t+τ)對x(t)的依賴性,通過計(jì)算x(t)和x(t+τ) 這兩個(gè)時(shí)間序列的互信息來判斷兩者彼此的依賴性。其中,τ的取值由1逐一增加,并計(jì)算出對應(yīng)的I值。最佳延遲時(shí)間是τ在I中對應(yīng)的第1個(gè)極小值點(diǎn)[12]。
2.2G-P方法確定嵌入維數(shù)
本文利用G-P方法確定相關(guān)維數(shù)[13],然后通過Takens嵌入定理確定嵌入維數(shù)。
定義m維重構(gòu)相空間中l(wèi)、s兩點(diǎn)間的關(guān)聯(lián)積分為
(10)
(11)
在r的合適范圍內(nèi),吸引子關(guān)聯(lián)維數(shù)dm與Cm(r)呈對數(shù)線性關(guān)系:
(12)
對于某一個(gè)τ,選擇一個(gè)較小的m進(jìn)行相空間重構(gòu)。隨后,將不同鄰域的半徑r設(shè)為閾值,并計(jì)算其對應(yīng)的Cm(r),將r和Cm(r)代入式(15)即可求出dm。增加m的值,重復(fù)上述步驟,即可得到一系列dm值。
如果風(fēng)速觀測序列的原動(dòng)力系統(tǒng)中存在奇異的吸引子,當(dāng)m逐漸增加時(shí),dm也會逐漸變大,并最終收斂到定值d(d為分?jǐn)?shù))。如此便可選取m, 滿足Takens嵌入定理,即m≥2d+1。
Elman神經(jīng)網(wǎng)絡(luò)是一種典型的動(dòng)態(tài)神經(jīng)元網(wǎng)絡(luò)。其基于前饋人工神經(jīng)網(wǎng)絡(luò)基本結(jié)構(gòu),通過引入反饋環(huán)節(jié)(承接層),存儲內(nèi)部狀態(tài),從而使其具備映射動(dòng)態(tài)特征的功能[14]。
3.1Elman神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
Elman神經(jīng)網(wǎng)絡(luò)由4層網(wǎng)絡(luò)結(jié)構(gòu)組成,它們分別為承接層單元、輸入層單元、隱含層單元、輸出層單元。輸入信號u(S-1)經(jīng)輸入層單元進(jìn)行加權(quán)線性疊加后得到輸入層輸出信號;經(jīng)過隱含層神經(jīng)元線性激發(fā)函數(shù)或非線性激發(fā)函數(shù)激發(fā),得到隱含層神經(jīng)元的輸出x(S);x(S)的一部分經(jīng)輸出層神經(jīng)元處理后得到網(wǎng)絡(luò)輸出信號y(S),另一部分則進(jìn)入承接層神經(jīng)元作為其輸入信號,得到承接層反饋向量xc(S),由承接層單元反饋至隱含層單元。由于Elman神經(jīng)網(wǎng)絡(luò)引入了承接層單元,網(wǎng)絡(luò)對歷史數(shù)據(jù)有較強(qiáng)的敏感性,提高了其自身處理動(dòng)態(tài)信息的能力[15-16]。Elman神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。其中,w1、w2、w3分別為輸入層到隱含層、隱含層到輸出層、承接層到隱含層的權(quán)值矩陣。
圖1 Elman神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 Structure of Elman neural network
3.2Elman網(wǎng)絡(luò)學(xué)習(xí)算法
神經(jīng)網(wǎng)絡(luò)訓(xùn)練的任務(wù)是通過學(xué)習(xí)算法不斷地調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值,使網(wǎng)絡(luò)輸出與期望輸出之間的誤差達(dá)到最小。
Elman神經(jīng)網(wǎng)絡(luò)的非線性狀態(tài)空間為
(13)
式中,f(·)為隱含層神經(jīng)元的傳遞函數(shù),采用tansig函數(shù);g(·)為輸出層傳遞函數(shù),采用Purelin函數(shù);b1、b2分別為隱含層和輸出層的閾值[17]。
設(shè)第s步網(wǎng)絡(luò)的實(shí)際輸出為yd(S),則依據(jù)動(dòng)態(tài)學(xué)習(xí)算法,Elman網(wǎng)絡(luò)的目標(biāo)函數(shù)即誤差函數(shù)為[18-19]
E(s)=
(14)
均方誤差的最快下降為
(15)
I=1,2,3
式中,ηi為學(xué)習(xí)速率;wI(S)為第S次迭代各層間的權(quán)值。
對于w2,有
式中,δ=(yd(S)-y(S))f′[w2x(S)]。
對于w1,有
式中,ε=f′(w3·xc(S)+w1·u(S-1)+b1)。
對于w3,有
式中,
3.3Elman神經(jīng)網(wǎng)絡(luò)算法實(shí)現(xiàn)
Elman神經(jīng)網(wǎng)絡(luò)算法具體實(shí)現(xiàn)步驟如下:
(1) 初始化各層權(quán)值;
(2) 利用相空間重構(gòu)法確定的m,設(shè)定輸入層神經(jīng)元個(gè)數(shù);
(3) 輸入樣本,并將經(jīng)Kalman算法濾波后的數(shù)據(jù)歸一化處理,即將樣本數(shù)據(jù)線性變化,使其歸一到[-1,1]中,作為網(wǎng)絡(luò)訓(xùn)練的數(shù)據(jù)集合;
(4) 對信號u(S-1)進(jìn)行加權(quán)線性疊加,得到輸入層輸出信號;
(5) 對輸入層輸出信號進(jìn)行激發(fā),得到隱含層輸出x(S);
(6) 計(jì)算輸出層輸出y(S);
(7) 計(jì)算承接層輸出xc(S)=x(S-1),并反饋到隱含層;
(8) 計(jì)算網(wǎng)絡(luò)誤差;
(9) 判斷誤差是否小于設(shè)定的閾值或迭代次數(shù)達(dá)到最大迭代次數(shù),若是,則網(wǎng)絡(luò)訓(xùn)練結(jié)束;否則,更新權(quán)值和閾值,返回步驟(4)。
4.1預(yù)測模型
由于風(fēng)速具有隨機(jī)性、不穩(wěn)定性,并與風(fēng)速時(shí)間序列相關(guān);而Kalman濾波算法在非平穩(wěn)數(shù)據(jù)處理中具有突出優(yōu)勢,故本文提出了一種基于Kalman濾波算法和相空間重構(gòu)的Elman神經(jīng)網(wǎng)絡(luò)的風(fēng)速組合預(yù)測模型。該模型流程如圖2所示。
圖2 風(fēng)速組合預(yù)測模型流程圖Fig.2 Flow chart of combined model for wind speed prediction
4.2仿真實(shí)驗(yàn)與結(jié)果分析
本文以某風(fēng)場6月份30d風(fēng)速數(shù)據(jù)為基礎(chǔ),720h的風(fēng)速序列如圖3所示。取τ=1~20,對該小時(shí)風(fēng)速序列依次計(jì)算互信息函數(shù)I,得到I與τ的數(shù)據(jù)如表1所示。由表1可見,當(dāng)τ=4時(shí),I=2.458,第1次達(dá)到極小值,此為最佳值;然后利用G-P方法確定m,計(jì)算得到dm≈2.4;根據(jù)Takens嵌入定理,有m≥2d+1,則取m=6;再利用Elman 神經(jīng)網(wǎng)絡(luò)算法,對前20d的風(fēng)速數(shù)據(jù)進(jìn)行模型訓(xùn)練,將后10d的風(fēng)速值作為測試數(shù)據(jù),進(jìn)行仿真實(shí)驗(yàn)。
圖3 風(fēng)速時(shí)間序列Fig.3 Time series of wind speed
實(shí)驗(yàn)1利用Kalman濾波算法對風(fēng)速進(jìn)行濾波,然后,對風(fēng)速時(shí)間序列進(jìn)行相空間重構(gòu),隨機(jī)選取τ=7,m=10;利用前20d的風(fēng)速數(shù)據(jù)對Elman神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,預(yù)測后10d的風(fēng)速。
表1 I與τ的數(shù)據(jù)
實(shí)驗(yàn)2對風(fēng)速數(shù)據(jù)不做預(yù)處理,即省去Kalman算法對風(fēng)速的濾波,直接對風(fēng)速時(shí)間序列進(jìn)行相空間重構(gòu),取τ=4,m=6;利用前20d的風(fēng)速數(shù)據(jù)對Elman神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,預(yù)測后10d的風(fēng)速。
實(shí)驗(yàn)3利用本文方法,即利用Kalman濾波算法對風(fēng)速濾波,并對風(fēng)速時(shí)間序列進(jìn)行相空間重構(gòu),取τ=4,m=6;利用Elman神經(jīng)網(wǎng)絡(luò)建立組合風(fēng)速預(yù)測模型,利用前20d的風(fēng)速數(shù)據(jù)對模型進(jìn)行訓(xùn)練,預(yù)測后10d的風(fēng)速。
圖4給出了3次實(shí)驗(yàn)的預(yù)測輸出與實(shí)際風(fēng)速的對比。由圖可見,利用本文方法進(jìn)行實(shí)驗(yàn)得到的擬合風(fēng)速效果,尤其是極值點(diǎn),優(yōu)于其他2個(gè)實(shí)驗(yàn); 從而驗(yàn)證了Kalman濾波算法的濾波效果,及利用互信息熵法和G-P方法相空間重構(gòu)的方法的可行性。
圖4 3種方法的風(fēng)速預(yù)測結(jié)果與實(shí)際風(fēng)速的對比Fig.4 Comparison of three methods between predicted wind speeds and actual values
表2給出了3次實(shí)驗(yàn)結(jié)果的平均絕對百分誤差(Mean Absolute Percentage Error, MAPE)與均方根誤差(Root Mean Square Error, RMSE)。
MAPE與RMSE計(jì)算公式如下:
(16)
(17)
式中,Yt為預(yù)測數(shù)據(jù);Tt為實(shí)際數(shù)據(jù);N為數(shù)據(jù)組數(shù)。
表2 預(yù)測結(jié)果的MAPE和RMSE比較
由表2可見,由實(shí)驗(yàn)3得到的預(yù)測結(jié)果的MAPE和RMSE均明顯小于其他2次實(shí)驗(yàn)。由于極值點(diǎn)對誤差影響較大,表2誤差結(jié)果驗(yàn)證了圖4的風(fēng)速擬合效果;由此說明本方法預(yù)測精度有了明顯提高。
本文提出了基于Kalman濾波算法和相空間重構(gòu)的Elman神經(jīng)網(wǎng)絡(luò)的風(fēng)速組合預(yù)測方法,仿真結(jié)果表明:將Kalman濾波算法與Elman神經(jīng)網(wǎng)絡(luò)有效結(jié)合,能夠解決風(fēng)速的非線性與不穩(wěn)定的問題;通過一定量的數(shù)據(jù)對網(wǎng)絡(luò)進(jìn)行多次訓(xùn)練后,風(fēng)速組合模型能夠得到較好的擬合效果。輸入層神經(jīng)元的個(gè)數(shù)通過相空間重構(gòu)的維數(shù)確定,并且利用相空間重構(gòu)的數(shù)據(jù)進(jìn)行訓(xùn)練后,網(wǎng)絡(luò)的預(yù)測精度有了較大提高。因此,該方法適用于短期風(fēng)速預(yù)測。
[1] Fried L,Shukla S,Sawyer S.Global wind report annual market update 2011[R].Brussles: Global Wind Energy Council,2012: 2-13.
[2] 楊秀媛,肖 洋,陳樹勇.風(fēng)電場風(fēng)速和發(fā)電功率預(yù)測研究[J].中國電機(jī)工程學(xué)報(bào),2005,25(11): 1-5.
[3] Gow G.Forecasting short-term wind farm production[EB/OL].[2013-04-12].http:∥webarchive.nationalarchives.gov.uk/+/http:∥www.berr.gov.uk/files/file17885.pdf.
[4] 潘迪夫,劉 輝,李燕飛.風(fēng)電場風(fēng)速短期多步預(yù)測改進(jìn)算法[J].中國電機(jī)工程學(xué)報(bào),2008,28(26):87-91.
[5] Miranda M S,Dunn R W.One-hour-ahead wind speed prediction using a bayesian methodology[C]∥IEEE Power Engineering Society General Mecting Montreal.Que: IEEE,2006: 9096881.
[6] Beyer H G,Heinemann D,Mellinghoff H,et al.Forecast of regional power output of wind turbines[C]∥EWEC 99.Nice: IEEE,1999: 1-4.
[7] Kalman R E.A New approach to linear filtering and prediction problems[J].IEEE Transactions of the ASME,Journal of Basic Engineering,1960,82(Series D): 35-45.
[8] 吳 飛.魯棒卡爾曼算法及其應(yīng)用研究[D].廣州:華南理工大學(xué),2012:5-13.
[9] 楊元喜.噪聲互相關(guān)情況下的Kalman濾波[J].測量科學(xué)與工程,2005,25(2): 1-3.
[10] 李文良,衛(wèi)志農(nóng),孫國強(qiáng),等.基于改進(jìn)空間相關(guān)法和徑向基神經(jīng)網(wǎng)絡(luò)的風(fēng)電場短期風(fēng)速分時(shí)預(yù)測模型[J].電力自動(dòng)化設(shè)備,2009,29(6):89-92.
[11] 蔡 烽,萬 林,石愛國.基于相空間重構(gòu)技術(shù)的艦船搖蕩極短期預(yù)報(bào)[J].水動(dòng)力學(xué)研究與進(jìn)展:A輯,2005,20(6): 780-784.
[12] 秦 劍,王建平,張崇巍.基于相空間重構(gòu)小波神經(jīng)網(wǎng)絡(luò)的短期風(fēng)速預(yù)測[J].電子測量與儀器學(xué)報(bào),2012,26(3):236-241.
[13] 呂金虎,陸君安,陳士華.混沌時(shí)間序列分析及其應(yīng)用[M].武漢: 武漢大學(xué)出版社,2002: 57-66.
[14] Sideratos G,Hatziargyriou N D.An advanced statistic method for wind power forecasting[J].IEEE Transactions on Power Systems,2007,22(1):258-265.
[15] 張靠社,楊 劍.基于Elman神經(jīng)網(wǎng)絡(luò)的短期風(fēng)電功率預(yù)測[J].電網(wǎng)與清潔能源,2012,28(12):87-91.
[16] Uehino K.Piezoelectric ultrasonic motors: Overview [J].Smart Materials and Structures,1998,7(3): 273-285.
[17] Hagood N W,McFarland A J.Modeling of a piezoelectric rotary ultrasonic motor[J].IEEE Transactions on Ultrasonics,Ferroelectrics and Frequency Control,1995,42(2): 210-224.
[18] Senjyu T,Miyazato H,Yokoda S,et al.Speed control of ultrasonic motors using neural network[J].IEEE Transactions on Power Electronics,1998,13(3): 381-387.
[19] Elman J L.Finding structure in time[J].Congnitive Science,1990,14(2): 179-211.
Combined Model of Wind Speed Prediction Using Ealman Neural Network Based on Kalman Filtering and Phase Space Reconstruction
GONGWeixiang,CHENGuochu
(School of Electric Engineering, Shanghai Dianji University, Shanghai 200240, China)
To use wind power rationally and improve efficiency and stability, it is necessary to predict the output power of wind.As the single model prediction is inaccurate, a combination of different models is proposed.The wind speed data are processed with a Kalman filter.The phase space is reconstructed to set delay and dimensions of wind speed time series before constructing an Elman neural network.A prediction model and evaluation standard are established with training samples chosen.Tests show improvement in the accuracy of the model.
Kalman filter; Elman neural network; wind speed prediction; model
2095-0020(2013)06 -0341-06
TM 614; TP 301.6
A
2013-08-27
上海市自然科學(xué)基金項(xiàng)目資助(11ZR1413900);上海市教育委員會科研創(chuàng)新項(xiàng)目資助(13YZ140);上海市教育委員會重點(diǎn)學(xué)科資助(J51901)
公維祥(1988-),男,碩士生,主要研究方向?yàn)殡姎夤こ?,E-mail:18817774736@163.com
陳國初(1971-),男,博士、教授,從事研究方向?yàn)轱L(fēng)電系統(tǒng)的建模、仿真與智能算法及其應(yīng)用,
E-mail:chengc@sdju.edu.cn