李建偉，李 妍，王 健

(東北林業(yè)大學(xué) 信息與計(jì)算機(jī)工程學(xué)院，黑龍江 哈爾濱 150040)

?

改進(jìn)的BP算法在短期電力負(fù)荷預(yù)測(cè)中的應(yīng)用*

李建偉，李 妍，王 健

(東北林業(yè)大學(xué) 信息與計(jì)算機(jī)工程學(xué)院，黑龍江 哈爾濱 150040)

利用標(biāo)準(zhǔn)BP神經(jīng)網(wǎng)絡(luò)建立短期電力負(fù)荷預(yù)測(cè)模型，其算法存在最終解過(guò)于依賴初值和過(guò)學(xué)習(xí)現(xiàn)象，并且訓(xùn)練過(guò)程中存在局部極小問(wèn)題且預(yù)測(cè)精度低等缺點(diǎn)。為了提高電力負(fù)荷模型的預(yù)測(cè)精度，通過(guò)閱讀相關(guān)文獻(xiàn)，構(gòu)建了基于改進(jìn) BP神經(jīng)網(wǎng)絡(luò)的短期電力負(fù)荷預(yù)測(cè)模型，該模型采用遺傳算法對(duì)權(quán)值和閾值進(jìn)行初始化，以相對(duì)誤差和附加動(dòng)量法相結(jié)合的方式去計(jì)算權(quán)值修正量。比較改進(jìn)后的BP算法和標(biāo)準(zhǔn)BP算法在短期電力負(fù)荷預(yù)測(cè)的效果，從實(shí)驗(yàn)仿真的效果表明改進(jìn)后的模型提高了預(yù)測(cè)精度。

短期負(fù)荷預(yù)測(cè)；BP神經(jīng)網(wǎng)絡(luò)；遺傳算法；相對(duì)誤差；附加動(dòng)量

0 引言

短期電力負(fù)荷預(yù)測(cè)影響配網(wǎng)運(yùn)行的安全性、可靠性、經(jīng)濟(jì)性，對(duì)電網(wǎng)的合理規(guī)劃、電力系統(tǒng)的安全調(diào)度和經(jīng)濟(jì)運(yùn)行起到重要的指導(dǎo)作用，精準(zhǔn)的負(fù)荷預(yù)測(cè)有助于電力生產(chǎn)部門經(jīng)濟(jì)合理地安排發(fā)電機(jī)的啟停和檢修計(jì)劃，有助于調(diào)度部門根據(jù)當(dāng)?shù)刎?fù)荷需求調(diào)配電力資源，負(fù)荷預(yù)測(cè)已經(jīng)成為電網(wǎng)中系統(tǒng)優(yōu)化、資源和經(jīng)濟(jì)調(diào)度不可或缺的重要依據(jù)[1-2]。

短期電力負(fù)荷容易受到氣候、現(xiàn)實(shí)經(jīng)濟(jì)、時(shí)間等因素的影響，具有嚴(yán)重的隨機(jī)性和非線性，而B(niǎo)P人工神經(jīng)網(wǎng)絡(luò)的大規(guī)模分布式并行處理、高度自組織、自適應(yīng)以及具有很好的處理非線性問(wèn)題的能力等優(yōu)點(diǎn)正吻合短期負(fù)荷預(yù)測(cè)，因此在電力負(fù)荷預(yù)測(cè)領(lǐng)域上, BP神經(jīng)網(wǎng)絡(luò)被廣泛地應(yīng)用[3]。雖然標(biāo)準(zhǔn)BP算法在負(fù)荷預(yù)測(cè)領(lǐng)域應(yīng)用廣泛，但是標(biāo)準(zhǔn)的BP神經(jīng)網(wǎng)絡(luò)存在最終解過(guò)于依賴初值和過(guò)學(xué)習(xí)的現(xiàn)象，并且訓(xùn)練過(guò)程中存在局部極小問(wèn)題且收斂速度比較慢等缺點(diǎn)[4]。為了提高BP神經(jīng)網(wǎng)絡(luò)在短期電力負(fù)荷預(yù)測(cè)的精度，提出一種采取遺傳算法、相對(duì)誤差和附加動(dòng)量相結(jié)合的方式去構(gòu)建短期電力負(fù)荷預(yù)測(cè)模型。

1 標(biāo)準(zhǔn)BP神經(jīng)網(wǎng)絡(luò)

BP神經(jīng)網(wǎng)絡(luò)具有一種多層前饋的結(jié)構(gòu)，它的核心思想是學(xué)習(xí)過(guò)程，包括信息正向傳播與誤差信息的反向傳播，兩個(gè)過(guò)程不斷交替。正向傳播時(shí)，從輸入層傳入輸入數(shù)據(jù)經(jīng)結(jié)構(gòu)里不同層的隱層進(jìn)行逐層處理，然后將信息數(shù)據(jù)向輸出層傳遞。

假如輸出層的現(xiàn)實(shí)輸出與期望的輸出值不同，則轉(zhuǎn)入誤差的反向傳播階段。誤差反向傳播指將輸出誤差通過(guò)算法規(guī)則經(jīng)過(guò)隱層向輸入層逐層反向傳遞，并將誤差均分給各層的全部成員，從而取得各層成員的誤差信號(hào)，將此誤差信號(hào)作為修正各層單元權(quán)值的重要依據(jù)，誤差信號(hào)在各層進(jìn)行正向傳播與誤差反向傳播不斷交替運(yùn)行的過(guò)程中從而調(diào)整出滿足期望的權(quán)值。以三層網(wǎng)絡(luò)為例，BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

圖1 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

在三層前饋網(wǎng)絡(luò)中，有輸入輸出模型、隱層節(jié)點(diǎn)輸出模型、轉(zhuǎn)移函數(shù)、誤差計(jì)算函數(shù)模型等。

(1)對(duì)于隱層，有yj=f(netj),j=1,2,…,l;

(2)對(duì)于輸出層，有ok=f(netk),k=1,2,…,m;

(3)f(x)為邏輯函數(shù)，為單極性Sigmoid函數(shù):

雖然BP網(wǎng)絡(luò)用于具有非線性轉(zhuǎn)移函數(shù)的三層前饋網(wǎng)絡(luò)后可以任意精度逼近任何非線性函數(shù)，這一非凡的優(yōu)勢(shì)使BP網(wǎng)絡(luò)得到越來(lái)越廣泛的應(yīng)用，但是在應(yīng)用中BP算法卻被發(fā)現(xiàn)了不少的性能缺點(diǎn)和不足[5-7]。(1)BP算法要優(yōu)化的目標(biāo)函數(shù)非常繁瑣復(fù)雜，并且它的本質(zhì)上為梯度下降法，這使得BP算法低效且必然會(huì)出現(xiàn)“鋸齒形現(xiàn)象”。(2)為了求解復(fù)雜非線性函數(shù)的全局極值而使用局部搜索的優(yōu)化方式會(huì)導(dǎo)致算法陷入局部極值，使訓(xùn)練失敗。(3)訓(xùn)練的輸入數(shù)據(jù)對(duì)BP算法的非線性函數(shù)逼近能力有很大的影響，而選取適合學(xué)習(xí)訓(xùn)練的數(shù)據(jù)是一個(gè)很難的任務(wù)。(4)BP算法的初始權(quán)值閾值一般是隨機(jī)分配的，隨機(jī)分配的權(quán)值和閾值可能不是最優(yōu)的，這會(huì)影響網(wǎng)絡(luò)的性能，使得網(wǎng)絡(luò)結(jié)構(gòu)收斂慢，預(yù)測(cè)誤差大。(5)BP算法的神經(jīng)元結(jié)構(gòu)不容易確定，一般靠的是經(jīng)驗(yàn)設(shè)計(jì)結(jié)構(gòu)，所以要想設(shè)計(jì)出優(yōu)秀的算法結(jié)構(gòu)就成為了一種挑戰(zhàn)。(6)BP算法的預(yù)測(cè)能力與訓(xùn)練能力是彼此相關(guān)，互相影響的。一般情況下，預(yù)測(cè)能力隨著訓(xùn)練能力的提高而提高，隨著訓(xùn)練能力的下降而下降。但這種趨向有一個(gè)飽和度，當(dāng)達(dá)到此飽和值時(shí)，預(yù)測(cè)能力隨著訓(xùn)練能力的提高，反而下降，這就是所謂“過(guò)擬合”現(xiàn)象。即使網(wǎng)絡(luò)學(xué)習(xí)的樣本具有再大量的數(shù)據(jù)細(xì)節(jié)，也反映不出樣本內(nèi)部的規(guī)律。

本文針對(duì)標(biāo)準(zhǔn)BP算法的不足，采用遺傳算法去優(yōu)化網(wǎng)絡(luò)的初始權(quán)值和閾值，然后以相對(duì)誤差和附加動(dòng)量方法相結(jié)合的方式計(jì)算權(quán)值(或閾值)變化量，以此為基礎(chǔ)建立了基于改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)算法的短期電力負(fù)荷預(yù)測(cè)模型。

2 改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)

2.1 遺傳算法

遺傳算法模擬了自然選擇和遺傳中發(fā)生的復(fù)制、交叉和變異的現(xiàn)象，從一初始群體出發(fā)，通過(guò)隨機(jī)選擇、交叉和變異操作，產(chǎn)生一群更適應(yīng)環(huán)境的個(gè)體，使群體進(jìn)化到搜索空間越來(lái)越好的區(qū)域，這樣一代一代不斷地繁衍進(jìn)化，最后收斂到一群最適應(yīng)環(huán)境的個(gè)體，求得問(wèn)題的最優(yōu)解[8]。因此本文采用遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的初始的權(quán)值和閾值，目的就是尋找到最優(yōu)的初始權(quán)值和閾值。其基本思想就是用個(gè)體代表網(wǎng)絡(luò)的權(quán)值和閾值，把預(yù)測(cè)的樣本的BP神經(jīng)網(wǎng)絡(luò)測(cè)試的誤差的范數(shù)作為目標(biāo)函數(shù)輸出，進(jìn)而計(jì)算個(gè)體的適應(yīng)度值，通過(guò)選擇、交叉和變異尋找最優(yōu)個(gè)體，即最優(yōu)的神經(jīng)網(wǎng)絡(luò)初始權(quán)值和閾值。

2.2 相對(duì)誤差和附加動(dòng)量

標(biāo)準(zhǔn)的BP神經(jīng)網(wǎng)絡(luò)算法使用絕對(duì)誤差作為誤差反向傳遞信號(hào)，但從誤差分析理論可知 ,絕對(duì)誤差一般沒(méi)有相對(duì)誤差科學(xué)[9]，同時(shí)標(biāo)準(zhǔn)BP算法只考慮從網(wǎng)絡(luò)預(yù)測(cè)誤差的負(fù)梯度方向修正權(quán)值和閾值，沒(méi)有考慮以前的經(jīng)驗(yàn)積累，因此學(xué)習(xí)過(guò)程收斂遲緩。本文在反向傳播過(guò)程中采用相對(duì)誤差作為誤差傳遞信號(hào)，通過(guò)相對(duì)誤差信號(hào)，從后向前傳遞，依次修改連接的權(quán)值。在此基礎(chǔ)上不單單考慮從相對(duì)誤差負(fù)梯度的方向修正權(quán)值和閾值，還要采用附加動(dòng)量的方法，在每一個(gè)權(quán)值變化上加上一項(xiàng)正比于前次權(quán)值修正量的值，通過(guò)這種方式算出新的權(quán)值變化量。通過(guò)采用相對(duì)誤差和附加動(dòng)量相結(jié)合的方法提高BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)的精確度和速度。

隱含層與輸出層之間的權(quán)值修正量設(shè)為Δwjp(n),由于在BP算法中權(quán)值的修正量與誤差的梯度下降成正比，即：

(1)

(2)

(3)

設(shè)局部梯度為：

(4)

(5)

(6)

因此權(quán)值修正量為：

(7)

采用相對(duì)誤差作為誤差傳遞信號(hào)，經(jīng)上面推導(dǎo)求出新的權(quán)值修正量[10]。求出權(quán)值修正量后，采用附加動(dòng)量法去克服網(wǎng)絡(luò)陷入局部極小值的情況，從而滑過(guò)這些極小值。使用附加動(dòng)量法時(shí)，修正其權(quán)值不僅考慮誤差在梯度上的作用，還要求出隱層上任意節(jié)點(diǎn)下一次迭代時(shí)與輸出上任一節(jié)點(diǎn)之間的權(quán)值，附加動(dòng)量因子的調(diào)節(jié)公式為：

Δwij(k+1)=(1-mc)ησixj+mcΔwij(k)

(8)

式中：k為神經(jīng)網(wǎng)絡(luò)訓(xùn)練次數(shù)，i為隱含層數(shù)，j為隱含層節(jié)點(diǎn)數(shù)，Δw為權(quán)值的修正量，x為輸入，η為學(xué)習(xí)效率，mc為動(dòng)量因子。

附加動(dòng)量法使得算法對(duì)誤差曲面局部調(diào)節(jié)的敏感性降低，從而更好地限制了網(wǎng)絡(luò)陷入局部極小值。采取這種方式使得權(quán)值(或閾值)的調(diào)節(jié)向著誤差曲面底部的均勻方向變化。當(dāng)權(quán)值(或閾值) 趨近誤差曲面底部平坦區(qū)時(shí)，σi→0，公式(8)變?yōu)楣?9)，避免了Δwij=0的出現(xiàn)，可以使訓(xùn)練從誤差曲面的局部極小值中跳出，有效地解決了因權(quán)值(或閾值)誤差改變非常小而導(dǎo)致訓(xùn)練過(guò)程停頓的情況出現(xiàn)。

Δwij(k+1)=mcΔwij(k)

(9)

3 電力負(fù)荷預(yù)測(cè)應(yīng)用實(shí)例

3.1 仿真設(shè)計(jì)

(1)電力負(fù)荷數(shù)據(jù)訓(xùn)練

本文收集到某市電業(yè)局10 kV出線的電力日負(fù)荷數(shù)據(jù)，每隔5 min采一次電力負(fù)荷數(shù)據(jù)，采取非線性時(shí)間序列遞推的訓(xùn)練方法，不考慮其他因素對(duì)電力負(fù)荷的影響。選取其中一條線路的某天負(fù)荷數(shù)據(jù)，從9：00開(kāi)始，每三個(gè)電力負(fù)荷數(shù)據(jù)為輸入數(shù)據(jù)，第四個(gè)數(shù)據(jù)為輸出數(shù)據(jù)，依此類推進(jìn)行訓(xùn)練，一直訓(xùn)練到17:00的數(shù)據(jù)為止。由于訓(xùn)練數(shù)據(jù)較多，因此只列出測(cè)試的樣本負(fù)荷數(shù)據(jù)，如表1所示。

(2)樣本數(shù)據(jù)歸一化

樣本數(shù)據(jù)在訓(xùn)練和測(cè)試前都要進(jìn)行歸一化處理，目的是取消數(shù)據(jù)各維數(shù)之間的數(shù)量級(jí)差別。訓(xùn)練和測(cè)試完成

表1 測(cè)試樣本

后，輸出數(shù)據(jù)還要進(jìn)行反歸一化處理。MATLAB歸一化函數(shù)為premnmx，反歸一化函數(shù)為postmnmx。測(cè)試樣本數(shù)據(jù)如表1所示，歸一化后測(cè)試樣本的數(shù)據(jù)如表2所示。

表2 歸一化后的測(cè)試樣本

(3) 遺傳算法參數(shù)設(shè)計(jì)

遺傳算法使用GATBX工具箱，設(shè)置參數(shù)為：種群大小40，最大遺傳代數(shù)50，變量的二進(jìn)制位數(shù)10，交叉概率0.7，變異概率0.01，代溝0.95。

(4)各層神經(jīng)元數(shù)量設(shè)計(jì)

本文BP神經(jīng)網(wǎng)絡(luò)采用3-7-1模型，輸入層3個(gè)神經(jīng)元， 隱層7個(gè)神經(jīng)元，輸出層1個(gè)神經(jīng)元。

(5)傳遞函數(shù)選擇

隱層的傳遞函數(shù)采用tansig，輸出層的傳遞函數(shù)為purelin。

(6)訓(xùn)練算法選擇

本實(shí)驗(yàn)采用trainlm作為網(wǎng)絡(luò)訓(xùn)練算法。

(7)訓(xùn)練控制

設(shè)定訓(xùn)練誤差目標(biāo)為0.001， 最大迭代次數(shù)為1 000次，學(xué)習(xí)速率為0.05。

3.2 結(jié)果分析

下面以標(biāo)準(zhǔn)BP算法和改進(jìn)后的BP算法分別對(duì)測(cè)試數(shù)據(jù)進(jìn)行預(yù)測(cè)，預(yù)測(cè)的數(shù)據(jù)與訓(xùn)練數(shù)據(jù)為不同日期的負(fù)荷數(shù)據(jù)，測(cè)試的負(fù)荷為10:00～17:00之間的數(shù)據(jù)，還是采用非線性時(shí)間序列遞推預(yù)測(cè)的方法。其預(yù)測(cè)精度如表3所示。

表3 預(yù)測(cè)誤差比較

由表3知，在兩種算法都經(jīng)過(guò)1 000次訓(xùn)練、學(xué)習(xí)效率也相同的情況下，標(biāo)準(zhǔn)BP算法預(yù)測(cè)后得到的平均誤差為4.395%；而改進(jìn)后的BP算法預(yù)測(cè)后得到的平均誤差為2.073%。所以據(jù)實(shí)驗(yàn)仿真測(cè)試結(jié)果來(lái)看，改進(jìn)的BP算法比標(biāo)準(zhǔn)的BP算法預(yù)測(cè)精度要高。

4 結(jié)論

為了提高BP算法在短期電力負(fù)荷預(yù)測(cè)上的精度，提出采取一種改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)算法對(duì)電力負(fù)荷進(jìn)行短期預(yù)測(cè)。該模型將收集到的電力負(fù)荷數(shù)據(jù)以一種非線性時(shí)間序列遞推的方式進(jìn)行預(yù)測(cè)，并沒(méi)有考慮其他對(duì)電力負(fù)荷影響的因素。根據(jù)實(shí)驗(yàn)仿真的結(jié)果來(lái)看，采用遺傳算法優(yōu)化初始權(quán)值和閾值，將相對(duì)誤差和附加動(dòng)量方法結(jié)合起來(lái)計(jì)算權(quán)值修正量的方式在短期電力負(fù)荷預(yù)測(cè)是優(yōu)于標(biāo)準(zhǔn)BP算法的。通過(guò)這種結(jié)合可以提高算法預(yù)測(cè)精度，為BP算法在預(yù)測(cè)短期電力負(fù)荷應(yīng)用上提出了一種新的思路，同時(shí)本文也為其他相似的領(lǐng)域提供了依據(jù)和參考。

[1] 廖旎煥,胡智宏,馬瑩瑩,等. 電力系統(tǒng)短期負(fù)荷預(yù)測(cè)方法綜述[J]. 電力系統(tǒng)保護(hù)與控制,2011,39(1):147-152.

[2] 谷云東,張素杰,馮君淑. 大用戶電力負(fù)荷的多模型模糊綜合預(yù)測(cè)[J]. 電工技術(shù)學(xué)報(bào),2015,30(23):110-115.

[3] 薛志英,周明,李庚銀. 電力系統(tǒng)短期運(yùn)行充裕性評(píng)估及決策[J].電網(wǎng)技術(shù),2014,38(4):994-1000.

[4] 杜振寧.布谷鳥(niǎo)搜索算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測(cè)[J].電子技術(shù)應(yīng)用,2015,41(3):82-85.

[5] 魯小利,王俊.基于遺傳優(yōu)化神經(jīng)網(wǎng)絡(luò)的電子舌在黃酒檢測(cè)中的應(yīng)用[J].電子技術(shù)應(yīng)用,2009,35(7):91-94.

[6] 吳欣欣,文志誠(chéng),葉健健,等.基于改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)入侵檢測(cè)方法研究[J].微型機(jī)與應(yīng)用,2014,33(22):67-70.

[7] 周貴旺,孫敏.改進(jìn)遺傳算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)入侵檢測(cè)研究[J].微型機(jī)與應(yīng)用,2010,29(21):65-68.

[8] BENET C H,KASSLER A, ZOLA E. Predicting expected TCP throughput using genetic algorithm[J]. Computer Networks,2016,108:307-322.

[9] 高尚,張紹彪,梅亮.基于相對(duì)誤差的線性組合預(yù)測(cè)研究[J].系統(tǒng)工程與電子技術(shù),2008,30(3):481-484.

[10] 馬海志,王福林,王慧鵬,等.基于改進(jìn)BP神經(jīng)網(wǎng)絡(luò)的黑龍江農(nóng)機(jī)總動(dòng)力預(yù)測(cè)[J].農(nóng)機(jī)化研究,2016(2):22-25,30.

The improved BP nertual network in the application of theshort-term power load forecasting

Li Jianwei, Li Yan, Wang Jian

(College of Information and Computer Engineering, Northeast Forestry University, Harbin 150040, China)

The short-term power load forecasting is established based on standard BP neural network model. There are phenomenons such as the final solution relying too much on initial value and the overfitting, and the algorithm has disadvantages such as local minimum problems and slow convergence speed and so on in the training process. In order to improve the prediction accuracy of power load model, through reading literature,the model constructs the short-term power load forecasting based on improved BP neural network model, uses genetic algorithm to initialize weights and threshold values, and uses relative error and the way of additional momentum method to calculate weight correction. Comparing the effect of the improved BP algorithm with the standard BP algorithm in the short-term power load forecasting, the simulation experiment results show that the improved model can improve the prediction precision.

short-term load forecasting; BP neural network; genetic algorithm; relative error; additional momentum

中央高?；究蒲袠I(yè)務(wù)費(fèi)專項(xiàng)資金項(xiàng)目(DL11AB01)

TM715

A

10.19358/j.issn.1674- 7720.2017.14.019

李建偉，李妍，王健.改進(jìn)的BP算法在短期電力負(fù)荷預(yù)測(cè)中的應(yīng)用[J].微型機(jī)與應(yīng)用，2017,36(14)：61-63,67.

2016-12-28)

李建偉(1989-)，男，碩士研究生，主要研究方向：模式識(shí)別，機(jī)器學(xué)習(xí)。

李妍(1991-)，女，碩士研究生，主要研究方向：信息安全。

王健(1976-)，通信作者，男，副教授，碩士生導(dǎo)師，主要研究方向：物聯(lián)網(wǎng)，信號(hào)與信息處理，模式識(shí)別等。E-mail：wang1342@foxmail.com。