馬立新,尹晶晶,鄭曉棟
(上海理工大學(xué)光電信息與計(jì)算機(jī)工程學(xué)院,上海200093)
SOM特征提取與ELM在電力負(fù)荷預(yù)測(cè)中的應(yīng)用
馬立新,尹晶晶,鄭曉棟
(上海理工大學(xué)光電信息與計(jì)算機(jī)工程學(xué)院,上海200093)
隨著電力負(fù)荷內(nèi)涵復(fù)雜度和非線性增加,單純追求電力負(fù)荷預(yù)測(cè)精度將變得困難。研究根據(jù)負(fù)荷樣本分析其趨勢(shì)、抽取特征來解決預(yù)測(cè)精度問題,即提出一種基于自組織特征映射網(wǎng)絡(luò)(SOM)進(jìn)行特征提取并與極限學(xué)習(xí)機(jī)(ELM)相結(jié)合的短期電力負(fù)荷預(yù)測(cè)方法。通過SOM特征提取找出與預(yù)測(cè)日同類型的歷史數(shù)據(jù)作為訓(xùn)練樣本;然后采用ELM進(jìn)行預(yù)測(cè),該方法預(yù)測(cè)過程簡(jiǎn)捷,能得到唯一的最優(yōu)解。實(shí)驗(yàn)以某市的電力負(fù)荷數(shù)據(jù)進(jìn)行仿真和比較。結(jié)果表明,基于SOM特征提取的ELM方法不僅精簡(jiǎn)了訓(xùn)練樣本數(shù)量,且使訓(xùn)練更具有針對(duì)性,提高了預(yù)測(cè)精度和泛化性能,具有一定的理論意義和較好的應(yīng)用前景。
自組織特征映射;特征提??;極限學(xué)習(xí)機(jī);短期負(fù)荷預(yù)測(cè)
電力系統(tǒng)負(fù)荷預(yù)測(cè)是供電部門的重要工作之一,對(duì)電力系統(tǒng)安全及經(jīng)濟(jì)運(yùn)行有著重要的意義[1]。電力負(fù)荷的變化過程是極其復(fù)雜的,很多不確定的因素都會(huì)引起負(fù)荷的波動(dòng),這些都對(duì)預(yù)測(cè)造成了困難;但負(fù)荷變化又具有規(guī)律性的周期變化特征,如電力負(fù)荷季節(jié)性輪流變化、工作日與雙休日的規(guī)律變化等。
文獻(xiàn)[2]深入研究了負(fù)荷的兩個(gè)特征量,對(duì)預(yù)測(cè)日的負(fù)荷水平和負(fù)荷曲線形狀進(jìn)行預(yù)測(cè)時(shí),選取不同的相似日,即趨勢(shì)相似日和形狀相似日。此方法有利于提高預(yù)測(cè)的準(zhǔn)確度,但計(jì)算量較大。文獻(xiàn)[3]建立相似度量化模型,計(jì)算氣象相似度兼量化時(shí)間相似度,二者乘積作為總體相似度,依此選取若干相似日。該提取相似樣本的方法較復(fù)雜。文獻(xiàn)[4]采用特征提取的方法來預(yù)測(cè)短期負(fù)荷,但在訓(xùn)練樣本中過濾了節(jié)假日以及周末數(shù)據(jù)。本文引入自組織特征映射網(wǎng)絡(luò)SOM(Self-organizing feature mapping network)對(duì)負(fù)荷進(jìn)行特征提取,根據(jù)輸入向量的分組進(jìn)行學(xué)習(xí)和分類,能夠自動(dòng)找出輸入數(shù)據(jù)間的相似度,將相似的輸入在網(wǎng)絡(luò)上就近配置;該算法能較好地解決有關(guān)提取相似樣本算法在電力負(fù)荷預(yù)測(cè)中的不足。
文獻(xiàn)[5]將極限學(xué)習(xí)機(jī)ELM(Extreme Learning Machine)引入電力負(fù)荷預(yù)測(cè)。ELM只需要設(shè)置網(wǎng)絡(luò)的隱含層節(jié)點(diǎn)個(gè)數(shù),在算法執(zhí)行過程中不需要調(diào)整網(wǎng)絡(luò)的輸入層與隱含層之間的連接權(quán)值以及隱含層神經(jīng)元的閾值,便可以得到唯一的最優(yōu)解[6,7]。該預(yù)測(cè)算法簡(jiǎn)單,計(jì)算速度快,且預(yù)測(cè)精度在傳統(tǒng)神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上有一定的提高。但是,ELM無(wú)法準(zhǔn)確反映負(fù)荷樣本特征以及樣本間的相似關(guān)系。
本文將SOM網(wǎng)絡(luò)作為負(fù)荷數(shù)據(jù)預(yù)處理的工具,并結(jié)合ELM算法提出一種基于SOM進(jìn)行負(fù)荷特征提取,以ELM對(duì)特征序列進(jìn)行訓(xùn)練預(yù)測(cè)的短期負(fù)荷預(yù)測(cè)模型,簡(jiǎn)稱為SOM-ELM模型。該模型通過負(fù)荷特征提取消除了冗余信息,精簡(jiǎn)了輸入樣本數(shù)量,又利用了ELM預(yù)測(cè)能力強(qiáng)、計(jì)算時(shí)間短的優(yōu)點(diǎn)。
SOM網(wǎng)絡(luò)是由輸入層和輸出層構(gòu)成,輸入層神經(jīng)元的個(gè)數(shù)等于輸入向量的元素個(gè)數(shù);輸出層的神經(jīng)元個(gè)數(shù)等于預(yù)設(shè)的類別數(shù)目;SOM網(wǎng)絡(luò)通過反復(fù)的學(xué)習(xí)輸入向量,輸入向量的統(tǒng)計(jì)特征可以用權(quán)向量的空間分布來表現(xiàn)出來;訓(xùn)練結(jié)束以后,狀態(tài)相同或相近的輸入向量,就會(huì)處于輸出層網(wǎng)絡(luò)上相鄰近的位置;因此,使用SOM算法可以正確顯示SOM分類的訓(xùn)練結(jié)果[8]。SOM二維網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)如圖1。
圖1 SOM二維網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)圖
SOM網(wǎng)絡(luò)學(xué)習(xí)算法如下:
(l)初始化。給定學(xué)習(xí)率初值η(0),(0<η(0)<1);
確定初始優(yōu)勝鄰域Nj*(0)的初值;對(duì)各權(quán)向量賦隨機(jī)小數(shù)并進(jìn)行歸一化得:(j=1,2,…m)
(2)接受輸入。輸入模式是從訓(xùn)練集中隨機(jī)選取的一個(gè)。歸一化處理輸入模式,得:
(4)調(diào)整權(quán)值。以j*為中心,調(diào)整優(yōu)勝鄰域Nj*(t)內(nèi)所有節(jié)點(diǎn)的權(quán)值:
(5)檢查。總模式數(shù)P是否全部參與了學(xué)習(xí),否則返回步驟(2)。
黨的十九大開啟了全面建設(shè)社會(huì)主義現(xiàn)代化國(guó)家新征程,當(dāng)下的中國(guó)正處在全面深化改革的最好時(shí)代,也正處在全面依法治國(guó)的最好時(shí)代。要使法治如一江春水,伴隨著改革和發(fā)展的腳步,在全面建設(shè)社會(huì)主義現(xiàn)代化國(guó)家新征程上奔流不息、浩蕩前行。
(6)更新鄰域Nj*(t)及學(xué)習(xí)率
式中:η(t)=η(0)[(1-t/T)],t為當(dāng)前學(xué)習(xí)次數(shù);T為設(shè)定的最大訓(xùn)練次數(shù)。
(7)令t=t+1,返回步驟(2)。
(8)結(jié)束檢查。判斷η(t)是否衰減到某預(yù)定精度或判斷t=T。
ELM是一種單隱層前饋神經(jīng)網(wǎng)絡(luò)(Single hidden Layer Feed forward Networks,SLFNs)訓(xùn)練新算法發(fā)展而來[9]。設(shè)N個(gè)不同的隨機(jī)樣本(xi,ti),xi和ti分別表示輸入與輸出數(shù)據(jù),其中xi=[xi1,xi2,...xin]T∈Rn,ti=[ti1,ti2,...tim]T∈Rm具有個(gè)單隱含層結(jié)點(diǎn),激勵(lì)函數(shù)g(x)的標(biāo)準(zhǔn)SLFNs模型可以表示為
式中:ai=[ai1,ai2,…ain]T是輸入層到第i個(gè)隱含層結(jié)點(diǎn)的輸入權(quán)向量(Weight Vector);bi是第i個(gè)隱含層結(jié)點(diǎn)的閥值(Bias);βi=[βi1,βi2,…,β im]T是連接i個(gè)隱含層結(jié)點(diǎn)的輸出權(quán)向量;ai,xj表示ai和xj的內(nèi)積。
式(4)寫成矩陣形式為
式中:H是網(wǎng)絡(luò)的隱含層輸出矩陣,第i列表示與輸入x1,x2,…,xN相關(guān)的第i個(gè)隱含層節(jié)點(diǎn)的輸出矢量,第j行表示與輸入相關(guān)的隱含層輸出矢量。隱含層矩陣是一個(gè)確定的矩陣,因此訓(xùn)練SLFNs就等價(jià)轉(zhuǎn)化為求最小二乘解,使得βH=T,即:
根據(jù)相關(guān)文獻(xiàn),式(6)可以表示為
式中:H+為隱含層輸出矩陣H的摩爾廣義逆矩陣。
3.1 日負(fù)荷特征提取
基于對(duì)日負(fù)荷特征分析,利用SOM網(wǎng)絡(luò)特征提取算法對(duì)輸入歷史數(shù)據(jù)的進(jìn)行聚類分析,然后經(jīng)過迭代計(jì)算,可以得到各個(gè)神經(jīng)元之間的權(quán)值,各個(gè)類別的神經(jīng)元會(huì)將數(shù)據(jù)之間存在的相似性體現(xiàn)出來,這樣就會(huì)使得同一類別的神經(jīng)元的權(quán)值比較相近,最后可將訓(xùn)練樣本數(shù)據(jù)分為k類,作為k個(gè)訓(xùn)練樣本集。
取某市2012年11月1日至30日的電力負(fù)荷數(shù)據(jù),通過SOM算法對(duì)輸入樣本進(jìn)行訓(xùn)練分類,設(shè)學(xué)習(xí)次數(shù)為T=500??紤]到特征向量的維數(shù)以及實(shí)用性,可設(shè)類別為3~4類。以分為4類為例,設(shè)置網(wǎng)絡(luò)的輸出節(jié)點(diǎn)矩陣為2×2結(jié)構(gòu),則類別為4類。分類結(jié)果對(duì)應(yīng)的拓?fù)浣Y(jié)構(gòu)如圖2,分類結(jié)果如表1所示。
圖2 2012月11月電力負(fù)荷分類結(jié)果
表1 2012月11月電力負(fù)荷特性分類結(jié)果
3.2 基于SOM特征提取的ELM電力負(fù)荷預(yù)測(cè)
SOM網(wǎng)絡(luò)對(duì)歷史負(fù)荷進(jìn)行特征提取后,使用預(yù)測(cè)日的前一兩天或前一周同日類型相關(guān)的變量作為SOM的輸入變量,從而得到與預(yù)測(cè)日同一類別的訓(xùn)練樣本X作為輸入樣本,建立相應(yīng)的ELM算法對(duì)負(fù)荷進(jìn)行訓(xùn)練預(yù)測(cè)[10]。負(fù)荷預(yù)測(cè)原理如圖3。
圖3 電力負(fù)荷預(yù)測(cè)原理
為了驗(yàn)證可行性和有效性,收集2012年1月到12月某市的電力負(fù)荷數(shù)據(jù)進(jìn)行預(yù)測(cè)分析,每2h一個(gè)采樣點(diǎn),每天12個(gè)點(diǎn)。采用SOM-ELM模型,使用前30天的數(shù)據(jù)訓(xùn)練,對(duì)第31天的數(shù)據(jù)進(jìn)行預(yù)測(cè)。將預(yù)測(cè)結(jié)果與BP神經(jīng)網(wǎng)絡(luò)、ELM的預(yù)測(cè)結(jié)果進(jìn)行對(duì)比,其中ELM算法使用sigmoid函數(shù)作為算法的激勵(lì)函數(shù),并使用交叉驗(yàn)證法選擇隱含層節(jié)點(diǎn)數(shù)。BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)速率為0.1,為了方便與ELM算法進(jìn)行比較,設(shè)置BP網(wǎng)絡(luò)的隱含層節(jié)點(diǎn)數(shù)與ELM的相同。評(píng)價(jià)標(biāo)準(zhǔn)為相對(duì)誤差(APE)和平均相對(duì)誤差(MAPE),具體定義為:
實(shí)驗(yàn)一:以該地區(qū)2012年11月1日至2012年11月30日的負(fù)荷數(shù)據(jù)作為歷史采樣數(shù)據(jù),每天每2h一個(gè)采樣點(diǎn)。歸一化處理歷史負(fù)荷數(shù)據(jù),量化處理溫度、天氣情況、日類型等因素;使用SOM算法對(duì)樣本進(jìn)行學(xué)習(xí)和分類,其中學(xué)習(xí)率初始值設(shè)為0.9,初始鄰域較大,設(shè)為所有輸出節(jié)點(diǎn)個(gè)數(shù)的80%。SOM網(wǎng)絡(luò)結(jié)構(gòu)形成后,找到與預(yù)測(cè)日同一類別的訓(xùn)練樣本。12月1日的同類別訓(xùn)練樣本為表1中輸出神經(jīng)元3對(duì)應(yīng)的負(fù)荷數(shù)據(jù)(共5天)。
將本文方法SOM-ELM與BP神經(jīng)網(wǎng)絡(luò)以及基于SOM特征提取的BP神經(jīng)網(wǎng)絡(luò)(SOM-BP)的預(yù)測(cè)結(jié)果進(jìn)行對(duì)比。2012年12月1日全天12個(gè)預(yù)測(cè)點(diǎn)負(fù)荷預(yù)測(cè)結(jié)果如表2。
表2 2012年12月1日負(fù)荷預(yù)測(cè)與實(shí)際值比較
由誤差統(tǒng)計(jì)結(jié)果表2可見,在預(yù)測(cè)樣本較少的情況下,采用SOM-ELM網(wǎng)絡(luò)模型進(jìn)行日負(fù)荷預(yù)測(cè)的精度比較理想,平均相對(duì)誤差1.05%,最大相對(duì)誤差為1.82%。本文方法預(yù)測(cè)精度優(yōu)于傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法與SOM-BP方法。
實(shí)驗(yàn)二:為進(jìn)一步驗(yàn)證本文方法的有效性,取2012年7月1日至30日的負(fù)荷數(shù)據(jù),對(duì)該地區(qū)7月31日的負(fù)荷進(jìn)行預(yù)測(cè)。該組數(shù)據(jù)為夏季負(fù)荷,比第一組數(shù)據(jù)的波動(dòng)要大一些。首先通過SOM算法對(duì)輸入樣本進(jìn)行訓(xùn)練分類,其中學(xué)習(xí)率初始值設(shè)為0.9,初始鄰域設(shè)為所有輸出節(jié)點(diǎn)個(gè)數(shù)的80%。分類結(jié)果如表3,然后選出預(yù)測(cè)日7月31日的同類別樣本,7月31日的同類別訓(xùn)練樣本為表3中輸出神經(jīng)元1對(duì)應(yīng)的負(fù)荷數(shù)據(jù)(共12天)。
2012年7月31日全天12個(gè)預(yù)測(cè)點(diǎn)預(yù)測(cè)結(jié)果與實(shí)際負(fù)荷值對(duì)比波形如圖4,可以看出本文方法得到的預(yù)測(cè)曲線與實(shí)際負(fù)荷曲線擬合的比較好。預(yù)測(cè)結(jié)果比較如表4。7月31日的預(yù)測(cè)負(fù)荷SOMELM方法平均相對(duì)誤差為0.85%,最大誤差為1.51%。采用本文方法進(jìn)行日負(fù)荷預(yù)測(cè)的精度滿足供電部門的要求,且訓(xùn)練樣本較少,泛化性能好,明顯優(yōu)于傳統(tǒng)預(yù)測(cè)方法。
表3 2012年7月31日電力負(fù)荷特性分類結(jié)果
圖4 2012年7月31日全天預(yù)測(cè)結(jié)果曲線
表4 2012年7月31日負(fù)荷預(yù)測(cè)與實(shí)際值比較
由表5可知,本文方法與BP神經(jīng)網(wǎng)絡(luò)、SOM-BP方法相比,訓(xùn)練時(shí)間與預(yù)測(cè)時(shí)間都明顯減少,速度更快。
表5 計(jì)算時(shí)間對(duì)比表
本文針對(duì)傳統(tǒng)預(yù)測(cè)算法中負(fù)荷預(yù)測(cè)樣本大、訓(xùn)練時(shí)間長(zhǎng)的缺點(diǎn),研究根據(jù)負(fù)荷樣本分析其趨勢(shì)、抽取特征來解決預(yù)測(cè)精度問題,采用SOM網(wǎng)絡(luò)對(duì)負(fù)荷數(shù)據(jù)進(jìn)行特征提取,然后用ELM算法對(duì)電力系統(tǒng)短期負(fù)荷進(jìn)行預(yù)測(cè),對(duì)夏季和冬季的短期日負(fù)荷預(yù)測(cè)進(jìn)行驗(yàn)證;與傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)相比,本文方法不僅減少了訓(xùn)練樣本,而且提高了預(yù)測(cè)精度以及預(yù)測(cè)速度。仿真結(jié)果表明,在電力負(fù)荷預(yù)測(cè)中本文提出的方法具有很好的應(yīng)用前景。
[1] 牛曉華,曹樹華.電力負(fù)荷預(yù)測(cè)技術(shù)及其應(yīng)用[M].北京:中國(guó)電力出版社,2009.
[2] 莫維仁,張伯明,孫宏斌,等.短期負(fù)荷預(yù)測(cè)中選擇相似日的探討[J].清華大學(xué)學(xué)報(bào)(自然科學(xué)版),2004,44(1):106-109.
[3] 劉晶,朱鋒鋒,林輝,等.基于相似日負(fù)荷修正算法的短期負(fù)荷預(yù)測(cè)[J].計(jì)算機(jī)工程與設(shè)計(jì),2010,31(6):1279-1282.
[4] Valero S,Aparicio J,Senabre C,et al.Analysis of different testing parameters in Self-Organizing Maps for short-term load demand forecasting in Spain[C].2010 Proceedings of the International Symposium Modern E-lectric Power Systems(MEPS),Wroclaw,20-22 September,2010:1-6.
[5] 成天樂,周勝瑜,李斯,等.基于極限學(xué)習(xí)機(jī)方法的短期負(fù)荷預(yù)測(cè)[J].電力科學(xué)與工程,2013,29(4):24-29.
[6] Huang G B,Zhu Q Y,Siew C K.Extreme learning machine:Theory and applications[J].Science Direct,2006,70(1-3):489-501.
[7] 李知藝,丁劍鷹,吳迪,等.電力負(fù)荷區(qū)間預(yù)測(cè)的集成極限學(xué)習(xí)機(jī)方法[J].華北電力大學(xué)學(xué)報(bào),2014,,41(2):78-88.
[8] 李翔,顧捷.運(yùn)用聚類算法預(yù)測(cè)地區(qū)電網(wǎng)典型日負(fù)荷曲線[J].電力與能源,2013,34(1):47 -51.
[9] 吳登國(guó),李曉明.基于極限學(xué)習(xí)機(jī)的配電網(wǎng)重構(gòu)[J].電力自動(dòng)化設(shè)備,2013,33(2):47-51.
[10] 張群洪.基于集成智能方法的電力短期負(fù)荷預(yù)測(cè)[J].系統(tǒng)工程理論與實(shí)踐,2013,33(2):354 -362.
Application of SOM Feature Extraction and ELM in Power Load Forecasting
Ma Lixin,Yin Jingjing,Zheng Xiaodong
(School of Optical-Electrical and Computer Engineering,University of Shanghai for Science and Technology,Shanghai 200093,China)
With the increase of power load connotation complexity and nonlinearity,the pure pursuit of power load forecasting accuracy becomes more difficult.This paper aimed to improve prediction accuracy in line with the analysis of load sample trend and feature extraction and proposed a short-term load forecasting method based on the combination of self-organizing feature mapping network(SOM)feature extraction and extreme learning machine(ELM).First,the same type data as that on the forecasting day were selected as the training sample by using the feature extraction of SOM algorithm.Then,ELM was used for prediction,since the forecasting process of ELM is simple and can generate a unique optimal solution.The power load data of one city were used for simulating and comparing.The experimental results showed that ELM method based on SOM feature extraction downsized the number of training samples,made the training more targeted,and improved forecasting accuracy and generalization performance.This method has certain theoretical significance and good application prospects.
self-organizing feature map;feature extraction;extreme learning machine;short-term load forecasting
TM715
A DOI:10.3969/j.issn.1672-0792.2015.05.001
2015-03-13。
國(guó)家自然科學(xué)基金資助項(xiàng)目(61205076);上海市張江國(guó)家自主創(chuàng)新重點(diǎn)項(xiàng)目(201310-PI-B2-008)。
馬立新(1960-),男,教授,研究方向?yàn)殡娏ο到y(tǒng)分析與優(yōu)化運(yùn)行等方面的研究工作,E-mail:malx_aii@ sina.com.。