鐘勁松, 王少林, 冉懿, 冉新濤, 于金平, 俞海猛

(1.國網(wǎng)新疆電力有限公司電力科學(xué)研究院,烏魯木齊市 830000;2.國網(wǎng)奎屯供電公司,新疆維吾爾自治區(qū)奎屯市 833200;3.國電南瑞南京控制系統(tǒng)有限公司,南京市 211106)

0 引言

源網(wǎng)荷友好互動(dòng)系統(tǒng)及電力市場化改革發(fā)展都對用戶負(fù)荷研究提出了更高要求,準(zhǔn)確精細(xì)化把握不同類型用戶負(fù)荷用電特征及規(guī)律對保障電力系統(tǒng)安全可靠運(yùn)行,實(shí)現(xiàn)電網(wǎng)故障時(shí)精準(zhǔn)切負(fù)荷及售電公司開展購售電業(yè)務(wù)等都具有重要的指導(dǎo)意義[1-4]。

電力市場化改革促進(jìn)各種類型售電公司應(yīng)運(yùn)而生,售電公司從發(fā)電廠以較低價(jià)格批量購買電能并以較高零售價(jià)格賣給工業(yè)用戶,依靠替用戶承擔(dān)風(fēng)險(xiǎn)獲得相應(yīng)的收益。 然而,售電公司所上報(bào)的合同電量與用戶實(shí)際用電量存在不同程度的偏差,給售電公司造成了偏差考核壓力并影響收益[5]。 售電公司為了在電力交易中獲得收益,必須要精準(zhǔn)把握用戶用電行為,進(jìn)而準(zhǔn)確預(yù)測用戶負(fù)荷規(guī)模,縮小合同電量與實(shí)際用電量的偏差。 由此可見,提高用戶負(fù)荷預(yù)測精度成為售電公司可持續(xù)發(fā)展的重要保證。

目前,負(fù)荷預(yù)測主要對象為系統(tǒng)級(jí)負(fù)荷,對用戶負(fù)荷預(yù)測的研究較少。 文獻(xiàn)[6]通過用電模式分層聚類算法對海量用戶進(jìn)行用戶集群辨識(shí),融合用電模式分析與集群辨識(shí)建立條件殘差模擬概率預(yù)測模型,實(shí)現(xiàn)對海量用戶分層概率預(yù)測,獲得了工商業(yè)用戶不同分位點(diǎn)預(yù)測結(jié)果。 文獻(xiàn)[7]建立多層分解與累加原理的城市綜合體月度用電量預(yù)測模型,利用改進(jìn)的經(jīng)驗(yàn)?zāi)B(tài)分解算法分離不同尺度波動(dòng)和趨勢特性,預(yù)測精度相對傳統(tǒng)方法有較大提升。 文獻(xiàn)[8]針對現(xiàn)有單一負(fù)荷預(yù)測方法難以反映多元負(fù)荷間耦合特性的問題,通過“硬共享機(jī)制+長短時(shí)記憶共享層”方式構(gòu)建多任務(wù)學(xué)習(xí)負(fù)荷預(yù)測模型,在預(yù)測精度及時(shí)間上均具有較好效果。 文獻(xiàn)[9-12]分別對用戶負(fù)荷預(yù)測及用戶用電行為進(jìn)行了深入研究,取得較好效果。

為提高用戶負(fù)荷預(yù)測精度,提出基于最大相關(guān)最小冗余(max-relevance and min-redundancy, mRMR)和長短期記憶網(wǎng)絡(luò)(long-short term memory network,LSTM)的短期預(yù)測模型。 mRMR 是基于互信息理論的特征變量選擇方法,既可以保證輸入變量與目標(biāo)值間互信息值最大,又使得變量間冗余性最小,可有效選取合適的輸入變量集合。 LSTM 能很好處理和預(yù)測延遲較長的時(shí)間序列,且不會(huì)存在梯度消失和梯度爆炸現(xiàn)象。 首先,采用mRMR 算法對特征變量進(jìn)行排序并選取合適的輸入變量集合,然后對選取的輸入變量集合建立LSTM 預(yù)測模型,最后通過算例驗(yàn)證模型的有效性。

1 mRMR 實(shí)現(xiàn)步驟

mRMR 依據(jù)互信息理論計(jì)算各變量與目標(biāo)值間相關(guān)性,并采用啟發(fā)式搜索策略對各變量相關(guān)性進(jìn)行排序,使得輸入變量與目標(biāo)值間具有較大的相關(guān)性,且輸入變量間冗余性最小[13]。 離散型隨機(jī)變量X和Y間的互信息值可表示為[14]:

式中:n、m分別為隨機(jī)變量X和Y的樣本個(gè)數(shù);p為概率。

定義最大相關(guān)和最小冗余測度指標(biāo)分別為[15]:

式中:S為所選取的輸入變量集合;|S|為輸入變量維度;w為輸出目標(biāo);D描述輸入變量集合S中各輸入變量xi與輸出目標(biāo)w間的互信息均值,反映了輸入變量集合與輸出目標(biāo)間的相關(guān)性;R表示集合S變量間互信息的大小,描述了輸入變量間的冗余性。

設(shè)初始特征向量集合為K且含有N維輸入變量,即K={x1,x2,…,xN}。 已選取的m-1 維輸入變量向量集合記為Sm-1,剩余特征向量集合記為F。 mRMR目標(biāo)便是從剩余特征子集{K-Sm-1}中選擇第m個(gè)特征使得目標(biāo)函數(shù)最大化,即該特征滿足式(4)。

采用mRMR 選取輸入變量集合,實(shí)現(xiàn)步驟為:

1)初始化已選輸入變量集合S為空集,待選特征集合為K,即K→F,?→S;

2)對?xi∈F,計(jì)算xi與目標(biāo)類w相關(guān)性為I(xi;w) ;記x*為滿足max[I(xi;w)] 條件的特征,令F -{x*} →F1,{x*} →S1;

3)設(shè)xi∈Fm-1,xj∈Sm-1(m =2,3,…,N) ,從Fm-1中找到使式(4)成立的最大特征并記為x**,令Fm-1-{x**} →Fm,Sm-1+{x**} →Sm;

4)重復(fù)步驟3),直至F為?,即可得到輸入變量集合S,并將特征按xi) 值降序排列。

2 LSTM 基本原理

循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network, RNN)處理長時(shí)間序列問題時(shí)易出現(xiàn)梯度消失和梯度爆炸,限制其廣泛應(yīng)用。 LSTM 是RNN 算法的改進(jìn),通過增加單元狀態(tài)c實(shí)現(xiàn)信息的遺忘與保留,能夠很好地處理和預(yù)測延遲較長的時(shí)間序列,并在語音識(shí)別、機(jī)器翻譯等領(lǐng)域廣泛應(yīng)用。

如圖1 所示,LSTM 是利用全連接層結(jié)構(gòu)的遺忘門、輸入門及輸出門實(shí)現(xiàn)對單元狀態(tài)c的有效控制?！斑z忘門”通過對前一時(shí)刻單元狀態(tài)ct-1的控制,決定ct-1有多少信息保留到當(dāng)前時(shí)刻ct中,從而繼續(xù)保存長期狀態(tài);“輸入門”實(shí)現(xiàn)對當(dāng)前時(shí)刻輸入信息的控制,決定當(dāng)前時(shí)刻網(wǎng)絡(luò)輸入xt有多少信息保存到單元狀態(tài)ct中;“輸出門”通過控制當(dāng)前時(shí)刻單元狀態(tài)ct,決定ct中有多少信息傳遞到LSTM 當(dāng)前輸出值ht中,并決策是否將ct作為當(dāng)前時(shí)刻LSTM 的輸出[16-21]。

圖1 LSTM 結(jié)構(gòu)模型Fig.1 LSTM structure model

1) 遺忘門計(jì)算公式為:

式中:Wf為遺忘門權(quán)重矩陣;bf是遺忘門偏置;σ為激活函數(shù),通常為tanh 或sigmoid 函數(shù);[ht-1,xt] 表示將兩向量拼接。

2) 輸入門計(jì)算公式為:

式中:Wi是輸入門權(quán)重矩陣;bi為輸入門偏置項(xiàng)。

3) 當(dāng)前輸入的單元狀態(tài)c′t由前一時(shí)刻LSTM輸出ht-1及當(dāng)前時(shí)刻輸入xt決定,計(jì)算公式為:

式中:Wc為權(quán)重矩陣;bc為偏置項(xiàng)。

4) 當(dāng)前時(shí)刻單元狀態(tài)ct由兩部分組成,第1 部分為前一時(shí)刻單元狀態(tài)ct-1按元素作用于遺忘門ft獲得的計(jì)算值,第2 部分為當(dāng)前時(shí)刻輸入單元狀態(tài)按元素作用于輸入門it獲得的計(jì)算值,將兩部分相加即可獲得當(dāng)前時(shí)刻單元狀態(tài)值,即:

式中:符號(hào)?表示按元素乘。

此時(shí),LSTM 將當(dāng)前記憶c′t和長期記憶ct-1相結(jié)合,形成新單元狀態(tài)ct。 通過遺忘門控制,LSTM 可保存遠(yuǎn)距離信息。 同時(shí),通過輸入門控制,LSTM 又避免了當(dāng)前時(shí)刻無關(guān)緊要信息進(jìn)入記憶。

5) 輸出門控制長期記憶對當(dāng)前輸出的影響,即:

式中:Wo為輸出門權(quán)重矩陣;bo為輸出門偏置項(xiàng)。

6) LSTM 最終輸出由輸出門和單元狀態(tài)共同確定,即:

3 基于mRMR 的輸入變量選取

工業(yè)用戶相對普通居民和商業(yè)用戶,特點(diǎn)是用電體量大,電費(fèi)支出在所有成本中占較大比重。 該類用戶用電行為較易受生產(chǎn)計(jì)劃、行業(yè)景氣狀況、季節(jié)更替等因素影響。 對某醫(yī)藥生產(chǎn)用戶2016年4月1日01:00 至2016年11月30日24:00 共5808 個(gè)(采樣時(shí)間間隔為1 h)負(fù)荷數(shù)據(jù)分析發(fā)現(xiàn),該用戶生產(chǎn)活動(dòng)時(shí)間為08:00—24:00,每日負(fù)荷曲線較為相似,且受季節(jié)更替、訂單量、行業(yè)景氣狀況、每日設(shè)備啟動(dòng)運(yùn)行情況等因素影響較大,受溫度、濕度等環(huán)境變量及工作日類型影響較小。 建立該用戶負(fù)荷短期預(yù)測模型時(shí),上述季節(jié)更替、訂單量、行業(yè)景氣狀況等因素對負(fù)荷預(yù)測模型精度影響較小,因此本文主要考慮負(fù)荷周期特性對模型的影響,采用mRMR 算法對待預(yù)測時(shí)刻負(fù)荷影響因素進(jìn)行排序并選取前20 個(gè)影響較大的特征。

設(shè)待預(yù)測時(shí)刻用戶負(fù)荷為Lt,原始特征設(shè)置為待預(yù)測時(shí)刻前一時(shí)刻至前168 個(gè)時(shí)刻負(fù)荷值,即待選輸入特征集合為{Lt-1,Lt-2,…,Lt-168}。 根據(jù)“近大遠(yuǎn)小”的原則及用戶負(fù)荷周期特性,Lt-1、Lt-2、Lt-3、Lt-24、Lt-48、Lt-72、Lt-96、Lt-120、Lt-144、Lt-168等輸入變量與待預(yù)測時(shí)刻互信息值較大,對待預(yù)測時(shí)刻負(fù)荷值有較大影響。 盡管某些變量,如Lt-2、Lt-3、Lt-167與待預(yù)測時(shí)刻負(fù)荷間互信息值較大,但這些因素與Lt-1、Lt-168變量間存在一定冗余信息。 將這些冗余信息輸入至預(yù)測模型中,不僅占用計(jì)算機(jī)內(nèi)存資源,還會(huì)影響模型訓(xùn)練復(fù)雜度及參數(shù)尋優(yōu)過程,在一定程度上可能降低預(yù)測模型精度。

mRMR 能夠選取相關(guān)性較大的輸入變量,同時(shí)避免冗余信息。 因此,首先采用mRMR 算法對所有特征影響程度進(jìn)行排序,然后基于封裝器工作模式,設(shè)置最優(yōu)輸入變量集合初始值為空集,對mRMR 排序的特征通過前向搜索策略逐個(gè)添加變量至已選輸入變量集合,并對已選輸入變量集合建立LSTM 預(yù)測模型,通過比較預(yù)測誤差大小,確定最優(yōu)輸入變量。遍歷所有輸入變量后,預(yù)測誤差最小時(shí)對應(yīng)的輸入變量構(gòu)成最優(yōu)輸入變量集合。

為量化負(fù)荷預(yù)測值接近真實(shí)值的程度,本文選擇電力系統(tǒng)短期負(fù)荷預(yù)測慣用的平均誤差(mean error,ME)、平均絕對百分比誤差(mean absolute percentage error, MAPE)及均方根誤差(root mean square error,RMSE)三種誤差統(tǒng)計(jì)量作為模型預(yù)測效果評價(jià)指標(biāo),計(jì)算公式分別為:

式中:n為測試點(diǎn)總數(shù)目;yi、y∧i分別為第i時(shí)刻測試點(diǎn)用戶負(fù)荷的真實(shí)值和預(yù)測值;IME、IMAPE、IRMSE為三種誤差統(tǒng)計(jì)量作為模型預(yù)測效果的評價(jià)指標(biāo)。

圖2 為隨機(jī)選取2016年8月9日用戶負(fù)荷并對其進(jìn)行提前24 h 預(yù)測時(shí),BP、SVM 和LSTM 三種模型在不同維度輸入變量下的誤差變化曲線。 對8月9日用戶負(fù)荷進(jìn)行提前24 h 預(yù)測時(shí),選取2016年4月1日01:00 至2016年8月8日24:00 共3120 個(gè)負(fù)荷數(shù)據(jù),考慮周期特性,即Lt-168對Lt負(fù)荷的影響,訓(xùn)練輸入樣本集是由{Lt-1,Lt-2,…,Lt-168}建立的2952 ×168 維矩陣。 在此基礎(chǔ)上,通過mRMR 算法對168 維特征變量進(jìn)行相關(guān)性排序并選擇前20 個(gè)影響較大的特征。 通過逐一添加變量,并進(jìn)行模型訓(xùn)練與預(yù)測誤差比較,選擇最合適的輸入變量維數(shù)。 由于ME 指標(biāo)和RMSE 指標(biāo)均是描述預(yù)測值偏離真實(shí)值的距離,在量化預(yù)測誤差上具有一定程度重疊性。 因此,本文采用MAPE 和RMSE 指標(biāo)作為選擇最優(yōu)輸入變量集合的依據(jù)。 從圖中可以看出,當(dāng)輸入變量維數(shù)等于5 時(shí),對應(yīng)MAPE 和RMSE 指標(biāo)最小。 因此,選取輸入變量為5 個(gè),分別為Lt-168、Lt-24、Lt-48、Lt-72及Lt-96。 因此,用于預(yù)測模型的訓(xùn)練集合為由Lt-168、Lt-24、Lt-48、Lt-72、Lt-96、Lt構(gòu)成的2952×6 維矩陣。

圖2 用戶負(fù)荷不同模型預(yù)測誤差變化曲線Fig.2 Forecasting error curves of different models of consumer load

上述過程中,BP 模型參數(shù)設(shè)置原則為:學(xué)習(xí)率為0.01,學(xué)習(xí)目標(biāo)為0.001,迭代10000 次;輸入層神經(jīng)元數(shù)量等于輸入變量維度,設(shè)為n,則隱含層神經(jīng)元數(shù)量為2n-1。 SVM 模型學(xué)習(xí)參數(shù)C和ε搜素范圍設(shè)置為[ -8,8],更新步長為1,通過網(wǎng)格搜索法訓(xùn)練模型最優(yōu)參數(shù)。 LSTM 學(xué)習(xí)率為0.01,迭代5000 次。

4 算例測試

在選取最優(yōu)輸入變量集合基礎(chǔ)上,建立mRMRLSTM 用戶負(fù)荷短期預(yù)測模型。 圖3 為不同模型對用戶2016年8月9日負(fù)荷進(jìn)行提前24 h 預(yù)測的結(jié)果。

圖3 用戶負(fù)荷真實(shí)值及模型預(yù)測值(2016年8月9日)Fig.3 True value of user load and model prediction value (August 9th,2016)

由圖3 可以看出,mRMR-BP、mRMR-SVM 及mRMR-LSTM 三種模型都能夠較好地?cái)M合真實(shí)數(shù)據(jù),預(yù)測值反映了真實(shí)負(fù)荷變化趨勢。 由于用戶負(fù)荷具有的較強(qiáng)波動(dòng)性及隨機(jī)性特點(diǎn),在負(fù)荷變化較快的地方預(yù)測誤差較大。

表1 為誤差統(tǒng)計(jì)情況。 可以看出,mRMR-LSTM模型具有更優(yōu)的預(yù)測效果。

表1 用戶負(fù)荷提前24 h 預(yù)測誤差統(tǒng)計(jì)(2016年8月9日)Table 1 Error statistics of consumer load forecasting 24 hours in advance (August 9th,2016)

為驗(yàn)證模型的適應(yīng)性,隨機(jī)選取2016年11月20日至11月26日共168 個(gè)時(shí)刻用戶負(fù)荷為研究對象,分別進(jìn)行提前24 h 和提前1 h 的負(fù)荷預(yù)測。 其中,提前1 h 用戶負(fù)荷預(yù)測采用直接預(yù)測法,即預(yù)測當(dāng)前時(shí)刻采用前一時(shí)刻的真實(shí)值。 預(yù)測11月26日用戶負(fù)荷時(shí),訓(xùn)練樣本集為由用戶2016年4月1日01:00至2016年11月25日24:00 共5736 個(gè)負(fù)荷數(shù)據(jù)產(chǎn)生,即構(gòu)成5568×6 維矩陣。 圖4 及圖5 分別展示了用戶負(fù)荷真實(shí)曲線及預(yù)測結(jié)果。

圖4 用戶負(fù)荷真實(shí)值及提前24 h 預(yù)測值(2016年11月20—26日)Fig.4 Real value of user load and the predicted value 24 h in advance(Nov.20—26,2016)

圖5 用戶負(fù)荷真實(shí)值及提前1 h 預(yù)測值(2016年11月20—26日)Fig.5 The real value of user load and the predicted value 1h in advance(Nov.20—26,2016)

表2 為用戶負(fù)荷提前24 h 及提前1 h 預(yù)測誤差統(tǒng)計(jì)情況。 從表中可以看到,mRMR-LSTM 模型預(yù)測結(jié)果并不總是最優(yōu)的,如11月20日提前1 h 預(yù)測結(jié)果,mRMR-LSTM 模型表現(xiàn)反而更差。 尤其在峰值附近,mRMR-LSTM 較其他兩種模型更大幅度偏離真實(shí)值,這是模型自身學(xué)習(xí)的結(jié)果。 整體來看,mRMR-LSTM 模型是優(yōu)于mRMR-BP 和mRMRSVM 模型的。

表2 用戶負(fù)荷提前24 h 及提前1 h 預(yù)測誤差統(tǒng)計(jì)(2016年11月20—26日)Table 2 Error statistics of consumer load forecasting 24 hours and 1 hour in advance (Nov.20—26,2016)

提前24 h 和提前1 h 用戶負(fù)荷預(yù)測相對誤差區(qū)間分布如圖6 和圖7 所示。 可以看出,mRMR-LSTM相對于mRMR-BP 和mRMR-SVM 模型,誤差變動(dòng)范圍更小,主要集中于-20%和30%之間。 提前24 h負(fù)荷預(yù)測由于時(shí)間尺度較大,負(fù)荷具有較大的變化空間,導(dǎo)致其誤差分布較為分散,且誤差較大。 提前1 h負(fù)荷預(yù)測時(shí),其負(fù)荷變化較為緩慢,輸入變量與輸出間的相關(guān)性較大,因此預(yù)測值較為準(zhǔn)確,且誤差分布集中。

圖6 提前24 h 用戶負(fù)荷預(yù)測誤差分布Fig.6 Error distribution of consumer load forecasting 24 hours in advance

圖7 提前1 h 用戶負(fù)荷預(yù)測誤差分布Fig.7 The error distribution of consumer load forecasting 1 hour in advance

5 結(jié)語

為提高用戶負(fù)荷預(yù)測精度,本文在采用最大相關(guān)最小冗余算法選取最優(yōu)輸入變量集合的基礎(chǔ)上,建立mRMR-LSTM 用戶負(fù)荷短期預(yù)測模型,并對比不同場景模型預(yù)測的誤差。 算例結(jié)果表明,mRMR-LSTM相對于mRMR-BP 和mRMR-SVM 模型能夠更好地處理波動(dòng)大、隨機(jī)性較強(qiáng)的用戶負(fù)荷時(shí)間序列。