張永建，周晟,沈澄泓，周長星

(1.國網(wǎng)浙江省紹興供電公司， 浙江 紹興312099;2.浙江泛海智行電力科技有限公司，浙江 杭州 310052)

作為外向型城市的紹興，由于近年來受宏觀經(jīng)濟形勢復(fù)雜多變，產(chǎn)業(yè)結(jié)構(gòu)調(diào)整，中美經(jīng)貿(mào)摩擦升級的影響，經(jīng)濟增速放緩，全市工業(yè)出口增速呈現(xiàn)一定回落的趨勢。去年一月開始的全世界新冠肺炎疫情又使紹興的工業(yè)生產(chǎn)和外貿(mào)出口出現(xiàn)更明顯的下滑，2020全年的經(jīng)濟增長大幅度放緩。疫情形勢和經(jīng)濟環(huán)境的不確定性增加了售電量預(yù)測的難度。

供電公司的財務(wù)部門在每個月的某個時間點需要對未來30天或31天的全行業(yè)售電量做出預(yù)測，乘以電價得出售電量收入后，為制定“現(xiàn)金流預(yù)算計劃”提供參考。紹興作為新二線城市共有高壓用戶幾萬個，其用電量占全行業(yè)用電量的80%以上。因此對高壓用戶的用電量進行準確預(yù)測，就可以把握全行業(yè)的用電量乃至售電量。

(1)

用上述公式先預(yù)測出某月的用電量，便可推算出這個月的售電量。此外供電公司通過預(yù)測區(qū)域內(nèi)所有外貿(mào)企業(yè)未來一個月的用電量來判斷外貿(mào)企業(yè)乃至整個地區(qū)經(jīng)濟的景氣程度。未來一個月電量的預(yù)測值是通過預(yù)測未來一個月內(nèi)每天的電量然后累加得到的。

對電量預(yù)測的研究由來已久，例如文獻[1]用GRU結(jié)合STL分解的方法預(yù)測短期電量，獲得一定的精度，文獻[2]用基于集合經(jīng)驗?zāi)Ｊ椒纸獾腁RIMA模型來預(yù)測月電量，效果尚滿意，但是用上述方法做出的預(yù)測均未達到供電公司業(yè)務(wù)需求的預(yù)測誤差在2%左右以下的要求，應(yīng)用起來缺乏實際意義。本文重點研究了用LSTM長短記憶神經(jīng)網(wǎng)絡(luò)來預(yù)測短期電量，主要是對數(shù)據(jù)做了平滑和預(yù)處理、對模型進行了細致調(diào)參并對春節(jié)期間的預(yù)測做了特殊處理。 把LSTM模型的預(yù)測結(jié)果和ARIMA模型以及Facebook的開源模型Prophet的預(yù)測結(jié)果進行比較，驗算結(jié)果表明，只有LSTM模型的預(yù)測準確度達到了供電公司制定的標準。

1 數(shù)據(jù)獲取和預(yù)處理

隨著電力行業(yè)SG-ERP的建設(shè)，電力行業(yè)的業(yè)務(wù)數(shù)據(jù)增長速度在不斷提升，各種數(shù)據(jù)已積累多年。從浙電云平臺中抽取紹興2016年至2019年年底的高壓用戶日用電量數(shù)據(jù)，以及2018年至2020年的全市外貿(mào)企業(yè)日用電數(shù)據(jù)，應(yīng)用算法對多個月的用電量做整月的預(yù)測，然后與已知的數(shù)據(jù)進行對比，判斷預(yù)測的準確性。預(yù)測時，把整個紹興地區(qū)分成若干個區(qū)域，然后對各個區(qū)域的電量分別做預(yù)測，最后匯總成整個紹興地區(qū)的總用電量。在計算誤差時，計算匯總而成的整個紹興地區(qū)的預(yù)測總電量的誤差。通常誤差是指30天的預(yù)測電量之和減去這30天實際電量之和，然后除以后者。

在對日電量構(gòu)成的時間序列進行預(yù)測之前，首先要對數(shù)據(jù)進行平滑處理。平滑處理的目的是把一些極大或極小或異常的日電量值替換成合理的電量值。異常值定義為小于α(0<α<1)倍的日均電量或大于β(β>1)倍的日均電量的電量值，由于日電量可以認為以7天為周期，異常的電量值可以用7天或14天前后的電量來替代。平滑處理的邏輯圖如圖1所示。

圖1 數(shù)據(jù)平滑邏輯圖Fig.1 Data smoothing logic diagram

在實際應(yīng)用中，α和β的取值是需要調(diào)參的，調(diào)參的目標是各區(qū)域的平均預(yù)測誤差最低。測試結(jié)果表明，序列經(jīng)過平滑后預(yù)測的精度要明顯提高。經(jīng)過調(diào)參，α最終取0.65，β取1.3。

2 算法模型

本文用三種時間序列預(yù)測模型LSTM長短期記憶神經(jīng)網(wǎng)絡(luò)、ARIMA模型、Facebook的先知模型(Prophet)來對多個月份的紹興地區(qū)高壓用戶用電量和外貿(mào)企業(yè)用電量進行預(yù)測并比較結(jié)果。

2.1 LSTM神經(jīng)網(wǎng)絡(luò)

RNN循環(huán)神經(jīng)網(wǎng)絡(luò)能對時間序列進行預(yù)測，它本質(zhì)上相當于在全連接神經(jīng)網(wǎng)絡(luò)上加入了反饋機制，能對之前的信號進行處理，記住處理之后的狀態(tài)，稱之為記憶。RNN循環(huán)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)示意圖如圖2所示。

圖2 RNN結(jié)構(gòu)示意圖Fig.2 RNN structure diagram

LSTM長短期記憶神經(jīng)網(wǎng)絡(luò)是在RNN循環(huán)神經(jīng)網(wǎng)絡(luò)上改進而來的，于1997年提出[3-10]。LSTM神經(jīng)網(wǎng)絡(luò)是由多個循環(huán)單元相互遞歸連接而成的，結(jié)構(gòu)示意圖如3所示。

圖3 LSTM結(jié)構(gòu)示意圖Fig.3 LSTM structure diagram

LSTM長短期記憶神經(jīng)網(wǎng)絡(luò)的循環(huán)單元內(nèi)部包括三個門結(jié)構(gòu)，分別為遺忘門、輸入門和輸出門。遺忘門的作用是選擇出前一記憶狀態(tài)應(yīng)當保留的部分，通常由tanh函數(shù)實現(xiàn)；輸入門可以決定用哪些信息來更新長期記憶狀態(tài)，該閥門篩選出有用信息喂入網(wǎng)絡(luò)，它通常由Sigmoid函數(shù)實現(xiàn)；最后一個是輸出閥門，它置于網(wǎng)絡(luò)的輸出之后，可以自動提取輸出信息中的重要部分，它也由Sigmoid函數(shù)實現(xiàn)。

長短期記憶神經(jīng)網(wǎng)絡(luò)的發(fā)明者在他們的論文中已經(jīng)通過實驗驗證了LSTM相對于RNN的優(yōu)越性，主要體現(xiàn)在以下兩點：1.LSTM引進的三種門控結(jié)構(gòu)，可以學習到長期記憶信息，解決長時依賴問題；2.LSTM中的激活函數(shù)是sigmoid函數(shù)與tanh函數(shù)相結(jié)合，在反向傳播求導時使得梯度幾乎保持為常量，避免了梯度消失或爆炸，大大加快模型收斂速度[11-15]。

本研究使用Python3.7和Keras來實現(xiàn)LSTM神經(jīng)網(wǎng)絡(luò)，并在全行業(yè)高壓用戶的數(shù)據(jù)集上做了大量實驗對LSTM模型的參數(shù)進行調(diào)整。需要調(diào)節(jié)的主要參數(shù)有預(yù)測時間窗口，即序列長度、隱含層神經(jīng)元數(shù)和上文提到的數(shù)據(jù)平滑的參數(shù)α和β等。

表1 LSTM模型參數(shù)調(diào)整Tab.1 LSTM model parameter adjustment

調(diào)參的結(jié)果是，預(yù)測時間窗口設(shè)為60天，即用60天的日電量歷史數(shù)據(jù)來預(yù)測未來一天的電量， 第一隱含層和第二隱含層的神經(jīng)元數(shù)分別為10和20，此外每次訓練50期(epoch)，樣本的批量大小為128，隨機舍棄50%的神經(jīng)元，損失函數(shù)為均方誤差，優(yōu)化器為rmsprop。由于初始權(quán)重的不同，LSTM神經(jīng)網(wǎng)絡(luò)在同一個訓練集上每次訓練的模型會有所不同，所以把樣本按97%和3%分為訓練集和測試集，在訓練集上訓練10個模型，選擇在測試集上效果最好的那個用于預(yù)測。

本次研究也嘗試了在最初的LSTM長短期記憶神經(jīng)網(wǎng)絡(luò)模型中加入新的變量如最高溫度、最低溫度、節(jié)假日標簽等，雖然LSTM模型的框架允許加入新的變量或序列[16-18]，但實驗結(jié)果表明，加入變量后并不能提高LSTM模型的預(yù)測精度，所以最后只在模型中保留電量這一個序列用于預(yù)測。

2.2 ARIMA模型

ARIMA模型，差分整合移動平均自回歸模型，又稱整合移動平均自回歸模型，是時間序列預(yù)測分析的經(jīng)典方法之一。ARIMA(q,d,q)中，AR是自回歸，p為自回歸項數(shù)，MA為移動平均，q為移動平均項數(shù)，d為使之成為平穩(wěn)序列所做的差分次數(shù)(階數(shù))。

(2)

式中，▽d=(1-B)d;φ(B)=1-φ1B-……-φpBp,為平穩(wěn)可逆ARMA(p,q)模型的自回歸系數(shù)多項式；φ(B)=1-θ1B-……-θqBq,為平穩(wěn)可逆ARMA(p,q)模型的移動平均系數(shù)多項式。

用Python3.7和statsmodels來實現(xiàn)ARIMA整合移動平均自回歸模型算法，用單位根檢驗來判斷序列是否平穩(wěn)，對不穩(wěn)定的序列進行差分處理。此外設(shè)p和q的最大值為5，采用自動搜索使BIC最小的方法來尋找最優(yōu)模型用于預(yù)測[19-23]。

2.3 先知模型(Prophet)

Prophet是Facebook開源的時序框架，F(xiàn)acebook表示，Prophet相比現(xiàn)有預(yù)測工具更加人性化，它使用起來非常方便，提供可手動調(diào)整的完全自動化的預(yù)測，且預(yù)測效果好[24]。

對于一個給定的時間序列y(t)，Prophet把它分為3個部分，趨勢成分g(t)、季節(jié)性成分s(t)、節(jié)假日成分h(t)和不確定成分∈t。即：

y(t)=g(t)+s(t)+h(t)+∈t

(3)

事實上，它是Generalized Additive Model(GAM)模型的特例，但Prophet只用到了時間作為擬合的參數(shù)。Prophet模型比ARIMA等模型更靈活、擬合快、不必考慮缺失值的填充問題。用Python3.7和fbprophet軟件包可以較容易地實現(xiàn)先知模型，而且用先知模型來預(yù)測速度很快。

2.4 節(jié)日期間的電量預(yù)測

節(jié)日主要是指具有較長連續(xù)假期的春節(jié)和國慶節(jié)等。每年國慶節(jié)的陽歷日期都相同，而每年春節(jié)的陽歷日期都不同因此預(yù)測變得更加復(fù)雜。

2.4.1 春節(jié)期間的電量預(yù)測

由于春節(jié)的特殊性，春節(jié)對附近月份電量的影響每年都是不相同的，普通的時間序列算法都不能準確地預(yù)測春節(jié)期間的電量[25-26]，因此本文采用分段預(yù)測的方法。下圖4繪制了以2017、2018和2019的農(nóng)歷正月初一(春節(jié))為基準點，紹興上虞區(qū)春節(jié)前16天至春節(jié)后28天的用電量?？梢郧宄乜吹?，以農(nóng)歷為基準的春節(jié)期間用電量曲線基本吻合。2019年春節(jié)期間前后共45(16+28+1)天的日用電量可以用前兩年對應(yīng)農(nóng)歷日期的平均日電量乘以一個成長因子得出，這個成長因子可以是不同年份間的春節(jié)前17天至47天的電量之比。45天之外的日用電量仍然用算法如LSTM等來預(yù)測。這45天會影響春節(jié)附近2-3月的電量預(yù)測，所以必須做好春節(jié)附近各時間段預(yù)測的銜接。這樣的預(yù)測方法大大提高了春節(jié)期間電量預(yù)測的精度。

圖4 上虞區(qū)春節(jié)期間電量Fig.4 Electricity consumption during Spring Festival in Shangyu County

2.4.2 國慶期間的電量預(yù)測

國慶和春節(jié)的不同之處在于每年國慶大約7天假期的陽歷都是相同的。一般用時間序列算法來預(yù)測國慶期間的電量通常會預(yù)測得過高，所以國慶假期的電量可以用和預(yù)測春節(jié)電量相似的方法來估計。例如，2019年國慶期間的日電量可以用前兩年國慶期間對應(yīng)日期的平均電量乘以一個成長因子得到。

3 算例

3.1 紹興高壓用戶月度電量預(yù)測

對紹興地區(qū)高壓用戶在2019/1-2019/12時段內(nèi)共12個整月的1號至月末30號或31號的電量進行預(yù)測。預(yù)測時同時應(yīng)用LSTM、ARIMA和Prophet三個模型，每次都對8個區(qū)域的月度電量分別做預(yù)測，適用模型前都對數(shù)據(jù)做同樣的平滑，最后比較3個模型的預(yù)測效果。

平均絕對誤差是8個區(qū)域預(yù)測誤差的絕對值的均值，區(qū)域電量匯總誤差是匯總8個區(qū)域的電量真實值和預(yù)測值后計算得到的誤差。由于正負相抵，區(qū)域電量匯總誤差一般要小于平均絕對誤差。比較上述3種算法主要看的是表中所示的平均誤差和匯總后平均誤差，前者是12個平均絕對誤差的均值，后者是區(qū)域電量匯總誤差的絕對平均值，它們實際反映了模型達到的精度。從表2-4可以看到，整合移動平均自回歸模型ARIMA的兩個誤差指標最差，LSTM模型和Prophet模型相比，Prophet模型的平均誤差(3.1%)要小于LSTM(3.5%)，但是LSTM的匯總后平均誤差只有2.2%，要明顯小于Prophet的2.6%。 匯總后平均誤差更能代表整個紹興地區(qū)月度總電量的預(yù)測誤差，因此更為重要，而且2.2%的誤差和供電公司財務(wù)部門所要求的月度預(yù)測誤差在2%左右以內(nèi)是基本相符的。另外值得注意的是2019春節(jié)期間(2019/2/1-2019/2/28)的區(qū)域電量匯總誤差僅為-0.6%，這是十分令人滿意的結(jié)果。

表2 LSTM模型預(yù)測誤差(高壓用戶電量)Tab.2 Prediction error of LSTM model (high voltage customer electricity consumption)

表3 ARIMA模型預(yù)測誤差(高壓用戶電量)Tab.3 Prediction error of ARIMA model (high voltage customer electricity consumption)

表4 Prophet模型預(yù)測誤差(高壓用戶電量)Tab.4 Prediction error of Prophet model (high voltage customer electricity consumption)

在月度用電量準確預(yù)測的前提下，月度售電量也能夠較為準確地預(yù)測[27-30]，從而幫助財務(wù)部門制定出準確的“現(xiàn)金流預(yù)算計劃”。

3.2 紹興外貿(mào)企業(yè)月度電量預(yù)測

為了進一步驗證各個模型的預(yù)測效果，采用和前文基本相同的方法對2019年6月至2020年5月時段內(nèi)的12個整月的電量進行30天預(yù)測，預(yù)測區(qū)間為每月21號開始的30天，結(jié)果表明除了由于疫情原因?qū)е碌?020年1月春節(jié)期間的預(yù)測偏差較大外，LSTM模型對其余11個月的預(yù)測結(jié)果都比較準確。2020年的春節(jié)由于受到疫情的影響，春節(jié)(1/25)后的電量沒有像往常一樣在一個月內(nèi)緩慢恢復(fù)正常，整個2月份因為基本沒有復(fù)工用電量很低，所以2020/1/21-2020/2/19期間的預(yù)測電量不準確。

表5-7中去除了2020/1/21-2020/2/19的預(yù)測誤差統(tǒng)計信息。從數(shù)據(jù)可以看出，LSTM模型的平均誤差和匯總后平均誤差最低。同時可見，使用在全行業(yè)高壓用戶數(shù)據(jù)集上實驗得到的LSTM模型參數(shù)，在外貿(mào)用戶的數(shù)據(jù)集上也獲得了良好的預(yù)測效果。值得注意的是，表4中的LSTM模型的匯總后平均誤差和表1中的高壓用戶預(yù)測的誤差恰好一樣為2.2%，這基本達到了供電公司期望的精度要求。

表5 LSTM模型預(yù)測誤差(外貿(mào)企業(yè)用戶電量)Tab.5 Prediction error of LSTM model (foreign trade enterprise electricity consumption)

表6 ARIMA模型預(yù)測誤差(外貿(mào)企業(yè)用戶電量)Tab.6 Prediction error of ARIMA model (foreign trade enterprise electricity consumption)

表7 Prophet模型預(yù)測誤差(外貿(mào)企業(yè)用戶電量)Tab.7 Prediction error of Prophet model (foreign trade enterprise electricity consumption)

4 結(jié)語

本文詳細記述了用長短期記憶神經(jīng)網(wǎng)絡(luò)LSTM、整合移動平均自回歸模型ARIMA、先知模型Prophet三種時間序列算法對紹興高壓用戶和外貿(mào)用戶的日電量進行一個月的短期預(yù)測，結(jié)果表明在對原始數(shù)據(jù)進行平滑、對春節(jié)期間的預(yù)測做特殊處理后，經(jīng)過調(diào)參的LSTM模型雖然速度較慢，但預(yù)測精度在兩個數(shù)據(jù)集上都是最高，達到了供電公司對電量預(yù)測精度的一般要求，而整合移動平均自回歸模型ARIMA和先知模型Prophet模型的預(yù)測效果較差且不穩(wěn)定。因此建議在電力系統(tǒng)中推廣和應(yīng)用本文提出的改制的LSTM預(yù)測方法。