張林，賴向平，仲書勇，李柯沂

（1. 國網(wǎng)重慶市電力公司，重慶市渝中區(qū) 400010；2. 重慶智網(wǎng)科技有限公司信息通信分公司，重慶市渝北區(qū) 401120；3. 國網(wǎng)重慶市電力公司信息通信分公司，重慶市渝中區(qū) 400010）

0 引言

電力工業(yè)是國家能源領(lǐng)域的重大基礎(chǔ)行業(yè)，作為電力系統(tǒng)管理現(xiàn)代化的重要組成部分，電力負荷預(yù)測或家庭用電預(yù)測已經(jīng)引起了業(yè)界越來越多的關(guān)注[1]。高精度的電力負荷預(yù)測可以緩解供需矛盾，對電網(wǎng)計算機在線控制，發(fā)電容量調(diào)度的合理性，既定的運行要求滿足與否以及發(fā)電成本的大小都起著重要的作用。隨著先進計量基礎(chǔ)架構(gòu)系統(tǒng)（AMI）的引入，不僅可以對系統(tǒng)用電量進行預(yù)測，而且可以對家庭用戶用電量進行預(yù)測。2020年，美國安裝了約6000萬個智能電表，覆蓋47%的美國居民住戶。這些儀表記錄的數(shù)據(jù)具有很高的時空分辨率，可以用來更好地預(yù)測用電負荷[2]。

在電網(wǎng)運營和規(guī)劃中， 準(zhǔn)確預(yù)測預(yù)期負荷是重要的需求，用電負荷預(yù)測的準(zhǔn)確性對經(jīng)濟效益和社會效益的提高有著重大效力。由于用戶行為影響用電功率，用戶用電量行為可能比整體用電量的行為變化更大，因此電力負荷預(yù)測成為一個更具有挑戰(zhàn)性的研究課題[3]。

電力負荷預(yù)測的核心是預(yù)測的技術(shù)方法，即預(yù)測的數(shù)學(xué)模型。這方面已進行了大量研究，常見的預(yù)測方法主要有經(jīng)典統(tǒng)計回歸、支持向量機、深度神經(jīng)網(wǎng)絡(luò)、相關(guān)智能機器學(xué)習(xí)等[4-5]。文獻[6]提出了自動回歸移動平均模型 ARIMA預(yù)測；文獻[7]采用隨機森林(RF)方法對電力負荷進行預(yù)測；文獻[8]提出了一種考慮日電量特征相關(guān)因素的SVR短期電力預(yù)測模型，該模型中，基于實時氣象因素和休息日用電數(shù)據(jù)，利用SVR方法進行全局最優(yōu)解，獲得了較高的預(yù)測結(jié)果。近年來基于神經(jīng)網(wǎng)絡(luò)等智能算法的方法也是預(yù)測電力負荷的重要手段[9-11]。相對于較傳統(tǒng)的機器學(xué)習(xí)方法，深度神經(jīng)網(wǎng)絡(luò)算法模型有著強大的學(xué)習(xí)能力，提升了大量數(shù)據(jù)的計算能力[12]；文獻[13]融合了貓群算法CSO和BP神經(jīng)網(wǎng)絡(luò)用于電力負荷預(yù)測，綜合考慮負荷數(shù)據(jù)、氣象信息等因素，降低了BP神經(jīng)網(wǎng)絡(luò)模型的預(yù)測誤差，提升了預(yù)測精度，長期短期記憶（LSTM）是另外一種常用的神經(jīng)網(wǎng)絡(luò)模型，它能夠處理多個輸入變量的問題；文獻[14]提出了一種基于長短期記憶的短期電力負荷綜合預(yù)測方法，該方法利用LSTM神經(jīng)網(wǎng)絡(luò)提取用電負荷數(shù)據(jù)特征，并通過全連接網(wǎng)絡(luò)進行多層特征匹配，以實現(xiàn)用電負荷預(yù)測；文獻[15]使用了LSTM模型預(yù)測單個家庭用電，以每小時和每天為預(yù)測范圍，得到了較好的預(yù)測準(zhǔn)確性；文獻[16]利用堆棧長短期記憶（SLSTM）方法應(yīng)用于風(fēng)電預(yù)測，精度得到了顯著提升；文獻[17]將雙向長短期記憶（Bi-LSTM）方法應(yīng)用于商業(yè)和住宅電力負荷智能分析，能夠有效提高負荷時序數(shù)據(jù)預(yù)測精度。電力負荷數(shù)據(jù)是具有一定周期性的時序數(shù)據(jù)，具有工業(yè)負載的短期模式或季節(jié)性的長期模式。但實際的電力負荷數(shù)據(jù)是不穩(wěn)定的，因此小波變換就廣泛應(yīng)用于預(yù)測分析中；文獻[18]利用了小波對負荷數(shù)據(jù)進行分解，采用改進粒子群算法優(yōu)化神經(jīng)網(wǎng)絡(luò)參數(shù)，改善了負荷數(shù)據(jù)的波動性，從而構(gòu)建了負荷預(yù)測模型。

鑒于以上研究，為了更精準(zhǔn)地預(yù)測電力負荷，本文選擇得到廣泛研究和應(yīng)用的小波分析法和長短期記憶神經(jīng)網(wǎng)絡(luò)算法，提出了基于正交小波長短期記憶神經(jīng)網(wǎng)絡(luò)（OWT-LSTM）的用電負荷預(yù)測模型，并使用實際用電負荷數(shù)據(jù)驗證了模型的精確性。

1 LSTM神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

LSTM是一種特殊類型的遞歸神經(jīng)網(wǎng)絡(luò)（RNN），是為了解決傳統(tǒng)的RNN在長時序數(shù)據(jù)處理中存在的梯度消失問題而設(shè)計出來的。通過引入自循環(huán)的構(gòu)思，以生成長時間持續(xù)流動的梯度路徑，有效地利用歷史信息，LSTM 網(wǎng)絡(luò)比簡單的循環(huán)網(wǎng)絡(luò)更易于學(xué)習(xí)長時序數(shù)據(jù)中的依賴關(guān)系[6]。

LSTM的單元結(jié)構(gòu)如圖1所示，LSTM單元可以長時間以自循環(huán)編碼數(shù)據(jù)進行存儲，這些數(shù)據(jù)由記憶單元(Cell)及3個門組成：輸入門(input gate)、遺忘門（forget gate）、輸出門(output gate)。記憶單元(Cell)是計算節(jié)點的核心，用于記錄當(dāng)前時間狀態(tài)；輸入門和輸出門用于控制信息的輸入和輸出；遺忘門用于控制單元中對歷史狀態(tài)信息的保留程度，并引入sigmoid激活函數(shù)，使得遺忘門的輸出值在[0，1]之間。當(dāng)遺忘門輸出0時，表示前一狀態(tài)的所有信息被丟棄；當(dāng)輸出1時，指示先前狀態(tài)的信息全部保留。

LSTM單元可使用以下等式定義，其中ct表示在t時刻的記憶單元狀態(tài)：

輸入方式定義：

記憶單元更新為：

式中：σ是Sigmoid激活函數(shù)；°表示哈達瑪乘積(Hadamard product)；xt和ht分別表示當(dāng)前計算節(jié)點的輸入和輸出；Wxi、Whi、···、Wxc、Whc是線性變換的權(quán)重矩陣；bi、bf、bo、bc是 偏差向量；it、ft、ot分別表示輸入門、遺忘門、輸出門的結(jié)果；gt是單元更新狀態(tài)；xt表示輸入負荷時序數(shù)據(jù)。利用LSTM及變種模型進行電力負荷預(yù)測，需要根據(jù)電力負荷序列的隱含層數(shù)和分塊步驟數(shù)來確定應(yīng)用LSTM單元的個數(shù)。

2 基于OWT-LSTM神經(jīng)網(wǎng)絡(luò)的用電負荷預(yù)測方法

本文主要目的是構(gòu)建能夠有效處理用電負荷數(shù)據(jù)的正變小波變換長短期記憶神經(jīng)網(wǎng)絡(luò)（OWTLSTM）模型，實現(xiàn)對用戶用電負荷的精準(zhǔn)預(yù)測。其核心思想是對用戶用電負荷數(shù)據(jù)進行正變小波變換，將原始用電序列分解到多個尺度上，得到若干子序列，對不同序列分別建立神經(jīng)網(wǎng)絡(luò)模型并進行預(yù)測，通過序列重構(gòu)得到完整的預(yù)測結(jié)果，該方法不但可提高預(yù)測精度，而且可以提升建模效率?；贠WT-LSTM 模型的用戶用電負荷預(yù)測流程如圖2所示。

2.1 原始負荷數(shù)據(jù)預(yù)處理

2.1.1 數(shù)據(jù)變換處理

由于智能電表故障、系統(tǒng)維護、存儲不定時、數(shù)據(jù)集本身連續(xù)時間段為空等各種原因，實際用電數(shù)據(jù)通常存在數(shù)據(jù)缺失，通過對原始數(shù)據(jù)缺失問題的分析，采用均數(shù)插補法補全缺失值：

式中：xn(n=1,2,···,N)代表每小時用電負荷值；xpn表示每分鐘用電負荷缺失信息特征，初始值為空集。公式（4）計算后得到的數(shù)據(jù)將替換原缺失的負荷數(shù)據(jù)。

2.1.2 數(shù)據(jù)歸一化

相對其他方法智能電表采集的用電數(shù)據(jù)，本文測試數(shù)據(jù)為用戶用電負荷級別，數(shù)據(jù)維度較低。為便于對模型進行訓(xùn)練和預(yù)測，對用電數(shù)據(jù)采用max-min 歸一化，將負荷值映射到［0，1］區(qū)間，從而實現(xiàn)對訓(xùn)練模型的快速收斂 。數(shù)據(jù)歸一化表示式：

式中：x′為歸一化后用電負荷值；xmax、xmin表示用電負荷數(shù)據(jù)的最大值和最小值。

通過 OWT-LSTM及其變種模型預(yù)測得到的用電量數(shù)據(jù)，需進一步進行反歸一化處理，才能得到實際預(yù)測結(jié)果，反歸一化公式：

2.2 正交小波變換分析

小波變換指時域和頻域分析的一種方法，其在時域和頻域上同時具有良好的局部化特性，通過伸縮和平移方法將電力信號轉(zhuǎn)化為不同尺度，根據(jù)信號的時間、頻率、分辨率高低自動調(diào)節(jié)采樣的大小，能夠有效的分析和處理微弱或突變信號信息[17]。

本文主要針對用戶用電負荷數(shù)據(jù)進行正變小波變換，將用電負荷序列分解到多尺度上，得到若干子序列。

正交小波變換的定義，設(shè)函數(shù) ψ (t)∈L2(R)，傅里葉變換 ψˉ(w)， 滿足 ψ ˉ(w)可容許條件：

若將 ψ(t)二 進伸縮與平移，得到函數(shù)ψj,k(t)（其中j,k為 任意整數(shù)Z）：

構(gòu)成L2(R)的 標(biāo)準(zhǔn)正交基, 則稱 ψ(t)為正交小波母函數(shù)（即正變小波）； ψi,k(t)為正交小波基函數(shù)。

在小波變換中，原始電力負荷數(shù)據(jù)分解為一個近似分量和多個細節(jié)分量。近似分量包含低頻信息（使信號具有標(biāo)識性的最重要部分），細節(jié)分量包含高頻信息（局部、細節(jié)信息）。選擇正交小波作為母小波，圖3顯示小波分解過程，信號S分解為近似分量CA1和細節(jié)分量CD1；CA1進一步分解為另一近似分量CA2和細節(jié)分量CD2，以滿足更高的分辨率；依此類推，直至合適的層數(shù)。電力負荷數(shù)據(jù)的主要波動、不同層級的峰值、隨機波動的細節(jié)均以近似的形式給出。

2.3 基于OWT-LSTM的用電負荷預(yù)測模型

電力負荷預(yù)測中，部分電力信號的特征表現(xiàn)為隨機性和瞬時性，本文采用OWT-LSTM 電力負荷預(yù)測模型解決這些問題，具體步驟：

1）通過正交小波函數(shù)將電力負荷序列進行不同尺度分解，得到小波分量CD1，CD2、···、CDn、CA序列，這樣就把原始電力負荷序列中不同頻率的信號用不同尺度的子序列代替，從而使電力負荷序列的周期性更加明顯。本文采用Haar函數(shù)作為小波變換分析的正變小波基函數(shù)：

經(jīng)過二進伸縮平移獲得函數(shù)：

2）利用LSTM神經(jīng)網(wǎng)絡(luò)分別對不同分量的各個序列進行建模預(yù)測。LSTM神經(jīng)網(wǎng)絡(luò)中設(shè)置input_dim與輸入負荷數(shù)據(jù)屬性數(shù)相同，設(shè)置時間步長為1，隱含層中LSTM層為3，隱藏節(jié)點數(shù)為100，同時增加dropout函數(shù)來減少過擬合對預(yù)測模型的影響，其值0.2。為提升模型檢測性能設(shè)定平均絕對誤差損失函數(shù)對模型參數(shù)進行調(diào)整和評估。

3）對各序列預(yù)測結(jié)果采用正交小波重構(gòu)算法進行重構(gòu)，輸出電力負荷預(yù)測結(jié)果，使負荷預(yù)測的精度能夠有效提升。

3 實驗分析與結(jié)果

3.1 數(shù)據(jù)集介紹

本文采集某市2010-12-01到2014-11-30國網(wǎng)用電負荷數(shù)據(jù)作為數(shù)據(jù)集，以1min為采樣頻率測量居民電量消耗情況，共收集2,075,259個樣本數(shù)據(jù)。數(shù)據(jù)集由日期、時間、有功功率、電壓、電流、廚房、熱水器、空調(diào)、洗衣器9個屬性組成。為了更精確預(yù)測用電負荷，本文對3個不同時間粒度的樣本數(shù)據(jù)集進行建模，進行用電負荷預(yù)測（時間單位采用hour、 day、month）。

數(shù)據(jù)集包含缺失項和不完整數(shù)據(jù)，本文利用第2.1節(jié)描述的數(shù)據(jù)預(yù)處理方法解決了此問題。為精確獲得測試模型的結(jié)果，數(shù)據(jù)集日期和時間以hour、day、month進行聚合，把2,075,259個數(shù)據(jù)樣本以34588hour，1442day、47month進行粒度調(diào)整，保持數(shù)據(jù)的整體結(jié)構(gòu)，從hour、day、month三個不同時間層次測試模型的精度，可以減少計算時間，有助于快速獲得預(yù)測結(jié)果。在模型中，前80%用于訓(xùn)練集，后20%用于測試集。實驗環(huán)境以Python3.6.5為運行平臺，使用Anaconda 3.6為編程環(huán)境。

3.2 評價指標(biāo)

本文采用了平均絕對誤差（mean absolute error, MAE）、均方誤差(mean square error, MSE)、均方根誤差（root mean Squared error, RMSE）、平均絕對百分比誤差（mean absolute percentage error, MAPE）4個度量作為模型的評價指標(biāo)[9]，測量預(yù)測值與真實值之間的偏差。預(yù)測值與真實值之間偏差越小，預(yù)測效果越好。假設(shè)有p個測試值，yi為 第i個 真實值，為第i個預(yù)測值，評價指標(biāo)公式：

3.3 實驗結(jié)果分析

3.3.1 OWT-LSTM模型的對比試驗結(jié)果

為了驗證OWT-LSTM在用電負荷預(yù)測模型的預(yù)測性能，將本文所提模型與SVR[8]、CSOBP[13]、LSTM[15]、SLSTM[16]、Bi-LSTM[17]5個 模型進行對比實驗。文中模型分別按每小時、每天、每月的用電量和其他屬性，預(yù)測用戶用電量，設(shè)置時間步長為1。該模型即對用戶用電規(guī)劃支出有一定的幫助，在供電方面更有助于特定用戶用電需求的確定，具體實驗結(jié)果見表1。

為了驗證所提方法的預(yù)測性能，利用用戶用電負荷數(shù)據(jù)集對該模型和5個模型進行了比較實驗。表1、表2、表3描述了不同模型在不同時間粒度hour、day、month對MAE、MSE、RMSE、MAPE4個預(yù)測指標(biāo)的誤差結(jié)果對比。

表1 不同模型每小時（hour）負荷預(yù)測誤差結(jié)果對比Table 1 Comparison of per hour load forecasting error results by different models

表1、表2、表3數(shù)據(jù)表明，在以hour、day、month為粒度的分析中，OWT-LSTM預(yù)測模型在4項預(yù)測指標(biāo)中明顯優(yōu)于其他模型。對比SVR/CSO-BP模型，該模型day為單位的MAE、MSE、RMSE、MAPE值 降 低 了0.05～0.08、0.02～0.04、0.014～0.08、1.5～8.7，該值均低于LSTM和SLSTM的預(yù)測誤差。OWT-LSTM 將原有的用電負荷數(shù)據(jù)分解到不同的子序列中，有效提取了用電負荷時頻信息，更顯著地刻畫了用電負荷數(shù)據(jù)的周期性，并通過LSTM 神經(jīng)網(wǎng)絡(luò)自編碼得到較精確的預(yù)測結(jié)果。僅通過LSTM 、SLSTM 、BiLSTM 進行學(xué)習(xí)，不能精準(zhǔn)發(fā)現(xiàn)負荷用電數(shù)據(jù)的時序噪聲，從而導(dǎo)致這2個模型的預(yù)測性能相對于OWT-LSTM模型較低。OWT-LSTM 模型較其他模型可以更精確地預(yù)測家庭用電負荷。

表2 不同模型每天（day）負荷預(yù)測誤差結(jié)果對比Table 2 Comparison of daily load forecasting error results by different models

圖4、圖5、圖6顯示了不同模型以hour、day、month為單位的負荷預(yù)測結(jié)果與真實值對比。在圖4、圖5中，本文分別測試了在100 h、60 d、12 m范圍的不同模型負荷預(yù)測值。顯然，與負荷的真實值相比較，本文提出的模型在不同時間粒度上都能很好地預(yù)測負荷數(shù)據(jù)變化的趨勢。

從整體上看，圖4、圖5、圖6顯示本文所提的模型預(yù)測效果比其他4個模型表現(xiàn)得更好，尤其在用電負荷急劇上升和下降的情況下，本文提出的模型比其他模型預(yù)測結(jié)果更接近真實值，具有更好的適應(yīng)性。由此表明，LSTM及其變種方法能夠結(jié)合用電負荷信息間的數(shù)據(jù)關(guān)聯(lián)性，通過訓(xùn)練找到負荷信息變化的內(nèi)在規(guī)律和趨勢，能夠準(zhǔn)確預(yù)測方法。對比單一LSTM及其變種模型，OWT-LSTM用電負荷預(yù)測模型的精度最高，這是由于正交小波能夠?qū)τ秒娯摵尚畔⑦M行分解，消除了負荷序列中的噪聲，使得負荷值更加真實，從而有效提高了負荷預(yù)測性能。

3.3.2 正交小波(OWT)在LSTM及其變種模型中的有效性

為了進一步證明正交小波變換分析方法在用戶用電負荷預(yù)測中的有效性，本文利用正交小波分別與LSTM及其變種模型在不同時間粒度下的預(yù)測結(jié)果。圖7—圖10中顯示了3種單一模型，即無小波的LSTM及其變種模型（LSTM、SLSTM、Bi-LSTM），與融合正交小波的模型（OWTLSTM、OWT-SLSTM、OWT-BiLSTM）在MAE、MSE、RMSE、MAPE4個指標(biāo)值上的對比結(jié)果。

通過圖7—圖10可以明顯看出，本文所提OWT-LSTM及其變種模型得到的預(yù)測結(jié)果在每一項標(biāo)準(zhǔn)誤差指標(biāo)上均小于未采用正交小波變換的單一模型（LSTM/SLSTM/Bi-LSTM）。由此再一次驗證了OWT有助于準(zhǔn)確地預(yù)測用電負荷序列的運行趨勢，且在不同時間粒度（hour、day、month）下，本文所提的正交小波與LSTM融合的方法也優(yōu)于單一LSTM預(yù)測方法。

綜上所述，融合正交小波變換和LSTM模型能夠有效地去除用電負荷信息中的噪聲影響，同時利用用電負荷數(shù)據(jù)的時序信息，提取用電負荷數(shù)據(jù)間的耦合關(guān)系，從而進一步提高預(yù)測精度。從圖7—圖10的預(yù)測結(jié)果可以看出，OWT-LSTM及其變種模型具有更好的預(yù)測性能，預(yù)測準(zhǔn)確率達到90%以上。

4 結(jié)論

文中提出了一種基于正交小波和長短期記憶神經(jīng)網(wǎng)絡(luò)（OWT-LSTM）模型來預(yù)測用戶用電負荷數(shù)據(jù)的方法。通過正交小波變換分析方法將負荷數(shù)據(jù)分解到不同尺度的序列，以此解決負荷數(shù)據(jù)的不穩(wěn)定性，并對各序列采用LSTM及其變種神經(jīng)網(wǎng)絡(luò)進行建模及重構(gòu)預(yù)測用電負荷數(shù)據(jù)。

實驗結(jié)果表明，該方法的預(yù)測性能顯著優(yōu)于其他模型，具有較好的精確度和周期性。同時，融合正交小波變換的LSTM模型優(yōu)于單一LSTM模型及其變種。在下一步研究計劃中，將進一步完善神經(jīng)網(wǎng)絡(luò)模型和參數(shù)，提高用戶用電負荷預(yù)測的性能。