韓紅衛(wèi), 劉一峰, 龐濤, 王勇, 于昌海, 劉佳名

(1.國網(wǎng)寧夏電力有限公司， 寧夏 銀川 750001； 2.南瑞集團有限公司， 江蘇 南京 211106；3.國電南瑞科技股份有限公司， 江蘇 南京 211106)

0 引言

短期負荷預測(STLF)是智能電網(wǎng)的關鍵技術[1-2]，是一個復雜的非線性問題，通常涉及天氣、地理位置、社會和經(jīng)濟因素[3-4]。由于電力行業(yè)收集的直接和間接數(shù)據(jù)越來越多，從數(shù)據(jù)挖掘的角度來看，電力負荷預測可以獲得更好的精度。雖然現(xiàn)有的基于深度學習的研究促進了短期負荷預測的發(fā)展，但一個主要挑戰(zhàn)是如何利用現(xiàn)有的大負荷數(shù)據(jù)提高新社區(qū)的預測性能。例如，當使用從新社區(qū)收集的小數(shù)據(jù)構建預測模型時，數(shù)據(jù)大小可能不夠大。雖然存在大量的大負荷數(shù)據(jù)集，但如何利用新收集的數(shù)據(jù)一起使用這些現(xiàn)有的大數(shù)據(jù)集來提高預測性能尚不清楚。將現(xiàn)有的大數(shù)據(jù)集直接與新收集的數(shù)據(jù)合并可能導致弱預測模型，因為這些數(shù)據(jù)集的噪聲和數(shù)據(jù)分布可能是不同的。所以，本文提出了一種基于CNN的Bagging模型方法來解決這一難題。

1 方法

在本節(jié)中，本文提出了一個基于卷積神經(jīng)網(wǎng)絡(CNN)的Bagging學習模型來預測大負荷數(shù)據(jù)下的每小時負荷。CNN是一種前饋人工神經(jīng)網(wǎng)絡，其結構是在視覺神經(jīng)元組織的啟發(fā)下在人工神經(jīng)元之間形成的[5-6]。多層CNN主要用于解決圖像和視頻識別問題[7-9]。

擬議程序分為三個階段。在第一階段，先收集在線負載數(shù)據(jù)構成大負荷數(shù)據(jù)集，然后對數(shù)據(jù)進行預處理，接著構建一個CNN模型，并在現(xiàn)有的大數(shù)據(jù)集上訓練基于公開的預測模型。在第二階段，在預處理完數(shù)據(jù)集后，構建了基于CNN的Bagging學習模型，利用從山東國網(wǎng)收集的最新真實數(shù)據(jù)生成多個子模型。在第三階段，對子模型進行組裝，然后用組裝完的模型對結果進行預測，并使用各種度量來評估所提出的模型。方法體系結構如圖1所示。

圖1 構建模型的3個步驟的框架

在第一階段，通過收集到的數(shù)據(jù)，構建包含超過200萬條負荷記錄的大負荷數(shù)據(jù)集。然后，對數(shù)據(jù)集進行數(shù)值處理，通過計算負荷的對數(shù)來縮小荷載值的區(qū)域，從而減小了大負荷值在建模過程中的影響。具體來說，通過考慮負荷特征與圖像中像素的關系之間的相似性，將負荷樣本重組為圖像，如圖2所示。

圖2 將圖像與加載樣本進行比較

在左子圖和右子圖中，分別顯示圖像和負荷示例的示例。在左圖中，ci表示圖像的列，ri表示圖像的行。根據(jù)圖像的特點，可以根據(jù)像素的大小來確定左子圖中的像素p9。同理，在右圖中，當根據(jù)時間序列負載構建負載樣本時，負載l9也可以基于周圍負載來確定，其中di表示天，ti表示小時。例如，如果假設l2，l9和l6表示不同天晚上7點的負荷，它們將是相似的，因為人們有相似的行為影響電力使用。此外，晚上7點的負荷由下午6點和晚上8點的負荷決定，這意味著負荷l9可以由負荷l2和l6估計。考慮到圖像與負荷樣本的相似性，將負荷預測作為圖像處理，利用CNN建立預測模型。

與基于序列分析的遞歸神經(jīng)網(wǎng)絡(RNN)預測模型相比，該方法能從序列中提取出更豐富的關系作為特征進行預測,有4個歷史記錄作為預測未來記錄的輸入,如圖3所示。

圖3 輸入間關系提取過程的比較

左邊部分顯示了RNN如何構建輸入之間的關系，而右邊部分則顯示了通過重新組織輸入而構建的從“圖像”中獲得的關系。RNN可能無法通過構造x1和x3之間的直接關系來進行預測。然而，如果使用CNN處理“圖像”，可以使用如圖所示的特殊過濾器來建立直接關系。如果本文獲得的序列中元素之間的關系越多，則可以獲得的特征越多，這將導致特定領域應用的更高預測性能。

在第二階段，首先對工業(yè)負荷數(shù)據(jù)集執(zhí)行相同的預處理。然后，通過對工業(yè)負荷數(shù)據(jù)集進行細分，對小數(shù)據(jù)集模型進行微調，將CNN預測模型轉換到這一階段。該模型是通過對行業(yè)負荷數(shù)據(jù)集進行分段來實現(xiàn)的。通過用CNN預測模型處理每一子段數(shù)據(jù)集，對其進行預測，構成子集，并將子集組合，最后得到結果,具體見算法1。

算法1: 基于CNN的Bagging算法Require:Training set C={(xt,yt)}T1Ensure: Bagging Learning; Initialize M that is the number of sub-models;forall m: 1…M do Randomly select k samples to make up a subset cm from C;Fine-tuning the CNN forecasting model on cm and generate the weak forecasting sub-model m; end for Collect all weak forecasting sub-models generated in the loop to compose a Bagging model;

算法1中，xt表示加載特性;而yt表示目標加載。T是樣本數(shù)，k比T小得多，M是抽樣次數(shù)。為了微調CNN預測模型，需要在子集上重新加載并重新訓練模型。學習過程是在Spark上實現(xiàn)的。首先設置M的值。然后在Spark上建立M個樣本子集，并將這些子集分布在不同的節(jié)點上。最后，在這些節(jié)點上同時重新加載和訓練CNN預測模型，生成周預測子模型。

在最后階段，將這些弱預測子模型組合起來，以進行強預測模型，并使用該模型預測小時負荷，如圖4所示。

圖4 基于Bagging模型的預測流程

利用這些弱預測子模型對測試樣本進行預測，得到M個預測負荷。最終預測負荷是由M個預測負荷的平均值產(chǎn)生的。

考慮到輸入維度的局限性，CNN的結構不應太深，因為合并操作減少了輸入維度。因此，應用架構來完成本文中的模型構建如圖5所示。

圖5 CNN架構

整個結構共有5部分組成，分別為：2個3×3卷積層，2個2×2池化層，以及1個全連接層。其中在全連接層一共可以得到1 024個特征。

2 實驗

2.1 數(shù)據(jù)集

收集了2012-2014年電力行業(yè)的大負荷數(shù)據(jù)集，包含140多萬條電力負荷記錄，以驗證所提出模型的有效性。此外，本文從NYIOS加載數(shù)據(jù)和ERCOT加載數(shù)據(jù)中收集大負載數(shù)據(jù)集，構建了兩個大負載數(shù)據(jù)集，即NY數(shù)據(jù)集和ER數(shù)據(jù)集，分別包含905 057個加載記錄和1 014 336個加載記錄。因此，在我們的實驗中，來自三個數(shù)據(jù)集的加載記錄數(shù)大于300萬條。設計了基于時間序列信息的特征模板，從這些記錄中提取特征來構建樣本，其中特征由分布在前7天的84個過去加載記錄組成。此外，樣本可以重組為7×12像素的圖像樣本。我們在2012-2013年的大工業(yè)負荷數(shù)據(jù)集中使用了1 003 716個樣本來構建Bagging學習模型。并選取2014年1月、4月、7月、10月四個季節(jié)性月份的樣本對該方法進行評價。

2.2 實驗設置

選擇線性回歸(LR)、神經(jīng)網(wǎng)絡(NN)和支持向量回歸(SVR)作為基線模型，與本文的方法進行比較，NN方法由一個輸入層、一個隱藏層和一個輸出層組成。并利用Tensorflow3提供的CNN構造了該模型。CNN的關鍵參數(shù)包括過濾層：3×3，池化層：2×2，層數(shù)：2，參數(shù)估計算法采用Adam優(yōu)化。本文采用均方誤差作為目標函數(shù)。學習迭代次數(shù)20 000次，學習速率10-4，小批量大小50。

此外，利用Keras4提供的LSTM-RNN與我們的方法進行比較，以驗證提出方法的有效性，因為RNN在執(zhí)行序列分析(如手寫識別[10-11]或語音識別[12])方面顯示出強大的能力。均方誤差是目標函數(shù)。Adam優(yōu)化是一種估計算法。學習迭代次數(shù)設置為10 000，小批量大小為100。

與文獻[13]相比，本文有一組更大的特征(一共84個特征)。因此，不同于文獻[13]，本文的負荷矩陣更為稀疏。此外，二維濾波器用于構建CNN，而文獻[13]采用的是一維濾波器。這些差異導致了不同的預測性能。

2.3 性能評估

平均絕對百分比誤差(MAPE)、均方根誤差(RMSE)、標準化平均絕對誤差(NMAE)和標準化均方根誤差(NRMSE)構成了衡量模型性能的評估指標。作為統(tǒng)計中預測準確性的一種度量，MAPE將準確性定義為百分比，如式(1)。

(1)

RMSE計算式，它具體指是預測值和目標值之間差異的度量,如式(2)。

(2)

RMSE表示預測值和觀測值之間差異的樣本標準差。RMSE是一種可行的精度度量方法，但它僅是比較特定變量而不是變量之間的不同模型的預測誤差，因為它與比例有關。

此外，本文使用NMAE和NRMSE,從規(guī)范化的角度評估和比較不同的方法,如式(3)、式(4)。

(3)

(4)

2.4 實驗結果

本文選取4個月的負荷來驗證所提方法的有效性。具體結果如表1和表2所示。

表1 對一月和四月的預測結果

表2 對七月和十月的預測結果

在這兩個表中，“CNN+Bagging”表示基于CNN的Bagging學習模型?！癈NN+OP”和“CNN+SG”分別表示在公開數(shù)據(jù)集和國網(wǎng)實際數(shù)據(jù)集上訓練并直接在行業(yè)負載數(shù)據(jù)集上微調的模型。類似地，“CNN+Bagging+OP”和CNN+Bagging+SG”表示分別在公開數(shù)據(jù)集和國網(wǎng)實際數(shù)據(jù)集上訓練的模型，并通過Bagging學習對行業(yè)負載數(shù)據(jù)集進行微調。

根據(jù)這兩個表的結果，發(fā)現(xiàn)基于CNN的模型比基線模型表現(xiàn)更好，這意味著將負荷樣本重組為圖像是預測負荷的一種可行方法。此外，“CNN+OP”和“CNN+SG”在MAPE結果方面比LR和NN高出3%到10%。同時，根據(jù)RMSE、NMAE和NRMSE的評價結果，這些模型具有較好的預測能力。從4月和7月的結果來看，這些模型的性能仍然優(yōu)于基于SVR的預測模型。這些結果表明，微調CNN模型對提高預測性能是有效的?？紤]到“CNN+Bagging”的結果，CNN和Bagging學習相結合，在大多數(shù)情況下可以將預測性能提高3%左右。此外，當將微調技術和Bagging學習技術相結合時，“CNN+Bagging+OP”和“CNN+Bagging+SG”模型能夠將MAPE性能提高3%-5%。

特別是，通過比較CNN和LSTM-RNN的性能，發(fā)現(xiàn)將負荷預測作為CNN求解的圖像處理是一種可行的小時負荷預測方法，因為兩種方法具有相似的性能。例如，1月和10月的預測表現(xiàn)差異不大。此外，CNN在4月份的預測性能比LSTMRNN高8%以上，說明將負荷樣本重組為圖像是短期負荷時間序列預測的有效方法。

3 總結

本文提出了一種基于CNN的智能電網(wǎng)小時負荷預測方法。先在經(jīng)驗大負荷數(shù)據(jù)集上訓練CNN預測模型，然后利用最近獲得的小數(shù)據(jù)集對模型進行微調，對模型進行增強，并構造了許多弱預測子模型。通過對這些弱子模型的組合，得到了一個強預測模型。實驗結果表明，該方法能提高預測性能。