陳逸樅，張大海，于 浩，王玉清

（1.北京交通大學電氣工程學院，北京 100044；2.濰坊華樞電力工程設(shè)計咨詢有限公司，安丘 262100）

母線負荷代表著系統(tǒng)負荷的底層分布，隨著大量風電、光伏、水電等可再生電源接入電網(wǎng)系統(tǒng)并在電網(wǎng)中進行局部消納，對母線負荷的變化趨勢產(chǎn)生了顯著的影響。母線負荷預測不僅影響發(fā)電計劃的制訂，也是電力市場進行出清和形成實時電價的重要依據(jù)。但由于母線負荷基數(shù)小，且可能直接匯聚不同種類和特性的負荷，例如光伏、新能源電動汽車等，負荷特性復雜，隨機性和波動性較系統(tǒng)負荷更強，因此提升母線負荷預測的精度具有十分重要的意義[1]。

母線負荷預測方法主要可以分為3類。第1類是基于系統(tǒng)負荷預測配比的方法，根據(jù)節(jié)點負荷的權(quán)值，按比例將上級系統(tǒng)負荷預測值分配到各母線上，但由于母線負荷易突變及量測裝置的逐漸完善，這種方法已經(jīng)逐漸被淘汰。第2類是母線負荷聚類預測方法，文獻[2]將母線負荷匯總求和，采用回歸神經(jīng)網(wǎng)絡對總負荷進行預測；文獻[3]采用減法聚類對區(qū)域母線負荷進行分類，然后利用最小二乘支持向量機LSSVM（least squares support vector machine）進行預測，預測效果更佳；文獻[4]在母線和系統(tǒng)間構(gòu)造虛擬母線中間層，對虛擬母線負荷進行建模和預測，再根據(jù)“子母線-虛擬母線”平滑配比因子得到子母線預測值；文獻[5]結(jié)合聚類方法和人工神經(jīng)網(wǎng)絡ANN（artificial neural network）對希臘互聯(lián)系統(tǒng)的4條母線負荷進行預測，結(jié)果表明了該預測模型的有效性。第3類方法是借鑒系統(tǒng)負荷預測的方法來擬合母線負荷的變化規(guī)律，但由于母線負荷波動性強，非線性特點明顯，基于數(shù)理統(tǒng)計的預測方法并不適用于母線負荷預測問題，二者的相通之處主要集中在人工智能方法上。母線負荷預測的人工智能方法分為以下兩種。

（1）根據(jù)實際母線負荷數(shù)據(jù)特點，設(shè)計貼合的多層不同網(wǎng)絡組合預測模型[6]。文獻[7]提出一種反向傳播人工神經(jīng)網(wǎng)絡BP-ANN（back propagation artificial neural network）與卷積神經(jīng)網(wǎng)絡CNN（convolutional neural networks）融合的母線負荷預測方法，利用CNN提取圖像型母線數(shù)據(jù)的特征，然后通過多層網(wǎng)絡完成預測；文獻[8]采用隨機森林算法對母線負荷影響因素進行特征排序，并使用深度置信網(wǎng)絡DBN（deep belief networks）模型進行預測；文獻[9]提出一種利用CNN提取多因素主特征，采用多層門控循環(huán)單元GRU（gate recurrent unit）神經(jīng)網(wǎng)絡進行母線負荷預測的方法，結(jié)果表明該方法具有較高的精度。多層組合預測模型方法的優(yōu)點是不需要對母線負荷原始數(shù)據(jù)進行太多的處理，合適的模型可以達到一定的預測精度，但往往根據(jù)不同母線的類型和特點需要“因地制宜”，泛化性不強，在預測的適用性上存在一定的問題。

（2）在選取預測模型之前，對母線負荷序列數(shù)據(jù)進行非線性特征提取，即進行周期化和趨勢化處理，降低預測模型捕捉特征的難度。文獻[10]提出一種基于小波分解和ANN的預測模型，對小波分解得到的子序列采用不同激活函數(shù)的ANN分別預測并求和，達到很好地預測精度。文獻[11]采用相重構(gòu)方法對母線負荷序列進行處理，然后利用DBN模型進行預測，在波動性較大的情況下得到較好的預測精度；文獻[12]采用互補集合經(jīng)驗模態(tài)分解對母線負荷序列進行處理，并使用極限學習機ELM（extreme learning machine）對分解得到的子序列進行預測，與直接預測相比提高了準確率；文獻[13]提出一種變分模態(tài)分解-長短期記憶VMD-LSTM（variational mode decomposition long short-term memory）分位數(shù)回歸的母線負荷區(qū)間預測方法，改善了區(qū)間預測的寬度。這一方法的優(yōu)點是泛化能力強，容易移植到不同母線預測的問題上，但預測精度可能會受到一定的影響。

本文針對多因素母線負荷短期預測問題和氣象數(shù)據(jù)粒度粗糙的問題，結(jié)合深度學習方法和特征工程，提出一種基于Seq2seq模型的多特征母線負荷日前預測方法。首先，對母線負荷的時間連續(xù)性特征進行編碼；然后，設(shè)置不同的特征組進行消融實驗，實驗前對Seq2seq模型的編碼器和解碼器進行優(yōu)選，通過多次重復實驗，選擇效果最佳的雙向門控循環(huán)單元 Bi-GRU（bidirectional gate recurrent unit）網(wǎng)絡和LSTM神經(jīng)網(wǎng)絡，搭建Seq2seq模型對不同的特征組進行預測，包括單時間連續(xù)性特征、單氣象特征和離散小波變換DWT（discrete wavelet transformation）分量特征等；最后，對不同的特征組和DWT方法進行對比實驗，以驗證本文預測方法的效果。

1 Seq2seq模型概述

Seq2seq模型早期主要應用于機器翻譯和語音文本識別等自然語言處理任務，之后有研究將該模型應用在時間序列預測任務中，并取得了較好的預測效果[14]。Seq2seq作為典型的端到端序列映射模型，可以用編碼器將不定長的母線負荷序列壓縮編碼為一個固定維度的向量，再由解碼器解碼該固定向量，輸出不定長的未來母線負荷輸出序列。

1.1 Seq2seq模型基本原理

Seq2seq模型本質(zhì)上仍是神經(jīng)網(wǎng)絡模型的一種，該模型具有編碼器-解碼器（encoder-decoder）的結(jié)構(gòu)[15]，輸入序列與輸出序列可以不等長，能夠?qū)W習到輸入序列和輸入輸出的映射關(guān)系。Seq2seq模型的基本框架由編碼器、解碼器和中間向量三部分組成，母線負荷預測的Seq2seq基本結(jié)構(gòu)如圖1所示。其中，一維序列的母線負荷數(shù)據(jù)及其他多因素特征作為x序列輸入，編碼器對x序列進行壓縮編碼，得到中間向量；再通過解碼器進行映射解碼，得到預測的母線負荷值。

圖1 Seq2seq模型原理Fig.1 Schematic of Seq2seq model

通過編碼器的編碼過程，得到輸入母線負荷序列的不同時刻隱藏層狀態(tài){h1,h2,h3…,ht}，編碼器每一步的輸入包括前一個時刻的狀態(tài)信息及該步的輸入序列信息，其計算公式為

式中：f為編碼器的內(nèi)部邏輯規(guī)則；xi為第i時刻模型輸入的母線負荷序列及特征；t為時刻數(shù)量。

解碼器的輸入包括中間向量和每個時刻的隱藏層狀態(tài){S1,S2,S3…,St}，隱藏層狀態(tài)Si的計算公式為

式中：f為解碼器的內(nèi)部邏輯規(guī)則；Yi為第i時刻模型的輸出值。

1.2 Seq2seq編碼解碼器

Seq2seq模型編碼器可以處理輸入序列，捕捉序列的上下文信息，壓縮成指定長度的中間向量完成編碼；然后由中間向量傳遞最后一個隱藏層狀態(tài)或所有隱含層狀態(tài)的變換給解碼器進行解碼輸出生成序列。中間向量的大小取決于解碼器隱藏單元的數(shù)量。

Seq2seq模型的編碼器和解碼器并非是特定的某種神經(jīng)網(wǎng)絡模型，而是針對不同的任務，會使用不同的神經(jīng)網(wǎng)絡模型。例如，在圖形處理任務中一般采用CNN模型；在文本處理、語言識別和時間序列預測任務中常使用循環(huán)神經(jīng)網(wǎng)絡RNN（recurrent neural network）系列網(wǎng)絡模型。對于預測問題，編碼器不僅可以采用LSTM和GRU等多種單向循環(huán)神經(jīng)網(wǎng)絡，還可采用雙向長短期記憶Bi-LSTM（bidirectional long short-term memory）神經(jīng)網(wǎng)絡等雙向循環(huán)神經(jīng)網(wǎng)絡，更好地提取輸入負荷序列中的信息。而解碼器為了避免未來信息的泄露，一般只采用單向RNN。

2 斯皮爾曼氣象關(guān)聯(lián)度分析

由于母線負荷特性各異且基數(shù)小，往往容易受到各種因素的影響。例如，在居民生活區(qū)域，溫度的驟升或驟降會引起空調(diào)負荷的大幅度波動；在工業(yè)區(qū)和高鐵牽引網(wǎng)等區(qū)域，沖擊性負荷設(shè)備的啟停會引起母線負荷的劇烈變化；在規(guī)?；植际娇稍偕娫唇尤氲膮^(qū)域，氣象因素對新能源出力的影響往往會給母線負荷帶來一定的隨機性與波動性，這些影響因素均增加了準確預測母線負荷的難度。

本節(jié)以提取30 min粒度的氣象數(shù)據(jù)與母線負荷數(shù)據(jù)進行斯皮爾曼（Spearman）相關(guān)性分析，采用MinMaxScaler對氣象數(shù)據(jù)和母線負荷進行歸一化，即，

式中：s為待歸一化的數(shù)據(jù)；s*為歸一化之后的結(jié)果。

斯皮爾曼相關(guān)系數(shù)是利用單調(diào)方程評價2個變量依賴性和相關(guān)性的非參數(shù)指標，相關(guān)系數(shù)的范圍為[-1，1]，絕對值越接近于1表示相關(guān)性越高，其計算公式為

式中：xi、yi分別為兩類相關(guān)性計算的數(shù)據(jù)；分別為數(shù)據(jù)的平均值。

各類氣象數(shù)據(jù)與母線負荷的斯皮爾曼系數(shù)計算結(jié)果如表1所示。

表1 斯皮爾曼相關(guān)系數(shù)計算Tab.1 Calculation of Spearman correlation coefficient

由表1可知，本文的母線負荷數(shù)據(jù)與風速、溫度的相關(guān)聯(lián)性較大，與濕度、能見度的相關(guān)聯(lián)性較低。選取本文母線負荷數(shù)據(jù)更敏感的溫度、風速和濕度作為氣象因素，構(gòu)建Seq2seq模型的輸入特征進行預測。

3 母線負荷特征工程

3.1 時間連續(xù)性周期編碼設(shè)計

母線負荷數(shù)據(jù)作為時間序列具有固有的時間周期屬性，為了讓預測模型對該屬性具有敏感性，對母線負荷采樣點的時間戳進行時間連續(xù)性周期編碼。應先對時間進行歸一化并變換長度取值，使預測模型對于對稱時間節(jié)點具有相同的正弦值，例如00：00左右的23：55和00：05。但加入會導致模型無法區(qū)分00：00和12：00時間節(jié)點，因此，需成對加入加以區(qū)分，使每一個時間節(jié)點都具有位置唯一的特性，兩點之間的距離對應于24 h循環(huán)的時間差，從而反映時間周期性。

對母線負荷的小時、星期、日在月（day of month）和周在年（week of year）的位置特性進行編碼，即

式中：sin_time、cos_time為對應時間的編碼計算值；T為不同時間的歸一化周期。編碼得到的特征分別為正弦小時特征sin_hour、余弦小時特征cos_hour、余弦周特征cos_weekday、正弦周特征sin_weekday、余弦月特征cos_month、正弦月特征sin_month、余弦年特征cos_weeksofyear、正弦年特征sin_weeksofyear。

3.2 輸入特征設(shè)計

根據(jù)第3.1節(jié)得到的8個時間連續(xù)性特征，構(gòu)造不同的預測模型特征組合，組合原則如下：

（1）研究時間連續(xù)性特征對氣象特征的替代作用，選擇時間連續(xù)性特征+分解分量特征與氣象特征+分解分量特征進行對比；

（2）研究編碼器和解碼器對母線負荷序列特征提取的作用，選擇原始數(shù)據(jù)特征進行預測；

（3）研究計及氣象特征+時間連續(xù)性特征+分解分量多特征的預測效果，并與原始數(shù)據(jù)進行對比，不同組合特征如圖2所示。

圖2 母線負荷特征組Fig.2 Feature group of bus load

圖2中的分量i特征為采用DWT方法進行處理所得的不同小波分量，DWT的小波基函數(shù)設(shè)置為對稱函數(shù)sym7，對母線負荷進行分解特征提取，得到7個細節(jié)分量IMF1～7和一個近似逼近分量IMF8，其波形如圖3所示。通過每個小波分量單獨作為每輪預測的特征，最后合成得到母線負荷預測結(jié)果。

圖3 DWT分解Fig.3 DWT decomposition

對構(gòu)造的不同特征組，搭建Seq2seq預測模型進行消融實驗，模型結(jié)構(gòu)主要為Bi-GRU網(wǎng)絡編碼層、LSTM網(wǎng)絡解碼層和全連接輸出層，其流程如圖4所示。

圖4 預測流程Fig.4 Flow chart of prediction

4 算例分析

4.1 數(shù)據(jù)預處理及誤差指標

為驗證所提方法的有效性，選取某地區(qū)實際母線負荷數(shù)據(jù)進行驗證，采樣間隔為30 min，即每日包括48個采樣點，共計17 520個數(shù)據(jù)樣本，訓練集與測試集樣本劃分約為9：1。對劃分好的訓練與測試集，采用滑動窗口的方式進行預測，將前n個樣本數(shù)據(jù)作為特征，第n+1個樣本數(shù)據(jù)作為標簽，將n個特征作為模型的輸入，得到下1個時間節(jié)點的預測值，然后滑動窗口，將預測值作為新特征進行預測。

在預測前首先對母線負荷數(shù)據(jù)進行預處理，包括異常值辨識、異常值處理和缺失值填充等。為了防止網(wǎng)絡不收斂，加快訓練速度，在數(shù)據(jù)預處理中進行MinMaxScaler歸一化，消除量綱影響，將原始負荷數(shù)據(jù)進行壓縮，其計算公式為

采用平均絕對百分誤差MAPE（mean absolute percentage error）、均方根誤差 RMSE（root mean square error）和平均絕對誤差MAE（mean absolute error）作為模型精度的評價指標，各指標可表示為

式中：ai為第i個預測點的母線負荷預測值，i=1，2，…，n，n為采樣點個數(shù)；bi為第i個預測點的母線負荷真實值。MAPE、RMSE和MAE的值越小表示模型的預測精度越高。

4.2 消融實驗

設(shè)計RNN、LSTM、GRU、Bi-LSTM和Bi-GRU網(wǎng)絡作為Seq2seq模型的編碼器，在RNN、LSTM和GRU中選擇適合的解碼器，對母線負荷數(shù)據(jù)進行信息特征提取。編碼器和解碼器神經(jīng)元個數(shù)為64、滑動窗口長度為48、學習率設(shè)置為0.000 1、樣本批量大小設(shè)置為32。訓練時的損失函數(shù)選用均方誤差MSE（mean square error）、優(yōu)化器為Adam。得到不同編碼解碼器的預測誤差如表2所示。

表2 編碼解碼器誤差Tab.2 Encoder-decoder error

由表2數(shù)值分析對比可知，編碼器為Bi-GRU網(wǎng)絡、解碼器為LSTM網(wǎng)絡時，MAPE和RMSE誤差較低，模型預測效果最佳。

確定Seq2seq模型的編碼器和解碼器后，設(shè)置不同的特征組，進行多次重復實驗，特征組如表3所示。

表3 特征組分類Tab.3 Classification of feature groups

將不同特征組輸入Seq2seq預測模型，計算MAPE、RMSE和MAE，其結(jié)果如圖5所示。

圖5 特征組誤差柱狀Fig.5 Histogram of feature group error

由圖5可知，通過對不同特征組別的消融實驗，特征組（5）即時間連續(xù)性特征+氣象特征+原始母線負荷數(shù)據(jù)特征的預測效果最好，MAPE、RMSE和MAE誤差分別為1.104%、0.188 4 MW和0.135 5 MW。特征組（1）與特征組（2），即時間連續(xù)性特征與氣象特征對比，預測效果均好于原始母線負荷數(shù)據(jù)直接預測，但氣象特征組預測效果略好；特征組（1）、（2）與特征組（3）對比，可得高維全特征的預測效果更佳；特征組（3）與（5）、（4）與（2）對比，可得經(jīng)Bi-GRU網(wǎng)絡與LSTM網(wǎng)絡編碼解碼的母線負荷序列預測效果好于經(jīng)DWT方法的母線負荷序列分解合成預測。特征組（5）的預測結(jié)果如圖6所示。

圖6 特征組（5）預測結(jié)果Fig.6 Prediction results of feature group（5）

由實驗結(jié)果可得①與原始母線負荷序列直接預測的誤差相比，加入時間連續(xù)性特征后，MAPE誤差降低了1.24%，但略高于單氣象特征組，說明時間連續(xù)性特征能夠在氣象數(shù)據(jù)缺失時，起到一定的補償替代作用；②編碼器能夠通過對輸入母線負荷序列的壓縮編碼，集合序列的時序信息，拷貝隱藏層狀態(tài)，再通過解碼器的映射，能夠起到與DWT方法類似的特征提取作用，并且效果更佳。

5 結(jié)論

針對多因素母線負荷短期預測和氣象數(shù)據(jù)粒度粗糙問題，結(jié)合深度學習方法和特征工程，本文提出一種基于Seq2seq模型的母線負荷短期預測方法。首先對母線負荷的時間連續(xù)性特征進行編碼，然后設(shè)置不同的特征組進行消融實驗。通過多次重復實驗，選擇效果最佳的Bi-GRU神經(jīng)網(wǎng)絡和LSTM神經(jīng)網(wǎng)絡分別作為Seq2seq的編碼器和解碼器，并設(shè)置不同的特征組進行消融實驗，包括單時間連續(xù)性特征、單氣象特征和DWT分量特征等。實驗結(jié)論如下：

（1）與DWT方法分解合成的特征提取方法相比，Seq2seq模型的壓縮編碼映射解碼機制同樣可以對母線負荷數(shù)據(jù)的特征進行提取學習，并且預測誤差更低；

（2）在Seq2seq框架下，多因素特征的預測效果更佳，構(gòu)建的時間連續(xù)性特征可以在一定程度上彌補氣象數(shù)據(jù)的缺失，獲得更好的預測精度。

下一步研究工作將增加更多不同的特征組合進行消融實驗，并針對Seq2seq預測模型的編碼器和解碼器等多維超參數(shù)進行優(yōu)化，結(jié)合啟發(fā)式優(yōu)化算法進行進一步研究。