劉文杰，劉禾，王英男，楊國(guó)田，李新利

(華北電力大學(xué)控制與計(jì)算機(jī)工程學(xué)院，北京市 102206)

0 引 言

電力負(fù)荷預(yù)測(cè)在智能電網(wǎng)的控制、電力安全、市場(chǎng)運(yùn)行和合理調(diào)度計(jì)劃的制定方面發(fā)揮著重要作用，不僅能幫助電力系統(tǒng)安全可靠地運(yùn)行，還能減少資源浪費(fèi)，提高經(jīng)濟(jì)效益，是電力部門制定生產(chǎn)發(fā)展計(jì)劃的主要理論依據(jù)之一[1]。隨著國(guó)家“碳達(dá)峰”“碳中和”目標(biāo)的提出和綠色低碳環(huán)保發(fā)展經(jīng)濟(jì)體系的逐步建立，可再生能源和分布式能源比例不斷調(diào)高，用戶含源負(fù)荷隨機(jī)性和不確定性增強(qiáng)，對(duì)電力負(fù)荷預(yù)測(cè)帶來了新的挑戰(zhàn)。

在以往的研究中，國(guó)內(nèi)外學(xué)者開發(fā)了許多方法來提高短期預(yù)測(cè)的準(zhǔn)確性，這些方法主要分為基于統(tǒng)計(jì)方法和基于人工智能方法。統(tǒng)計(jì)方法基于數(shù)學(xué)模型，包括多元線性回歸分析[2]、隨機(jī)時(shí)間序列[3]、自回歸積分移動(dòng)平均模型[4]等，通常針對(duì)線性關(guān)系模型，而預(yù)測(cè)負(fù)荷隨機(jī)性較強(qiáng)，非線性特征明顯，因此在非線性預(yù)測(cè)方面擬合能力不強(qiáng)，表現(xiàn)不佳?；谌斯ぶ悄艿亩唐陔娏ω?fù)荷預(yù)測(cè)方法如支持向量機(jī)(support vector machines, SVM)[5]、人工神經(jīng)網(wǎng)絡(luò)模型[6]、專家系統(tǒng)模型[7]、貝葉斯神經(jīng)網(wǎng)絡(luò)[8]、BP(back propagation)神經(jīng)網(wǎng)絡(luò)[9]等具有良好非線性函數(shù)擬合能力的淺層機(jī)器學(xué)習(xí)算法，預(yù)測(cè)精度較傳統(tǒng)方法有所改進(jìn)，但由于負(fù)荷數(shù)據(jù)的復(fù)雜性和時(shí)序性，高精度的短期預(yù)測(cè)仍然是一個(gè)挑戰(zhàn)。近年來，深度學(xué)習(xí)的高速發(fā)展使其在負(fù)荷預(yù)測(cè)領(lǐng)域廣泛應(yīng)用。深度置信網(wǎng)絡(luò)[10]、深度神經(jīng)網(wǎng)絡(luò)[11]、卷積神經(jīng)網(wǎng)絡(luò)[12-13]應(yīng)用到短期負(fù)荷預(yù)測(cè)問題中，負(fù)荷預(yù)測(cè)精度上雖有所提升，但忽略了負(fù)荷數(shù)據(jù)的時(shí)序特性。循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network，RNN)引入循環(huán)結(jié)構(gòu)提取時(shí)序特性對(duì)時(shí)間序列數(shù)據(jù)進(jìn)行擬合[14]，但處理時(shí)間序列時(shí)易發(fā)生梯度消失問題。長(zhǎng)短期記憶網(wǎng)絡(luò)(long short-term memory，LSTM)通過加入內(nèi)存單元來解決這個(gè)問題，能更完整地學(xué)習(xí)歷史序列數(shù)據(jù)中長(zhǎng)短期規(guī)律信息，在基于過去負(fù)荷數(shù)據(jù)的長(zhǎng)時(shí)間水平預(yù)測(cè)中表現(xiàn)較好[15]。此外，文獻(xiàn)[16]通過在網(wǎng)絡(luò)結(jié)構(gòu)中加入注意力機(jī)制為隱藏層單元賦予不同的權(quán)重，使模型更易學(xué)習(xí)序列中長(zhǎng)距離相互依賴的關(guān)系，提高模型的準(zhǔn)確率。

針對(duì)負(fù)荷序列的非平穩(wěn)性、復(fù)雜性，機(jī)器學(xué)習(xí)算法調(diào)參困難和數(shù)據(jù)需求量大的問題，數(shù)據(jù)分解與機(jī)器學(xué)習(xí)相結(jié)合的方法被應(yīng)用在負(fù)荷預(yù)測(cè)中[17]。經(jīng)驗(yàn)?zāi)B(tài)分解(empirical mode decomposition, EMD)[18]是基于信號(hào)序列局部特征進(jìn)行的自適應(yīng)信號(hào)分解，得到一系列的振蕩函數(shù)，較小波分解等無需任何先驗(yàn)條件[19]。但經(jīng)驗(yàn)?zāi)B(tài)分解的模態(tài)混疊和邊界效應(yīng)[18]問題往往影響到分解效果和預(yù)測(cè)精度，集成經(jīng)驗(yàn)?zāi)B(tài)分解(ensemble empirical mode decomposition，EEMD)在傳統(tǒng)EMD基礎(chǔ)上，通過添加高斯白噪聲的方法降低了模態(tài)混疊現(xiàn)象的產(chǎn)生[20]，但添加的噪聲在有限次平均中不會(huì)完全消除，導(dǎo)致重建誤差，降低計(jì)算效率。完整自適應(yīng)噪聲集成經(jīng)驗(yàn)?zāi)B(tài)分解(complete ensemble empirical mode decomposition with adaptive noise，CEEMDAN)[21]添加有限次自適應(yīng)白噪聲，進(jìn)一步消除了模態(tài)混疊和重建誤差，但負(fù)荷預(yù)測(cè)中經(jīng)驗(yàn)?zāi)B(tài)分解邊界效應(yīng)問題的處理仍需研究。

鑒于數(shù)據(jù)分解與神經(jīng)網(wǎng)絡(luò)結(jié)合模型的優(yōu)越性，本文提出一種CEEMDAN和基于注意力機(jī)制的LSTM(LSTM based on attention mechanism, LSTM-Attention)短期電力負(fù)荷預(yù)測(cè)模型。首先，將預(yù)測(cè)與鏡像延拓處理后的歷史負(fù)荷時(shí)間序列添加到CEEMDAN中分解得到模態(tài)分量和殘差余量；接著，將分解得到的各分量分別作為引入注意力機(jī)制的LSTM神經(jīng)網(wǎng)絡(luò)的輸入序列進(jìn)行預(yù)測(cè)，通過注意力層對(duì)LSTM神經(jīng)網(wǎng)絡(luò)隱藏層單元分配不同概率權(quán)重，突出關(guān)鍵序列；最后，對(duì)近幾年真實(shí)負(fù)荷數(shù)據(jù)進(jìn)行預(yù)測(cè)驗(yàn)證，結(jié)果表明本文所提預(yù)測(cè)模型在短期負(fù)荷預(yù)測(cè)中具有比其他預(yù)測(cè)網(wǎng)絡(luò)更高的預(yù)測(cè)精度和較好的預(yù)測(cè)性能。

1 CEEMDAN方法

1.1 CEEMDAN

CEEMDAN是一種自適應(yīng)分析非線性和非平穩(wěn)信號(hào)的自適應(yīng)時(shí)頻處理方法，基于信號(hào)數(shù)據(jù)本身的局部特性，在時(shí)域中提供關(guān)于信號(hào)動(dòng)態(tài)的信息，自適應(yīng)地分解得到從高頻到低頻包含不同時(shí)間特征尺度的本征模態(tài)(intrinsic mode function，IMF)分量和殘差余量，分解后的IMF分量序列具有較強(qiáng)的規(guī)律性，便于模型學(xué)習(xí)提高預(yù)測(cè)精度[21]。通過在每次處理過程中添加有限次符合標(biāo)準(zhǔn)正態(tài)分布的自適應(yīng)高斯白噪聲，使得重構(gòu)信號(hào)接近原始信號(hào)。因此，CEEMDAN既可以克服EMD所存在的模態(tài)混疊現(xiàn)象，同時(shí)可以通過少量實(shí)驗(yàn)重構(gòu)信號(hào)序列，消除EEMD分解的不完整性以及運(yùn)算量大與計(jì)算時(shí)間長(zhǎng)的問題，并且由于其對(duì)數(shù)據(jù)驅(qū)動(dòng)機(jī)制的依賴，不需要像基于小波和傅立葉變換分解等傳統(tǒng)方法那樣需要已知先驗(yàn)基礎(chǔ)。CEEMDAN算法的具體分解過程如下：

步驟1：構(gòu)造待分解序列Xi(t)。

Xi(t)=X(t)+δωi(t),i=1,…,L

(1)

式中：X(t)表示原始時(shí)間序列；Xi(t)表示第i個(gè)處理產(chǎn)生的數(shù)據(jù)；i為測(cè)試次數(shù)；δ為高斯白噪聲加權(quán)系數(shù)；ωi(t)為在第i次處理期間添加的符合標(biāo)準(zhǔn)正態(tài)分布的高斯白噪聲。

(2)

(3)

r1(t)=X(t)-αIMF1(t)

(4)

式中：αIMF1(t)表示通過CEEMDAN分解獲得的第一模態(tài)分量；r1(t)表示第一次分解后的剩余信號(hào)。

步驟3：對(duì)信號(hào)r1(t)+δ1M1[ωi(t)]進(jìn)行i次分解，計(jì)算第2個(gè)模態(tài)分量αIMF2(t)。在將特定噪聲添加到第k個(gè)裕量信號(hào)之后，繼續(xù)進(jìn)行經(jīng)驗(yàn)?zāi)B(tài)分解。

(5)

(6)

rk(t)=rk-1(t)-αIMFk(t)

(7)

式中：αIMFk(t)代表通過CEEMDAN分解獲得的第k個(gè)IMF分量；Mk[ωi(t)]代表序列EMD分解后的第k個(gè)IMF成分；δk代表由CEEMDAN加到第k個(gè)剩余信號(hào)上的噪聲的加權(quán)系數(shù)；rk(t)代表第k個(gè)剩余信號(hào)。

步驟4：上述過程被執(zhí)行多次，直到裕量rk(t)達(dá)到分解的最大數(shù)量，滿足經(jīng)驗(yàn)?zāi)B(tài)分解停止條件——第n次分解的殘差信號(hào)是單調(diào)信號(hào)，即極值點(diǎn)的數(shù)量不超過1，則迭代停止，分解X(t)得到k個(gè)模態(tài)分量αIMFk(t)和一個(gè)殘差余量R(t)。

(8)

利用CEEMDAN方法，能夠?qū)υ钾?fù)荷信號(hào)充分分解。

1.2 邊界效應(yīng)

在EMD處理信號(hào)過程中，采用三次樣條插值函數(shù)對(duì)原始信號(hào)極大值點(diǎn)和極小值點(diǎn)進(jìn)行插值，獲取原始信號(hào)包絡(luò)線進(jìn)行擬合。然而，信號(hào)的初始部分和最終部分受到邊界的限制，往往缺少相應(yīng)的極值點(diǎn)，導(dǎo)致插值點(diǎn)的不確定性和邊界的嚴(yán)重失真。鏡像對(duì)稱延拓法通過在數(shù)據(jù)的兩端通過鏡像對(duì)稱性擴(kuò)展極值點(diǎn)，延拓信號(hào)首尾相連消除邊界形成閉合曲線，在處理EMD邊界效應(yīng)方面得到了廣泛的應(yīng)用[22]。但這種方法需要找到一個(gè)合適的位置放置鏡像，一般放置在極值點(diǎn)位置，實(shí)際處理過程中往往無法確定邊界極值點(diǎn)。預(yù)測(cè)延拓法[23-24]通過預(yù)測(cè)算法學(xué)習(xí)信號(hào)分布規(guī)律對(duì)信號(hào)邊界預(yù)測(cè)延拓至極值點(diǎn)，從而抵消邊界效應(yīng)誤差。但預(yù)測(cè)方法擴(kuò)展時(shí)間序列邊界效果不佳，擴(kuò)展后的極值和實(shí)際極值之間差異較大，且運(yùn)算效率大大降低。本文通過將鏡像對(duì)稱延拓法與基于注意力機(jī)制的LSTM預(yù)測(cè)算法相結(jié)合來處理邊界效應(yīng)。LSTM-Attention算法在原始序列的邊界處延拓至第一個(gè)極值點(diǎn)，然后通過鏡像對(duì)稱獲得其他極值點(diǎn)，避免單獨(dú)使用預(yù)測(cè)算法導(dǎo)致的誤差增加。與傳統(tǒng)EMD-LSTM模型相比，該模型消除了邊界效應(yīng)對(duì)分解的影響，使分解結(jié)果更加精確，從而進(jìn)一步提高預(yù)測(cè)精度。

2 基于注意力機(jī)制的LSTM神經(jīng)網(wǎng)絡(luò)

2.1 長(zhǎng)短期記憶網(wǎng)絡(luò)

長(zhǎng)短期記憶網(wǎng)絡(luò)是一種改進(jìn)的遞歸神經(jīng)網(wǎng)絡(luò)，通過引入記憶單元和門控機(jī)制為網(wǎng)絡(luò)增加了長(zhǎng)期記憶和短期記憶，有效地解決長(zhǎng)序列依賴性問題和序列過長(zhǎng)導(dǎo)致的梯度消失/爆炸現(xiàn)象，能夠更好地解析歷史序列數(shù)據(jù)[25]。門控機(jī)制負(fù)責(zé)在連接到記憶單元神經(jīng)網(wǎng)絡(luò)其他部分的邊緣設(shè)置權(quán)重，在梯度減小時(shí)選擇性地記憶反饋誤差函數(shù)的誤差參數(shù)；記憶單元用來記錄當(dāng)前時(shí)刻狀態(tài)，控制信息的傳遞；輸入門控制記憶單元更新的信息量，確定需要將多少網(wǎng)絡(luò)輸入數(shù)據(jù)保存到單位狀態(tài)；遺忘門確定前一時(shí)刻的單位狀態(tài)需要保留多少到當(dāng)前時(shí)刻；輸出門決定當(dāng)前單位輸出多少至單元狀態(tài)輸出。LSTM單元結(jié)構(gòu)如圖1所示。

圖1 LSTM單元結(jié)構(gòu)Fig.1 Structure of LSTM cell

輸入門Γit、遺忘門Γft、輸出門Γot的計(jì)算公式為：

(9)

式中：σ(·)為sigmoid激活函數(shù)；xt表示t時(shí)刻的輸入向量；ht-1表示t-1時(shí)刻的隱含層狀態(tài)值；Wxi、Wxf、Wxo分別表示輸入層到輸入門、遺忘門、輸出門的權(quán)重向量；Whi、Whf、Who分別表示隱含層到輸入門、遺忘門、輸出門的權(quán)重向量；bi、bf、bo分別表示輸入門、遺忘門、輸出門的偏移量。

(10)

式中：Wxc表示輸入層到細(xì)胞狀態(tài)的權(quán)重向量；Whc表示隱含層到細(xì)胞狀態(tài)的權(quán)重向量；bc表示細(xì)胞狀態(tài)的偏移量。

(11)

隱含層的當(dāng)前輸出計(jì)算公式為：

ht=Γot?tanh(ct)

(12)

2.2 注意力機(jī)制

注意力機(jī)制靈感來源于人類視覺的信息處理機(jī)制，視覺系統(tǒng)在整體環(huán)境中找到焦點(diǎn)區(qū)域給予更多關(guān)注，同時(shí)抑制無用信息的獲取。其核心思想是快速選擇關(guān)鍵序列，消除無用信息，從而提高信息處理的效率和準(zhǔn)確性。注意力機(jī)制運(yùn)算分為2個(gè)步驟：

1)計(jì)算輸入和隱藏狀態(tài)之間的相似性度量注意力分布；

2)根據(jù)注意力分布計(jì)算輸入信息的加權(quán)平均值。

計(jì)算相似度越高，分配越多權(quán)重于高度相似性的序列片段，減弱對(duì)序列中具有較大差異片段的關(guān)注，去除非關(guān)鍵因素對(duì)整體模型的影響，降低計(jì)算成本，節(jié)省存儲(chǔ)空間并提高學(xué)習(xí)效率和準(zhǔn)確性。注意力機(jī)制原理如圖2所示。

圖2 Attention機(jī)制原理Fig.2 Principle of attention mechanism

(13)

(14)

(15)

式中：c為隱藏狀態(tài)ht的加權(quán)和。

本文提出的LSTM-Attention框架如圖3所示。在圖3中，計(jì)算相似度函數(shù)并使用softmax激活函數(shù)使輸出權(quán)重標(biāo)準(zhǔn)化，得到at與LSTM層ht的輸出通過加權(quán)相加得到新的輸出向量c。注意力機(jī)制更多地關(guān)注輸入序列中影響輸出結(jié)果的關(guān)鍵部分，以便更好地學(xué)習(xí)輸入序列中的信息，可以有效地提高預(yù)測(cè)性能。

圖3 LSTM與注意力機(jī)制結(jié)合Fig.3 LSTM combined with attention mechanism

3 CEEMDAN-LSTM-ATTENTION預(yù)測(cè)模型

在負(fù)荷預(yù)測(cè)中，負(fù)荷時(shí)間序列較為復(fù)雜且并不平穩(wěn)，建立單個(gè)模型很難捕捉到信號(hào)的全部特征加以訓(xùn)練并做出精確預(yù)測(cè)?；谏鲜鲈颍疚乃犭娏ω?fù)荷預(yù)測(cè)流程如圖4所示。

步驟1：數(shù)據(jù)采集與處理。原始負(fù)荷作為輸入，對(duì)數(shù)據(jù)進(jìn)行預(yù)處理，均值填補(bǔ)空缺數(shù)據(jù)和替換異常數(shù)據(jù)，并對(duì)數(shù)據(jù)進(jìn)行歸一化處理。

步驟2：LSTM-Attention預(yù)測(cè)和鏡像擴(kuò)延。為避免經(jīng)驗(yàn)?zāi)B(tài)分解邊界效應(yīng)對(duì)負(fù)荷預(yù)測(cè)造成影響，利用神經(jīng)網(wǎng)絡(luò)對(duì)原始數(shù)據(jù)延拓至極值點(diǎn)，后通過鏡像延拓至其他極值點(diǎn)，降低邊界效應(yīng)，提升分解精準(zhǔn)度和預(yù)測(cè)精度。圖5給出了應(yīng)用鏡像對(duì)稱和LSTM-Attention算法處理邊界效應(yīng)的效果。

圖4 本文所提電力負(fù)荷預(yù)測(cè)流程Fig.4 Forecasting process

圖5 LSTM-Attention預(yù)測(cè)與鏡像延拓Fig.5 LSTM-Attention prediction and mirror extension

步驟3：負(fù)荷數(shù)據(jù)序列分解。利用CEEMDAN算法將擴(kuò)延后的非平穩(wěn)、非線性的負(fù)荷時(shí)間序列分解成一系列從高到低的本征模態(tài)分量(IMF1，IMF2，…，IMFn)和殘差余量。這些子序列相對(duì)穩(wěn)定，并且具有不同的局部特征信息。

步驟4：利用LSTM-Attention網(wǎng)絡(luò)模型分別對(duì)分解后的IMF分量進(jìn)行預(yù)測(cè)。首先對(duì)LSTM預(yù)測(cè)模型的參數(shù)進(jìn)行初始化，通過網(wǎng)格搜索確定最優(yōu)超參數(shù)，使LSTM-Attention網(wǎng)絡(luò)模型準(zhǔn)確反映各子序列的波動(dòng)，提高負(fù)荷功率預(yù)測(cè)的準(zhǔn)確性，從而獲得準(zhǔn)確預(yù)測(cè)值F1，F(xiàn)2，…，F(xiàn)n。

步驟5：疊加組合子序列預(yù)測(cè)值。將各子序列建模預(yù)測(cè)結(jié)果累加組合作為基于CEEMDAN的LSTM-Attention組合預(yù)測(cè)模型負(fù)荷功率最終預(yù)測(cè)結(jié)果。

LSTM神經(jīng)網(wǎng)絡(luò)的層數(shù)主要取決于學(xué)習(xí)目標(biāo)的復(fù)雜性，理論上增加網(wǎng)絡(luò)層數(shù)可以提高模型非線性擬合能力，但模型的復(fù)雜性和訓(xùn)練時(shí)間也會(huì)隨之增加，當(dāng)隱藏層的數(shù)量超過3時(shí)，更新迭代的速度會(huì)降低，收斂效果和效率下降，準(zhǔn)確性不會(huì)提高，所以選擇效果較好且用時(shí)較少的方案，本文設(shè)置2層LSTM隱含層可以很好地平衡預(yù)測(cè)精度和學(xué)習(xí)效率，Attention層將計(jì)算出的權(quán)重向量和輸入向量結(jié)合，得到新的向量，輸入到全連接層，模型如圖6所示?；谔荻鹊膬?yōu)化算法種類眾多，本文選用的是基于梯度的適應(yīng)性動(dòng)量估計(jì)算法，可以動(dòng)態(tài)地調(diào)整每個(gè)參數(shù)的學(xué)習(xí)率，使得每次迭代的學(xué)習(xí)率具有一定范圍，并且參數(shù)變化相對(duì)穩(wěn)定。

圖6 基于注意力機(jī)制的LSTM預(yù)測(cè)算法結(jié)構(gòu)Fig.6 Structure of LSTM prediction algorithm based on attention mechanism

為評(píng)估預(yù)測(cè)模型精度，本文選取均方根誤差(root mean squard error, RMSE)σRMSE、平均絕對(duì)百分誤差(mean absolute percentage error, MAPE)σMAPE和平均絕對(duì)誤差(mean absolute error, MAE)σMAE評(píng)價(jià)指標(biāo)來衡量預(yù)測(cè)準(zhǔn)確性。評(píng)價(jià)指標(biāo)在數(shù)學(xué)上表示為：

(16)

(17)

(18)

4 算例分析

4.1 數(shù)據(jù)選取與處理

為了評(píng)估所提出的CEEMDAN-LSTM-Attention預(yù)測(cè)模型的性能，本文選擇愛爾蘭某地區(qū)的電力負(fù)荷數(shù)據(jù)來分析預(yù)測(cè)模型。從2019年1月到2019年12月，其采集間隔為15 min，共有35 040個(gè)電力負(fù)荷樣本，可以看出其周期性和季節(jié)性較為明顯，針對(duì)不同季節(jié)電力負(fù)荷特性劃分為A、B、C、D四種季節(jié)數(shù)據(jù)集，并分別進(jìn)行訓(xùn)練預(yù)測(cè)，如表1所示。模型通過學(xué)習(xí)同一時(shí)間點(diǎn)負(fù)荷數(shù)據(jù)的歷史變化周期性規(guī)律，可以準(zhǔn)確預(yù)測(cè)負(fù)荷值，無需諸如日類型和氣候等因素，降低了數(shù)據(jù)的存儲(chǔ)成本，簡(jiǎn)化了大規(guī)模負(fù)荷預(yù)測(cè)的應(yīng)用過程。本文構(gòu)建時(shí)間序列數(shù)據(jù)進(jìn)行測(cè)試和訓(xùn)練，選用時(shí)間序列分割對(duì)數(shù)據(jù)集進(jìn)行分割，四季共有31 855個(gè)數(shù)據(jù)進(jìn)行訓(xùn)練，3 185個(gè)數(shù)據(jù)進(jìn)行測(cè)試。

表1 數(shù)據(jù)集信息Table 1 Dataset information

從電力負(fù)荷原始序列中可以看到，實(shí)際數(shù)據(jù)中大量存在高頻分量和噪聲，直接通過模型擬合較為困難，因此選擇對(duì)原始電力負(fù)荷序列進(jìn)行經(jīng)驗(yàn)?zāi)B(tài)分解，設(shè)置CEEMDAN添加白噪聲比例為0.005[21]，帶不設(shè)置本征模態(tài)函數(shù)上限，使其完全分解。分別對(duì)4組數(shù)據(jù)進(jìn)行CEEMDAN分解，每組得到11條本征模態(tài)分量IMF1—IMF11和1條殘差分量，圖7所示為D組數(shù)據(jù)分解結(jié)果。

圖7 CEEMDAN數(shù)據(jù)集D分解Fig.7 CEEMDAN decomposition of D dataset

這些分量從高頻率IMF1到低頻率IMF11逐步遞減，數(shù)據(jù)的波動(dòng)性也隨之降低，逐漸趨于穩(wěn)定。在負(fù)荷時(shí)間序列中，高頻數(shù)據(jù)代表短期波動(dòng)趨勢(shì)，低頻數(shù)據(jù)代表長(zhǎng)期波動(dòng)趨勢(shì)。各IMF分量均表現(xiàn)出一定的周期特性，沒有明顯的混疊部分。在添加40組白噪聲的情況下，所有分量總和與原始數(shù)據(jù)基本一致，CEEMDAN分解重構(gòu)誤差小于1×10-12，表明負(fù)荷完全集合經(jīng)驗(yàn)?zāi)B(tài)分解的結(jié)果是正確的。

本文通過計(jì)算CEEMDAN分解產(chǎn)生各分量與原始信號(hào)相關(guān)性分析和正交性指數(shù)(index of orthogonality，IO)作為抑制邊界效應(yīng)的評(píng)價(jià)指標(biāo)[18]，相關(guān)系數(shù)ρ計(jì)算公式為：

(19)

式中：D(·)代表方差；cov(·)代表協(xié)方差；X(t)為原始數(shù)據(jù)。分解出的IMF分量與原始數(shù)據(jù)的相關(guān)系數(shù)ρ越大，則表示對(duì)邊界效應(yīng)的抑制效果越好。

(20)

由CEEMDAN分解出的各分量之間理論是局部正交的，邊界效應(yīng)對(duì)分量間正交性有所影響，正交性指數(shù)用來表示各階IMF分量間正交性的好壞，指數(shù)越小則分解精度越高。正交性指數(shù)的數(shù)量級(jí)在10-3以下，則可認(rèn)為該方法對(duì)邊界效應(yīng)抑制效果較好[18]。正交性指數(shù)計(jì)算公式如式(20)表示。表2給出了預(yù)測(cè)與鏡像延拓分解與原始分解對(duì)比，可以看出抑制邊界效應(yīng)后CEEMDAN分解相關(guān)系數(shù)較高，正交系數(shù)較低，分解分量中高頻分量較原始分解提升較多，低頻分量分解后較為平穩(wěn)，不易發(fā)生模態(tài)混疊現(xiàn)象。

表2 相關(guān)系數(shù)對(duì)比Table 2 Correlation coefficient comparison

通過對(duì)CEEMDAN分解Hilbert譜進(jìn)行分析，可以進(jìn)一步反映對(duì)模態(tài)混疊和邊界效應(yīng)現(xiàn)象的抑制效果。負(fù)荷數(shù)據(jù)D組CEEMDAN分解Hilbert譜如圖8所示，各IMF瞬時(shí)頻率值保持在對(duì)應(yīng)范圍內(nèi)變化，分開程度較為明顯，相鄰各分量間瞬時(shí)頻率重合與混疊部分較少，分量邊界并無失真現(xiàn)象。高頻分量瞬時(shí)頻率值區(qū)域劃分更為明顯，較中頻與低頻分量更加分開，說明CEEMDAN方法在初始分解高頻隨機(jī)分量后對(duì)殘余分量補(bǔ)足白噪聲的一階分量對(duì)消除模態(tài)混疊現(xiàn)象取得了顯著成效。之后對(duì)各子序列進(jìn)行歸一化處理，采用最小最大值標(biāo)準(zhǔn)化將數(shù)據(jù)統(tǒng)一映射在[0, 1]區(qū)間之間，方便模型網(wǎng)絡(luò)分析處理，提高預(yù)測(cè)精度和收斂速度。歸一化公式為：

(21)

圖8 負(fù)荷數(shù)據(jù)D組CEEMDAN分解Hilbert譜Fig.8 Hilbert spectrum of CEEMDAN decomposition of dataset D of load data

4.2 預(yù)測(cè)結(jié)果及分析

預(yù)測(cè)方法的超參數(shù)對(duì)其預(yù)測(cè)性能具有重大影響。因此，本文使用網(wǎng)格搜索來找到最佳超參數(shù)，考慮到負(fù)荷功率序列具有明顯的周期性，選取輸入序列時(shí)間步長(zhǎng)為24。表3給出了網(wǎng)格搜索預(yù)測(cè)方法的最佳超參數(shù)。循環(huán)神經(jīng)網(wǎng)絡(luò)超參數(shù)選擇與最佳超參數(shù)一致，SVM核函數(shù)選擇徑向基函數(shù)(radial basis function, RBF)。

為驗(yàn)證所提出模型的有效性，本文采用SVM、RNN、GRU(gate recurrent unit)、LSTM、RNN-Attention、GRU-Attention、LSTM-Attention、CEEMDAN-LSTM、CEEMDAN-GRU、CEEMDAN-RNN、CEEMDAN-RNN-Attention、CEEMDAN-GRU-Attention、CEEMDAN-LSTM-Attention、EMD-LSTM-Attention、EEMD-LSTM-Attention共15種模型作為對(duì)照分別對(duì)4組電力負(fù)荷數(shù)據(jù)集進(jìn)行預(yù)測(cè)。表4列出了D組各個(gè)預(yù)測(cè)模型冬季的預(yù)測(cè)結(jié)果，其他季節(jié)預(yù)測(cè)結(jié)果對(duì)比見附表A1。15種模型在4個(gè)季節(jié)的預(yù)測(cè)負(fù)荷與原始負(fù)荷對(duì)比如附圖A1—A4所示。CEEMDAN-LSTM-Attention模型的MAPE為0.794%，RMSE為32.005，MAE為25.678，相對(duì)于其他模型預(yù)測(cè)精準(zhǔn)度有較大的提升。從預(yù)測(cè)結(jié)果來看，CEEMDAN-LSTM-Attention網(wǎng)絡(luò)預(yù)測(cè)模型擬合優(yōu)度更高，更接近于實(shí)際情況。CEEMDAN可以將數(shù)據(jù)劃分為較為平穩(wěn)且有規(guī)律的數(shù)據(jù)分量，方便神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)，LSTM模型能夠深度挖掘歷史時(shí)間序列信息，在時(shí)序預(yù)測(cè)問題中效果較為理想，而將注意力機(jī)制引入LSTM中，突出關(guān)鍵序列的影響，進(jìn)一步提升了預(yù)測(cè)效果。圖9為D組負(fù)荷預(yù)測(cè)散點(diǎn)圖。

表4 預(yù)測(cè)算法對(duì)比Table 4 Comparison of forecasting methods

由表4及附表A1可以看出CEEMDAN-LSTM-Attention模型在2019年電力負(fù)荷數(shù)據(jù)預(yù)測(cè)中表現(xiàn)良好，平均MAPE指標(biāo)為0.683%，平均RMSE為26.302，平均MAE為21.072。RMSE值與SVM回歸及RNN模型相比預(yù)測(cè)精度提高了75.2%和67.2%。較傳統(tǒng)LSTM、GRU網(wǎng)絡(luò)相比，網(wǎng)絡(luò)模型預(yù)測(cè)精度提高了48.3%、46.5%；較CEEMDAN-LSTM和LSTM-Attention分別提升了31.4%和34.7%，較EMD-LSTM-Attention和EEMD-LSTM-Attention分別提高了12.96%和35.9%，EEMD分解過程中重構(gòu)誤差較大，預(yù)測(cè)精度反而不如EMD。數(shù)據(jù)集A、B中的各項(xiàng)評(píng)估指標(biāo)相較于數(shù)據(jù)集C、D有所提升，說明在秋季、冬季的負(fù)荷波動(dòng)較春季、夏季更為明顯。模型的相對(duì)誤差主要集中在[-40, 40]的區(qū)間內(nèi)，其他預(yù)測(cè)模型的擴(kuò)大到[-250, 250]區(qū)間，除了夏季外CEEMDAN-LSTM- Attention模型預(yù)測(cè)誤差均小于其他模型，相較于其他算法，其預(yù)測(cè)值偏離真實(shí)值的程度最小，預(yù)測(cè)效果最好，證明了采用CEEMDAN-LSTM-Attention的組合方法較單獨(dú)預(yù)測(cè)有較大的改進(jìn)，有著更好的預(yù)測(cè)精度。

圖9 D組負(fù)荷預(yù)測(cè)散點(diǎn)圖Fig.9 Scatter diagram of load forecasting for dataset D

5 結(jié) 論

電力負(fù)荷預(yù)測(cè)對(duì)電網(wǎng)的經(jīng)濟(jì)運(yùn)行具有重要意義，本文提出了一種新型混合預(yù)測(cè)模型，該模型由數(shù)據(jù)處理技術(shù)CEEMDAN，LSTM神經(jīng)網(wǎng)絡(luò)和注意力機(jī)制組成，所得結(jié)論如下：

1)將預(yù)處理原始電力負(fù)荷數(shù)據(jù)通過CEEMDAN分解算法分解為多個(gè)IMF分量，并通過LSTM-Attention神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)出一組極大值，結(jié)合鏡像延拓方法處理邊界效應(yīng)，負(fù)荷平穩(wěn)化處理能夠大大提高模型的預(yù)測(cè)性能；

2)通過在LSTM神經(jīng)網(wǎng)絡(luò)中加入Attention注意力機(jī)制模型影響關(guān)鍵序列權(quán)重，可以很好地提高模型的預(yù)測(cè)精度；

3)通過實(shí)際電力負(fù)荷數(shù)據(jù)進(jìn)行實(shí)驗(yàn)，劃分4種季節(jié)數(shù)據(jù)集分別評(píng)估了混合模型的有效性，與對(duì)比數(shù)據(jù)處理方法或網(wǎng)絡(luò)的預(yù)測(cè)模型相比，該模型的預(yù)測(cè)性能均優(yōu)于其他模型，預(yù)測(cè)結(jié)果更好。

綜上所述，本文所提的混合預(yù)測(cè)模型為電力負(fù)荷預(yù)測(cè)提供了一種新方法，該方法可以得到較好的預(yù)測(cè)效果，而且在處理周期性、趨勢(shì)性和隨機(jī)非線性負(fù)荷時(shí)效果出色。