胡瑞琨，吳煜宇，鄭豪豐，李思維，賈睿，楊國華

(寧夏大學(xué)物理與電子電氣工程學(xué)院， 寧夏 銀川 750021)

0 引 言

綜合能源系統(tǒng)(integrated energy system，IES)是一種在規(guī)劃、建設(shè)以及后續(xù)運(yùn)行環(huán)節(jié)，針對能源自產(chǎn)生到消費(fèi)環(huán)節(jié)協(xié)調(diào)優(yōu)化后構(gòu)建的能源產(chǎn)供銷一體化系統(tǒng)[1-2]。相較分布式能源系統(tǒng)而言，綜合能源系統(tǒng)內(nèi)部更多引入可再生能源提升供能多樣性，并通過各類能量存儲/轉(zhuǎn)換裝置提升綜合利用率[3]。針對此類系統(tǒng)做出精確負(fù)荷預(yù)測，有助于提升整體調(diào)度水平與穩(wěn)定運(yùn)行能力，與此同時，負(fù)荷預(yù)測作為當(dāng)前人工智能技術(shù)與能源系統(tǒng)銜接最緊密的領(lǐng)域之一，國內(nèi)外學(xué)者對此展開了廣泛探索：文獻(xiàn)[4]將歷史負(fù)荷數(shù)據(jù)作為輸入，采用卷積神經(jīng)網(wǎng)絡(luò)提取高維特征，并將特征向量用于門控循環(huán)單元網(wǎng)絡(luò)輸入，引入Attention機(jī)制修正狀態(tài)變量權(quán)重，最終完成負(fù)荷預(yù)測；文獻(xiàn)[5]將深度置信網(wǎng)絡(luò)與多任務(wù)回歸相結(jié)合，深度置信網(wǎng)絡(luò)用于提取抽象特征，在此基礎(chǔ)上多任務(wù)回歸輸出預(yù)測結(jié)果。

綜合能源系統(tǒng)規(guī)模及量級差異較大，若針對各個分立系統(tǒng)建模，普適性有限且難以推廣，不利于整體預(yù)測。為此本文在剖析綜合能源系統(tǒng)架構(gòu)的基礎(chǔ)上，引入能源節(jié)點(diǎn)作為最小單元劃分能源系統(tǒng)，在此基礎(chǔ)上就能源節(jié)點(diǎn)的負(fù)荷特點(diǎn)設(shè)計IES負(fù)荷預(yù)測模型。本文模型適配綜合能源系統(tǒng)架構(gòu)，可作為統(tǒng)一方案用于IES負(fù)荷預(yù)測。

1 IES整體架構(gòu)設(shè)計

為實(shí)現(xiàn)綜合能源系統(tǒng)整體互補(bǔ)協(xié)調(diào)，以能源節(jié)點(diǎn)作為最小單位設(shè)計IES整體架構(gòu)。能源節(jié)點(diǎn)內(nèi)部集成若干地理位置相近、供能呈現(xiàn)互補(bǔ)特征的供能系統(tǒng)，能源節(jié)點(diǎn)聚合構(gòu)成區(qū)域能源網(wǎng)絡(luò)。區(qū)域能源網(wǎng)絡(luò)中的能源節(jié)點(diǎn)通過調(diào)度中心交互調(diào)度信息，控制能源節(jié)點(diǎn)能量交互水平。集群方式互聯(lián)可規(guī)避節(jié)點(diǎn)間連接松散。方案設(shè)計思路見圖1。

圖1 能源節(jié)點(diǎn)及區(qū)域能源網(wǎng)絡(luò)

能源節(jié)點(diǎn)可視作綜合能源系統(tǒng)最小組成單元，電能供應(yīng)由分布式電源供電、能源節(jié)點(diǎn)間電能交互、配電網(wǎng)直接供電三部分構(gòu)成。其中，節(jié)點(diǎn)內(nèi)部供能在電能供應(yīng)環(huán)節(jié)占據(jù)主導(dǎo)地位。僅靠節(jié)點(diǎn)內(nèi)部供能存在缺額時，采用能源節(jié)點(diǎn)間電能交互及主干電網(wǎng)直接供能兩種形式加以補(bǔ)充。冷/熱負(fù)荷則以冷熱電三聯(lián)供設(shè)備為代表的多能耦合設(shè)備保障，階段調(diào)峰熱能可由儲熱設(shè)備加以補(bǔ)充。夏季聯(lián)供設(shè)備側(cè)重制冷，而冬天則側(cè)重于熱力取暖。氣類供應(yīng)則分系統(tǒng)直接利用及應(yīng)用電轉(zhuǎn)氣技術(shù)制備天然氣兩方面。當(dāng)分布式電源出力水平較高，負(fù)荷水平有限且無法完全消納電能時，電轉(zhuǎn)氣設(shè)備可利用這部分盈余電能制備天然氣，這一部分天然氣可回流至對應(yīng)能源節(jié)點(diǎn)，降低整體的運(yùn)行成本，整體結(jié)構(gòu)見圖2。能源節(jié)點(diǎn)可分為自治型、非自治型能源節(jié)點(diǎn)兩類：自治型節(jié)點(diǎn)可視為區(qū)域能源網(wǎng)絡(luò)中的非活躍方，主網(wǎng)直接供能作為輔助手段；當(dāng)能源節(jié)點(diǎn)內(nèi)部負(fù)荷等級或發(fā)電單元規(guī)模出現(xiàn)明顯變化時，能源節(jié)點(diǎn)可由自治型能源節(jié)點(diǎn)轉(zhuǎn)化為受、供能節(jié)點(diǎn)為代表的非自治型節(jié)點(diǎn)，有能力與外界發(fā)生能量交互，從而參與動態(tài)調(diào)度。

圖2 能源節(jié)點(diǎn)內(nèi)部結(jié)構(gòu)

2 負(fù)荷預(yù)測策略

2.1 負(fù)荷特征

能源節(jié)點(diǎn)內(nèi)部組成及負(fù)荷量級各異，負(fù)荷呈現(xiàn)橫向及縱向周期性、強(qiáng)波動性、強(qiáng)歷史相關(guān)性三大特點(diǎn)：

1)橫向及縱向周期性。受日常用電習(xí)慣及工業(yè)用電場所生產(chǎn)特點(diǎn)的影響，能源節(jié)點(diǎn)的日負(fù)荷存在橫/縱向周期性。以星期作為單位橫向分析，同一區(qū)域能源網(wǎng)絡(luò)下各能源節(jié)點(diǎn)每周的工作日期間負(fù)荷與非工作日期間負(fù)荷呈現(xiàn)周期性；以星期作為時間單位縱向分析，每隔7天對應(yīng)日期的負(fù)荷存在周期性。

2)強(qiáng)波動性。能源節(jié)點(diǎn)自身規(guī)模多數(shù)較小，負(fù)荷波動性強(qiáng)。考慮到天氣、節(jié)假日等因素影響，負(fù)荷特征也會呈現(xiàn)劇烈變化。

3)強(qiáng)歷史相關(guān)性。通常相近日期因負(fù)荷組成及負(fù)荷類型具有強(qiáng)相似性，負(fù)荷曲線常呈現(xiàn)出相同的負(fù)荷分布規(guī)律，而相隔時間較長的歷史負(fù)荷數(shù)據(jù)，由于長時間尺度下負(fù)荷組成與負(fù)荷類型會因天氣、溫度等自然條件及人類建設(shè)活動等因素發(fā)生改變，結(jié)果呈現(xiàn)弱相似性。

由此，在選取歷史負(fù)荷數(shù)據(jù)進(jìn)行負(fù)荷預(yù)測時，應(yīng)盡量選擇離預(yù)測日期較近的歷史負(fù)荷數(shù)據(jù)作為參照，或提高相近日期歷史負(fù)荷數(shù)據(jù)對結(jié)果的貢獻(xiàn)度，從而達(dá)到更好的預(yù)測效果。綜上，在針對能源節(jié)點(diǎn)內(nèi)部負(fù)荷進(jìn)行精準(zhǔn)預(yù)測時，應(yīng)根據(jù)負(fù)荷特性選取合適的預(yù)測方法，并克服負(fù)荷特性所帶來的負(fù)面影響。

2.2 負(fù)荷預(yù)測策略

機(jī)器學(xué)習(xí)技術(shù)的迅猛發(fā)展，為負(fù)荷預(yù)測提供了嶄新的解決思路，其中集成學(xué)習(xí)受到了人們的青睞。在集成學(xué)習(xí)中每個獨(dú)立的小模型被稱作學(xué)習(xí)器，這些學(xué)習(xí)器單獨(dú)訓(xùn)練時受到訓(xùn)練算法限制，對數(shù)據(jù)的處理存在局限，學(xué)習(xí)器只在某一方面表現(xiàn)較為出色，而在針對其他情況處理則不是很完備[6]，這些獨(dú)立的學(xué)習(xí)器僅可視作與最終預(yù)測結(jié)果呈現(xiàn)弱相關(guān)度的模型，不能直接拿來進(jìn)行預(yù)測。集成學(xué)習(xí)將此種弱相關(guān)度的學(xué)習(xí)器整合，對于某一學(xué)習(xí)器可能出現(xiàn)的預(yù)測錯誤，通過學(xué)習(xí)器間的互補(bǔ)與相互糾錯，將結(jié)果優(yōu)化，最終輸出性能更為優(yōu)異的結(jié)果[7]，因此設(shè)計了一種基于Blending集成學(xué)習(xí)的IES負(fù)荷預(yù)測模型，如圖3所示。

圖3 基于Blending集成學(xué)習(xí)的多模型融合負(fù)荷預(yù)測模型

由圖3可知，基于Blending集成學(xué)習(xí)的多模型融合負(fù)荷預(yù)測步驟如下：

1)整合電力負(fù)荷及天氣數(shù)據(jù)得到負(fù)荷預(yù)測數(shù)據(jù)集。

2)把數(shù)據(jù)集按比例劃分為訓(xùn)練集、驗(yàn)證集與測試集三部分。采用KNN、SVR、GRU、Light-GBM 4種算法訓(xùn)練第一層的學(xué)習(xí)器(M1-M4)。

3)將第一層訓(xùn)練得到的模型用于預(yù)測驗(yàn)證集，得到Y(jié)M1-YM4 4組結(jié)果。將這一數(shù)據(jù)集用作第二層模型的訓(xùn)練集。

4)將第一層訓(xùn)練得到的模型用于預(yù)測測試集，得到ZM1-ZM4 4組結(jié)果。將這一數(shù)據(jù)集用作第二層模型的測試集。

5)采用LightGBM算法，訓(xùn)練第二層模型，測試后得到最終結(jié)果。

模型中整合多種子模型信息，以此獲得更為優(yōu)異的預(yù)測效果。第一層選取K最近鄰判別分析法(K-nearest neighbor，KNN)、門控循環(huán)單元網(wǎng)絡(luò)(gated recurrent unit networks, GRU)、支持向量回歸機(jī)(support vector regression，SVR)、LightGBM 4種算法對基學(xué)習(xí)器加以訓(xùn)練，第二層選取LightGBM訓(xùn)練元學(xué)習(xí)器，在第一層基礎(chǔ)上輸出預(yù)測結(jié)果。

選取KNN、SVR、GRU、LightGBM分別對基學(xué)習(xí)器1、2、3、4加以訓(xùn)練。KNN用于訓(xùn)練基學(xué)習(xí)器時，K值的選擇至關(guān)重要。K值較大時，泛化誤差減小但訓(xùn)練誤差增大，預(yù)測錯誤概率增加；K值較小時，訓(xùn)練誤差減小但泛化誤差增大，容易出現(xiàn)過擬合的情況；因此，在處理實(shí)際問題，依據(jù)樣本特點(diǎn)先選擇某一較小的K值，然后進(jìn)行交叉驗(yàn)證不斷修訂最終選取某一合適的值。

GRU是一種在循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network，RNN)及長短期記憶網(wǎng)絡(luò)(long short-term memory，LSTM)的基礎(chǔ)上構(gòu)建的遞歸神經(jīng)網(wǎng)絡(luò)[6]。門控單元賦予循環(huán)神經(jīng)網(wǎng)絡(luò)控制其內(nèi)部信息積累的能力，在學(xué)習(xí)時既能掌握長距離依賴又能選擇性地遺忘信息防止過載[7]。

GRU的門控單元僅包含更新門與重置門兩部分，針對長期狀態(tài)的取舍用兩個門結(jié)構(gòu)加以實(shí)現(xiàn)。GRU這種簡化結(jié)構(gòu)使得整體結(jié)構(gòu)更為簡潔，在保證精度的同時加快了收斂速度。

式中：zt、rt、xt—當(dāng)前時刻更新門、重置門及輸入狀態(tài)；

ht-1與ht—隱含層輸出狀態(tài)；

σsigmoid與φtan h—GRU激活函數(shù)；

Xz、Xr、Xh、Vz、Vr、Vh—權(quán)重矩陣。

SVR在處理樣本數(shù)據(jù)時，需要根據(jù)樣本數(shù)據(jù)的情況進(jìn)行分類討論從而得到最終結(jié)果。針對能源系統(tǒng)的負(fù)荷預(yù)測情況，由于訓(xùn)練集中的數(shù)據(jù)呈現(xiàn)非線性特征，故數(shù)據(jù)需要被映射至高維空間中，并求解對應(yīng)的回歸估計函數(shù)。

回歸估計函數(shù)g(x)如式(2)所示：

g(x)=θ·φ(x)+P

(2)

相關(guān)最優(yōu)化問題表示如下：

(3)

(4)

式中:θ—權(quán)值；

b—偏置;

τ—不敏感損失函數(shù);

C—懲罰系數(shù);

由于核函數(shù)可將線性不可分的數(shù)據(jù)映射至高維空間，使其線性可分，因此選取合適的核函數(shù)對提升模型預(yù)測精度具有重要意義。RBF核函數(shù)(radial basis function,RBF)泛化能力出色，受控參數(shù)少，故選取此種核函數(shù)映射樣本數(shù)據(jù)。

LightGBM是已有梯度提升決策樹 (gradient boosting decision tree，GBDT)的一種高效實(shí)現(xiàn)，是最新的一類梯度提升算法。LightGBM算法在已有梯度提升算法的基礎(chǔ)上做出改進(jìn)，其訓(xùn)練效率與準(zhǔn)確率更高、占用內(nèi)存更低，適用于大樣本高維度數(shù)據(jù)。

LightGBM中主要包含單邊梯度采樣(gradient-based one-side sampling，GOSS)與互斥特征綁定(exclusive feature bundling，EFB)兩種算法。GOSS在那些具有小梯度特征的樣本上實(shí)行隨機(jī)采樣，保留部分小梯度樣本a個，而梯度較大的b個樣本則全部保留。在實(shí)際處理中，為減小直接去除小梯度樣本對數(shù)據(jù)集本身分布的影響，計算信息增益時在小梯度數(shù)據(jù)的基礎(chǔ)上擴(kuò)至(1-a)/b倍，這樣可保證小梯度樣本參與到訓(xùn)練過程中，減少對數(shù)據(jù)集本身的影響。EFB則致力于采用特征捆綁的方式來減少特征。對于某些互斥特征可直接進(jìn)行捆綁，而對于某些不滿足完全互斥的特征，引入沖突比例這一參考變量，在沖突比例較小時對相應(yīng)特征采取合并。通過以上兩種方法的處理，數(shù)據(jù)量與特征量均得以減少，整體訓(xùn)練速度大大加快。

在決策樹生長策略上，已有的算法多采取按層生長的方式，而LightGBM則采取了按葉子生長的策略，并附加深度限制。已有算法在采取按層分裂時，對同一層的葉子不加以區(qū)分，這一過程產(chǎn)生的無效搜索與分裂不可避免。按葉子生長的策略則解決了這一問題，分裂時選取分裂增益最大的葉子進(jìn)行分裂。在相同的分裂次數(shù)下，按葉子生長的策略精度相較按層分裂的策略精度更高，然而這種按葉子生長的策略在處理實(shí)際問題時，容易長成較深的梯度樹，產(chǎn)生過擬合的情況。在控制分裂時，引入最大深度限制，防止出現(xiàn)過深決策樹的情況。生長策略對比如圖4所示。

圖4 生長策略對比

考慮到算法差異度越大，數(shù)據(jù)結(jié)構(gòu)及數(shù)據(jù)空間多樣性越顯著，各類模型可取長補(bǔ)短，提升預(yù)測性能，通過采用Pearson相關(guān)系數(shù)這一指標(biāo)衡量各基學(xué)習(xí)器的誤差關(guān)聯(lián)度：

(5)

針對模型做出性能評價時，采用多種評價指標(biāo)可有效反饋模型的波動狀況及預(yù)測結(jié)果的好壞，因此，負(fù)荷預(yù)測模型常采用均方根誤差(root mean square error，RMSE)這一評價指標(biāo)反饋模型波動情況，采用平均相對誤差(mean absolute percentage error，MAPE)這一評價指標(biāo)來反饋模型預(yù)測的好壞。RMSE及MAPE表示形式為

(6)

(7)

式中:zi—某一時刻的實(shí)際值;

選取ARIMA模型作為對照，比較傳統(tǒng)負(fù)荷預(yù)測模型與本文模型差異，如式(8)所示：

(8)

式中:p—自回歸項數(shù);

d—移動平均項數(shù);

q—化為平穩(wěn)時間序列需進(jìn)行差分次數(shù)。

3 算例仿真

選取歐洲ENTSO提供的2017年1月至2018年12月間瑞士電力負(fù)荷數(shù)據(jù)及對應(yīng)時刻天氣數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)，在此基礎(chǔ)上訓(xùn)練并評價該模型。對應(yīng)時刻天氣數(shù)據(jù)源自Dark Sky網(wǎng)站。數(shù)據(jù)采樣間隔以小時作為最小單位。依照具體平閏年的變動，每年數(shù)據(jù)采樣點(diǎn)個數(shù)會有所不同。模型預(yù)測時段介于2019年1月至12月，預(yù)測目標(biāo)為未來1 h電力負(fù)荷變化情況。本模型選取歷史負(fù)荷信息、天氣數(shù)據(jù)中的溫濕度數(shù)據(jù)、時間數(shù)據(jù)作為輸入。其中歷史負(fù)荷信息涵蓋前8 h歷史負(fù)荷數(shù)據(jù)，時間數(shù)據(jù)按照對應(yīng)月、日、小時、星期做出提取，分別作為特征輸入。歷史負(fù)荷數(shù)據(jù)中易被孤立的異常數(shù)據(jù)被剔除，視為缺失數(shù)據(jù)。所有的缺失數(shù)據(jù)依照默認(rèn)方法填充。為使各類特征貢獻(xiàn)分散稀疏，減少數(shù)據(jù)相互影響，采用獨(dú)熱編碼對月、日、小時、星期等特征作離散化處理。

超參數(shù)設(shè)置及調(diào)優(yōu)是模型性能提升及其重要的一環(huán)，針對不同的基學(xué)習(xí)器，本模型采用不同的調(diào)參方法尋找超參數(shù)最優(yōu)組合：例如基學(xué)習(xí)器3可在網(wǎng)格搜索基礎(chǔ)上結(jié)合交叉驗(yàn)證調(diào)參，基學(xué)習(xí)器4則可直接調(diào)用貝葉斯優(yōu)化庫對參數(shù)做出調(diào)整。

本文各類學(xué)習(xí)器超參數(shù)設(shè)置如下：

1)基學(xué)習(xí)器1 K值設(shè)為6；

2)基學(xué)習(xí)器2隱藏層設(shè)為2層，對應(yīng)神經(jīng)元數(shù)目分別為30，10；

3)基學(xué)習(xí)器3選取RBF核函數(shù)將負(fù)荷數(shù)據(jù)映射至高維空間，其系數(shù)初始值設(shè)為10-4，懲罰系數(shù)設(shè)為100；

4)基學(xué)習(xí)器4學(xué)習(xí)率設(shè)為0.1，樹的數(shù)目設(shè)為500，葉子數(shù)目設(shè)為32，葉子節(jié)點(diǎn)最小數(shù)據(jù)量設(shè)為150，最小分裂增益閾值設(shè)為1，樣本采樣比例設(shè)為0.8，列采樣比例設(shè)為0.8。

為尋求基學(xué)習(xí)器最優(yōu)組合，需要就本文智能算法預(yù)測誤差關(guān)聯(lián)程度展開分析，其結(jié)果如圖5所示。

圖5 本文算法預(yù)測誤差關(guān)聯(lián)程度

由圖5可知，由于各算法學(xué)習(xí)能力突出，難以避免在學(xué)習(xí)過程中引入訓(xùn)練數(shù)據(jù)本身存在的固有誤差，故基學(xué)習(xí)器模型整體預(yù)測誤差相關(guān)度較高，因此，在選擇算法時應(yīng)盡可能避免選取同源算法，例如在已選取GRU算法的情況下，盡可能避免選擇LSTM算法，選取的4種算法訓(xùn)練機(jī)理差異顯著，滿足算法多樣性要求，可在此基礎(chǔ)上構(gòu)建集成學(xué)習(xí)方案。

為評估所建模型性能，選取SVR模型及ARIMA模型作為對照，與所構(gòu)建的Blending集成學(xué)習(xí)模型進(jìn)行對比分析?？紤]到不同月份負(fù)荷特征差異較大，選取2019年2，5，8，10月分別繪制負(fù)荷預(yù)測曲線。由于各月時長不同，為便于結(jié)果進(jìn)行縱向?qū)Ρ?，各月僅繪制該月前25天負(fù)荷預(yù)測結(jié)果。仿真結(jié)果如圖6所示。

由圖6可知，各月負(fù)荷曲線總體趨勢差異明顯，2月負(fù)荷水平較高，而本文Blending集成學(xué)習(xí)模型預(yù)測效果明顯優(yōu)于基于統(tǒng)計學(xué)原理的ARIMA模型。相較于SVR這類單模型而言，Blending集成學(xué)習(xí)模型對負(fù)荷波動更敏感，與真實(shí)值曲線擬合程度較好。

圖6 2，5，8，10月前600 h負(fù)荷預(yù)測結(jié)果

采用RMSE、MAPE兩類參數(shù)對模型誤差加以評估，考慮到集成方式會對結(jié)果造成影響，設(shè)置一組基學(xué)習(xí)器僅集成LightGBM、SVR的對照模型。

由表1可知，本文所構(gòu)建的模型精度更高，誤差更小，優(yōu)于單模型負(fù)荷預(yù)測方案。這是因?yàn)榧蓪W(xué)習(xí)模型可有效整合各類算法的獨(dú)特優(yōu)勢，單模型預(yù)測較差的部分可經(jīng)多模型互補(bǔ)。模型誤差也有所不同，提升基學(xué)習(xí)器多樣性有助于提升精度。

表1 模型誤差對比

4 結(jié) 論

在已有結(jié)構(gòu)設(shè)計的基礎(chǔ)上，構(gòu)建了基于能源節(jié)點(diǎn)的綜合能源系統(tǒng)整體架構(gòu)，并在已有負(fù)荷預(yù)測模型基礎(chǔ)上，設(shè)計了基于Blending集成學(xué)習(xí)的IES負(fù)荷預(yù)測模型。該模型采用KNN，SVR，GRU，LightGBM 4種算法對基學(xué)習(xí)器加以訓(xùn)練，采用LightGBM這一算法訓(xùn)練元學(xué)習(xí)器。依照仿真結(jié)果，本文模型(RMSE=172.74 MW，MAPE=1.86%)預(yù)測效果明顯優(yōu)于ARIMA這一傳統(tǒng)負(fù)荷預(yù)測模型(RMSE=857.56 MW，MAPE=8.85%)。

相較于LightGBM(RMSE=210.61 MW，MAPE=2.25%)，SVR(RMSE=228.89 MW，MAPE=2.47%)等現(xiàn)有預(yù)測模型，Blending集成學(xué)習(xí)模型對負(fù)荷波動更為敏感，誤差更小。通過設(shè)置基學(xué)習(xí)器僅集成LightGBM與SVR的對照模型(RMSE=197.43 MW，MAPE=2.03%)，可知模型訓(xùn)練過程中提升基學(xué)習(xí)器的多樣性與差異性有助于提升模型預(yù)測精度。