宋技峰，彭小圣，楊子民，段睿欽，周彬彬，陳凱，王有香

（1. 強電磁工程與新技術(shù)國家重點實驗室（華中科技大學(xué)），電力安全與高效湖北省重點實驗室（華中科技大學(xué)），武漢 430074；2. 云南電力調(diào)度控制中心，昆明 650011）

0 引言

隨著“雙碳”目標(biāo)下新型電力系統(tǒng)建設(shè)的不斷推進(jìn)，風(fēng)電裝機規(guī)模持續(xù)上漲，不斷有新建風(fēng)電場并網(wǎng)發(fā)電。對于這些新建風(fēng)電場，由于其未積累充足的歷史運行數(shù)據(jù)，因而難以按照常規(guī)深度學(xué)習(xí)方法［1-4］直接訓(xùn)練完備的功率預(yù)測模型［5］。為解決這一問題，可以借助先進(jìn)的遷移學(xué)習(xí)手段［6-8］，為新建風(fēng)電場引入相關(guān)風(fēng)電場的歷史數(shù)據(jù)或完備的預(yù)訓(xùn)練模型。

對于風(fēng)電功率預(yù)測［9-11］，遷移學(xué)習(xí)的可遷移對象包括數(shù)據(jù)和模型。數(shù)據(jù)遷移本質(zhì)上是一種數(shù)據(jù)擴充手段，主要是采用相關(guān)性分析等方法從源風(fēng)電場篩選出大量符合目標(biāo)風(fēng)電場規(guī)律的相似歷史樣本，再將這些樣本視為目標(biāo)風(fēng)電場的歷史樣本，進(jìn)而獲取充足的歷史運行數(shù)據(jù)來訓(xùn)練功率預(yù)測模型。模型遷移則是采用參數(shù)賦值和微調(diào)復(fù)訓(xùn)練等方法將源風(fēng)電場訓(xùn)練好的完備功率預(yù)測模型遷移至目標(biāo)風(fēng)電場。

在深度學(xué)習(xí)預(yù)測建模上，時間卷積網(wǎng)絡(luò)-長短時記憶網(wǎng)絡(luò)（temporal convolutional network-long short term memory neural network， TCN-LSTM）是一種前沿的神經(jīng)網(wǎng)絡(luò)，其進(jìn)一步強化了對時序特征的解析能力［12-15］，近年來被逐漸應(yīng)用于時間序列預(yù)測問題［16-18］。本文選用TCN-LSTM 網(wǎng)絡(luò)作為預(yù)測建模的基本模型。

在風(fēng)電功率預(yù)測方法上，采用偏差補償方法對風(fēng)電功率的預(yù)測偏差進(jìn)行補償修正，能有效提升預(yù)測精度。偏差補償方法包含兩個由不同數(shù)據(jù)集訓(xùn)練的獨立網(wǎng)絡(luò)，分別對功率和偏差進(jìn)行預(yù)測，再將二者的預(yù)測結(jié)果疊加，進(jìn)而得到最終的功率預(yù)測結(jié)果。文獻(xiàn)［19］采用經(jīng)粒子群算法優(yōu)化的極端梯度提升法（extreme gradient boosting， Xgboost）作為功率預(yù)測模型，采用傳統(tǒng)隨機森林作為偏差補償模型。文獻(xiàn)［20］采用優(yōu)化后的循環(huán)卷積網(wǎng)絡(luò)作為功率預(yù)測模型，采用Xgboost 作為偏差補償模型。文獻(xiàn)［21］則采用極限學(xué)習(xí)機和多層感知機分別作為功率預(yù)測模型和偏差補償模型。不難發(fā)現(xiàn)，上述研究多側(cè)重于優(yōu)化功率預(yù)測模型，偏差補償模型則較為淺層，然而偏差序列中蘊含的信息與功率序列應(yīng)當(dāng)是同量級的。此外，在將該方法用于新建風(fēng)電場時，由于新建風(fēng)電場的歷史樣本不足，因而難以將樣本等分為兩份分別獨立微調(diào)兩個預(yù)測模型。

近年來數(shù)據(jù)遷移方面的前沿研究表明，將源域的數(shù)據(jù)按照相似度排序分批遷移，不同批次分別訓(xùn)練不同的網(wǎng)絡(luò)結(jié)構(gòu)，取得的效果優(yōu)于一次性遷移所有數(shù)據(jù)訓(xùn)練整個網(wǎng)絡(luò)。在此基礎(chǔ)上，文獻(xiàn)［5］進(jìn)一步提出了一種基于多層次數(shù)據(jù)遷移的風(fēng)電功率預(yù)測方法，采用相關(guān)性逐步增強的源域數(shù)據(jù)由淺入深地訓(xùn)練神經(jīng)網(wǎng)絡(luò)的各個隱層，并通過算例證實了這種分級遷移方式的有效性。然而在模型遷移方面，現(xiàn)階段的模型微調(diào)策略通常是采用目標(biāo)域的數(shù)據(jù)一次性地微調(diào)整個神經(jīng)網(wǎng)絡(luò)。這種方式在模型結(jié)構(gòu)簡單時能滿足需求。但隨著風(fēng)電功率預(yù)測模型深度的不斷增加，這種微調(diào)方式難以保證根據(jù)目標(biāo)域的特征有效地優(yōu)化整個神經(jīng)網(wǎng)絡(luò)。因此將數(shù)據(jù)遷移中由淺入深的網(wǎng)絡(luò)訓(xùn)練思想用于模型遷移，對模型進(jìn)行梯級微調(diào)，有望進(jìn)一步提升遷移模型的預(yù)測精度。

本文提出基于偏差補償TCN-LSTM 和梯級遷移策略的短期風(fēng)電功率預(yù)測方法，采用結(jié)構(gòu)相同的兩個TCN-LSTM 網(wǎng)絡(luò)分別作為源風(fēng)電場的功率預(yù)測模型和偏差補償模型，并采用模型并聯(lián)融合的方式構(gòu)造計及偏差的組合功率預(yù)測模型，提升了偏差補償方法在模型遷移上應(yīng)用的可行性，再采用梯級遷移策略逐級微調(diào)模型結(jié)構(gòu)，最后通過算例驗證了所提方法的優(yōu)勢。

1 基于偏差補償TCN-LSTM 和梯級遷移策略的短期風(fēng)電功率預(yù)測

1.1 總體框架

本文提出基于偏差補償TCN-LSTM 和梯級遷移策略的短期風(fēng)電功率預(yù)測方法，整體框架如圖1所示。該模型分為兩個階段，分別為：1）為源風(fēng)電場訓(xùn)練基于偏差補償TCN-LSTM 的風(fēng)電功率預(yù)測模型；2）采用目標(biāo)風(fēng)電場的數(shù)據(jù)對源風(fēng)電場的模型進(jìn)行梯級微調(diào)。

這兩個階段包含7個步驟。

1）步驟1，訓(xùn)練基于TCN-LSTM 的功率預(yù)測預(yù)訓(xùn)練模型。將源風(fēng)電場的歷史樣本劃分為兩份，分別記為訓(xùn)練集A 和數(shù)據(jù)集B。采用訓(xùn)練集A 為源風(fēng)電場訓(xùn)練基于TCN-LSTM的功率預(yù)測模型。

2）步驟2，為源風(fēng)電場訓(xùn)練基于TCN-LSTM的偏差補償模型。依據(jù)偏差補償方法，基于與步驟1 相同結(jié)構(gòu)的TCN-LSTM 網(wǎng)絡(luò)，采用數(shù)據(jù)集B 為源風(fēng)電場訓(xùn)練偏差補償模型。

3）步驟3，功率預(yù)測模型與偏差補償模型并聯(lián)融合。將步驟1 獲取的功率預(yù)測模型和步驟2 獲取的偏差補償模型并聯(lián)融合，構(gòu)成計及偏差的組合功率預(yù)測模型。

4）步驟4，將目標(biāo)風(fēng)電場的數(shù)據(jù)按照與源的相關(guān)性分為兩份?；谀繕?biāo)風(fēng)電場歷史樣本和源風(fēng)電場歷史樣本的相關(guān)性排序，將目標(biāo)風(fēng)電場的歷史樣本集分為二等分，分別構(gòu)成強相關(guān)數(shù)據(jù)集和弱相關(guān)數(shù)據(jù)集。

5）步驟5，采用強相關(guān)數(shù)據(jù)集對TCN 模塊進(jìn)行微調(diào)。本文采用的TCN-LSTM 模型包含兩個TCN 模塊和兩個LSTM 隱層。本步驟凍結(jié)除了第二個TCN 模塊以外的其他全部網(wǎng)絡(luò)結(jié)構(gòu)，采用步驟4所得強相關(guān)數(shù)據(jù)集對該TCN模塊進(jìn)行微調(diào)復(fù)訓(xùn)練。

6）步驟6，采用弱相關(guān)數(shù)據(jù)集對LSTM 模塊進(jìn)行微調(diào)。本步驟凍結(jié)除了第二個LSTM 隱層以外的其他全部網(wǎng)絡(luò)結(jié)構(gòu)，采用步驟4 所得弱相關(guān)數(shù)據(jù)集對該LSTM模塊進(jìn)行微調(diào)復(fù)訓(xùn)練。

7）步驟7，采用全部數(shù)據(jù)微調(diào)尾部全連接層。本步驟凍結(jié)尾部全連接層以外的其他全部網(wǎng)絡(luò)結(jié)構(gòu)，采用目標(biāo)風(fēng)電場的所有歷史樣本微調(diào)該尾部全連接層，最終得到目標(biāo)風(fēng)電場的功率預(yù)測模型。

1.2 基于偏差補償TCN-LSTM的預(yù)測模型

源風(fēng)電場是指區(qū)域內(nèi)與目標(biāo)風(fēng)電場高度相似的歷史數(shù)據(jù)充足的風(fēng)電場。由于源風(fēng)電場和目標(biāo)風(fēng)電場高度相似，因此可以將源風(fēng)電場的完備預(yù)測模型遷移至目標(biāo)風(fēng)電場。源風(fēng)電場的選擇參考文獻(xiàn)［5］。

1.2.1 TCN-LSTM功率預(yù)測模型

本文采用兩組TCN殘差塊和雙LSTM 隱層作為TCN-LSTM模型，具體結(jié)構(gòu)如圖2所示。

圖2 偏差補償TCN-LSTM模型結(jié)構(gòu)圖Fig. 2 Structure of TCN-LSTM model with deviation compensation module

LSTM 是當(dāng)前的主流時間序列預(yù)測模型，在風(fēng)電功率預(yù)測中能有效計及風(fēng)電序列的時間連續(xù)性；TCN則通過膨脹卷積抓取長時間特征，其跨層連接的模型結(jié)構(gòu)能在加快模型訓(xùn)練速度的同時避免原始信息丟失。采用TCN和LSTM 串聯(lián)結(jié)合的方式，能夠更有效地從數(shù)值天氣預(yù)報（numerical weather prediction，NWP） 數(shù)據(jù)中提取高階時序特征，過濾無用信息，并提高LSTM記憶單元的處理效率。

1.2.2 基于偏差補償?shù)墓β暑A(yù)測方法

偏差補償方法是指在預(yù)測功率時同時預(yù)測功率的偏差序列，再將預(yù)測功率序列和偏差序列疊加，進(jìn)而得到更為精準(zhǔn)的功率預(yù)測結(jié)果。偏差補償模型的訓(xùn)練過程如圖3所示，分為3個子步驟。

圖3 偏差補償模型的建模框架圖Fig. 3 Framework of modeling with deviation compensation module

1） 子步驟1，采用功率預(yù)測模型對數(shù)據(jù)集B 進(jìn)行功率預(yù)測。采用訓(xùn)練集A 訓(xùn)練的TCN-LSTM 功率預(yù)測模型對數(shù)據(jù)集B 進(jìn)行功率預(yù)測，獲取數(shù)據(jù)集B的預(yù)測功率。

2） 子步驟2，計算獲取預(yù)測偏差序列。預(yù)測偏差序列等于真實測量功率減去預(yù)測功率。

3） 子步驟3，訓(xùn)練偏差補償模型。該模型的輸入NWP 特征和訓(xùn)練集A 訓(xùn)練的功率預(yù)測模型一致，均為空間風(fēng)資源，模型輸出為子步驟2 獲取的預(yù)測偏差序列。

1.2.3 基于并聯(lián)融合方法的偏差補償模型

階段一源風(fēng)電場預(yù)測建模環(huán)節(jié)采用結(jié)構(gòu)相同的TCN-LSTM 分別訓(xùn)練功率預(yù)測模型和偏差補償模型。在輸入上兩個TCN-LSTM 模型一致，均為空間風(fēng)資源。在輸出上兩個模型的輸出結(jié)果直接相加即為最終預(yù)測功率。因此可以將兩個模型并聯(lián)融合，構(gòu)成計及偏差的組合功率預(yù)測模型。

本文所提的模型并聯(lián)融合的方式對于新建風(fēng)電場具有較高的有效性。對于新建風(fēng)電場而言，若不進(jìn)行模型融合，則需要采用兩套獨立的數(shù)據(jù)集分別微調(diào)功率預(yù)測模型和偏差補償模型。將兩個獨立的模型視為兩個子模塊組合成一個網(wǎng)絡(luò)，進(jìn)而僅采用一套數(shù)據(jù)集便可對兩個模塊同時進(jìn)行微調(diào)，避免了對新建風(fēng)電場歷史數(shù)據(jù)集的分割，使得偏差補償方法能被用于新建風(fēng)電場的功率預(yù)測建模。

1.3 基于梯級遷移策略的風(fēng)電功率預(yù)測方法

在獲取源風(fēng)電場完備的計及偏差的組合功率預(yù)測模型后，采用目標(biāo)風(fēng)電場的少量歷史樣本對其進(jìn)行微調(diào)，進(jìn)而將預(yù)測模型遷移至目標(biāo)風(fēng)電場。

本文采用與源域相關(guān)性較高的通用數(shù)據(jù)和相關(guān)性較低的獨有數(shù)據(jù)分別微調(diào)復(fù)訓(xùn)練功率預(yù)測模型的前部和后部特征層。本文所提梯級遷移策略如圖4所示。

圖4 基于梯級遷移策略的短期風(fēng)電功率預(yù)測方法框架圖Fig. 4 Framework of short-term wind power prediction method based on step transfer strategy

首先根據(jù)目標(biāo)風(fēng)電場歷史樣本與源風(fēng)電場歷史樣本之間的相關(guān)性將目標(biāo)風(fēng)電場的歷史樣本等分為強相關(guān)數(shù)據(jù)集和弱相關(guān)數(shù)據(jù)集；再進(jìn)行三級逐步微調(diào)，用強相關(guān)數(shù)據(jù)集微調(diào)TCN 模塊、用弱相關(guān)數(shù)據(jù)集微調(diào)LSTM 模塊、用全部樣本微調(diào)尾部全連接層；最終得到遷移后的目標(biāo)風(fēng)電場計及偏差的組合功率預(yù)測模型。

在對TCN或LSTM 模塊進(jìn)行微調(diào)時，凍結(jié)位于前部的TCN殘差塊或LSTM 隱層，只微調(diào)位于后部的TCN殘差塊或LSTM 隱層。這是因為在模型遷移中同種特征模塊的淺層隱層被證明主要包含適用于不同數(shù)據(jù)集的通用特征，而各數(shù)據(jù)集的獨有特征則更多地被深層隱層記載。

2 算例分析

本文選取某地的兩個相關(guān)風(fēng)電場進(jìn)行算例分析，算例分析部分使用數(shù)據(jù)長度共830 d，時間分辨率為1 h。本文的預(yù)測預(yù)見期為12 h，采用《Q/GDW 10588—2015》標(biāo)準(zhǔn)［22］推薦的均方根誤差（root mean squared error，RMSE，其值用RMSE表示）和平均絕對誤差（mean absolute error，MAE，其值用MAE表示）作為風(fēng)電功率預(yù)測的誤差評價指標(biāo)。其計算公式分別如公式（1）—（2）所示。

式中：yi為i時刻的歸一化功率預(yù)測實際值；y?i為i時刻的歸一化功率預(yù)測值；N為測試集中數(shù)據(jù)樣本的數(shù)量；ymax為功率最大值，代表歸一化過程的作用。

下列每節(jié)將先介紹對照組的模型結(jié)構(gòu)、遷移策略，再給出各方法的預(yù)測結(jié)果。

2.1 目標(biāo)風(fēng)電場樣本分布

在遷移學(xué)習(xí)階段，目標(biāo)風(fēng)電場的少量樣本需要依照與原風(fēng)電場的相關(guān)性等分為兩份。由于源風(fēng)電場樣本與目標(biāo)風(fēng)電場樣本序列長度不同，在相關(guān)性計算部分，動態(tài)時間規(guī)整（dynamic time warping，DTW）算法將用于計算樣本之間的距離［23］。在本節(jié)中來自目標(biāo)風(fēng)電場的50 d 數(shù)據(jù)按照NWP 的更新周期12 h 被分成100 個樣本，其基于DTW 距離的分布如圖5 所示。其中目標(biāo)風(fēng)電場樣本和源風(fēng)電場樣本間的DTW 距離在8 000~12 500之間。根據(jù)梯級遷移策略定義，目標(biāo)風(fēng)電場樣本中中距離大于9 658 的樣本為強相關(guān)性樣本，其余則為弱相關(guān)性樣本。

圖5 基于DTW距離的目標(biāo)風(fēng)電場樣本分布Fig. 5 Sample distribution of the target wind farm based on DTW distance

2.2 深度學(xué)習(xí)方法比較

2.2.1 對照組設(shè)置

在本節(jié)中用作算例分析的模型參數(shù)如表1 所示，本節(jié)主要用于選出預(yù)測精確度高的深度學(xué)習(xí)模型，選出的模型在之后的研究中將用作遷移學(xué)習(xí)的基本模型。

表1 基本深度學(xué)習(xí)模型參數(shù)Tab. 1 Parameters of basic deep learning models

2.2.2 預(yù)測誤差結(jié)果比較

從圖6 和表2 中可發(fā)現(xiàn)TCN-LSTM 模型的預(yù)測RMSE 和MAE 都最小，意味著TCN-LSTM 在特征提取和非線性擬合能力上比其他的對照組神經(jīng)網(wǎng)絡(luò)卷積神經(jīng)網(wǎng)絡(luò)-LSTM（convolutional neural network-LSTM，CNN-LSTM）、LSTM、TCN 更具優(yōu)勢。其RMSE 誤差值相比與傳統(tǒng)模型下降0.08%~0.24%。所以在接下來的遷移學(xué)習(xí)策略算例分析中將采用TCN-LSTM神經(jīng)網(wǎng)絡(luò)作為基礎(chǔ)模型。

表2 基本深度學(xué)習(xí)模型直接建模預(yù)測誤差對比Tab. 2 Comparison of prediction errors in direct modeling of basic deep learning models

圖6 基本深度學(xué)習(xí)模型直接建模預(yù)測誤差曲線Fig. 6 Prediction error curves by direct modeling of basic deep learning models

2.3 基于偏差補償模型遷移學(xué)習(xí)預(yù)測結(jié)果分析

2.3.1 對照組設(shè)置

在本節(jié)中用作算例分析的模型參數(shù)如表3 所示，本節(jié)主要用于通過誤差曲線算例比較證明所提的偏差補償模塊在新建風(fēng)電場遷移學(xué)習(xí)功率預(yù)測中的有效性。

表3 不同遷移學(xué)習(xí)模型參數(shù)Tab. 3 Parameters of deep learning models with different transfer learning strategies

2.3.2 預(yù)測誤差結(jié)果比較

圖7 和表4 中可以發(fā)現(xiàn)：1） TCN-LSTM 相比于CNN-LSTM 模型在遷移學(xué)習(xí)中也具有更好的表現(xiàn)。2） 通過遷移學(xué)習(xí)能夠有效提高新建風(fēng)電場的功率預(yù)測精度，例如TCN-LSTM-直接遷移模型相比于TCN-LSTM 模型直接預(yù)測進(jìn)度提升0.84%。3）誤差偏差補償結(jié)構(gòu)能有效地提高風(fēng)電功率遷移學(xué)習(xí)的預(yù)測精度，例如TCN-LSTM 補償遷移模型預(yù)測精度相比于TCN-LSTM 直接遷移模型，RMSE 預(yù)測誤差減小了0.21%，CNN-LSTN-補償遷移模型相比于CNN-LSTM-直接遷移模型RMSE 預(yù)測誤差下降了0.17%。

表4 基于不同遷移學(xué)習(xí)模型的預(yù)測誤差對比Tab. 4 Comparison of prediction errors based on models with different transfer learning models

圖7 基于不同遷移學(xué)習(xí)模型的預(yù)測誤差曲線Fig. 7 Prediction error curves based on models with different transfer learning models

2.4 基于梯級遷移策略的預(yù)測功率比較分析

2.4.1 對照組設(shè)置

在本節(jié)中用作算例分析的模型參數(shù)如表5 所示，本節(jié)主要用于通過預(yù)測功率與實際功率曲線算例比較證明所提的梯級遷移策略在基于TCN-LSTM深度學(xué)習(xí)模型的新建風(fēng)電場遷移學(xué)習(xí)功率預(yù)測中的有效性。

2.4.2 預(yù)測功率結(jié)果比較

從圖8 和表6 可以發(fā)現(xiàn)：梯級遷移方法相比傳統(tǒng)的單步遷移方法能有效提高遷移學(xué)習(xí)的目標(biāo)任務(wù)特征提取能力，提高預(yù)測精度。TCN-LSTM-補償梯級遷移模型相比于TCN-LSTM-補償遷移模型RMSE預(yù)測誤差減小0.18%。

表6 基于不同遷移學(xué)習(xí)策略的模型預(yù)測誤差對比Tab. 6 Comparison of prediction errors based on models with different transfer learning strategies

圖8 基于不同遷移學(xué)習(xí)策略的模型預(yù)測誤差曲線Fig. 8 Prediction error curves based on models with different transfer learning strategies

圖9 中（b）、（c）、（d）子圖是（a）主圖的部分截取放大。從圖9 中可以看出采用梯級補償遷移的模型表現(xiàn)優(yōu)于采用傳統(tǒng)遷移學(xué)習(xí)方法的模型。通過補償梯級遷移模型/補償遷移模型，補償遷移模型/直接遷移模型兩組對照比較，梯級遷移策略和偏差補償模塊的應(yīng)用都有效地提升了遷移學(xué)習(xí)預(yù)測精度。

圖9 基于TCN-LSTM不同遷移策略的預(yù)測功率曲線對比Fig. 9 Comparison of predicted power curves based on TCN-LSTM with different transfer strategies

3 結(jié)論

本文提出了基于偏差補償TCN-LSTM 和梯級遷移策略的短期風(fēng)電功率預(yù)測，通過3 組比較算例驗證了所提出方法的有效性。本文的主要結(jié)論如下。

1） 本文提出的加入偏差補償模塊以及梯級遷移策略的TCN-LSTM 模型相較基于傳統(tǒng)遷移學(xué)習(xí)策略的模型以及單獨建模的方法，其短期風(fēng)電預(yù)測精度有明顯的提升?；谄钛a償TCN-LSTM 和梯級遷移策略的短期風(fēng)電功率預(yù)測模型相比于使用不足數(shù)據(jù)直接預(yù)測的TCN-LSTM、CNN-LSTM、LSTM、TCN 模型在12h 預(yù)測中精度分別提高1.23%、1.31%、1.46%、1.47%。

2） 在對新建風(fēng)電場短期風(fēng)電功率進(jìn)行遷移學(xué)習(xí)預(yù)測的過程中，誤差補償模塊的加入有效提高了遷移學(xué)習(xí)預(yù)測精度。加入誤差補償模塊的TCN-LSTM 和CNN-LSTM 模型相較于單獨的同類預(yù)測模型可分別提高0.21%，0.17%的短期預(yù)測精度。

3） 相較于傳統(tǒng)的單步遷移學(xué)習(xí)方法，本文所提梯級遷移學(xué)習(xí)策略能夠與誤差補償模塊共同應(yīng)用于遷移學(xué)習(xí)中，并有效提高短期風(fēng)電功率預(yù)測精度。其中TCN-LSTM-補償梯級遷移模型相比于TCN-LSTM-補償遷移模型預(yù)測精度提高了0.18%。