王陳恩，殷豪，陳順，許炫淙，朱梓彬，孟安波

(廣東工業(yè)大學(xué)自動化學(xué)院，廣州510006)

0 引言

為實現(xiàn)“碳達(dá)峰”及“碳中和”，中國在2020年氣候雄心峰會上提出了2030年前風(fēng)電、光電裝機(jī)容量超過1 200 GW的目標(biāo)[1]。這預(yù)示著未來風(fēng)電等新能源并網(wǎng)容量將會逐年增長。而風(fēng)電具有很強(qiáng)的隨機(jī)性和波動性，將對電網(wǎng)的備用容量、電壓穩(wěn)定及無功補(bǔ)償造成較大的影響，危及電網(wǎng)的安全穩(wěn)定運行。準(zhǔn)確的風(fēng)電功率預(yù)測顯得尤為重要，但新建風(fēng)電場的歷史運行數(shù)據(jù)較少，難以準(zhǔn)確預(yù)測，使得其考核計劃難以完成，給電網(wǎng)、風(fēng)電場帶來了損失[2]。因此，提高少數(shù)據(jù)風(fēng)電場的功率預(yù)測精度具有非常重要的現(xiàn)實意義。

風(fēng)電功率預(yù)測分為物理模型[3]和統(tǒng)計模型[4]，物理模型主要使用氣象數(shù)據(jù)和物理因素預(yù)測未來功率，理論基礎(chǔ)堅實、性能優(yōu)異，因此在實踐中得到了廣泛的應(yīng)用，但是物理模型對數(shù)據(jù)質(zhì)量的要求較高[5 - 6]。而基于數(shù)據(jù)驅(qū)動的統(tǒng)計學(xué)模型，如支持向量機(jī)、極限學(xué)習(xí)機(jī)等，計算效率較高、模型簡單。隨著人工智能技術(shù)的發(fā)展，非線性擬合能力更強(qiáng)的深度學(xué)習(xí)模型也被應(yīng)用于風(fēng)電功率預(yù)測領(lǐng)域，如門控循環(huán)單元網(wǎng)絡(luò)[7 - 8](gated recurrent unit networks, GRU)、卷積神經(jīng)網(wǎng)絡(luò)[9 - 10](convolutional neural network, CNN)、長短期記憶網(wǎng)絡(luò)[11 - 12](long short-term memory networks, LSTM)等。但上述方法均是針對數(shù)據(jù)完備的風(fēng)電場，并不適用于運行時間較短的新建風(fēng)電場。

僅考慮少數(shù)據(jù)風(fēng)電場本身時，數(shù)據(jù)缺少的缺陷難以解決，不利于預(yù)測精度的提升。在少數(shù)據(jù)預(yù)測方面，文獻(xiàn)[13]嘗試使用生成對抗網(wǎng)絡(luò)實現(xiàn)光伏功率預(yù)測，但使用生成對抗網(wǎng)絡(luò)生成時間序列數(shù)據(jù)容易出現(xiàn)生成樣本多樣性差以及模式崩潰等問題。文獻(xiàn)[14 - 16]使用遷移學(xué)習(xí)實現(xiàn)了少數(shù)據(jù)風(fēng)電功率的預(yù)測，并取得了不錯的預(yù)測效果，但遷移學(xué)習(xí)對源風(fēng)電場的選取要求較高，并非所有風(fēng)電場都擁有合適的源風(fēng)電場。若在風(fēng)電功率預(yù)測中，考慮風(fēng)電場間存在的空間相關(guān)性，有效利用鄰近風(fēng)電場的特征，可以有效的改善少數(shù)據(jù)風(fēng)電場功率預(yù)測存在的不足。文獻(xiàn)[17 - 19]采用數(shù)值天氣預(yù)報，結(jié)合皮爾遜相關(guān)系數(shù)等方法篩選鄰近風(fēng)電場的特征，獲得了較好的預(yù)測效果。文獻(xiàn)[20]采用CNN提取風(fēng)電場內(nèi)不同點位的關(guān)系，實現(xiàn)了風(fēng)電場內(nèi)多點位的風(fēng)速預(yù)測。

在空間相關(guān)性預(yù)測方面已有大量的研究，但大多使用的是相關(guān)系數(shù)法，或采用其他較為復(fù)雜的數(shù)理統(tǒng)計方法[21 - 22]，并且鄰近風(fēng)電場的影響程度沒有根據(jù)實際運行狀況進(jìn)行動態(tài)的調(diào)整。為提升少數(shù)據(jù)風(fēng)電場功率預(yù)測的精度，本文提出了一種基于空間注意力機(jī)制(spatial attention mechanism, SA)和GRU-CSO的短期風(fēng)電功率預(yù)測方法。采用空間注意力機(jī)制實現(xiàn)鄰近風(fēng)電場影響程度的自適應(yīng)提取，同時根據(jù)影響程度賦予不同的權(quán)重，最后根據(jù)訓(xùn)練效果，采用縱橫交叉算法[23](crisscross optimization algorithm, CSO)優(yōu)化GRU模型的部分參數(shù)。

1 空間注意力機(jī)制

注意力機(jī)制[24 - 25]與人眼的視覺功能相似，在執(zhí)行相應(yīng)任務(wù)時會削弱冗余信息，將視線聚焦于影響因素較大的特征上。

為彌補(bǔ)少數(shù)據(jù)目標(biāo)風(fēng)電場數(shù)據(jù)不足的缺陷，獲得不同風(fēng)電場每一時刻對目標(biāo)風(fēng)電場的影響程度，本文采用了一種作用于不同風(fēng)電場維度的空間注意力機(jī)制。通過空間注意力量化提取鄰近風(fēng)電場對目標(biāo)風(fēng)電場的影響程度?？臻g注意力的輸入矩陣X由不同風(fēng)電場特征信息構(gòu)成，且輸入矩陣X=[D1,D2, …,Dm]，Dm表示第m個風(fēng)電場從t-1到t-n時刻不同特征構(gòu)成的矩陣。Dm的表達(dá)式如式(1)所示。

(1)

由于神經(jīng)網(wǎng)絡(luò)具備強(qiáng)大自學(xué)習(xí)能力，利用神經(jīng)網(wǎng)絡(luò)構(gòu)建空間注意力能夠自適應(yīng)地量化鄰近風(fēng)電場對目標(biāo)少數(shù)據(jù)風(fēng)電場的影響程度，圖1為本文采用神經(jīng)網(wǎng)絡(luò)搭建的空間注意力結(jié)構(gòu)。

圖1 空間注意力Fig.1 Spatial attention

結(jié)合圖1可知，輸入X在空間注意力中的計算如式(2)—(4)所示。

w=f(WX+b)

(2)

(3)

X*=X⊙a(bǔ)

(4)

式中：W、b為空間注意力中全連接層的權(quán)重和偏置；f(·)為激活函數(shù)；w為未歸一化的風(fēng)電場權(quán)重；αi為歸一化后的風(fēng)電場權(quán)重；X*為空間加權(quán)后的風(fēng)電場序列；且滿足以下關(guān)系：w=[w1,w2,…,wi…,wm]和α=[α1,α2,…,αi…,αm]。

將α與X對應(yīng)位置相乘，即得到具有不同空間關(guān)注度的序列X*，X*的具體形式如式(5)所示。

X*=[α1D1,α2D2,…,αmDm]

(5)

式中：α為鄰近風(fēng)電場與目標(biāo)風(fēng)電場影響程度的量化值，下標(biāo)1～m代表不同風(fēng)電場；X*為考慮空間影響程度后的序列。在X*中，不同風(fēng)電場的特征均獲得了與目標(biāo)風(fēng)電場影響程度相對應(yīng)的權(quán)重，由此實現(xiàn)了鄰近風(fēng)電場與目標(biāo)風(fēng)電場影響程度上的量化。最后將X*作為GRU預(yù)測模型的輸入。

2 考慮鄰近風(fēng)電場的風(fēng)電功率預(yù)測模型

2.1 門控循環(huán)網(wǎng)絡(luò)

風(fēng)電功率序列作為一種時序數(shù)據(jù)存在較強(qiáng)的時間關(guān)聯(lián)性，而GRU善于處理時間序列問題。與LSTM一樣，GRU同樣可以消除傳統(tǒng)循環(huán)神經(jīng)網(wǎng)絡(luò)所存在的梯度消失及長期依賴問題，并且具備更少的訓(xùn)練參數(shù)[26 - 27]，圖2為GRU的基本結(jié)構(gòu)。

圖2 GRU結(jié)構(gòu)Fig.2 Structure of GRU

以空間注意力的輸出X*作為GRU輸入，當(dāng)輸入t-1時刻的風(fēng)電序列時，根據(jù)GRU前向傳播公式(6)可以得到t時刻的輸出yt。

(6)

式中：rt為GRU的更新門；zt為GRU的重置門；Wz、Wr、WH、Uz、Ur、Uh均為不同的權(quán)重參數(shù)矩陣；br、bz、bh均為不同的偏置參數(shù)矩陣；?為矩陣乘法；σ為Sigmoid函數(shù)。

2.2 縱橫交叉算法

縱橫交叉算法是一種啟發(fā)式優(yōu)化算法，具有縱向和橫向兩個維度的交叉方式。少數(shù)據(jù)風(fēng)電場歷史數(shù)據(jù)較少，可能令模型在訓(xùn)練過程中陷入局部最優(yōu)。為進(jìn)一步提升模型的預(yù)測性能，在預(yù)測模型初步訓(xùn)練后，采用CSO算法繼續(xù)優(yōu)化模型中GRU輸出層的權(quán)值和偏置參數(shù)構(gòu)成的參數(shù)矩陣θ，如式(7)所示。

θ=[Wz,Wr,Wh,Uz,Ur,Uh,bz,br,bh]

(7)

CSO算法以初步訓(xùn)練后的GRU輸出層的權(quán)值和偏置參數(shù)形成的矩陣θ為初始值，經(jīng)過多次迭代后，即得到更優(yōu)的輸出層參數(shù)矩陣θ*。參數(shù)矩陣θ在CSO中的具體尋優(yōu)過程如下。

1)橫向交叉

參數(shù)中的父代粒子θ(i)和θ(j)隨機(jī)選擇第n維相互交叉得到子代Shc，計算公式如式(8)所示。

(8)

式中r1、r2和c1、c2分別為(0,1)和(-1,1)的隨機(jī)數(shù)。

2)縱向交叉

參數(shù)中的父代粒子θ(q)隨機(jī)選擇第v維和第k維相互交叉得到子代Svc，計算公式如式(9)所示。

Svc(q,v)=r·θ(q,v)+(1-r)·θ(q,k)

(9)

式中r為(0,1)的隨機(jī)數(shù)。

在每次縱向、橫向交叉后，都會計算適應(yīng)度函數(shù)，結(jié)合GRU模型的損失函數(shù)，在此選用均方誤差(mean square error, MSE)作為CSO的適應(yīng)度函數(shù)，如式(10)所示。在多次橫向交叉和縱向交叉交替過程中，令粒子向適應(yīng)度函數(shù)最小的方向移動，即可得到更優(yōu)的輸出層參數(shù)矩陣θ*。

(10)

2.3 實驗流程及參數(shù)設(shè)置

本文提出的考慮鄰近風(fēng)電場空間耦合的少數(shù)據(jù)風(fēng)電功率預(yù)測方法流程如圖3所示，步驟如下。

1)數(shù)據(jù)預(yù)處理階段，首先對風(fēng)向數(shù)據(jù)進(jìn)行正余弦處理，再對所有特征做歸一化處理，劃分訓(xùn)練集和測試集；

2)利用訓(xùn)練集對模型進(jìn)行訓(xùn)練，得到初步訓(xùn)練好的預(yù)測模型；

3)采用CSO算法優(yōu)化步驟2)訓(xùn)練所得模型中的GRU參數(shù)，以獲取最終的預(yù)測模型；

4)使用測試集進(jìn)行測試，并通過所選評價指標(biāo)分析預(yù)測模型的性能。

圖3 預(yù)測方法流程圖Fig.3 Flow diagram of prediction method

針對少數(shù)據(jù)風(fēng)電功率難以準(zhǔn)確預(yù)測的問題，本文提出了考慮鄰近風(fēng)電場空間耦合關(guān)系的少數(shù)據(jù)風(fēng)電場功率預(yù)測方法SA-GRU-CSO，通過鄰近風(fēng)電場的歷史信息來幫助少數(shù)據(jù)風(fēng)電場提升功率預(yù)測的精度。圖4為該方法對應(yīng)的預(yù)測模型。

圖4 SA-GRU-CSO預(yù)測模型Fig.4 The SA-GRU-CSO prediction model

本文采用兩層GRU結(jié)構(gòu)，分別設(shè)置為4和8，激活層采用ReLU函數(shù)，經(jīng)GRU提取信息后，進(jìn)入全連接層，全連接層神經(jīng)元數(shù)為16，激活函數(shù)為ReLU函數(shù)，最終得到了預(yù)測結(jié)果ypred。實驗中，設(shè)置迭代次數(shù)250次，采用Adam優(yōu)化算法，損失函數(shù)為MSE函數(shù)，設(shè)置學(xué)習(xí)率為0.02，并將輸入時間步長設(shè)置為5。根據(jù)實驗驗證，設(shè)置CSO的粒子種群數(shù)為25，縱向交叉率為0.6，橫向交叉率為1，迭代次數(shù)為200。

3 算例分析

為驗證所提方法的有效性，本文選取了位于內(nèi)蒙古地區(qū)的4個風(fēng)電場為實驗對象，風(fēng)電場詳情如表1所示。本文以1號風(fēng)電場為目標(biāo)風(fēng)電場，表2為1號風(fēng)電場與其他鄰近風(fēng)電場輸出功率的Pearson相關(guān)系數(shù)。風(fēng)電場功率和天氣數(shù)據(jù)分辨率為1 h，時間段為2018/12/16/00:00—2019/01/29/23:00，共計45 d。結(jié)合該地區(qū)的風(fēng)力發(fā)電機(jī)高度，選取了70 m水平高度的風(fēng)速、風(fēng)向和溫度數(shù)據(jù)。

表1 風(fēng)電場情況Tab.1 Information of each wind farm

實驗算例中共有風(fēng)電場樣本數(shù)據(jù)1 080組，在后續(xù)所有實驗中，均選取前15 d的360組樣本作為訓(xùn)練集，后30 d的720組樣本作為測試集。

為減小不同特征因量綱不同帶來的影響，不同特征采取不同的處理方法。對于風(fēng)向數(shù)據(jù)，首先采用正弦和余弦函數(shù)處理，再將處理后的風(fēng)向數(shù)據(jù)與風(fēng)速和溫度特征根據(jù)式(11)作歸一化處理。

(11)

式中：ui*為第i個特征歸一化后的值；ui為第i個特征；ui.min、ui.max分別為第i個特征的極小值和極大值。

經(jīng)過歸一化和正余弦函數(shù)處理后，每一組數(shù)據(jù)包含目標(biāo)風(fēng)電場和鄰近風(fēng)電場的功率、風(fēng)速、溫度、風(fēng)速正弦和風(fēng)速余弦數(shù)據(jù)。

3.1 評價指標(biāo)

參照國家能源局的風(fēng)電功率預(yù)測標(biāo)準(zhǔn)[28]，本文選取平均絕對誤差(mean absolute error, MAE)EMAE和均方根誤差(root mean square error, RMSE)ERMSE作為實驗結(jié)果的評價指標(biāo),如式(12)—(13)所示。由式(12)—(13)可知，EMAE和ERMSE的值越接近于0，預(yù)測的準(zhǔn)確性越高。

(12)

(13)

3.2 空間注意力有效性驗證

為研究空間注意力對少數(shù)據(jù)風(fēng)電場預(yù)測模型的作用效果以及本文所提模型的性能，分別考慮不同的預(yù)測方法，單步滾動預(yù)測未來3天的風(fēng)電序列。

方法1僅考慮對少數(shù)據(jù)風(fēng)電場本身進(jìn)行預(yù)測，方法2、3采用Pearson相關(guān)系數(shù)選取相關(guān)性較大的風(fēng)電場進(jìn)行預(yù)測，方法4考慮對鄰近的所有風(fēng)電場進(jìn)行預(yù)測，且4種方法均采用GRU進(jìn)行預(yù)測。SA-GRU為本文所提方法。表2為各實驗的評價指標(biāo)結(jié)果，圖5為空間注意力分別賦予不同風(fēng)電場特征的權(quán)重。

表2 不同預(yù)測方法的指標(biāo)結(jié)果Tab.2 Index results of different prediction methods

從表2可以看出，鄰近風(fēng)電場特征數(shù)據(jù)的使用可以有效提升少數(shù)據(jù)風(fēng)電場的預(yù)測精度。相比于方法1，方法2、3、4的ERMSE指標(biāo)下降了4.43%、5.39%和16.43%，EMAE分別下降了4.37%、4.93%和14.70%。由方法4與本文所提模型SA-GRU比較可知，對鄰近風(fēng)電場的影響程度，采用空間注意力量化能夠有效地提升少數(shù)據(jù)風(fēng)電場的功率預(yù)測精度，其ERMSE指標(biāo)下降了41.87%，EMAE下降了46.37%。

圖5為本文所提的SA-GRU預(yù)測方法中，空間注意力給予不同風(fēng)電場的平均權(quán)重。1、2、3、4號風(fēng)電場的權(quán)重分別為0.562、0.122、0.197和0.119。從圖5中可以看出，鄰近風(fēng)電場的影響程度與相關(guān)系數(shù)的大小并不一致。1號目標(biāo)風(fēng)電場于2號鄰近風(fēng)電場的海拔相差近25 m，與3號風(fēng)電場處于同一海拔高度上，這可能是受到風(fēng)電場間地形因素的影響導(dǎo)致3號風(fēng)電場的權(quán)重更大。而1號風(fēng)電場與4號風(fēng)電場直線距離61 km，海拔相差近350 m，地形差異的存在使4號風(fēng)電場的權(quán)重最小。實驗結(jié)果表明空間注意力能夠有效量化鄰近風(fēng)電場對目標(biāo)風(fēng)電場的影響程度，提升少數(shù)據(jù)風(fēng)電場的功率預(yù)測精度。

圖5 空間注意力給予不同風(fēng)電場的權(quán)重Fig.5 The weights given to different wind farms by spatial attention

3.3 縱橫交叉算法有效性驗證

為驗證縱橫交叉算法優(yōu)化SA-GRU中GRU輸出層的權(quán)值和偏重的可行性。本節(jié)對訓(xùn)練后的單步和多步滾動預(yù)測模型采用CSO算法進(jìn)行優(yōu)化，并與未優(yōu)化的模型進(jìn)行對比分析。表3為優(yōu)化前后的指標(biāo)結(jié)果，圖6為CSO優(yōu)化后的功率曲線圖。

從表3可以看出，經(jīng)過CSO優(yōu)化輸出層的權(quán)值和偏置參數(shù)后，預(yù)測模型的ERMSE、EMAE評價指標(biāo)均得到了不同程度的提升。特別是在三步預(yù)測時，相對于不使用CSO優(yōu)化的預(yù)測模型，ERMSE和EMAE指標(biāo)分別下降了12.10%、17.26%。在單步預(yù)測時提升率較低，表明單步預(yù)測時，常規(guī)的梯度下降訓(xùn)練已經(jīng)取得了不錯的效果。實驗結(jié)果表明，在模型訓(xùn)練后再次輸出層的權(quán)值和偏置參數(shù)能夠有效提升預(yù)測模型的預(yù)測性能。

表3 CSO優(yōu)化結(jié)果Tab.3 CSO optimization results

圖6 SA-GRU-CSO預(yù)測不同步數(shù)的功率曲線Fig.6 Power curves of different steps predicted by SA-GRU-CSO

4 結(jié)語

針對新建風(fēng)電場歷史數(shù)據(jù)較少、預(yù)測精度較低的問題，本文提出了考慮鄰近風(fēng)電場空間耦合關(guān)系的少數(shù)據(jù)風(fēng)電功率預(yù)測方法SA-GRU-CSO，并利用實測數(shù)據(jù)進(jìn)行驗證。通過對該方法的理論分析和實驗驗證表明，該方法是可行且有效的。考慮鄰近風(fēng)電場特征數(shù)據(jù)后，少數(shù)據(jù)目標(biāo)風(fēng)電場的功率預(yù)測精度得到了提升；空間注意力機(jī)制能夠有效量化鄰近風(fēng)電場的影響程度，并進(jìn)一步提升少數(shù)據(jù)風(fēng)電場功率預(yù)測的精度。