蘇向敬，周汶鑫，李超杰，米 陽，符 楊，董朝陽

（1. 上海電力大學電氣工程學院，上海市 200090；2. 新南威爾士大學電氣工程與通信學院，悉尼2052，澳大利亞）

0 引言

近年來，可再生能源發(fā)電規(guī)模發(fā)展迅速，其中風能因其分布廣泛、資源豐富和零污染的優(yōu)點成為目前可再生能源利用的主要形式［1］。相比于陸上風電，中國海上風能資源更為豐富，且靠近負荷中心而具有更好的消納能力，這使得海上風電逐漸成為中國風電發(fā)展的重要方向［2］。然而，海上氣象和水文條件復雜多變，風電出力受氣象、尾流等因素的影響。同時，海上風電出力集中送出后通常接入岸上配電網(wǎng)，而考慮海上風電場多位于經(jīng)濟發(fā)達的沿海地區(qū)，其配電網(wǎng)自身負荷較重，受海上風電接入的沖擊影響更為顯著。因此，高精度且可靠的出力預(yù)測能夠為海上風電的調(diào)度和運行提供必要依據(jù)［3-4］，對促進海上風電開發(fā)利用意義重大。

風電出力受環(huán)境特征影響顯著，相比于陸上，海上氣象條件演化快、海況復雜，如何提取環(huán)境數(shù)據(jù)與海上風電出力間的深層非線性相關(guān)性，成為提高海上風電出力預(yù)測精度的關(guān)鍵［5］，這就對出力預(yù)測模型捕捉關(guān)鍵信息的能力提出了更高的要求。一般來說，通過充分考慮不同特征間的時空相關(guān)性并增強關(guān)鍵信息表達、弱化冗余信息，有助于提升預(yù)測模型的性能。例如：文獻［6］采用小波變換將風力時間序列分解后通過長短期記憶（long short-term memory，LSTM）網(wǎng)絡(luò)進行功率預(yù)測；文獻［7］基于海上風電機組風能轉(zhuǎn)換系統(tǒng)的物理過程設(shè)計了輸入特征，并通過皮爾森系數(shù)和深度學習算法探究特征間的相關(guān)性；文獻［8］提出將卷積神經(jīng)網(wǎng)絡(luò)（CNN）與雙向LSTM 網(wǎng)絡(luò)相結(jié)合，從特征空間和時間角度提取數(shù)據(jù)信息。上述海上風電出力預(yù)測方法雖在一定程度上加強了對特征相關(guān)性信息的挖掘，但均提取局部特征信息，難以獲取全局特征相關(guān)性，造成特征關(guān)聯(lián)信息的丟失。同時，上述方法僅關(guān)注模型訓練前輸入特征與目標特征間的固有關(guān)聯(lián)，因此對各時間的輸入特征均分配相同的權(quán)重。但風電機組出力輸入特征與目標特征間的相關(guān)程度隨時間不斷變化［9］，對輸入特征時序相關(guān)性的挖掘提出了更高要求。

同時，鑒于海上風電接入對岸上受端電網(wǎng)的沖擊影響更為顯著，在實際工程應(yīng)用中須增強預(yù)測模型和預(yù)測結(jié)果的可靠性。故在提高出力預(yù)測模型精度的同時，獲得其預(yù)測結(jié)果的可解釋性有著重要意義［10-11］?？山忉屝允峭ㄟ^向人類展示模型學習過程、工作機制，從而實現(xiàn)預(yù)測過程透明化和模型可理解的能力［12］。然而，現(xiàn)有出力預(yù)測模型普遍為“黑箱”，未能實現(xiàn)預(yù)測性能與可解釋性的兼顧［13］。“黑箱”模型內(nèi)部結(jié)構(gòu)的復雜性使得其決策過程無法以人類可理解的形式展現(xiàn)，導致模型預(yù)測結(jié)果在實際應(yīng)用中可信度偏低。故從模型的實際工程部署角度來說，尋求模型解釋是現(xiàn)階段人工智能模型所面臨的重要挑戰(zhàn)［12］?？山忉屝圆粌H能夠通過突出影響預(yù)測結(jié)果的潛在對抗性擾動提升模型的魯棒性［14］，同時能夠輔助決策者理解模型做出預(yù)測結(jié)果的依據(jù)，實現(xiàn)對變量間潛在因果關(guān)系的驗證［15-16］。

針對上述不足，本文提出一種基于雙重注意力LSTM（dual-stage attention LSTM，DALSTM）網(wǎng)絡(luò)的可解釋海上風電出力預(yù)測模型。在LSTM 神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上引入特征和時序雙重注意力機制，以動態(tài)捕捉輸入特征與目標特征間的潛在相關(guān)性，并增強對輸入序列中關(guān)鍵信息的表達。更重要的是，借助雙重注意力機制在模型訓練過程中的權(quán)重動態(tài)分配，可實現(xiàn)對輸入特征和時序重要信息的評估，進而結(jié)合領(lǐng)域知識實現(xiàn)對模型預(yù)測結(jié)果的解釋。最后，基于中國東海大橋海上風電場真實的數(shù)據(jù)采集與監(jiān)控（SCADA）數(shù)據(jù)開展仿真，驗證本文所提DALSTM 網(wǎng)絡(luò)模型對超短期海上風電出力預(yù)測的有效性與優(yōu)越性。

1 DALSTM 網(wǎng)絡(luò)模型

本文所提DALSTM 網(wǎng)絡(luò)預(yù)測模型以LSTM 神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)模型，用以捕獲風電出力的動態(tài)特性和輸入序列間的長短期時序依賴關(guān)系［17-19］。同時引入輸入特征和時序雙重注意力機制，其中特征注意力機制用以學習輸入特征對目標特征的貢獻度，時序注意力機制用以識別歷史時刻對當前時刻預(yù)測的貢獻。

1.1 注意力機制

LSTM 神經(jīng)網(wǎng)絡(luò)對所有信息進行無差別壓縮，忽略了特征之間的相關(guān)性和輸入信息的時間差異［20］。注意力機制是一種資源分配機制，可自適應(yīng)地為輸入信息分配注意力權(quán)重，以評估不同輸入對期望輸出的貢獻率，并突出重要輸入信息的影響［21-22］。在機器翻譯［23］、語音識別［24］等領(lǐng)域，注意力機制已取得了顯著的應(yīng)用效果。本文通過引入注意力機制實現(xiàn)對LSTM 神經(jīng)網(wǎng)絡(luò)預(yù)測性能的改善，同時通過對模型訓練過程中注意力權(quán)重變化趨勢及最終結(jié)果的可視化，一定程度上實現(xiàn)模型的可解釋性。

1.1.1 特征注意力機制

在所提DALSTM 網(wǎng)絡(luò)模型中，特征注意力機制被用于LSTM 網(wǎng)絡(luò)的輸入特征提取過程。通過對模型輸入特征動態(tài)分配注意力權(quán)重，挖掘輸入特征與目標特征之間的關(guān)聯(lián)關(guān)系，將注意力集中于重要特征，減少甚至忽略無關(guān)特征。這一過程可有效解決傳統(tǒng)相關(guān)性分析方法導致的特征關(guān)聯(lián)信息丟失的問題。

特征注意力機制的結(jié)構(gòu)如附錄A 圖A1 所示，以第t 個時間步為例，含M 個特征的單時間步輸入特征向量xt=[ x1，t，x2，t，…，xM，t]。采用單層神經(jīng)網(wǎng)絡(luò)計算得到注意力權(quán)重向量et［25］：

鑒于特征注意力機制位于模型的淺層，且輸入特征數(shù)據(jù)通常集中在一定數(shù)值范圍內(nèi)，本文通過Sigmoid 函數(shù)在非線性變換過程中將權(quán)重系數(shù)映射到（0，1）區(qū)間，以提升注意力權(quán)重的全面性。

1.1.2 時序注意力機制

時序注意力機制通過對輸入序列各歷史時刻攜帶的時序信息分配注意力權(quán)重，以區(qū)分其對當前時刻預(yù)測輸出的影響。同時，可自主提取各歷史時刻數(shù)據(jù)間的時序信息，并增強關(guān)鍵時刻的信息表達。

時序注意力機制結(jié)構(gòu)如附錄A 圖A2 所示，輸入為模型迭代至時刻t 的LSTM 網(wǎng)絡(luò)單元隱藏層狀態(tài)ht=[h1，t，h2，t，…，hk，t]，其中k 為輸入序列時間窗口長度。當前t 時刻對應(yīng)各歷史時刻的時間注意力權(quán)重向量lt為［25］：

式中：lt=[l1，t，l2，t，…，lk，t]；Wd為可訓練權(quán)重矩陣；bd為計算時間注意力權(quán)重的偏置向量；ReLU(·)表示激活函數(shù)，用以增加特征差異，并使權(quán)重分配更為集中。

通過式（5）中的Softmax 函數(shù)對各時間注意力權(quán)重系數(shù)歸一化，得到時間注意力權(quán)重βt=[ β1，t，β2，t，…，βτ，t，…，βk，t]，其中βτ，t為第τ 個時刻的注意力權(quán)重值，與各相應(yīng)歷史時刻的隱藏層狀態(tài)進行加權(quán)，得到綜合時序信息狀態(tài)h＇t。

式中：?表示矩陣乘積。

1.2 DALSTM 網(wǎng)絡(luò)模型結(jié)構(gòu)

通過將上述輸入特征和時序注意力機制引入LSTM 網(wǎng)絡(luò)，本文所提DALSTM 網(wǎng)絡(luò)模型的完整結(jié)構(gòu)如圖1 所示，主要包含輸入層、特征注意力層、LSTM 網(wǎng)絡(luò)層、時序注意力層和全連接層。

圖1 DALSTM 網(wǎng)絡(luò)模型結(jié)構(gòu)Fig.1 Structure of DALSTM network model

具體流程為：首先，采用特征注意力機制挖掘輸入特征間的潛在相關(guān)性，具體將風電出力歷史序列和相關(guān)輸入特征序列組成的輸入樣本X 送至特征注意力層，并通過特征注意力權(quán)重的動態(tài)分配實現(xiàn)對特征的提取，獲得加權(quán)輸入序列X＇；隨后，搭建LSTM 網(wǎng)絡(luò)層結(jié)構(gòu)，并從加權(quán)輸入特征序列提取隱藏的時序關(guān)聯(lián)信息，得到各歷史時刻的隱藏層狀態(tài)h；在此基礎(chǔ)上，通過時序注意力層挖掘相關(guān)特征時間序列各時刻信息{hτ}和當前時刻數(shù)據(jù)間的相關(guān)性，并采用時序注意力機制對其分配時間注意力權(quán)重，以增強關(guān)鍵歷史時刻信息的表達，獲得加權(quán)后的綜合時序信息狀態(tài)h＇；最后，將含各歷史時刻信息的全局隱藏層狀態(tài)h＇送入全連接層，輸出未來n 步的出力預(yù)測yt+n。

2 完整海上風電出力預(yù)測流程

在上述所提DALSTM 網(wǎng)絡(luò)訓練模型的基礎(chǔ)上，結(jié)合數(shù)據(jù)準備和模型測試環(huán)節(jié)，可得到本文完整海上風電出力預(yù)測流程，如圖2 所示。

圖2 海上風電出力預(yù)測流程圖Fig.2 Flow chart of offshore wind power output forecasting

2.1 數(shù)據(jù)準備

由于惡劣的氣象條件，海上風電機組SCADA系統(tǒng)傳感器故障或通信網(wǎng)絡(luò)擁塞問題頻發(fā)，相比于陸上風電機組面臨著更嚴峻的數(shù)據(jù)缺失問題［26］，因此需要針對海上風電SCADA 數(shù)據(jù)設(shè)計適合的缺失數(shù)據(jù)填充方法。完成缺失數(shù)據(jù)填充后的數(shù)據(jù)集根據(jù)目的可劃分為訓練集和測試集。對于訓練集數(shù)據(jù)，以風速、風向、環(huán)境溫度等為代表的氣象特征與風電出力有著天然強相關(guān)性。同時，考慮海上風電氣象特征變化劇烈，本文基于現(xiàn)有氣象特征進一步構(gòu)造統(tǒng)計特征，并結(jié)合原始特征形成輸入特征集用于模型訓練。在此基礎(chǔ)上，對輸入特征集和測試集數(shù)據(jù)做歸一化處理，分別獲得新的訓練集和測試集。

2.2 模型訓練

本文采用反向傳播算法進行預(yù)測模型訓練［27］。以實現(xiàn)式（7）、式（8）中多步損失函數(shù)最小的訓練目標［28］，并采用Adam 優(yōu)化器對模型中各層系數(shù)進行迭代更新［29］，得到最終的DALSTM 海上風電出力預(yù)測模型。

式中：N 為訓練樣本數(shù)；y?t+λ為模型t 時刻輸出的第λ步出力預(yù)測值；yt+λ為對應(yīng)的出力真實值；n 為多步預(yù)測步長；y?i，t+λ和yi，t+λ分別為模型t 時刻輸出的第i個樣本第λ 步出力預(yù)測值和對應(yīng)的真實值。式（7）為單步損失函數(shù)，式（8）為多步損失函數(shù)，定義為各步損失函數(shù)之和。

2.3 模型評價

為量化評價所提DALTSM 網(wǎng)絡(luò)預(yù)測模型的性能，本文采用均方根誤差（RMSE）指標ERMSE和平均絕對誤差（MAE）指標EMAE作為誤差評價指標。上述指標數(shù)值越小，表示預(yù)測精度越高。同時采用確定系數(shù)R2評估模型有效性，其值越大，表示預(yù)測模型對數(shù)據(jù)的擬合效果越好。具體計算公式如下：

2.4 模型可解釋性

預(yù)測模型可解釋性的關(guān)鍵在于捕獲單個變量的動態(tài)以及多變量間的相互作用［24］。傳統(tǒng)LSTM 網(wǎng)絡(luò)模型在計算隱藏層狀態(tài)時將所有輸入變量數(shù)據(jù)混合，無法對單個變量的時序動態(tài)進行區(qū)分。為此，本文通過引入雙重注意力機制，在模型訓練過程中對各輸入特征和各歷史時刻的注意力權(quán)重進行動態(tài)分配，以獲得其對預(yù)測結(jié)果的貢獻度。同時，通過熱力圖可視化不同特征和時間注意力權(quán)重的變化趨勢及最終結(jié)果、監(jiān)測預(yù)測過程中的注意力行為，從而一定程度上實現(xiàn)了預(yù)測模型的可解釋性。

3 算例分析驗證

為驗證所提DALSTM 海上風電出力預(yù)測模型的可行性與優(yōu)越性，本文基于東海大橋海上風電場真實SCADA 數(shù)據(jù)開展案例仿真和分析。

3.1 仿真案例設(shè)置

東海大橋海上風電場位于上海東海大橋東側(cè)距海岸線8～13 km 的海域。項目一期共安裝了34 臺單機容量為3 MW 的離岸型風機，風電場經(jīng)四回35 kV 海底電纜接入岸上110 kV 升壓變電站，并入上海市電網(wǎng)。風電場平均水深為10 m，風機設(shè)計高度為90 m，代表年主風向為E-SSE，風速在3.5～25.0 m/s 出現(xiàn)的頻率占96%，年平均風速為8.4 m/s。風電場海域潮汐為非正規(guī)半日淺海潮，設(shè)計表層潮流流速為3.15 m/s。受季風、副熱帶高壓等因素影響，風電場出力具有明顯季節(jié)特性，整體表現(xiàn)為春季和夏季相對較低，而秋季和冬季相對較高［30］。

東海大橋海上風電SCADA 系統(tǒng)數(shù)據(jù)采集周期為15 min，記錄了氣象、空氣動力學及機組主要部件的運行參數(shù)等共15 個特征，具體如附錄A 表A1 所示。這些SCADA 特征數(shù)據(jù)共同構(gòu)成了本文所提模型的訓練集和測試集。同時，通過動態(tài)挖掘各特征間的時空相關(guān)性，并觀察其注意力權(quán)重分配變化，實現(xiàn)對模型的解釋。

仿真案例設(shè)置方面，為驗證所提DALSTM 網(wǎng)絡(luò)模型的預(yù)測精度，本文基于2019 年10 月至2020 年12 月的海上風電SCADA 數(shù)據(jù)，對比多種現(xiàn)有風電出力預(yù)測模型并進行單步與多步出力預(yù)測仿真。在此基礎(chǔ)上，通過可視化注意力權(quán)重的變化趨勢，對模型預(yù)測結(jié)果的合理性進行解釋。

仿真參數(shù)設(shè)置方面，模型原始輸入特征維度為15，目標特征為預(yù)測時刻的風電機組出力。本文設(shè)定輸入序列的時間窗口長度k 為20，即利用第1 至20 時刻的輸入特征序列對第21+n 時刻的出力進行建模。LSTM 網(wǎng)絡(luò)的隱藏層維度為32，層數(shù)為1；模型學習率設(shè)為0.001，訓練批次設(shè)為64，迭代次數(shù)為1 000，并選擇Adam 優(yōu)化器。

3.2 數(shù)據(jù)預(yù)處理

本文提取風電機組SCADA 系統(tǒng)采集的正常運行數(shù)據(jù)用于模型訓練。根據(jù)機組運行手冊，可編程邏輯控制器（PLC）狀態(tài)代碼為7 時表示機組處于穩(wěn)定發(fā)電的正常運行狀態(tài)，故僅保留PLC 狀態(tài)代碼為7 的數(shù)據(jù)。在此基礎(chǔ)上，對缺失數(shù)據(jù)進行填充處理并添加統(tǒng)計特征數(shù)據(jù)，以提升預(yù)測效果。

3.2.1 缺失數(shù)據(jù)填充

SCADA 數(shù)據(jù)缺失問題主要包含由傳感器故障引起的部分特征數(shù)據(jù)缺失和由網(wǎng)絡(luò)擁塞引起的部分時段全部特征數(shù)據(jù)缺失2 種類型。針對部分特征數(shù)據(jù)缺失，考慮風電機組各子系統(tǒng)特征間具有強時空相關(guān)性，本文采用文獻［31］提出的多變量時間序列生成對抗網(wǎng)絡(luò)（MTS-GAN）進行填充。針對部分時段全部特征數(shù)據(jù)缺失，本文基于臨近風電機組間的空間相關(guān)性對目標風電機組缺失值進行填充［32］。填充后的數(shù)據(jù)集，取其中80%作為模型訓練集，其余20%作為模型測試集。

3.2.2 添加數(shù)據(jù)統(tǒng)計特征

為進一步提升模型預(yù)測精度，基于SCADA 數(shù)據(jù)集現(xiàn)有氣象特征構(gòu)造其統(tǒng)計特征，包含-1point風速、近1 風速對近3 趨勢、近風速3 個mean、近風速3 個max、近環(huán)境溫度3 個max、平均變槳力矩及平均變槳角度等共12 個特征。其中：-1point、-2point、-3point 分別表示前1、2、3 個點的數(shù)值；近1 風速對近3 趨勢表示前1 個時間步的風速值與前3 個時間步風速值之比，用于捕捉風速變化的趨勢；近風速3 個mean 表示前3 個時間步風速的均值；近風速3 個max 表示前3 個時間步中風速的最大值；近環(huán)境溫度3 個max 表示前3 個時間步中環(huán)境溫度的最大值。結(jié)合所構(gòu)造的統(tǒng)計特征與訓練集原有特征共同構(gòu)成新的27 維輸入特征矩陣，提供給預(yù)測模型進行訓練。

3.2.3 數(shù)據(jù)歸一化

因所選數(shù)據(jù)集由不同特征數(shù)據(jù)組成，不同特征量綱不同且數(shù)值差異較大。為避免對模型訓練效果產(chǎn)生不利影響，通過式（12）對輸入數(shù)據(jù)歸一化［33］。

式中：x 和x?分別為歸一化前、后的值；xmax和xmin分別為原數(shù)據(jù)的最大值和最小值。

所有特征中，風向反映了風速在某特定方向上的投影系數(shù)，依據(jù)其物理意義，采用正弦函數(shù)對風向進行歸一化處理。同時，變槳角度作為角度特征，也采用正弦函數(shù)進行歸一化計算。

3.3 模型預(yù)測性能

本節(jié)主要通過仿真對比驗證所提DALSTM 網(wǎng)絡(luò)的預(yù)測性能：先添加統(tǒng)計特征的預(yù)測效果并進行分析；再通過與現(xiàn)有預(yù)測模型的對比，分別驗證所提DALSTM 網(wǎng)絡(luò)對單步和多步出力預(yù)測的效果。

3.3.1 添加統(tǒng)計特征

為評估添加統(tǒng)計特征對模型預(yù)測的影響，分別基于原始特征數(shù)據(jù)集和加入統(tǒng)計特征的數(shù)據(jù)集建模。附錄A 圖A3 和表1 分別展示了二者的預(yù)測曲線和預(yù)測誤差。由圖A3 和表1 可知，基于添加統(tǒng)計特征的新特征集，模型出力預(yù)測結(jié)果的RMSE、MAE 指標明顯降低，同時R2顯著提高，表明了合理添加統(tǒng)計特征可有效提升模型預(yù)測精度和數(shù)據(jù)擬合效果。

表1 基于不同特征數(shù)據(jù)集的預(yù)測誤差對比Table 1 Comparision of forecasting errors based on different feature datasets

3.3.2 單步出力預(yù)測

為驗證所提DALSTM 網(wǎng)絡(luò)對單步出力預(yù)測的精度，基于相同數(shù)據(jù)集和仿真參數(shù)設(shè)置，分別與現(xiàn)有海上風電出力預(yù)測模型LSTM、CNN-LSTM、特征注意力LSTM（FALSTM）和時序注意力LSTM（TALSTM）進行仿真對比。各模型預(yù)測結(jié)果如表2 所示，附錄A 圖A4 展示了其對應(yīng)出力預(yù)測曲線。

表2 不同模型單步出力預(yù)測結(jié)果對比Table 2 Comparision of one-step output forecasting results of different models

上述結(jié)果表明，CNN-LSTM 模型和引入注意力機制后的TALSTM、FALSTM 模型相比，傳統(tǒng)LSTM 模型預(yù)測精度更高，且數(shù)據(jù)擬合效果更好。具體來說，CNN-LSTM 模型通過CNN 進行輸入特征提取，進而結(jié)合LSTM 進行出力預(yù)測，其預(yù)測精度的提高驗證了特征提取過程的必要性。而引入時序注意力機制的TALSTM 模型，其RMSE 和MAE相比于LSTM 分別下降了1.71%和3.41%，R2值也略高于LSTM，但其模型性能相比于CNN-LSTM略低。這是由于TALSTM 模型通過為各歷史時刻分配注意力權(quán)重，能夠避免信息丟失并增強關(guān)鍵時刻信息的表達，相比LSTM 獲得了預(yù)測模型準確性的提升；但因其僅關(guān)注時間相關(guān)性，沒有對特征相關(guān)性信息進行有效挖掘，應(yīng)用于海上風電出力預(yù)測時精度相比CNN-LSTM 仍顯不足。同時，引入特征注意力機制的FALSTM 模型，其RMSE 相比于LSTM 和CNN-LSTM 分別下降了4.27% 和2.68%，MAE 分別下降了11.36%和4.88%，且R2值升高。這表明特征注意力機制相比于CNN 具有更優(yōu)越的輸入特征提取能力，F(xiàn)ALSTM 模型通過為各輸入特征分配注意力權(quán)重，可有效提取輸入特征與目標特征間的關(guān)聯(lián)關(guān)系，并提高預(yù)測精度。

本文提出的DALSTM 模型在單步預(yù)測情況下，精度相比于CNN-LSTM 有明顯提升，證明了其對輸入特征空間和時序相關(guān)性的深度挖掘能力，在海上風電出力預(yù)測中具有顯著的優(yōu)勢。同時，其預(yù)測效果也均優(yōu)于上述引入單一注意力機制的FALSTM 和TALSTM 模型，反映出引入雙重注意力機制的綜合優(yōu)勢。由附錄A 圖A4 可知，雙重注意力機制的引入使得模型的預(yù)測曲線更接近原始數(shù)據(jù)曲線，表明注意力機制通過學習數(shù)據(jù)間依存關(guān)系并提取關(guān)鍵信息，對提高出力預(yù)測精度具有重要幫助。

3.3.3 多步出力預(yù)測

為驗證所提DALSTM 模型的多步預(yù)測能力，基于相同數(shù)據(jù)集及仿真參數(shù)設(shè)置，分別采用LSTM、CNN-LSTM、FALSTM、TALSTM 和本文所提DALSTM 模型開展仿真。具體分別針對風電機組出力進行4 步（1 h）、8 步（2 h）、12 步（3 h）和16 步（4 h）的超短期預(yù)測。表3 給出了其預(yù)測效果對比，同時附錄A 圖A5 展示了對應(yīng)多步出力預(yù)測曲線。

表3 不同模型多步出力預(yù)測結(jié)果對比Table 3 Comparision of multi-step output forecasting results with different models

由表3 可見，基于不同出力預(yù)測模型的RMSE和MSE 值均隨預(yù)測步長的增加而升高，即預(yù)測誤差增加。同時，R2隨預(yù)測步長的增加而降低，即數(shù)據(jù)擬合效果下降。這是由于隨著預(yù)測步長的增加，待預(yù)測的風電出力值與輸入歷史時間序列數(shù)據(jù)間的依賴性減弱，并導致預(yù)測模型精度下降。

對比表3 和附錄A 圖A5 可知，隨著預(yù)測步長增加，F(xiàn)ALSTM 模型相比于CNN-LSTM 模型始終具有更好的預(yù)測性能，表明了特征注意力機制在多步預(yù)測中仍具有較好的特征提取能力；而所提DALSTM 模型在各預(yù)測步長下均具有最高的預(yù)測精度和模型擬合度。同時觀察圖A5 可知，相比其他預(yù)測模型，DALSTM 模型具有更高的模型穩(wěn)定性，即可以更好地擬合出力數(shù)據(jù)的變化趨勢，且隨著預(yù)測步長的增加其相對優(yōu)勢愈發(fā)明顯。具體表現(xiàn)為：在4 步和8 步出力預(yù)測中，DALSTM 的RMSE值相比對應(yīng)步長下RMSE 值最小的FALSTM 模型分別降低了1.75%和7.60%，R2值分別提升了1.1%和2.3%；在16 步出力預(yù)測中，DALSTM 的RMSE值相比FALSTM 模型降低了10.35%，R2值提升了6.8%。故所提DALSTM 模型在海上風電多步出力預(yù)測中優(yōu)勢更加明顯。

3.4 模型的可解釋性

所提DALSTM 模型在模型訓練和測試過程中通過注意力權(quán)重的動態(tài)分配，能夠?qū)崿F(xiàn)對輸入特征空間和時序重要性的評估。對于模型訓練過程，通過可視化不同迭代次數(shù)單樣本的注意力權(quán)重，能夠?qū)Ω魈卣骱蜁r刻的重要性變化趨勢進行定量分析，進而借助領(lǐng)域知識對其進行評估，可以實現(xiàn)模型預(yù)測過程的可解釋性。圖3 和附錄A 圖A6 分別展示了DALSTM 模型在訓練過程中的特征和時間重要性。同時在模型測試過程中，對不同月份連續(xù)樣本的特征注意力權(quán)重值進行可視化和定量分析，并結(jié)合水文氣象知識驗證結(jié)果解釋的合理性。圖4 展示了DALSTM 模型在測試過程中的特征注意力權(quán)重連續(xù)變化。

圖4 不同月份連續(xù)樣本注意力權(quán)重Fig.4 Attention weights of continuous samples in different months

3.4.1 模型訓練中的特征權(quán)重解釋

模型在迭代訓練過程中對不同輸入特征動態(tài)分配注意力權(quán)重，并在訓練結(jié)束時確定特征重要性排名。重要性高的特征對海上風電出力預(yù)測有著更大貢獻度，并會對預(yù)測結(jié)果產(chǎn)生更大影響。圖3 分別給出了模型在第10 次、50 次和97 次（收斂）迭代時的特征注意力權(quán)重熱力圖，其中橫軸為樣本時間跨度，間隔為15 min，其中時間點20 距離預(yù)測時刻最近?？v軸為輸入特征，色塊深淺表示特征注意力權(quán)重大小。圖3 展示了特征注意力權(quán)重在模型迭代過程中的動態(tài)變化，表明特征注意力機制可挖掘SCADA 數(shù)據(jù)集輸入特征與目標特征間的空間關(guān)聯(lián)。

圖3 模型訓練中的特征注意力權(quán)重變化趨勢Fig.3 Changing trend of feature attention weights in model training

具體來說，在模型迭代收斂過程中，輸入特征“風電出力”的注意力權(quán)重逐漸上升至0.073，對風電出力預(yù)測過程的貢獻度最高，即對預(yù)測結(jié)果的影響最大。對于人工添加的統(tǒng)計特征：“近1 風速對近3趨勢”的注意力權(quán)重在模型迭代至收斂時達到0.068，且隨迭代次數(shù)增加對模型預(yù)測結(jié)果的相對貢獻度也表現(xiàn)出明顯的提升。由圖3 可知，模型在第10 次、50 次迭代時，該特征注意力權(quán)重在整體特征集中排序靠后，而當模型迭代至收斂時，其權(quán)重排在第2 位。這表明“近1 風速對近3 趨勢”有助于實現(xiàn)對海上風速變化趨勢的捕捉，在模型訓練迭代過程中表現(xiàn)出對預(yù)測結(jié)果的影響程度不斷提高。同時，“葉輪轉(zhuǎn)速”及“平均變槳角度”的注意力權(quán)重均在0.056 左右，“風速”的注意力權(quán)重在迭代過程中存在波動并收斂到0.048，其他風速相關(guān)統(tǒng)計特征注意力權(quán)重值在0.042 左右，剩余特征注意力權(quán)重則較低，對出力預(yù)測結(jié)果的影響較小。另外，對比不同迭代次數(shù)的熱力圖可知，“出力歷史值”“風速及相關(guān)統(tǒng)計特征”“葉輪轉(zhuǎn)速”“平均變槳角度”等特征在迭代過程中始終占有較高的權(quán)重，表明這些特征對出力預(yù)測結(jié)果的影響更大，與風電出力的相關(guān)性也更大。

實際中，“出力歷史值”與預(yù)測值相關(guān)度最高，直接影響著預(yù)測結(jié)果；“風速”為風電出力的關(guān)鍵影響因素，“葉輪轉(zhuǎn)速”直接受風速影響，故兩者及其統(tǒng)計特征均表現(xiàn)出對出力預(yù)測過程較高的貢獻度。故領(lǐng)域知識與上述仿真結(jié)果吻合，從特征重要性角度證明了本文風電出力預(yù)測模型的合理性。

3.4.2 模型訓練中的時間權(quán)重解釋

在模型迭代訓練過程中，時間注意力機制關(guān)注各歷史時刻數(shù)據(jù)對風電出力預(yù)測過程的貢獻度，附錄A 圖A6 展示了模型在第10 次、50 次、97 次（收斂）迭代時的樣本時間注意力權(quán)重熱力圖。由圖A6可知，模型迭代前期時間注意權(quán)重幾乎是隨時間線性增加，且距離預(yù)測時刻越近權(quán)重值越高。隨著迭代次數(shù)的增加，攜帶關(guān)鍵信息的時間注意力權(quán)重逐漸上升。當?shù)諗繒r，模型主要關(guān)注距預(yù)測時刻更近的時間步，即這些時間步蘊含的信息對出力預(yù)測結(jié)果影響更大。

值得注意的是，本文設(shè)定樣本輸入序列時間窗口長度為20，即單樣本包含20 個時間步。在此5 h時段內(nèi)風電出力尚未表現(xiàn)出明顯的周期性，故距離預(yù)測時刻越近的時間步攜帶的信息對預(yù)測結(jié)果影響越大。上述領(lǐng)域知識與附錄A 圖A6 中結(jié)果一致，從時間重要性角度驗證了本文預(yù)測模型的合理性。

3.4.3 模型解釋能力對比

在上述特征和時間權(quán)重解釋的基礎(chǔ)上，通過對比所提的DALSTM 和單注意力FALSTM、TALSTM 模型來驗證其模型的解釋能力。具體來說，F(xiàn)ALSTM 模型包含特征注意力層、LSTM 層及全連接層，與DALSTM 模型具有相同的特征注意力分配過程，故二者具有相同的特征權(quán)重解釋能力。但FALSTM 模型僅通過LSTM 層進行時序信息提取，不具備時間重要性的解釋能力。TALSTM模型則包含LSTM 層、時序注意力層及全連接層，僅能實現(xiàn)時間重要性解釋。為進一步探究引入雙重注意力機制的DALSTM 模型的綜合優(yōu)勢，本文對模型迭代收斂時DALSTM 與TALSTM 注意力權(quán)重熱力圖進行了對比。如附錄A 圖A7 所示，距預(yù)測時刻越近，TALSTM 時間注意力權(quán)重越高，而DALSTM 除對距離預(yù)測時刻近的時間步分配較高權(quán)重外，還表現(xiàn)出對該樣本窗口內(nèi)其他時間步的關(guān)注。這是由于特征注意力層對特征關(guān)聯(lián)關(guān)系的動態(tài)挖掘，加強了關(guān)鍵特征在各歷史時刻的表達，在實現(xiàn)深度特征提取的同時影響著不同時間步對預(yù)測結(jié)果的貢獻。

3.4.4 模型測試中的連續(xù)樣本權(quán)重解釋

海上風電出力易受到氣象因素的影響而表現(xiàn)出相比于陸上更明顯的季節(jié)特性［34］。除模型訓練外，為同時說明注意力機制對模型測試過程的解釋能力，基于四季中的不同月份進行仿真對比。通過對測試集中連續(xù)樣本進行特征注意力權(quán)重提取與可視化，觀察不同季節(jié)條件下各特征對出力預(yù)測結(jié)果的貢獻度，并結(jié)合水文氣象知識驗證合理性。圖4 為2020 年5 月、8 月、10 月和2021 年2 月2 000 個連續(xù)測試樣本點的特征注意力權(quán)重熱力圖。

由圖4 可見，2020 年5 月“風向”特征的注意力權(quán)重較高，即風向?qū)︻A(yù)測結(jié)果貢獻度更高。這是由于東海位于東亞季風區(qū)，5 月為季風轉(zhuǎn)換期，海上風向變化顯著，對模型預(yù)測的影響增加。2020 年8 月對出力預(yù)測結(jié)果影響最突出的特征為“歷史時刻出力”，同時相比于其他月份“風速”特征影響有所降低。這是因為夏季多為偏南風，風向平穩(wěn)且風力相對較弱，海上溫度也相對穩(wěn)定，各氣象特征影響差異不大。2020 年10 月“風速”及其相關(guān)統(tǒng)計特征注意力權(quán)重明顯升高，這是由于該月份東海受熱帶氣旋和冷空氣影響，常出現(xiàn)偏北大風天氣，故“風速”對預(yù)測結(jié)果影響更為顯著。2021 年2 月與2020 年10 月各特征注意力權(quán)重基本一致，而“環(huán)境溫度”特征注意力權(quán)重略有升高。因為冬季盛行強勁偏北風，且環(huán)境溫度波動相對明顯，表現(xiàn)為對出力預(yù)測結(jié)果的貢獻度提升。

4 結(jié)語

本文提出了一種基于DALSTM 的可解釋海上風電出力預(yù)測模型。在LSTM 神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上引入特征和時序雙重注意力機制，通過注意力權(quán)重的動態(tài)分配，同時對輸入特征間的潛在關(guān)聯(lián)和歷史時刻蘊含的有效信息進行挖掘，從而提升超短期海上風電出力預(yù)測的準確性和可解釋能力。

通過上述真實案例仿真對比分析表明：

1）所提DALSTM 海上風電出力預(yù)測模型在進行單步出力預(yù)測時具有優(yōu)越的預(yù)測精度；

2）所提DALSTM 模型在進行多步出力預(yù)測時仍可保持較高的預(yù)測性能，具有更高的穩(wěn)定性，且隨預(yù)測步長的增加其相對優(yōu)勢愈發(fā)明顯；

3）本文所提出力預(yù)測模型具有一定程度的可解釋能力，經(jīng)驗證能得到合理的模型解釋結(jié)果，對實際工程具有更加可靠的參考和應(yīng)用價值。

值得注意的是，海上風電出力預(yù)測受氣象、海況等多重不確定性因素的影響，往往具有較高隨機性，對并網(wǎng)運行帶來挑戰(zhàn)。本文從預(yù)測模型可解釋性的角度開展研究，以提升預(yù)測結(jié)果的可靠性，后續(xù)可以綜合考慮各種不確定性因素的統(tǒng)計特征，開展海上風電出力的概率預(yù)測研究。同時，鑒于海上風電數(shù)據(jù)的完整性與準確性偏差，后續(xù)可對數(shù)據(jù)清洗、補全等預(yù)處理開展研究。

附錄見本刊網(wǎng)絡(luò)版（http：//www.aeps-info.com/aeps/ch/index.aspx），掃英文摘要后二維碼可以閱讀網(wǎng)絡(luò)全文。