廖圣瑄，李 林，丁 偉，唐起超，唐志軍，楊繼盛

（1.龍?jiān)矗ū本╋L(fēng)電工程設(shè)計(jì)咨詢有限公司，北京 100034；2.電子科技大學(xué)，四川 成都 610000；3.龍?jiān)矗ㄇ嗪＃┬履茉撮_發(fā)有限公司，青海格爾木 816099）

準(zhǔn)確獲取儲(chǔ)能電站的荷電狀態(tài)（State of Charge，SOC）可以有效防止過充和過放現(xiàn)象，從而提高系統(tǒng)安全性和穩(wěn)定性。SOC 無法直接測(cè)量，主要由安時(shí)積分法[1]、開路電壓法[2]和神經(jīng)網(wǎng)絡(luò)[3]等方法測(cè)算。

得益于機(jī)器學(xué)習(xí)的快速發(fā)展，國內(nèi)外學(xué)者提出了融合深度神經(jīng)網(wǎng)絡(luò)[4]、長(zhǎng)短期記憶模型[5]、最小二乘支持向量器[6]、雙向長(zhǎng)短期記憶模型[7]等方法進(jìn)行電池SOC 預(yù)測(cè)。但當(dāng)前SOC 預(yù)測(cè)主要聚焦于電池層面，該文提出雙向長(zhǎng)短期記憶多頭殘差網(wǎng)絡(luò)對(duì)儲(chǔ)能電站SOC 進(jìn)行預(yù)測(cè)，預(yù)測(cè)精度較高。

1 組合模型設(shè)計(jì)

1.1 多頭自注意力機(jī)制

注意力機(jī)制[8]主要用來判斷各參數(shù)對(duì)儲(chǔ)能電站SOC 輸出結(jié)果影響的權(quán)重。該文在傳統(tǒng)注意力機(jī)制的基礎(chǔ)上增加了多頭參數(shù)[9]，相當(dāng)于將傳統(tǒng)模型的單層結(jié)構(gòu)拆分了多層，從而有效解決了原有模型將注意力過度集中在自身位置的問題。同時(shí)，多頭注意力機(jī)制模型還可以賦予注意力層不同輸出子空間的編碼表示信息，從而提高模型優(yōu)化能力。該文應(yīng)用多頭自注意力機(jī)制[10]（Multi-headed Self-attention，MhSa）改進(jìn)模型時(shí)，需要先將數(shù)據(jù)集分成查詢向量矩陣Q、鍵向量矩陣K和值向量矩陣V，在構(gòu)造模型時(shí)通過放縮點(diǎn)積注意力機(jī)制調(diào)整網(wǎng)絡(luò)結(jié)構(gòu)，計(jì)算公式為：

式中，Q∈Rl×d,K∈Rl×d,V∈Rl×d,d為矩陣維度，l為輸入集組數(shù)。訓(xùn)練時(shí)，MhSa 將原始輸入序列分為多組各自進(jìn)行計(jì)算，然后將計(jì)算結(jié)果進(jìn)行線性組合，從而得到輸出值，計(jì)算過程為：

式中，W0為輸出權(quán)重矩陣，為映射權(quán)重矩陣，h為模型所選取的自注意力模塊數(shù)，即頭數(shù)。該文在測(cè)試后，選用h=2 建立模型。多頭自注意力機(jī)制結(jié)構(gòu)如圖1 所示。

圖1 多頭自注意力機(jī)制結(jié)構(gòu)

1.2 殘差神經(jīng)網(wǎng)絡(luò)

殘差神經(jīng)網(wǎng)絡(luò)[11]（Residual Network，ResNet）是卷積神經(jīng)網(wǎng)絡(luò)的一種，與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的線性連接方式不同，殘差神經(jīng)網(wǎng)絡(luò)的殘差塊之間通過跳躍連接傳遞信息[12]。在采用了跳躍連接的傳遞方式之后，相比于傳統(tǒng)模型只能訓(xùn)練幾十次的情況，殘差神經(jīng)網(wǎng)絡(luò)的訓(xùn)練次數(shù)提高到千次以上，使得神經(jīng)網(wǎng)絡(luò)的訓(xùn)練深度可以大幅增加[13]。雖然實(shí)驗(yàn)時(shí)發(fā)現(xiàn)模型訓(xùn)練所需要的時(shí)間有所增加，但模型預(yù)測(cè)的準(zhǔn)確性整體上有所提高。殘差塊的定義方式如圖2 所示。

圖2 殘差塊定義

圖2 中的x表示輸入值，F(xiàn)(x)為殘差函數(shù),輸出函數(shù)計(jì)算公式為：

式中，ωt為輸入值對(duì)應(yīng)的權(quán)重。該文選用ReLu激活函數(shù)，同時(shí)增加了BN（Batch Normalization）算法將神經(jīng)元輸出數(shù)據(jù)歸一化處理，從而改善了網(wǎng)絡(luò)梯度，加快訓(xùn)練速度。

1.3 雙向長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)

LSTM 是循環(huán)神經(jīng)網(wǎng)絡(luò)的一種[14]，其訓(xùn)練梯度比傳統(tǒng)模型更好，在長(zhǎng)時(shí)間序列中預(yù)測(cè)效果更優(yōu)。LSTM 的計(jì)算原理是通過遺忘門將相關(guān)性差的信息刪除，通過記憶門保留有用的信息，然后單向傳遞建立模型。雙向長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)(Bi-directional Long Short-Term Memory，BiLSTM)由一個(gè)前向傳遞的LSTM 和一個(gè)后向傳遞的LSTM 拼接而成[15]，信息存在前向傳遞和后向傳遞兩個(gè)過程。由于存在兩個(gè)不同的序列，BiLSTM 可以更好地獲得雙向傳遞信息[16]，對(duì)于時(shí)間序列預(yù)測(cè)可以起到更好的效果。BiLSTM更新公式如下：

式中，LSTM+為前向傳遞的模型，LSTM-為后向傳遞的模型，W+和W-為其對(duì)應(yīng)的權(quán)重，b為偏置。BiLSTM 結(jié)構(gòu)如圖3所示。

圖3 BiLSTM結(jié)構(gòu)

1.4 雙向長(zhǎng)短期記憶多頭殘差神經(jīng)網(wǎng)絡(luò)

該文在建立模型時(shí)，綜合了多頭自注意力機(jī)制、ResNet 和BiLSTM 的優(yōu)勢(shì)，建立了雙向長(zhǎng)短期記憶多頭殘差神經(jīng)網(wǎng)絡(luò)（BiLSTM-MhSa-ResNet），組合模型的結(jié)構(gòu)如圖4 所示。

圖4 BiLSTM-MhSa-ResNet結(jié)構(gòu)

如圖4 所示，該文建立的組合模型主要分成了五層，第一層為數(shù)據(jù)輸入層，將儲(chǔ)能電站的原始數(shù)據(jù)進(jìn)行分析處理，該文將堆電壓U、堆電流I和堆平均溫度T作為輸入集參數(shù)，同時(shí)進(jìn)行了特征提取。第二層為BiLSTM 神經(jīng)網(wǎng)絡(luò)層，用于學(xué)習(xí)電壓等參數(shù)與SOC 之間的關(guān)聯(lián)。第三層為MhSa 層，該文選擇頭數(shù)為2，用于獲取充放電數(shù)據(jù)權(quán)重并加權(quán)BiLSTM 的輸出結(jié)果。第四層為ResNet 層，相當(dāng)于最后的多層感知機(jī)，可以避免梯度消失等現(xiàn)象的發(fā)生。第五層為SOC 輸出層，輸出SOC 預(yù)測(cè)結(jié)果。

該文在模型訓(xùn)練的過程中，損失函數(shù)設(shè)置為均方誤差，使用Adam 優(yōu)化器對(duì)BiLSTM 的權(quán)值和偏置進(jìn)行優(yōu)化。在多次調(diào)參實(shí)驗(yàn)后，該文設(shè)置隱含層節(jié)點(diǎn)個(gè)數(shù)為16，窗口長(zhǎng)度為10，學(xué)習(xí)率為0.000 5，訓(xùn)練期數(shù)設(shè)置為為2 500，批大小設(shè)置為1 500。該文實(shí)驗(yàn)的預(yù)測(cè)流程如圖5 所示。

圖5 電池SOC預(yù)測(cè)流程

2 工程概況

2.1 電堆數(shù)據(jù)及評(píng)價(jià)指標(biāo)

選取青海某光伏電站所配套的儲(chǔ)能電站作為研究對(duì)象，該項(xiàng)目包括一個(gè)2.5 MW 的變流升壓?jiǎn)卧鸵粋€(gè)5.16 MW·h 的儲(chǔ)能單元，儲(chǔ)能單元集成在40 尺標(biāo)準(zhǔn)集裝箱內(nèi)，由16 簇電池并聯(lián)組成，儲(chǔ)能電站所采用的電芯為磷酸鐵鋰電池。該文選取了2022 年3月1 日至2022 年3 月23 日儲(chǔ)能電站電池堆調(diào)峰實(shí)驗(yàn)調(diào)用情況下的運(yùn)行參數(shù)作為數(shù)據(jù)集。由于儲(chǔ)能電站容量較大，滿充滿放所需要的時(shí)間較長(zhǎng)，實(shí)驗(yàn)時(shí)選用分鐘級(jí)數(shù)據(jù)進(jìn)行處理，共采集了33 120 組連續(xù)運(yùn)行的實(shí)驗(yàn)數(shù)據(jù)。該文選用的儲(chǔ)能電池堆SOH 為99%，受調(diào)用情況及最大使用次數(shù)影響，堆SOC 運(yùn)行范圍在9%～100%之間，充放電周期為2 小時(shí)，運(yùn)行時(shí)屬于動(dòng)態(tài)充放電，部分電堆運(yùn)行參數(shù)如表1 所示。

表1 部分電堆運(yùn)行參數(shù)

該文選擇了平均絕對(duì)誤差（Mean Absolute Error，MAE）、均方根誤差（Root Mean Square Error，RMSE）和決定系數(shù)R2對(duì)各模型的預(yù)測(cè)結(jié)果進(jìn)行對(duì)比分析。根據(jù)統(tǒng)計(jì)學(xué)原理，MAE 和RMSE 越小，R2越接近于1，模型對(duì)電堆SOC 預(yù)測(cè)的準(zhǔn)確性就越高，擬合效果就越好。MAE、RMSE 和R2的計(jì)算公式如下：

2.2 數(shù)據(jù)預(yù)處理

根據(jù)實(shí)驗(yàn)原始數(shù)據(jù)可以看出，電壓電流輸入值變化區(qū)間較大，而溫度的變化幅度較小，兩者變化程度不在一個(gè)數(shù)量級(jí)，直接帶入模型中會(huì)導(dǎo)致誤差偏大。為此，該文采用線性函數(shù)歸一化的方法對(duì)電堆數(shù)據(jù)進(jìn)行預(yù)處理，處理后的參數(shù)在[0,1]之間。數(shù)據(jù)歸一化公式為：

式中，X′為歸一化后的參數(shù)，X為原始數(shù)據(jù)，XMax為原始數(shù)據(jù)中最大值，XMin為原始數(shù)據(jù)中最小值。實(shí)驗(yàn)時(shí)發(fā)現(xiàn)，電堆SOC在0.09～1之間，可以直接使用原始值。

該文將儲(chǔ)能電站運(yùn)行狀態(tài)劃分成充電狀態(tài)和放電狀態(tài)，對(duì)兩種狀態(tài)分別建立神經(jīng)網(wǎng)絡(luò)模型進(jìn)行預(yù)測(cè)。在劃分?jǐn)?shù)據(jù)集時(shí)，該文將70%的數(shù)據(jù)作為訓(xùn)練集，20%的數(shù)據(jù)作為驗(yàn)證集，10%的數(shù)據(jù)作為測(cè)試集建模實(shí)驗(yàn)?？紤]到可能存在的過擬合現(xiàn)象，將另一時(shí)間段的充放電電壓、電流和溫度輸入到已訓(xùn)練好的模型中，得到電堆SOC 預(yù)測(cè)值。

3 結(jié)果分析

該文建立了LSTM、BiLSTM、BiLSTM-ResNet 和BiLSTM-MhSa-Resnet 模型進(jìn)行對(duì)照實(shí)驗(yàn)，將某次儲(chǔ)能電站電堆連續(xù)充電數(shù)據(jù)作為樣本進(jìn)行預(yù)測(cè)，將真實(shí)值與LSTM、BiLSTM、BiLSTM-ResNet 和BiLSTMMhSa-Resnet 預(yù)測(cè)結(jié)果進(jìn)行對(duì)比，對(duì)比結(jié)果如圖6 所示。計(jì)算了LSTM、BiLSTM、BiLSTM-ResNet和BiLSTMMhSa-Resnet 預(yù)測(cè)結(jié)果與真實(shí)值的相對(duì)誤差，對(duì)比情況如圖7 所示。

圖6 充電狀態(tài)預(yù)測(cè)結(jié)果對(duì)比

圖7 預(yù)測(cè)結(jié)果相對(duì)誤差

由圖6 可以看出，使用LSTM、BiLSTM、BiLSTMResNet 和BiLSTM-MhSa-Resnet 模型分別進(jìn)行預(yù)測(cè)時(shí)，預(yù)測(cè)SOC 整體上與實(shí)際運(yùn)行時(shí)的SOC 相差不大。隨著模型逐漸優(yōu)化，BiLSTM-MhSa-ResNet 模型擬合效果最好，與充電狀態(tài)下電堆SOC 真實(shí)值最為接近。由圖7 可以看出，在SOC 較小時(shí)，預(yù)測(cè)模型存在相對(duì)誤差偏大的情況，這是由于SOC 真實(shí)值過小導(dǎo)致的，但可以看出絕對(duì)誤差偏差不大。在SOC 逐漸變大的過程中，各模型預(yù)測(cè)的相對(duì)誤差曲線逐漸平穩(wěn)，趨近于0。從對(duì)比圖可以看出，使用LSTM 進(jìn)行預(yù)測(cè)時(shí)，預(yù)測(cè)結(jié)果與真實(shí)值相差最大，優(yōu)化模型后預(yù)測(cè)結(jié)果逐漸變好，采用BiLSTM-MhSa-ResNet 進(jìn)行預(yù)測(cè)時(shí)，預(yù)測(cè)SOC 相比于其他模型更接近真實(shí)值，訓(xùn)練效果更好。將各個(gè)模型訓(xùn)練的MAE、RMSE 和R2進(jìn)行對(duì)比，對(duì)比結(jié)果如表2 所示。

表2 各模型評(píng)價(jià)結(jié)果對(duì)比

由表2 可以看出，采用雙向LSTM 比LSTM 預(yù)測(cè)效果好，均方根誤差從3.32%下降到2.31%。增加了ResNet 網(wǎng)絡(luò)后，預(yù)測(cè)誤差進(jìn)一步縮小，均方根誤差下降到1.59%。在引入多頭注意力機(jī)制后，均方根誤差下降到1.31%。經(jīng)過對(duì)比發(fā)現(xiàn)，該文使用的BiLSTMMhSa-ResNet 模型在電堆SOC 預(yù)測(cè)時(shí)性能要優(yōu)于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型，提高了預(yù)測(cè)的準(zhǔn)確性。除充電狀態(tài)外，該文還對(duì)電堆放電狀態(tài)下的SOC 進(jìn)行建型，BiLSTM-MhSa-ResNet 模型預(yù)測(cè)結(jié)果的MAE 為1.89%，RMSE 為2.25%，R2為0.993 7，預(yù)測(cè)誤差較小。選擇某次變工況放電運(yùn)行情況進(jìn)行預(yù)測(cè)，預(yù)測(cè)結(jié)果與真實(shí)值對(duì)比如圖8 所示。

圖8 放電狀態(tài)預(yù)測(cè)結(jié)果對(duì)比

由圖8可以看出，該文建立的BiLSTM-MhSa-Res Net模型在用于放電狀態(tài)下的電堆SOC預(yù)測(cè)時(shí)同樣具有較好的擬合效果，在SOC較小時(shí)，準(zhǔn)確性保持較高。

4 結(jié)束語

該文以某儲(chǔ)能電站為例，提出了一種基于BiLSTM-MhSa-ResNet 的電堆SOC 預(yù)測(cè)方法，通過充放電情況下的實(shí)驗(yàn)，得到以下結(jié)論：

1）分別采用LSTM 模型、BiLSTM 模型、BiLSTMResNet 模型和BiLSTM-MhSa-ResNet 模型進(jìn)行訓(xùn)練和預(yù)測(cè)，實(shí)驗(yàn)結(jié)果證明，采用該文提出的BiLSTMMhSa-ResNet 對(duì)充電SOC 進(jìn)行預(yù)測(cè)時(shí)，預(yù)測(cè)誤差最小，MAE 和RMSE 分別降低到1.02%和1.31%，組合模型提高了預(yù)測(cè)的精度。

2）使用BiLSTM-MhSa-ResNet 模型對(duì)放電狀態(tài)SOC 進(jìn)行預(yù)測(cè)時(shí)，MAE 和RMSE 分別為1.89%和2.55%，預(yù)測(cè)精度較高。

3）與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)相比，該文提出的BiLSTMMhSa-ResNet 模型通過ResNet 有效解決了梯度異常問題，通過MhSa 提高了特征值的獲取能力，通過雙向傳遞機(jī)制有效捕獲了長(zhǎng)期依賴關(guān)系，從而提高了模型的預(yù)測(cè)精度。

使用BiLSTM-MhSa-ResNet模型對(duì)實(shí)際工程的電堆SOC預(yù)測(cè)性能較好，下一步考慮對(duì)實(shí)際項(xiàng)目發(fā)電-儲(chǔ)能聯(lián)合控制的SOC預(yù)測(cè)和儲(chǔ)能電站調(diào)度策略進(jìn)行研究。