中圖分類號(hào):TN911.23-34;TP18 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1004-373X(2025)16-0088-09
A medium and long-term residential electricity consumption forecasting modelbasedonFFT-DC-GRU-NLA
ZHANGCheng,SHEN Chao (Collegeof InformationandElectrical Engineering,Hebei UniversityofEngineering,Handan O56O38,China)
Abstract:Inallusion to the dificulties incomplex powerdata modeling,poor informationrepresentation capabilities,and lowpredictionacuracyinexisting mediumandlong-termresidential electricityconsumptionforecastingmodels,amediumand long-termelectricityconsumptionforecastingmodelbasedonFFT-DC-GRU-NLAisproposed.ThefastFourier transform(FFT)is usedto decompose the electrityconsumptiondata,and themulti-periodcomponentsareextracted by means of frequency domaindecompositiontoobtainasetof two-dimensionalsub-sequences.Itisusedastheinputfortheself-designedinforation representationmodule torealizemulti-scaleinformationrepresentationanddepfeatureextractionofthetwo-dimensional subsequencesbyintegratingconvolutionalneuralnetwork,gatedrecurentunit,andnon-localatentionmechanism.Thedep featuresarereconstructed bymeansoffullyconnectedlayersand iterativelypredicted bymeansof residual structure.Ona publicdatasetofresidentialelectricityconsumption,comparedwithseveraladvancedmodelsinthefieldofpowerprediction,the proposed modelhasthe highestpredictionaccuracyatpredictionlengthsof96,192,336and720.Moreover,themodelcanalso realizeexcelentpredictionaccuracyontwootherpublicdatasetsrelatedtopowerprediction.Theexperimentalresultsshowthat thismodelcanefectivelyimprovetheaccuracyofmediumandlong-termresidentialelectricityconsumptionforecastingandhas good generalization capabilities.
Keywords:mediumandlong-termelectricityconsumptionforecasting;fastFourier transform;convolutioalneuralnetwork; gated recurrent unit; non-local attention mechanism; multi-scale information; deep feature extraction
0 引言
在“雙碳”政策的戰(zhàn)略框架下,為達(dá)成“碳達(dá)峰”與“碳中和”的宏偉目標(biāo),新型電力系統(tǒng)的建設(shè)被確立為核心任務(wù)之一1。在新型電力系統(tǒng)的構(gòu)建與部署階段,若未能充分規(guī)劃與優(yōu)化用電系統(tǒng)建設(shè),將直接導(dǎo)致資源利用的低效與浪費(fèi)2。鑒于此,精準(zhǔn)預(yù)測(cè)用戶側(cè)長(zhǎng)期用電量的動(dòng)態(tài)變化趨勢(shì),成為了破解資源浪費(fèi)難題、提升系統(tǒng)整體效能與可持續(xù)發(fā)展的核心策略與關(guān)鍵路徑。同時(shí),用戶日?;顒?dòng)所驅(qū)動(dòng)的電力消費(fèi)模式展現(xiàn)出鮮明的周期性特征,這一特征賦予了基于該模式的時(shí)序數(shù)據(jù)高度的可預(yù)測(cè)潛力。
鑒于上述背景,精確的居民用電量預(yù)測(cè),特別是針對(duì)中長(zhǎng)期時(shí)間尺度的預(yù)測(cè),對(duì)于新型電力系統(tǒng)的規(guī)劃布局、資源配置以及穩(wěn)定高效運(yùn)行具有決定性影響。它不僅關(guān)乎系統(tǒng)能否有效應(yīng)對(duì)未來電力需求的波動(dòng),還直接影響到清潔能源的整合效率、碳排放的控制策略以及新型電力系統(tǒng)的整體韌性[3]。
當(dāng)前,中長(zhǎng)期用電量預(yù)測(cè)領(lǐng)域的研究深度與廣度不斷拓展,其核心方法體系可明確劃分為統(tǒng)計(jì)學(xué)習(xí)、機(jī)器學(xué)習(xí)與深度學(xué)習(xí)三大范疇。統(tǒng)計(jì)學(xué)方法,如自回歸模型法、非參數(shù)回歸模型以及最優(yōu)化殘差劃分Markov修正等,憑借其理論框架的嚴(yán)謹(jǐn)性與實(shí)踐操作的便捷性,在預(yù)測(cè)初期階段贏得了廣泛認(rèn)可。然而,這些方法的有效性根基深植于一個(gè)核心假設(shè)一時(shí)間序列的穩(wěn)定性,這一假設(shè)在實(shí)際用電場(chǎng)景下實(shí)現(xiàn)的條件過于嚴(yán)苛。電力數(shù)據(jù)作為一種復(fù)雜且高度非線性的時(shí)間序列,其動(dòng)態(tài)變化深受季節(jié)性波動(dòng)、長(zhǎng)期趨勢(shì)等多重因素的交織影響,呈現(xiàn)出顯著的非平穩(wěn)性特征,從而對(duì)傳統(tǒng)統(tǒng)計(jì)方法的適用性造成了嚴(yán)峻考驗(yàn)。在此背景下,機(jī)器學(xué)習(xí)算法以其捕捉非線性相關(guān)性的能力,逐漸成為用電量預(yù)測(cè)領(lǐng)域的新寵。決策樹8]、支持向量機(jī)及集成學(xué)習(xí)[等算法的應(yīng)用,標(biāo)志著預(yù)測(cè)模型向更高維度邁進(jìn)。
然而,盡管這些算法在挖掘數(shù)據(jù)間非線性關(guān)系上展現(xiàn)出優(yōu)勢(shì),但在處理時(shí)間序列數(shù)據(jù)特有的時(shí)序依賴性問題上仍顯不足,難以全面捕捉電力數(shù)據(jù)中的時(shí)間動(dòng)態(tài)特性。為克服這一局限,深度學(xué)習(xí)技術(shù)應(yīng)運(yùn)而生,特別是長(zhǎng)短期記憶(LSTM)網(wǎng)絡(luò)[13]和Transformer模型[14],憑借其卓越的序列處理能力與長(zhǎng)期依賴捕捉能力,在時(shí)間序列預(yù)測(cè)領(lǐng)域大放異彩。在電力預(yù)測(cè)實(shí)踐中,基于長(zhǎng)短期記憶網(wǎng)絡(luò)和Transformer的深度學(xué)習(xí)模型成功地應(yīng)對(duì)了電力數(shù)據(jù)的非線性與非平穩(wěn)性挑戰(zhàn)。例如,文獻(xiàn)[15]成功應(yīng)用長(zhǎng)短期記憶網(wǎng)絡(luò)模型進(jìn)行短期生活用電負(fù)荷預(yù)測(cè);文獻(xiàn)[16-18]中數(shù)個(gè)基于Transformer變體架構(gòu)的中長(zhǎng)期用電量預(yù)測(cè)方法相較多種傳統(tǒng)方法,實(shí)現(xiàn)了更高的預(yù)測(cè)精度,成功驗(yàn)證了深度學(xué)習(xí)在用電量預(yù)測(cè)領(lǐng)域的巨大潛力。然而,單一的深度學(xué)習(xí)模型無法精準(zhǔn)地對(duì)更長(zhǎng)時(shí)序的時(shí)間序列數(shù)據(jù)進(jìn)行建模,且面臨序列信息丟失與歷史信息稀疏化的挑戰(zhàn),這限制了其在長(zhǎng)期依賴關(guān)系捕獲上的進(jìn)一步突破[19]。因此,本文聚焦于優(yōu)化深度學(xué)習(xí)模型結(jié)構(gòu)及探索多模型融合策略,以實(shí)現(xiàn)對(duì)中長(zhǎng)期用電量更為精準(zhǔn)與全面的預(yù)測(cè)。
鑒于現(xiàn)有的中長(zhǎng)期用電量預(yù)測(cè)模型中存在的以上問題,本文提出了一種創(chuàng)新的預(yù)測(cè)模型,即FFT-DC-GRU-NLA。該模型從用電量數(shù)據(jù)的多時(shí)間尺度特性出發(fā),采用了快速傅里葉變換(FastFourierTransform,F(xiàn)FT)方法進(jìn)行數(shù)據(jù)預(yù)處理,有效地實(shí)現(xiàn)了對(duì)復(fù)雜電力數(shù)據(jù)的多維重構(gòu)。這一方法不僅顯著降低了數(shù)據(jù)序列的規(guī)模,而且大幅提升了數(shù)據(jù)處理效率。本文還設(shè)計(jì)了一個(gè)融合注意力機(jī)制的并行信息表示模塊。該模塊能夠深入挖掘輸入數(shù)據(jù)在不同尺度上的特征,顯著解決了模型訓(xùn)練中序列信息丟失與歷史信息稀疏化問題。最終,本文將數(shù)據(jù)預(yù)處理與信息表示模塊整合為一個(gè)完整的Block結(jié)構(gòu),并將兩個(gè)這樣的Block串聯(lián)起來,同時(shí)引入了殘差連接機(jī)制。這種串聯(lián)結(jié)構(gòu)進(jìn)一步優(yōu)化了模型的預(yù)測(cè)精度,并增強(qiáng)了其泛化能力。
為了驗(yàn)證所提出模型的效果,本文采用了公開的ECL數(shù)據(jù)集,其中包含的真實(shí)居民用電量數(shù)據(jù)為模型性能驗(yàn)證提供了堅(jiān)實(shí)基礎(chǔ)。與當(dāng)前電力預(yù)測(cè)領(lǐng)域內(nèi)的多個(gè)先進(jìn)模型相比,F(xiàn)FT-DC-GRU-NLA在預(yù)測(cè)精度上展現(xiàn)出顯著優(yōu)勢(shì)。進(jìn)一步地,通過在不同電力相關(guān)領(lǐng)域數(shù)據(jù)集上的泛化性測(cè)試,驗(yàn)證了該模型強(qiáng)大的適應(yīng)性與穩(wěn)定性,為電力預(yù)測(cè)領(lǐng)域的研究與實(shí)踐提供了新的思路與方法。
1 FFT-DC-GRU-NLA預(yù)測(cè)模型設(shè)計(jì)
1.1 FFT-DC-GRU-NLA模型構(gòu)建
本文提出的FFT-DC-GRU-NLA模型結(jié)構(gòu)如圖1所示,采用模塊化設(shè)計(jì),專門針對(duì)用電周期多尺度特性。模型包含數(shù)據(jù)處理和信息表示模塊,整體由兩層Block塊串聯(lián)而成,形成高效預(yù)測(cè)框架,逐步提取用電量數(shù)據(jù)的復(fù)雜特征,提升預(yù)測(cè)的準(zhǔn)確性和可靠性。輸入數(shù)據(jù)為X1D0∈RT×C ,表示具有 c 個(gè)變量且長(zhǎng)度為 T 的時(shí)間序列。其過程如下:
1.2數(shù)據(jù)處理模塊
為了精確識(shí)別復(fù)雜用電量數(shù)據(jù)中的多周期性特征,從而輔助模型進(jìn)行精準(zhǔn)建模,本文對(duì)于輸人的一維時(shí)間序列 XlDi,i∈[0,2] ,應(yīng)用了快速傅里葉變換進(jìn)行多周期性計(jì)算。具體計(jì)算過程如公式(3)~公式(5)所示,通過FFT變換,模型可以有效地從時(shí)間序列數(shù)據(jù)中提取出不同頻率的周期成分。
式中: FFT(?) 和 Amp(?) 表示快速傅里葉變換及其振幅值的計(jì)算結(jié)果; A∈RT 表示對(duì) X1D 中各個(gè)頻率成分的振幅強(qiáng)度進(jìn)行量化,該振幅強(qiáng)度是通過一維時(shí)間序列 X1D 進(jìn)行快速傅里葉變換后計(jì)算得到的振幅值取平均值A(chǔ)vg(?) 為了減少高頻噪聲的干擾,本文僅選取振幅強(qiáng)度最高的 k 個(gè)頻率成分 {f1,f2,…,fk} 門
圖1FFT-DC-GRU整體結(jié)構(gòu)圖
由于頻域分析中的共軛對(duì)稱性,頻率的選擇范圍限定在 {1,2,…,[T/2]} 。 {f1,f2,…,fk} 分別對(duì)應(yīng)于 k 個(gè)周期長(zhǎng)度 {p1,p2,…,pk} 。利用這些選定的頻率及其相應(yīng)的周期長(zhǎng)度,對(duì)原始的一維時(shí)間序列 X1D 進(jìn)行重構(gòu),該重構(gòu)過程如下:
在重構(gòu)過程中,對(duì)于那些時(shí)間序列長(zhǎng)度無法被周期長(zhǎng)度 pi 整除的情況,本文采用了 Padding(?) 操作。通過在時(shí)間序列的末尾添加零值,確保這些序列能夠被 pi 整除。經(jīng)過這一操作,模型能夠生成一組二維時(shí)序張量{X2D1,X2D2,…,X2Di} 。每個(gè)張量都是一維時(shí)序數(shù)據(jù)按照對(duì)應(yīng)的周期長(zhǎng)度進(jìn)行劃分和重構(gòu)而形成的。在這些時(shí)序張量中,每一列代表周期內(nèi)的變化,而每一行則對(duì)應(yīng)著周期之間的變化,從而為模型提供了豐富的時(shí)序特征信息。
接下來,將這些二維特征張量輸入到信息表示模塊中,以進(jìn)行特征表示。在信息表示模塊中處理完畢后,得到的二維特征結(jié)果將回饋至數(shù)據(jù)處理模塊。在數(shù)據(jù)處理模塊中,這些二維特征將被重塑為一維形式。隨后,根據(jù)一維特征對(duì)應(yīng)的頻率強(qiáng)度進(jìn)行加權(quán)求和操作。這些處理過的特征將通過全連接層進(jìn)行進(jìn)一步整合,最終得到模型的預(yù)測(cè)輸出。
數(shù)據(jù)處理模塊的流程如圖2所示。該流程主要分為以下4個(gè)步驟,
1)對(duì)輸入的原始一維時(shí)序數(shù)據(jù)進(jìn)行快速傅里葉變換,以提取出最顯著的k個(gè)周期。再根據(jù)這些周期將一維時(shí)序數(shù)據(jù)劃分為多個(gè)部分,并將這些部分堆疊成多個(gè)二維張量。這一過程對(duì)應(yīng)于前文中的公式(3)~公式(6)。
2)將這些二維張量輸入到模型的信息表示模塊中,以提取和表示時(shí)序數(shù)據(jù)的特征,從而獲得反映時(shí)序變化的二維特征。
3)將步驟2)得到的二維特征結(jié)果重塑回一維特征向量。
4)對(duì)一維特征進(jìn)行自適應(yīng)融合,即根據(jù)特征對(duì)應(yīng)的頻率強(qiáng)度進(jìn)行加權(quán)求和,以生成最終的輸出結(jié)果。
圖2數(shù)據(jù)處理模塊流程
1.3信息表示模塊
如圖3所示,信息表示模塊由兩個(gè)并行分支組成:膨脹卷積分支網(wǎng)絡(luò)(DC層)和GRU-NLA層。輸人數(shù)據(jù)同時(shí)進(jìn)人兩個(gè)分支,并通過點(diǎn)乘結(jié)合,形成最終輸出。這種設(shè)計(jì)讓模型能夠從多角度提取特征,結(jié)合兩個(gè)分支的優(yōu)勢(shì),顯著增強(qiáng)了模型捕獲長(zhǎng)期依賴關(guān)系的能力。
1.4膨脹卷積分支網(wǎng)絡(luò)
如圖3所示,膨脹卷積分支網(wǎng)絡(luò)由兩個(gè)相同的膨脹卷積分支依次串聯(lián)形成。為了解決梯度消失問題,模塊內(nèi)部嵌入了高斯誤差線性單元(GaussianErrorLinearUnit,GELU)激活函數(shù)。選擇使用膨脹卷積網(wǎng)絡(luò)的原因在于,它能夠在不增加參數(shù)數(shù)量的情況下擴(kuò)大感受野,這對(duì)于捕捉用電量數(shù)據(jù)中的長(zhǎng)期依賴關(guān)系至關(guān)重要。
圖3信息表示模塊結(jié)構(gòu)圖
膨脹卷積分支由多個(gè)不同尺度的卷積子分支組成,有效捕捉用電量數(shù)據(jù)的周期特征依賴。這種方法提高了處理長(zhǎng)期數(shù)據(jù)變化的效率,減少了參數(shù)數(shù)量,增強(qiáng)了模型的性能和泛化能力,并且模型能夠自動(dòng)學(xué)習(xí)并加權(quán)融合子分支輸出,強(qiáng)化了對(duì)長(zhǎng)期依賴的捕獲,適合復(fù)雜的中長(zhǎng)期用電量預(yù)測(cè)。此外,在每個(gè)卷積子分支的卷積核之后,緊跟著一個(gè)批量歸一化層。這種設(shè)計(jì)的自的在于利用批量歸一化加速訓(xùn)練過程,減少內(nèi)部協(xié)變量偏移,提高模型的泛化能力,并簡(jiǎn)化超參數(shù)的調(diào)整。膨脹卷積分支的具體結(jié)構(gòu)圖如圖4所示。
1.5 非局部注意力機(jī)制
膨脹卷積分支網(wǎng)絡(luò)連接兩個(gè)分支以捕獲局部特征,并通過殘差連接疊加Block以獲取全局信息。但卷積神經(jīng)網(wǎng)絡(luò)在處理中可能丟失信息,限制全局信息獲取和長(zhǎng)期依賴建立。這在用電量數(shù)據(jù)中尤為重要,因?yàn)閿?shù)據(jù)的周期性和內(nèi)部依賴性需要全局理解,而膨脹卷積可能無法完全捕捉這些關(guān)系。
圖4膨脹卷積分支結(jié)構(gòu)圖
非局部注意力機(jī)制考慮了二維時(shí)序張量的周期內(nèi)和周期間變化,通過加權(quán)計(jì)算克服了卷積神經(jīng)網(wǎng)絡(luò)只關(guān)注局部特征的局限。如圖5所示,輸入數(shù)據(jù)形狀為 C× H×W ,其中 C 是通道數(shù), H 是周期長(zhǎng)度, W 是周期數(shù)。圖中4條路徑的功能如下:最上方的2條路徑負(fù)責(zé)計(jì)算相關(guān)性;第3條路徑負(fù)責(zé)整合特征圖;最下方的路徑負(fù)責(zé)融合不同階段特征。該結(jié)構(gòu)可有效捕捉全局依賴關(guān)系,從而提升用電量預(yù)測(cè)模型的性能。
非局部注意力機(jī)制的公式如下:
式中: x 代表輸人數(shù)據(jù); xi 和 yi 分別表示輸人和輸出向量;索引 i 與 j 分別表示輸入數(shù)據(jù)中不同位置的變量。函數(shù) f(xi,xj) 用于評(píng)估位置之間的相似性,輸出歸一化權(quán)重;函數(shù) ξ(xj) 用于計(jì)算位置 j 的特征表示; C(x) 表示歸一化項(xiàng),確保了注意力權(quán)重的總和為1,保持輸出穩(wěn)定。因此,非局部注意力模塊能夠有效捕獲全局變化信息,識(shí)別長(zhǎng)期依賴,進(jìn)而提升中長(zhǎng)期居民用電量預(yù)測(cè)任務(wù)的整體準(zhǔn)確性。
1.6 門控循環(huán)單元
門控循環(huán)單元(GRU)作為一種高效的循環(huán)神經(jīng)網(wǎng)絡(luò)架構(gòu),通過其簡(jiǎn)潔的內(nèi)部結(jié)構(gòu)減少了參數(shù)量,有助于避免過擬合問題。如圖6所示,GRU包含更新門(表示為 zt )和重置門(表示為 rt ),這兩個(gè)門結(jié)構(gòu)協(xié)同工作,不僅增強(qiáng)了網(wǎng)絡(luò)對(duì)序列數(shù)據(jù)的處理能力,而且加強(qiáng)了模型在捕捉長(zhǎng)期依賴關(guān)系方面的效能。
重置門的計(jì)算公式為:
式中: [ht-1,Xt] 是前一個(gè)隱藏狀態(tài)向量 ht-1 和當(dāng)前輸入向量 Xt 的串聯(lián)向量; wr 和 br 分別是權(quán)重向量和偏置向量。
圖5非局部注意力模塊結(jié)構(gòu)圖
圖6門控循環(huán)單元結(jié)構(gòu)圖
更新門元素 zt 的計(jì)算方式與重置門相似,使用相同的輸人和激活函數(shù),但權(quán)重向量和偏置不同:
接下來,根據(jù)圖6所示的信息流程,通過以下公式計(jì)算臨時(shí)值
最后,利用前一個(gè)隱藏狀態(tài)向量 ht-1 更新門向量 zt 和臨時(shí)向量 通過點(diǎn)乘和加法操作計(jì)算當(dāng)前時(shí)間步 χt 的隱藏狀態(tài)向量 ht
通過上述公式(8)~公式(11),隱藏狀態(tài) ht 從一個(gè)時(shí)間步更新到下一個(gè)時(shí)間步。它對(duì)神經(jīng)網(wǎng)絡(luò)在每個(gè)時(shí)間步的輸出產(chǎn)生直接影響。
在中長(zhǎng)期用電量預(yù)測(cè)中,GRU的更新門用于調(diào)節(jié)歷史信息傳遞,數(shù)值高則保留更多信息,維持長(zhǎng)期依賴;數(shù)值低則依賴新輸入。重置門控制忽略歷史信息的程度,低數(shù)值使模型更關(guān)注當(dāng)前輸入,捕獲短期依賴。兩者共同作用,使GRU能同時(shí)處理短期和長(zhǎng)期依賴,對(duì)預(yù)測(cè)用電量變化非常重要。
1.7 GRU-NLA層
在模型架構(gòu)中,GRU-NLA層分支扮演著核心角色,旨在增強(qiáng)模型的全局建模能力,同時(shí)提取和處理輸入特征,以實(shí)現(xiàn)更準(zhǔn)確和更可靠的中長(zhǎng)期用電量預(yù)測(cè)。GRU-NLA層分支結(jié)構(gòu)如圖3所示。
首先,GRU-NLA層分支集成了門控循環(huán)單元模塊,通過GRU,該模塊能夠?qū)τ秒娏繑?shù)據(jù)進(jìn)行更深入的時(shí)間序列建模,從而更有效地捕獲數(shù)據(jù)中的周期性和趨勢(shì)性信息。GRU以其緊湊的計(jì)算結(jié)構(gòu),能夠捕捉序列數(shù)據(jù)中的長(zhǎng)期依賴關(guān)系,這是傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)難以實(shí)現(xiàn)的。
其次,GRU-NLA層分支還包含非局部注意力模塊。在本文模型的非局部注意力機(jī)制中,函數(shù) f 通過點(diǎn)乘運(yùn)算和Softmax激活函數(shù)進(jìn)行歸一化。選擇了三個(gè)卷積層ξ(x),θ(x) 和 ?(x) 作為神經(jīng)網(wǎng)絡(luò)映射。 C(x) 是函數(shù)f的總和,具體公式如下:
f(xi,xj)=Softmax(θ(xi)??(xj))
ξ(xj)=Wξ?xj
θ(xi)=Wθ?xi
?(xj)=W??xj
這種注意力機(jī)制擁有捕捉數(shù)據(jù)全局依賴關(guān)系的能力,有助于模型識(shí)別和關(guān)注數(shù)據(jù)中的關(guān)鍵特征,從而增強(qiáng)模型的泛化能力。
通過將GRU與非局部注意力機(jī)制串聯(lián),GRU-NLA層不僅彌補(bǔ)了膨脹卷積分支網(wǎng)絡(luò)在全局建模方面的不足,而且通過兩種機(jī)制的互補(bǔ)作用,加強(qiáng)了模型對(duì)長(zhǎng)期依賴關(guān)系的捕捉能力,從而提高了模型的預(yù)測(cè)準(zhǔn)確性和可靠性。這種結(jié)構(gòu)設(shè)計(jì)使得GRU-NLA層分支能夠更好地適應(yīng)復(fù)雜的中長(zhǎng)期居民用電量預(yù)測(cè)任務(wù)。
2算例分析
2.1數(shù)據(jù)描述
為了驗(yàn)證本文提出的模型性能,采用在中長(zhǎng)期用電量預(yù)測(cè)領(lǐng)域廣泛使用的公共數(shù)據(jù)集ECL。該數(shù)據(jù)集記錄了321位居民用戶在2016年7月1日—2019年7月2日期間共26305條的用電量負(fù)荷數(shù)據(jù)(以 kW?h 計(jì))。數(shù)據(jù)集的相關(guān)信息如下:該數(shù)據(jù)集沒有缺失值,除第一列為時(shí)間信息外,其他每一列代表一位居民在各個(gè)時(shí)間點(diǎn)的用電量情況。數(shù)據(jù)的采樣間隔為 60min 。在實(shí)驗(yàn)中,本文選擇了320位居民的用電量作為訓(xùn)練特征輸人,第321位居民的用電量作為預(yù)測(cè)目標(biāo)。
2.2基準(zhǔn)模型與評(píng)價(jià)指標(biāo)
本文選擇了當(dāng)前電力預(yù)測(cè)領(lǐng)域內(nèi)的多個(gè)先進(jìn)模型作為實(shí)驗(yàn)的基線,包括LSTM[3]、Informer[Autoformer[7]、ETSformer[8]。這些模型在電力預(yù)測(cè)任務(wù)中表現(xiàn)出色,能夠有效地捕捉序列數(shù)據(jù)中的長(zhǎng)期依賴關(guān)系。其中,LSTM是RNN的一種變體,它通過門控機(jī)制解決了RNN中的梯度消失問題,能夠捕捉時(shí)序中的長(zhǎng)期依賴關(guān)系;Informer是一種基于概率稀疏和自注意力蒸餾模塊的Transformer變體,它通過減少模型參數(shù)量和計(jì)算復(fù)雜度來提高模型的效率;Autoformer為基于自相關(guān)機(jī)制的Transformer變體,它通過自注意力機(jī)制來捕獲序列數(shù)據(jù)中的時(shí)間依賴關(guān)系;ETSformer是在Autoformer的基礎(chǔ)上融入了傳統(tǒng)的提取趨勢(shì)時(shí)序方法的變體,能夠同時(shí)捕捉時(shí)間序列數(shù)據(jù)的趨勢(shì)和季節(jié)性特征。
為了衡量模型的性能,本文采用了兩種在時(shí)間序列預(yù)測(cè)中常用的性能評(píng)估指標(biāo):均方誤差(MeanSquaredError,MSE)和平均絕對(duì)誤差(MeanAbsoluteError,MAE)。這兩種指標(biāo)能夠有效地評(píng)估模型預(yù)測(cè)結(jié)果與真實(shí)值之間的差異,幫助研究人員選擇和優(yōu)化模型。其計(jì)算公式為:
式中: m 為樣本數(shù)量; yi 為真實(shí)值; 為預(yù)測(cè)值。模型性能的優(yōu)越程度與MSE和MAE的值呈負(fù)相關(guān),即值越小,模型對(duì)真實(shí)值的預(yù)測(cè)越準(zhǔn)確。
2.3實(shí)驗(yàn)參數(shù)設(shè)置
本文所有實(shí)驗(yàn)均在配置了IntelXeonPlatinum8358PCPU和NVIDIAGeForceRTX3090GPU的服務(wù)器上進(jìn)行,使用PyTorch作為深度學(xué)習(xí)框架。與基準(zhǔn)模型處理方法一樣,本文對(duì)所有數(shù)據(jù)集進(jìn)行了歸一化處理和位置編碼處理,以提高模型的預(yù)測(cè)性能。數(shù)據(jù)集均按照時(shí)間順序分割為訓(xùn)練集、驗(yàn)證集和測(cè)試集,其樣本數(shù)比例為7:2:1,以確保模型的泛化能力。所有結(jié)果通過三次隨機(jī)測(cè)試并取平均值得到。實(shí)驗(yàn)中,數(shù)據(jù)集的預(yù)測(cè)長(zhǎng)度設(shè)置為{96,192,336,720},而輸人長(zhǎng)度固定為96。為了有效避免模型過擬合并減少訓(xùn)練時(shí)間,實(shí)驗(yàn)引入了提前停止策略。模型主要超參數(shù)配置如表1所示,其中詳細(xì)列出了模型訓(xùn)練時(shí)的超參數(shù)設(shè)置。
2.4對(duì)比實(shí)驗(yàn)分析
為了驗(yàn)證本文所提出的模型在中長(zhǎng)期居民用電量預(yù)測(cè)方面的有效性和準(zhǔn)確性,本文選取5個(gè)電力預(yù)測(cè)領(lǐng)域內(nèi)的多個(gè)先進(jìn)模型作為對(duì)照組,進(jìn)行對(duì)比實(shí)驗(yàn)分析。
預(yù)測(cè)結(jié)果的評(píng)價(jià)采用MSE、MAE兩個(gè)指標(biāo),如表2所示。表2顯示了五種模型均取得了較好的預(yù)測(cè)結(jié)果。然而,與其他四種模型相比,本文所提出的FFT-DC-GRU-NLA模型在四個(gè)不同預(yù)測(cè)長(zhǎng)度的MSE、MAE評(píng)價(jià)指標(biāo)上明顯更低。與電力預(yù)測(cè)領(lǐng)域經(jīng)典的LSTM模型相比,F(xiàn)FT-DC-GRU-NLA模型的MSE平均降低了 65.65% MAE平均降低了 48.87% 。
表1模型主要超參數(shù)配置
為了深人評(píng)估FFT-DC-GRU-NLA模型的預(yù)測(cè)性能,本文還將其與三個(gè)在對(duì)比實(shí)驗(yàn)中表現(xiàn)優(yōu)異的基準(zhǔn)模型——Informer、Autoformer和ETSformer進(jìn)行了細(xì)致的比較。各模型的預(yù)測(cè)性能在預(yù)測(cè)長(zhǎng)度為96的真實(shí)值與預(yù)測(cè)值對(duì)比結(jié)果中得到了直觀展示,如圖7所示。結(jié)合圖可知:相較于FFT-DC-GRU-NLA模型預(yù)測(cè)結(jié)果,Informer模型的預(yù)測(cè)性能明顯較差;Autoformer模型雖能大致捕捉了數(shù)據(jù)的變化趨勢(shì),但精度有限;ETSformer模型在部分?jǐn)?shù)據(jù)上的預(yù)測(cè)較為準(zhǔn)確,但總體而言,其表現(xiàn)仍不及FFT-DC-GRU-NLA模型。結(jié)合表2可知,相較于ETSformer模型,F(xiàn)FT-DC-GRU-NLA模型的MSE平均降低了 7.69% ,MAE平均降低了 9.29% ,進(jìn)一步證明了FFT-DC-GRU-NLA模型在用電量預(yù)測(cè)性能上的優(yōu)勢(shì)。
2.5泛化性測(cè)試實(shí)驗(yàn)
為了評(píng)估模型的泛化能力,本文還進(jìn)行了泛化性測(cè)試實(shí)驗(yàn)。實(shí)驗(yàn)的目的是確定模型是否能夠在獨(dú)立的數(shù)據(jù)庫上維持其性能。泛化性測(cè)試實(shí)驗(yàn)的執(zhí)行遵循了對(duì)比實(shí)驗(yàn)中既定的實(shí)驗(yàn)設(shè)置環(huán)境,確保了測(cè)試條件的統(tǒng)一性。通過這些測(cè)試可以客觀地分析模型在不同數(shù)據(jù)集上的表現(xiàn),從而驗(yàn)證其泛化性能。本文選取了兩個(gè)與電力相關(guān)的公共數(shù)據(jù)集進(jìn)行實(shí)驗(yàn),分別為 ETTm1 數(shù)據(jù)集與SPL數(shù)據(jù)集。 ETTm1 數(shù)據(jù)集收集了中國某縣2年期間電力變壓器的溫度數(shù)據(jù)。它以 15min 為間隔記錄,每個(gè)數(shù)據(jù)點(diǎn)包括日期、6種不同類型的外部負(fù)載值,以及油溫。
表2各模型預(yù)測(cè)評(píng)價(jià)指標(biāo)對(duì)比(ECL數(shù)據(jù)集)
圖7各模型預(yù)測(cè)值與真實(shí)值對(duì)比圖
SPL數(shù)據(jù)集收集了2015—2018年西班牙某地的陸上風(fēng)電負(fù)荷數(shù)據(jù)。每 60min 收集一次數(shù)據(jù)值,每個(gè)數(shù)據(jù)點(diǎn)包括10個(gè)指標(biāo),如當(dāng)?shù)貧鉁?、?dāng)日天氣情況等。
實(shí)驗(yàn)結(jié)果如表3、表4所示。
在ETTm1和SPL這兩個(gè)數(shù)據(jù)集上,本文提出的FFT-DC-GRU-NLA模型均展現(xiàn)出了優(yōu)秀的預(yù)測(cè)性能。與表現(xiàn)最優(yōu)的基準(zhǔn)模型ETSformer相比,在ETTm1數(shù)據(jù)集上,F(xiàn)FT-DC-GRU-NLA模型的均方誤差(MSE)和平均絕對(duì)誤差(MAE)分別平均下降了 7.23% 和 4% ;在SPL數(shù)據(jù)集上,MSE和MAE的平均降幅分別為 15.63% 和12.83% 。這些結(jié)果說明FFT-DC-GRU-NLA模型并未對(duì)ECL數(shù)據(jù)庫產(chǎn)生過擬合現(xiàn)象,而是展現(xiàn)出了對(duì)新數(shù)據(jù)的良好適應(yīng)性和泛化能力,能夠在不同的獨(dú)立數(shù)據(jù)庫上維持其預(yù)測(cè)性能。
3結(jié)語
為了克服現(xiàn)有中長(zhǎng)期用電量預(yù)測(cè)模型在復(fù)雜電力數(shù)據(jù)建模方面不準(zhǔn)確,以及難以捕捉數(shù)據(jù)間長(zhǎng)期依賴特征的問題,本文提出了一種中長(zhǎng)期居民用電量預(yù)測(cè)模型FFT-DC-GRU-NLA。
表3各模型預(yù)測(cè)評(píng)價(jià)指標(biāo)對(duì)比 ETTm1 數(shù)據(jù)集)
表4各模型預(yù)測(cè)評(píng)價(jià)指標(biāo)對(duì)比(SPL數(shù)據(jù)集)
該模型采用多周期和多尺度融合的策略,從用電量數(shù)據(jù)的多時(shí)間尺度特性出發(fā),利用快速傅里葉變換技術(shù)對(duì)時(shí)間序列進(jìn)行周期分析,從而實(shí)現(xiàn)對(duì)用電量數(shù)據(jù)的預(yù)處理。
通過融合卷積神經(jīng)網(wǎng)絡(luò)、門控循環(huán)單元和非局部注意力機(jī)制的優(yōu)勢(shì),該模型增強(qiáng)了捕捉長(zhǎng)期依賴關(guān)系的能力。本文提出的FFT-DC-GRU-NLA模型在中長(zhǎng)期居民用電量預(yù)測(cè)方面,相較于多個(gè)中長(zhǎng)期電力預(yù)測(cè)領(lǐng)域中的先進(jìn)模型預(yù)測(cè)精度最高,并且本文進(jìn)行了泛化能力實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果表明,該預(yù)測(cè)模型具有較強(qiáng)的泛化能力。這些結(jié)果驗(yàn)證了FFT-DC-GRU-NLA模型在中長(zhǎng)期居民用電量預(yù)測(cè)方面的有效性,為進(jìn)一步推動(dòng)新型電力系統(tǒng)的研究和應(yīng)用提供了有力支持。
注:本文通訊作者為申超。
參考文獻(xiàn)
[1]吳磊.電力行業(yè)碳達(dá)峰方案落地路徑探討[J].能源與節(jié)能, 2024(7):35-37.
[2]CHO S, LI C,GROSSMANN I E.Recent advancesand challenges in optimization models for expansion planning of powersystems and reliability optimization [J].Computersamp; chemical engineering,2022,165:107924.
[3]張昆明,蔡珊珊,章天晗,等.考慮多維時(shí)域特征的行業(yè)中長(zhǎng)期負(fù)荷預(yù)測(cè)方法[J].電力系統(tǒng)自動(dòng)化,2023,47(20):104-114.
[4]劉芳,李海濱,李明昕,等.基于ARIMA模型的包頭市全社會(huì)用電量短期預(yù)測(cè)[J].內(nèi)蒙古科技大學(xué)學(xué)報(bào),2023,42(4):307-310.
[5]查志偉.基于協(xié)整理論和非參數(shù)回歸的江蘇省用電量的統(tǒng)計(jì)分析[D].合肥:安徽建筑大學(xué),2023.
[6]曾孟佳,溫柔,施閏虎,等.基于最優(yōu)化殘差劃分Markov修正的城市用電量預(yù)測(cè)模型[J].智能城市,2024,10(2):49-53.
[7]石少青,鄭楷洪,周尚禮,等.電量預(yù)測(cè)中的多分辨時(shí)序神經(jīng)網(wǎng)絡(luò)模型研究[J].山東科技大學(xué)學(xué)報(bào)(自然科學(xué)版),2022,41(2):117-126.
[8]王宏飛,周鑫,徐哲壯,等.基于云平臺(tái)的工業(yè)用電分析與預(yù)測(cè)[J].電氣技術(shù),2020,21(12):6-11.
[9]王新剛,朱彬若,顧臻.基于綜合能源計(jì)量大數(shù)據(jù)的中長(zhǎng)期用電量預(yù)測(cè)[J].中國電力,2021,54(10):211-216
[10]樊立攀,李勁松,霍偉強(qiáng),等.基于需求側(cè)管理的電力用戶能耗預(yù)測(cè)分析[J].計(jì)算機(jī)與數(shù)字工程,2021,49(5):869-874.
[11]曹敏,巨健,白澤洋,等.基于ARMA-SVM組合模型的售電用戶用電量預(yù)測(cè)方法[J].能源與環(huán)境,2021(1):49-51.
[12]張春梅,魏俊鋒.基于集成學(xué)習(xí)的電網(wǎng)用電量預(yù)測(cè)系統(tǒng)研究[J].現(xiàn)代計(jì)算機(jī)(專業(yè)版),2018(9):20-22.
[13]陳偉偉,荊世博,邊家瑜,等.基于長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)的電力用電量預(yù)測(cè)[J].機(jī)械與電子,2024,42(5):18-23.
[14]蔡岳,張津銘,郭晶,等.基于Transformer與改進(jìn)記憶機(jī)制的用電量預(yù)測(cè)研究[J].信息技術(shù),2024(6):67-74.
[15]張潔瑩,石元博.基于EEMD-AE-LSTM的生活用電短期負(fù)荷預(yù)測(cè)[J].計(jì)算機(jī)應(yīng)用與軟件,2024,41(3):70-74.
[16]ZHOU H,ZHANG S,PENG J,et al.Informer:beyondefficient Transformer for long sequence time-series forecasting[J].ProceedingsoftheAAAI conferenceonartificialintelligence,2022,35(12):11106-11115.
[17]WU H,XUJ,WANGJ,etal.Autoformer:decompositiontransformers with auto-correlation for long-term seriesforecasting [C]// Proceedings of the 2O21 Neural InformationProcessing Systems.Red Hook:Curran Associates Inc.,2021:22419-22430.
[18]WOO G,LIU C,SAHOO D,et al.ETSformer:exponentialsmoothing transformers for time-series forecasting [C]//TheEleventh International Conference on LearningRepresentations.Kigali, Rwanda: OpenReview,2023:1-19.
[19]ZENG A,CHEN M,ZHANG L,et al.Are Transformerseffective for time seriesforecasting?[J] Proceedings oftheAAAI conference on artificial inteligence,2023,37(9):11121-11128.
[20]梁波,解磊,李函奇,等.基于邊緣計(jì)算的商業(yè)區(qū)電力能源用電量動(dòng)態(tài)預(yù)測(cè)系統(tǒng)[J].電子設(shè)計(jì)工程,2024,32(2):138-142.
[21]張震,肖鶯,任永建,等.基于氣象因子的EEMD-BP方法在電網(wǎng)用電量預(yù)測(cè)中的應(yīng)用[J].南方能源建設(shè),2024,11(1):122-132.
作者簡(jiǎn)介:章誠(1999—),男,江西宜春人,在讀碩士研究生,CCF學(xué)生會(huì)員,研究方向?yàn)闀r(shí)間序列預(yù)測(cè)。申超(1985—),男,邯鄲人,博士研究生,講師,研究方向?yàn)椴⑿杏?jì)算、大數(shù)據(jù)。