吳瓊，段煉，鄉(xiāng)立，黃錦增，魏艷霞，孫毅

(1.廣東電網(wǎng)有限責(zé)任公司廣州供電局，廣東 廣州 510630；2.華北電力大學(xué) 電氣與電子工程學(xué)院，北京 102206)

電力負(fù)荷預(yù)測(cè)是保證電力系統(tǒng)穩(wěn)定且經(jīng)濟(jì)運(yùn)行的重要基礎(chǔ)，不同時(shí)間跨度的負(fù)荷預(yù)測(cè)有著不同的應(yīng)用目的[1]。高精度的短期負(fù)荷預(yù)測(cè)在有效降低發(fā)電成本方面具有關(guān)鍵作用[2]。然而電力系統(tǒng)中負(fù)荷種類的增加及多電源并網(wǎng)，產(chǎn)生了大量的結(jié)構(gòu)化、半結(jié)構(gòu)化、非結(jié)構(gòu)化的大數(shù)據(jù)，且變壓器負(fù)荷數(shù)據(jù)的非線性及復(fù)雜性逐漸增強(qiáng)[3]。隨著數(shù)據(jù)挖掘預(yù)測(cè)算法和統(tǒng)計(jì)學(xué)方法的進(jìn)步，各種優(yōu)化算法被大量引入負(fù)荷預(yù)測(cè)中。為了提高電力系統(tǒng)短期負(fù)荷預(yù)測(cè)的準(zhǔn)確性，文獻(xiàn)[4]提出了基于雙層隨機(jī)森林算法的電力系統(tǒng)短期負(fù)荷預(yù)測(cè)模型。Amjady和Keynia等將小波分析法[5]應(yīng)用于預(yù)測(cè)中長(zhǎng)期負(fù)荷，雖然可以適應(yīng)負(fù)荷的二重特性，但其存在訓(xùn)練時(shí)出現(xiàn)局部最小值、預(yù)測(cè)時(shí)的收斂速度較慢等問(wèn)題[6]。而最小二乘支持向量機(jī)(least squares support vector machines，LSSVM)具有擬合度高、適用性強(qiáng)等特點(diǎn)，可以較好地解決小樣本、非線性、高維數(shù)、局部極小點(diǎn)等實(shí)際問(wèn)題[7]，但存在訓(xùn)練時(shí)間長(zhǎng)、輸入數(shù)據(jù)維度高等缺點(diǎn)。文獻(xiàn)[8]則將灰色關(guān)聯(lián)度與LSSVM組合用于負(fù)荷預(yù)測(cè)，可以減少數(shù)據(jù)輸入維度，但存在無(wú)法區(qū)別特征負(fù)荷的重要缺陷。文獻(xiàn)[9]采用K-means算法定義節(jié)假日變量，考慮日期與氣象的交叉效應(yīng)，提出融合日期類型與氣象因素的多元線性回歸短期負(fù)荷預(yù)測(cè)模型。長(zhǎng)短期記憶(long short term memory，LSTM)神經(jīng)網(wǎng)絡(luò)是一種循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network，RNN)的改進(jìn)模型，解決了RNN的梯度消失和爆炸問(wèn)題，使網(wǎng)絡(luò)能夠有效地處理長(zhǎng)期時(shí)間序列數(shù)據(jù)，已應(yīng)用于電力負(fù)荷預(yù)測(cè)[10-11]，所得誤差明顯低于其他方法，極大地提升了電力負(fù)荷預(yù)測(cè)精度。然而，上述文獻(xiàn)均未能很好地解決預(yù)測(cè)計(jì)算時(shí)間較長(zhǎng)和復(fù)雜度較高的問(wèn)題。

因此，為了降低計(jì)算的復(fù)雜度，減少計(jì)算時(shí)間，本文針對(duì)大量的變壓器特性數(shù)據(jù)及負(fù)荷數(shù)據(jù)，提出一種基于變壓器特性聚類的電力負(fù)荷分布式預(yù)測(cè)算法，為供應(yīng)商預(yù)先控制電源出力及制訂相應(yīng)的負(fù)荷調(diào)控策略提供理論支撐，以減少對(duì)電網(wǎng)的沖擊，提高清潔能源消納[12-13]。

1 基于核主成分分析的變壓器特性聚類

1.1 基于核主成分分析的變壓器數(shù)據(jù)預(yù)處理

1.1.1 核主成分分析原理

核主成分分析(kernel principal component analysis，KPCA)首先采用非線性變換將輸入空間映射到高維特征空間，然后在高維空間采用主成分分析(principal component analysis，PCA)方法提取主成分，實(shí)現(xiàn)非線性降維。

對(duì)于輸入N維空間的M個(gè)樣本xk(k=1,2,…,M),xk∈RN(RN為N維樣本空間)，協(xié)方差矩陣

(1)

式中xj為第j個(gè)樣本矩陣。

對(duì)于PCA來(lái)說(shuō)，通過(guò)求解式(1)的協(xié)方差矩陣來(lái)求得特征值和相應(yīng)的特征向量，獲得貢獻(xiàn)率大的特征值及與之對(duì)應(yīng)的特征向量α。

引入非線性映射函數(shù)Φ，將輸入空間原始樣本點(diǎn)xk(k=1，2，…，M)變換為特征空間中樣本點(diǎn)Φ(xk)，并假設(shè)

(2)

則特征空間中的協(xié)方差矩陣

(3)

因此，KPCA就是求解λv=C1v中的特征值λ和特征向量v，兩邊同乘Φ，可以得到：

λ(Φ(xk)v)=Φ(xk)C1v.

(4)

v可以線性表示為

(5)

則式(4)可以表示為

(6)

求解式(6)，可得到要求的特征值和特征向量。對(duì)于測(cè)試樣本來(lái)說(shuō)，其在特征空間向量上的投影為

(7)

定義M×M矩陣K中元素為元素為特征向量，則式(6)可表達(dá)為

MλKα=K2α.

(8)

將式(7)進(jìn)行內(nèi)積替換則有

(9)

具體步驟如下：

a)得到原始輸入樣本，假設(shè)共M個(gè)樣本，每個(gè)樣本N維數(shù)據(jù)，則可以得到M行N列矩陣；

b)選擇適當(dāng)?shù)暮撕瘮?shù)，本文選擇徑向基核函數(shù)；

c)計(jì)算特征值λ和特征向量v；

d)將特征值按照從大到小排列，并調(diào)整與之對(duì)應(yīng)的特征向量；

e)采用Gram-Schmidt正交化方法將特征向量單位化，得到新的特征向量α；

f)計(jì)算特征值的貢獻(xiàn)率以及累計(jì)貢獻(xiàn)率，計(jì)算方法同PCA，根據(jù)事先設(shè)定的提取效率來(lái)提取主成分分量；

g)計(jì)算提取出的特征向量上的投影，即為經(jīng)過(guò)KPCA降維后的數(shù)據(jù)。

1.1.2 變壓器數(shù)據(jù)提取

從與變壓器物理特性、地理特性及臺(tái)區(qū)負(fù)荷相關(guān)的角度考慮，選取變壓器特性數(shù)據(jù)見(jiàn)表1。

表1 變壓器特性聚類數(shù)據(jù)選取Tab.1 Selection of transformer characteristic clustering data

本文采用的是南方某省的真實(shí)變壓器數(shù)據(jù)，不可避免地存在數(shù)據(jù)缺失、錯(cuò)誤等情況，而因?yàn)閿?shù)據(jù)的缺失和錯(cuò)誤導(dǎo)致的問(wèn)題將直接影響算法模塊最終結(jié)果的準(zhǔn)確率以及算法模塊的訓(xùn)練時(shí)間。因此，本節(jié)采用插值法以及歸一化這2個(gè)步驟對(duì)數(shù)據(jù)進(jìn)行預(yù)處理。

輸入數(shù)據(jù)的質(zhì)量及維度會(huì)影響K-means聚類算法的計(jì)算效果及神經(jīng)網(wǎng)絡(luò)的訓(xùn)練效果，高維數(shù)據(jù)的聚類效果較差，冗余信息較多。為防止信息的冗余聚類，本文使用KPCA對(duì)變壓器特性數(shù)據(jù)進(jìn)行過(guò)濾，保留主成分信息。

變壓器數(shù)量較多且特性數(shù)據(jù)存在一定的冗余度，采用KPCA對(duì)數(shù)據(jù)提取主成分，然后聚類劃分變壓器。

1.2 基于K-means算法的變壓器聚類

1.2.1K-means算法

K-means算法通常以距離為樣本間相似性評(píng)價(jià)指標(biāo)來(lái)進(jìn)行簇中心初始化、簇劃分、簇中心點(diǎn)更新與收斂判斷[14]。K-means算法實(shí)現(xiàn)較容易，收斂速度快，分類時(shí)僅需要調(diào)節(jié)簇?cái)?shù)K，加入模型后計(jì)算速度快，在輸入數(shù)據(jù)較密集時(shí)可以較好地區(qū)別分類結(jié)果。算法步驟如下：

第1步：初始化類中心。變壓器特性數(shù)據(jù)集D由n個(gè)特征向量組成，可以由D={D1，D2，…，Dn}表示，在D中隨機(jī)選取K個(gè)特征向量標(biāo)記為初始聚類中心E={E1，E2，…，EK}。

第2步：類劃分。在K-means聚類算法中距離的計(jì)算方法主要分為有序?qū)傩跃嚯x度量、無(wú)序?qū)傩跃嚯x度量、混合屬性距離度量。將變壓器特性數(shù)據(jù)集中的所有特征向量以歐式距離最近劃分至各個(gè)類中心，其中特征向量Di(i=1，2，…，n)到Es(s=1，2，…，K)的歐式距離

(10)

式中：a為變壓器特性數(shù)據(jù)的向量維度；T為某地變壓器總數(shù)。

第3步：更新類中心。在各類中計(jì)算各變壓器特征向量到當(dāng)前類其他數(shù)據(jù)向量的距離和，選取距離和最小的負(fù)荷數(shù)據(jù)向量作為新的類中心，如

(11)

式中：rDij為特征向量Di到Dj的距離；J為Di所在類的特征向量個(gè)數(shù)；rnum為Di到當(dāng)前類所有向量距離之和。

重復(fù)上述步驟，一直到聚類的中心特征向量不發(fā)生改變，此時(shí)得到聚類的結(jié)果。計(jì)算各類特征向量與聚類中心向量的距離和，并將樣本中超過(guò)設(shè)定閾值的負(fù)荷數(shù)據(jù)篩除。

第4步：評(píng)價(jià)指標(biāo)及確定K值。K類中心的數(shù)值設(shè)定為前期人為輸入，一般按照實(shí)際需求決定或者直接給定，后期采用聚類的有效性指標(biāo)確定最佳聚類個(gè)數(shù)[15]。本文中采用簇內(nèi)誤方差(sum of squared errors，SSE)及輪廓系數(shù)共同確定多變壓器特性的聚類個(gè)數(shù)。

1.2.2 基于特性數(shù)據(jù)的變壓器聚類

基于多變壓器特性數(shù)據(jù)的高維數(shù)據(jù)聚類結(jié)果，本文首先采用KPCA方法對(duì)原始特性數(shù)據(jù)進(jìn)行主成分降維，降到二維的可視化數(shù)據(jù)(主成分A和主成分B)，之后采用K-means算法對(duì)變壓器特性數(shù)據(jù)進(jìn)行聚類分析，基于負(fù)荷特性數(shù)據(jù)將變壓器劃分為K類，如圖1所示。

在變壓器特性聚類的基礎(chǔ)上，提取聚類后的變壓器信息，將各變壓器有關(guān)負(fù)荷的特性數(shù)據(jù)輸入灰色關(guān)聯(lián)度模型，求出每一類中各變壓器與中心變壓器的相關(guān)度，如圖2所示。

2 基于變壓器聚類的負(fù)荷預(yù)測(cè)模型

2.1 LSTM網(wǎng)絡(luò)模型

LSTM網(wǎng)絡(luò)是一種改進(jìn)的RNN，在RNN基礎(chǔ)上增加了遺忘門[15]。改良后的LSTM網(wǎng)絡(luò)解決了在模型訓(xùn)練中的梯度消失問(wèn)題。時(shí)間序列LSTM網(wǎng)絡(luò)基本單元如圖3所示，其中f、i、g、o分別為遺忘門、輸入門、輸入節(jié)點(diǎn)、輸出門，xt為時(shí)間步t的輸入(下標(biāo)“t”代表時(shí)間步t，下同)，St為時(shí)間步t的單元狀態(tài)，ht為時(shí)間步t的中間輸出。

圖1 多變壓器特性數(shù)據(jù)聚類過(guò)程Fig.1 Clustering process of characteristic data of multiple transformer

圖2 變壓器關(guān)聯(lián)度分析過(guò)程Fig.2 Analysis process of the correlation degree of transformer

圖3 LSTM網(wǎng)絡(luò)基本單元Fig.3 Basic unit of LSTM network

LSTM網(wǎng)絡(luò)的基本單元中包含遺忘門、輸入門和輸出門。遺忘門中輸入xt與狀態(tài)記憶單元St-1、中間輸出ht-1共同決定狀態(tài)記憶單元遺忘部分。輸入門中的xt分別經(jīng)過(guò)sigmoid和tanh函數(shù)變化后共同決定狀態(tài)記憶單元中保留向量。中間輸出ht由更新后的St與輸出ot共同決定，計(jì)算公式如下[16]：

ft=σ(Wfxxt+Wfhht-1+bf)；

(12)

it=σ(Wixxt+Wihht-1+bi)；

(13)

gt=φ(Wgxxt+Wghht-1+bg)；

(14)

ot=σ(Woxxt+Wohht-1+bo)；

(15)

St=gt?it+St-1?ft；

(16)

ht=φ(St)?ot.

(17)

式中：Wfx、Wfh、Wix、Wih、Wgx、Wgh、Wox和Woh分別為相應(yīng)門與輸入xt和中間輸出ht-1相乘的權(quán)重矩陣；bf、bi、bg、bo分別為相應(yīng)門的偏置矩陣；?表示向量中元素按位相乘；σ表示sigmoid函數(shù)運(yùn)算；φ表示tanh函數(shù)運(yùn)算。

2.2 基于變壓器聚類的LSTM網(wǎng)絡(luò)預(yù)測(cè)模型

基于變壓器特性聚類的LSTM網(wǎng)絡(luò)負(fù)荷預(yù)測(cè)對(duì)大量變壓器特性數(shù)據(jù)降維，采用K-means聚類將變壓器劃分為K類，并選取每一類中心的變壓器負(fù)荷數(shù)據(jù)，基于LSTM網(wǎng)絡(luò)輸出特性樣本訓(xùn)練基，其過(guò)程如圖4所示。

步驟1：定義電壓等級(jí)、變壓器類型、額定容量、售電量、供電量、并聯(lián)低壓用戶數(shù)、月度最高負(fù)載率、經(jīng)緯度等為特性變量。采用KPCA方法提取特性數(shù)據(jù)主成分，降低數(shù)據(jù)的冗余度與復(fù)雜程度，最終得到主成分A與主成分B。

步驟2：基于各類特性數(shù)據(jù)針對(duì)主成分A和主成分B進(jìn)行K-means聚類，最終劃分為K類變壓器。

步驟3：對(duì)每一類中的變壓器特性數(shù)據(jù)(如電壓等級(jí)、變壓器類型、額定容量等)，采用灰色關(guān)聯(lián)度算法進(jìn)行相關(guān)性分析，得到相關(guān)性最低與最高的變壓器，并提取其月負(fù)荷數(shù)據(jù)以及每一類聚類中心的一個(gè)變壓器的月負(fù)荷數(shù)據(jù)。

步驟4：將聚類中心變壓器負(fù)荷數(shù)據(jù)輸入LSTM網(wǎng)絡(luò)，得到各類特性樣本訓(xùn)練基。將各類變壓器負(fù)荷數(shù)據(jù)分別輸入對(duì)應(yīng)的特性樣本訓(xùn)練基中，得到各變壓器的短期負(fù)荷預(yù)測(cè)曲線

3 算例分析

本文算例在Inter(R)Core(TM)i7-8750H CPU@2.20 GHz，RAM 16 GB，操作系統(tǒng)Windows10的Spyder上實(shí)現(xiàn)。

本文的實(shí)驗(yàn)數(shù)據(jù)使用南方某省2019年11月100臺(tái)10 kV變壓器的特性數(shù)據(jù)及96點(diǎn)負(fù)荷數(shù)據(jù)作為數(shù)據(jù)集。變壓器特性數(shù)據(jù)基本信息見(jiàn)表2。

圖4 K-means-LSTM負(fù)荷預(yù)測(cè)模型Fig.4 K-means-LSTM load prediction model

表2 變壓器特性聚類數(shù)據(jù)選取Tab.2 Selection of clustering data for transformer characteristics

3.1 評(píng)價(jià)指標(biāo)

為了衡量本文所提方法的預(yù)測(cè)結(jié)果與負(fù)荷實(shí)際值的確定性誤差，參照文獻(xiàn)[17]選擇概率密度曲線的峰值，計(jì)算眾數(shù)和中位數(shù)與實(shí)際值的均方根誤差ERMS、平均絕對(duì)百分比誤差EMAP。

a)均方根誤差ERMS。均方根誤差亦稱標(biāo)準(zhǔn)誤差，其公式為

(20)

歸一化后ERMS范圍為[0,1)，當(dāng)預(yù)測(cè)值與真實(shí)值完全吻合時(shí)ERMS=0，即完美模型；誤差越大，該值越大。

b)平均絕對(duì)百分比誤差EMAP。平均絕對(duì)百分比誤差其公式為

(21)

歸一化后EMAP范圍為[0,1)，EMAP=0表示完美模型，EMAP>1則表示劣質(zhì)模型。

表3為本文K-means-LSTM模型與基于自適應(yīng)矩估計(jì)的LSTM(adaptive moment estimation-LSTM，ADAM-LSTM)模型[18]的負(fù)荷預(yù)測(cè)精度與計(jì)算時(shí)間對(duì)比，其中ERMS、EMAP為歸一化后的值。

表3 變壓器負(fù)荷預(yù)測(cè)精度與計(jì)算時(shí)間對(duì)比Tab.3 Comparison between load prediction accuracy and calculation time

由表3可以看出，K-means-LSTM模型與ADAM-LSTM模型的預(yù)測(cè)精度相差不大，其中在相關(guān)度較大的變壓器負(fù)荷預(yù)測(cè)時(shí)ERMS差值為0.002、EMAP差值為0.003，在相關(guān)度較小的變壓器預(yù)測(cè)時(shí)ERMS差值為0.01、EMAP差值為0.009。

為進(jìn)一步驗(yàn)證所提模型的預(yù)測(cè)性能，在訓(xùn)練特性基及預(yù)測(cè)變壓器負(fù)荷時(shí)，加入計(jì)時(shí)函數(shù)提取模型運(yùn)行時(shí)間，并提取LSTM網(wǎng)絡(luò)的特性參數(shù)，驗(yàn)證模型的計(jì)算時(shí)間及算法復(fù)雜度的優(yōu)化程度。由表3可以看出，相較于ADAM-LSTM模型，K-means-LSTM模型在預(yù)測(cè)精度僅犧牲0.2%～1.5%的情況下，計(jì)算時(shí)間減少75%，顯著提升了算法性能。

3.2 變壓器聚類結(jié)果分析

通過(guò)聚類評(píng)價(jià)指標(biāo)SSE與輪廓系數(shù)得到K=3時(shí)聚類效果最好。聚類結(jié)果如圖5所示，聚類分析的各項(xiàng)指標(biāo)見(jiàn)表4，特性樣本訓(xùn)練基如圖6所示。

由圖5可以看出，9個(gè)變壓器特性數(shù)據(jù)經(jīng)KPCA降維后，采用K-means聚類方法可以將不同類型的變壓器較為清晰地劃分為3類，第1類的變壓器數(shù)量較少，第2類變壓器的數(shù)量最多。

圖5 K-means聚類結(jié)果Fig.5 K-means clustering results

表4是對(duì)圖5中部分具有代表性且可以驗(yàn)證后續(xù)實(shí)驗(yàn)中樣本訓(xùn)練基預(yù)測(cè)準(zhǔn)確性的變壓器聚類數(shù)據(jù)的展現(xiàn)，如第1類變壓器中選取編號(hào)為64號(hào)的中心變壓器與相關(guān)度分別為85%、13%的73號(hào)、39號(hào)變壓器。

從圖6可以看出，第1類及第3類變壓器負(fù)荷較高，第2類變壓器負(fù)荷相對(duì)較低。K-means聚類方法可以根據(jù)不同變壓器的特性數(shù)據(jù)，如低壓用戶數(shù)、經(jīng)緯度、變壓器類型等，將不同變壓器負(fù)荷的趨勢(shì)、周期與其他日期負(fù)荷區(qū)分開(kāi)來(lái)。該省負(fù)荷構(gòu)成中工業(yè)負(fù)荷占了很大比例，而工業(yè)生產(chǎn)的連續(xù)性決定了工業(yè)負(fù)荷受節(jié)假日的影響較小，變壓器負(fù)荷的周期性較高。在日負(fù)荷特性中，晚高峰負(fù)荷水平顯著高于早高峰，本文算例分析中采用約90%的負(fù)荷數(shù)據(jù)作為訓(xùn)練參量，即用2019年11月前27天的負(fù)荷數(shù)據(jù)預(yù)測(cè)后3天的負(fù)荷數(shù)據(jù)。由圖6的結(jié)果可以看出：11月28、29日為星期四、星期五(工作日)，3類訓(xùn)練基的負(fù)荷曲線變化趨勢(shì)基本相似；11月30日為星期六(休息日)，其負(fù)荷曲線與前2日相比變化較緩，負(fù)荷分布相對(duì)平均，峰值負(fù)荷相對(duì)較低。

表4 聚類分析的各項(xiàng)指標(biāo)Tab.4 Indicators of cluster analysis

圖6 特性樣本訓(xùn)練基Fig.6 Characteristic sample training base

3.3 基于相關(guān)性變壓器的負(fù)荷預(yù)測(cè)仿真

基于各變壓器特性數(shù)據(jù)，利用灰色關(guān)聯(lián)度算法區(qū)分變壓器的相關(guān)性，并選取相關(guān)程度最低與最高的變壓器11月負(fù)荷數(shù)據(jù)，輸入變壓器特性訓(xùn)練基中預(yù)測(cè)后3天的負(fù)荷數(shù)據(jù)。預(yù)測(cè)結(jié)果如圖7、圖8所示。

圖7 低相關(guān)性變壓器負(fù)荷預(yù)測(cè)Fig.7 Load prediction of low-correlation transformer

由圖7、圖8可以看出本文方法的預(yù)測(cè)曲線與實(shí)際曲線依然有較高的吻合度，表明K-means-LSTM模型的預(yù)測(cè)效果相對(duì)較好，這是因?yàn)橥ㄟ^(guò)特征提取使得樣本的可學(xué)習(xí)性能增強(qiáng)，從而降低了數(shù)據(jù)維度的復(fù)雜性和抽樣時(shí)的誤差。此外，K-means-LSTM模型的學(xué)習(xí)能力更強(qiáng)，泛化性更高，對(duì)提升算法的工程實(shí)踐意義具有積極作用。

圖8 高相關(guān)性變壓器負(fù)荷預(yù)測(cè)Fig.8 Load prediction of high-correlation transformer

4 結(jié)論

a)在數(shù)據(jù)處理階段，KPCA可以有效避免不同的特性數(shù)據(jù)之間的信息冗余并通過(guò)降維來(lái)降低復(fù)雜度，提升聚類的效率。

b)相比于ADAM-LSTM模型，本文所提的K-means-LSTM模型可以在保證預(yù)測(cè)精度損失較小的前提下，減少LSTM模型的訓(xùn)練次數(shù)，縮短預(yù)測(cè)時(shí)間，降低計(jì)算復(fù)雜度，提升模型的整體性能。

c)在實(shí)際的工程應(yīng)用方面，本文所提出的K-means-LSTM模型對(duì)設(shè)備條件的要求較低，計(jì)算時(shí)間短，實(shí)時(shí)響應(yīng)性能較好，可以為后續(xù)的分布式電源調(diào)度及用戶激勵(lì)機(jī)制的制訂提供實(shí)時(shí)性的數(shù)據(jù)基礎(chǔ)。

d)本文算例對(duì)用電峰值時(shí)刻的負(fù)荷預(yù)測(cè)效果較差，而最高負(fù)載率是評(píng)價(jià)變壓器的重要指標(biāo)，對(duì)配用電的影響較大。在后續(xù)的研究中，將對(duì)變壓器負(fù)荷峰值時(shí)刻及負(fù)荷值的預(yù)測(cè)展開(kāi)進(jìn)一步的研究。