張杰，劉洋,2，李文峰，王磊，許立雄

(1. 四川大學(xué)電氣工程學(xué)院，成都市 610065; 2. 智能電網(wǎng)四川省重點(diǎn)實(shí)驗(yàn)室(四川大學(xué))，成都市 610065; 3. 國網(wǎng)河南省電力公司， 鄭州市 450052)

0 引 言

隨著互聯(lián)網(wǎng)和能源系統(tǒng)深度融合，能源互聯(lián)網(wǎng)加速形成，針對電力用戶的個性化售電服務(wù)逐漸豐富，迫切需要對電力用戶進(jìn)行精細(xì)化建模[1]。研究用電曲線外在規(guī)律與內(nèi)在機(jī)理、分析用戶用電行為與用電心理成為當(dāng)前電力系統(tǒng)研究的熱點(diǎn)[2]。負(fù)荷曲線分類作為用戶用電行為感知的重點(diǎn)和基礎(chǔ)，對于負(fù)荷預(yù)測[3]、需求側(cè)響應(yīng)[4]、異常用電檢測[5]具有支撐作用，對于提升電網(wǎng)服務(wù)質(zhì)量、改善用戶用能體驗(yàn)具有重要意義。

伴隨智能化用電信息采集系統(tǒng)的高度完善，用戶用電數(shù)據(jù)快速增長，用電行為多元化和差異化特征加深，用戶采集數(shù)據(jù)潛藏的缺失、空值、分布不均衡等問題愈發(fā)凸顯，嚴(yán)重影響用戶負(fù)荷的精細(xì)化建模。研究行之有效的數(shù)據(jù)增強(qiáng)方法以及更加高效準(zhǔn)確的負(fù)荷聚類分類算法具有重要意義。

在算法層面，以支持向量機(jī)(support vector machine，SVM)、反向傳播神經(jīng)網(wǎng)絡(luò)(back propagation neural network，BPNN)為代表的機(jī)器學(xué)習(xí)算法在負(fù)荷曲線分類上性能表現(xiàn)較好[6-7]。文獻(xiàn)[6]在Spark平臺將BPNN并行化，實(shí)現(xiàn)對海量負(fù)荷數(shù)據(jù)的高效分類；文獻(xiàn)[7]通過稀疏自編碼神經(jīng)網(wǎng)絡(luò)來學(xué)習(xí)負(fù)荷曲線特征，訓(xùn)練SVM實(shí)現(xiàn)負(fù)荷曲線的有監(jiān)督分類。隨著深度學(xué)習(xí)的發(fā)展，以長短期記憶(long short-term memory，LSTM)神經(jīng)網(wǎng)絡(luò)為代表的循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network，RNN)引入序列建模，可充分挖掘負(fù)荷數(shù)據(jù)的時序特征，建立更加精細(xì)化的用戶負(fù)荷模型。文獻(xiàn)[8]提出一種基于注意力機(jī)制的LSTM短期負(fù)荷預(yù)測模型，通過注意力機(jī)制突出關(guān)鍵時序特征，進(jìn)一步提高了預(yù)測精度。然而，LSTM在面對較長輸入序列時，存在訓(xùn)練時間長、收斂速度慢等問題。將卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用于序列建模，改造得到的時間卷積網(wǎng)絡(luò)(temporal convolutional network，TCN)具有卷積類神經(jīng)網(wǎng)絡(luò)通用并行處理數(shù)據(jù)的優(yōu)勢，可有效避免上述問題[9]，且記憶范圍可調(diào)，訓(xùn)練過程復(fù)雜度低，在文本分類、視頻分割和識別等多個領(lǐng)域表現(xiàn)優(yōu)于LSTM[10-11]。

在數(shù)據(jù)層面，數(shù)據(jù)缺失和類別不平衡是制約分類模型效能的重要因素。用戶用電行為隨機(jī)性、波動性不斷增強(qiáng)，多點(diǎn)、多尺度數(shù)據(jù)片段缺失現(xiàn)象層出不窮，傳統(tǒng)補(bǔ)全方法愈發(fā)難以適應(yīng)復(fù)雜多變的數(shù)據(jù)缺失場景[12-14]。尤其在高比例數(shù)據(jù)缺失場景下，數(shù)據(jù)資源丟棄已成為常態(tài)，缺失數(shù)據(jù)重構(gòu)研究面臨難題。文獻(xiàn)[12]采用數(shù)理統(tǒng)計方法填充用戶缺失負(fù)荷數(shù)據(jù)，在低缺失率下達(dá)到較高補(bǔ)全精度；文獻(xiàn)[13]利用生成式模型學(xué)習(xí)數(shù)據(jù)之間的復(fù)雜關(guān)聯(lián)性實(shí)現(xiàn)缺失數(shù)據(jù)重構(gòu)，但需要大量完整樣本序列訓(xùn)練；文獻(xiàn)[14]基于壓縮感知理論利用負(fù)荷矩陣的低秩性修補(bǔ)缺失數(shù)據(jù)，由于其充分考慮負(fù)荷數(shù)據(jù)時空關(guān)聯(lián)性，在較高比例數(shù)據(jù)缺失時仍有較好的補(bǔ)全精度。類別不平衡是模式識別領(lǐng)域的重要難題之一，表現(xiàn)為分類任務(wù)中少數(shù)類樣本被多數(shù)類淹沒，導(dǎo)致分類模型效能嚴(yán)重退化，已在電力負(fù)荷數(shù)據(jù)研究中受到重視[15-16]。文獻(xiàn)[15]提出一種基于聚類結(jié)果的人工少數(shù)類過采樣(synthetic minority oversampling technique，SMOTE)方法以改善訓(xùn)練樣本中類別不平衡現(xiàn)象；文獻(xiàn)[16]使用基于邊界的數(shù)據(jù)合成算法對負(fù)荷數(shù)據(jù)樣本進(jìn)行平衡處理。但上述SMOTE及其改進(jìn)方法只利用局部先驗(yàn)信息，生成數(shù)據(jù)跟真實(shí)負(fù)荷存在較大差距。

針對以上問題，本文提出一種基于兩階段數(shù)據(jù)增強(qiáng)的雙向深度殘差TCN負(fù)荷曲線分類方法。主要工作為：1)將用戶負(fù)荷數(shù)據(jù)轉(zhuǎn)換成多維張量結(jié)構(gòu)，建立以張量核范數(shù)為約束的低秩張量補(bǔ)全(low rank tensor completion，LRTC)模型，并使用交替方向乘子法(alternating direction method of multipliers，ADMM)優(yōu)化求解；2)構(gòu)建穩(wěn)定性更強(qiáng)的生成對抗網(wǎng)絡(luò)(generation adversarial network based on Wasserstein distance，WGAN)模型，學(xué)習(xí)少數(shù)類樣本的真實(shí)分布規(guī)律，通過樣本生成實(shí)現(xiàn)類別平衡；3)基于權(quán)重規(guī)范化(weight normalization，WN)機(jī)制、ELU(exponential linear units)激活函數(shù)、隨機(jī)失活(Dropout)機(jī)制、殘差連接的多層次模型優(yōu)化技術(shù)，采用雙向時序建模強(qiáng)化模型微觀波動特征提取能力，構(gòu)建雙向深度殘差TCN模型對用戶負(fù)荷曲線實(shí)施分類。

1 兩階段用戶負(fù)荷數(shù)據(jù)增強(qiáng)方法

1.1 負(fù)荷缺失數(shù)據(jù)補(bǔ)全算法

由于用戶負(fù)荷數(shù)據(jù)本身具有時序性(隨時間上下波動)、周期性(以日、周、月為單位的周期重復(fù))、空間相關(guān)性(同一類型的用戶表現(xiàn)出相似的用電規(guī)律)等特性[17]，在多維張量數(shù)據(jù)結(jié)構(gòu)上定義的張量核范數(shù)與之具有強(qiáng)相關(guān)性，且規(guī)律性越強(qiáng)，張量核范數(shù)越小。因此，可充分利用多維度數(shù)據(jù)特征之間的相關(guān)性，實(shí)現(xiàn)缺失數(shù)據(jù)的高精度補(bǔ)全?；贚RTC的補(bǔ)全模型如式(1)所示：

(1)

式中：X和M分別為待補(bǔ)全負(fù)荷張量和原負(fù)荷張量；Ω表示未缺失元素的集合；PΩ(·)表示采樣操作符，當(dāng)張量元素屬于Ω時保持不變，否則將元素值置為0；=·=TNN表示張量核范數(shù)。

引入輔助變量Z=X，可構(gòu)造增廣拉格朗日函數(shù)：

L(X,Z,Q)=‖Z‖TNN+lΩ(X)+

(2)

式中：Q為拉格朗日乘子；β為平衡參數(shù)；指示函數(shù)lΩ(·)只有在元素屬于Ω并且該元素值和M對應(yīng)位置的元素值相等才為0，其他情況都為無窮大；〈·〉表示張量內(nèi)積； ‖·‖F(xiàn)表示張量F范數(shù)。根據(jù)交替方向乘子法框架[18]，X、Z、Q可被交替優(yōu)化求解：

(3)

(4)

Qk+1=Qk+β(Xk+1-Zk+1)

(5)

式中：k為迭代次數(shù)；Y為實(shí)際數(shù)據(jù)集組成的觀察張量；X:Y=PΩ(X)通過等式約束使得X滿足未缺失元素值和實(shí)際觀察值一致。

通過不斷求解待補(bǔ)全負(fù)荷張量X、輔助張量Z以及拉格朗日乘子Q，最后當(dāng)X不再變化時，這時可認(rèn)為X張量核范數(shù)已達(dá)到最小，最終恢復(fù)出缺失位置的負(fù)荷數(shù)據(jù)。

1.2 負(fù)荷樣本類別平衡算法

負(fù)荷類別不平衡是指用戶用電行為差異化、個性化所引起的負(fù)荷形態(tài)特征多樣化，但各種典型用電模式中樣本數(shù)目差異較大，導(dǎo)致分類器具有偏向性，其決策邊界對于多數(shù)類樣本過于寬松，對于少數(shù)類樣本過于嚴(yán)格，因而在多數(shù)類上精確率偏低，在少數(shù)類上召回率偏低。

生成對抗網(wǎng)絡(luò)(generation adversarial network，GAN)的主要思想在于生成器(generator)和判別器(discriminator)的對抗博弈[19]。生成器從隨機(jī)噪聲中采樣，試圖在隱變量空間和真實(shí)樣本空間建立映射關(guān)系，最終輸出維度同真實(shí)樣本一致的生成樣本；判別器負(fù)責(zé)判斷輸入是否來自于真實(shí)樣本X或者生成樣本，輸出為介于0和1之間的概率值。在相互對抗學(xué)習(xí)中，生成器生成的樣本質(zhì)量逐漸提升，判別器難以鑒定真?zhèn)?，最終達(dá)到納什均衡。GAN的原理如圖1所示。

圖1 GAN原理Fig.1 Schematic diagram of GAN

通過引入Wasserstein距離代替JS散度(Jensen-Shannon divergence)，避免傳統(tǒng)GAN訓(xùn)練過程中的模式坍塌、梯度消失等問題[20]。加入梯度懲罰項(xiàng)的判別器損失函數(shù)如式(6)所示：

(6)

式中：E(·)為數(shù)學(xué)期望；D(x)表示判別器判定為真的概率；-λEx～Py(·)為梯度懲罰項(xiàng)；λ表示正則化因子；Py指介于真實(shí)分布Pr和生成分布Pg之間的懲罰分布；‖·‖P為P范數(shù)；?xD(x)表示對x求導(dǎo)。

通過文獻(xiàn)調(diào)研以及多次實(shí)驗(yàn)，確定WGAN網(wǎng)絡(luò)結(jié)構(gòu)為：生成器使用4層全連接層，隱藏層神經(jīng)元個數(shù)為128、256、128，激活函數(shù)為線性整流函數(shù)(rectified linear unit，ReLU)，輸出層大小與真實(shí)日負(fù)荷采樣數(shù)一致，為96；判別器使用4層全連接層，隱藏層神經(jīng)元個數(shù)選取為256、128、64，激活函數(shù)選取為ReLU，輸出層神經(jīng)元個數(shù)為1，不使用激活函數(shù)。

2 用戶負(fù)荷曲線分類方法

傳統(tǒng)時間卷積網(wǎng)絡(luò)隨著模型深度增加存在梯度消失、模型不穩(wěn)定、收斂速度慢等問題；并且輸入時間序列特征維度過長時，單向TCN存在記憶能力衰退的現(xiàn)象。因此，本文面向大規(guī)模用戶負(fù)荷曲線分類，提出一種改進(jìn)的雙向深度殘差TCN模型。引入WN方法將權(quán)重解耦為長度和方向的組合，有效加速模型收斂；使用帶負(fù)值輸出的ELU激活函數(shù)替換原有的ReLU激活函數(shù)，可減少偏移效應(yīng)，降低計算量，避免梯度消失；使用殘差連接層，可提高模型深度，穩(wěn)定模型訓(xùn)練過程；在模型中添加Dropout技術(shù)，可有效避免模型過擬合；采用雙向時序建模避免記憶衰退，可提取更多負(fù)荷微觀波動特征。

2.1 典型時間卷積網(wǎng)絡(luò)

時間卷積網(wǎng)絡(luò)主要由因果卷積和空洞卷積兩部分組成[9]。因果卷積只利用輸入時刻之前的序列參與運(yùn)算，而不涉及未來的數(shù)據(jù)信息，保證時序建模的因果性。空洞卷積允許卷積輸入存在間隔采樣，且層級越高空洞因子越大，因此卷積感受野隨著層數(shù)呈指數(shù)級增長，以適應(yīng)高維情況下的序列輸入。典型的時間卷積網(wǎng)絡(luò)如圖2所示。

對于一維輸入序列x和卷積核f，經(jīng)過空洞卷積后的第i時刻隱藏層輸出為：

(7)

式中：K為卷積核大??；d為空洞系數(shù)；f(j)為卷積核中的第j個元素；xi-d·j為對應(yīng)卷積相乘的輸入序列元素。

圖2 時間卷積網(wǎng)絡(luò)模型Fig.2 Temporal convolutional network

2.2 改進(jìn)的時間卷積網(wǎng)絡(luò)

本文使用WN方法[9]、ELU激活函數(shù)[21]、Dropout方法[22]以及殘差連接[23]優(yōu)化傳統(tǒng)的TCN，得到如圖3所示的深度殘差TCN層(deep residual TCN, DR-TCN)。

圖3 深度殘差TCN層Fig.3 Deep residual blocks of TCN

2.2.1 WN方法

WN方法將神經(jīng)元權(quán)重W重新解耦為長度m和方向V的乘積，以此加快收斂速度，穩(wěn)定模型訓(xùn)練過程，如式(8)所示：

(8)

2.2.2 ELU激活函數(shù)

ELU表達(dá)式如式(9)所示。當(dāng)輸入大于0時，其線性輸出可以有效緩解梯度消失；當(dāng)輸入小于0時，其指數(shù)負(fù)值輸出使得輸出均值盡可能接近于0，減少偏移效應(yīng)，提高收斂速度。

(9)

式中：α為可調(diào)參數(shù)，控制ELU在負(fù)值部分的飽和程度。

2.2.3 殘差連接

殘差連接使得輸入數(shù)據(jù)x跳過中間環(huán)節(jié)，與經(jīng)過非線性變換后的特征F(x)相加求和，形成短路連接，如式(10)所示：

H=x+F(x)

(10)

這種結(jié)構(gòu)既可以跨層傳送信息，避免特征提取過程中的信息丟失，又可在模型深度增加的時候，抑制梯度消失，增強(qiáng)模型穩(wěn)定性。

在時間序列問題的研究中，雙向時序建模相較單向建模在特征捕獲上更為精確[24]。對負(fù)荷序列進(jìn)行正反時序雙向建模能夠綜合提取曲線的上升下降細(xì)微變化趨勢，更有利于提升負(fù)荷分類的精度。因此，本文采用Bi-DR-TCN對負(fù)荷序列進(jìn)行正向和反向特征提取，網(wǎng)絡(luò)整體結(jié)構(gòu)如圖4所示。

圖4 Bi-DR-TCN模型Fig.4 Bi-DR-TCN model

2.3 用戶負(fù)荷曲線分類流程

基于以上內(nèi)容，用戶用電負(fù)荷曲線分類流程如圖5所示。

1)缺失補(bǔ)全：對全體用戶負(fù)荷數(shù)據(jù)構(gòu)建三維觀察張量，使用LRTC恢復(fù)缺失數(shù)據(jù)點(diǎn)，將補(bǔ)全后的日負(fù)荷數(shù)據(jù)作歸一化處理。

2)類別平衡：將數(shù)據(jù)集分層抽樣劃分成訓(xùn)練集(訓(xùn)練模型)、驗(yàn)證集(尋找最優(yōu)超參數(shù))、測試集(測試模型效果)。使用WGAN學(xué)習(xí)訓(xùn)練集中判定為少數(shù)類的樣本，并隨機(jī)生成樣本得到類別平衡的增強(qiáng)數(shù)據(jù)集。

3)負(fù)荷分類：將增強(qiáng)訓(xùn)練集輸入到Bi-DR-TCN進(jìn)行學(xué)習(xí)和訓(xùn)練，在驗(yàn)證集上測試各組超參數(shù)的效果，尋找卷積核大小、空洞因子、卷積層層數(shù)等最優(yōu)超參數(shù)組合，并使用最優(yōu)組合分類器在測試集上對負(fù)荷曲線進(jìn)行分類，并對結(jié)果進(jìn)行分析。

圖5 負(fù)荷分類流程Fig.5 Load classification framework

3 算例分析

本文算例使用的計算機(jī)配置為Intel I5 2.2 GHz 處理器，16 GB內(nèi)存，64位Windows10操作系統(tǒng)，在基于tensorflow 2.2，Python3.6的keras框架下搭建神經(jīng)網(wǎng)絡(luò)，缺失數(shù)據(jù)補(bǔ)全優(yōu)化程序則在更擅長數(shù)值優(yōu)化的matlab2015上實(shí)現(xiàn)。

算例數(shù)據(jù)使用UCR標(biāo)準(zhǔn)時序數(shù)據(jù)集[25]和UCI機(jī)器學(xué)習(xí)數(shù)據(jù)集[26]。UCR包含多個領(lǐng)域的時間序列基準(zhǔn)數(shù)據(jù)集，是時序數(shù)據(jù)分類領(lǐng)域的標(biāo)準(zhǔn)數(shù)據(jù)集之一，本文選取與電力領(lǐng)域相關(guān)的IPD(Italy power demand)和PC(power consumption)數(shù)據(jù)集，論證所提負(fù)荷曲線分類方法Bi-DR-TCN的有效性，其基本信息如表1所示。

表1 UCR數(shù)據(jù)集參數(shù)Table 1 Parameters of UCR data set

實(shí)際用戶用電數(shù)據(jù)來源于UCI負(fù)荷數(shù)據(jù)集ED(ElectricityLoadDiagrams20112014)，選取從2014年9月16日到2014年11月14日共計60天的時間序列負(fù)荷作為數(shù)據(jù)集，其中用戶數(shù)為321，每日采樣點(diǎn)數(shù)為96，日負(fù)荷標(biāo)簽類別為5類，由多種典型聚類方法多數(shù)投票得到[16]。

3.1 IPD和PC分類實(shí)驗(yàn)

為驗(yàn)證本文所提Bi-DR-TCN分類模型的有效性，對比傳統(tǒng)TCN、LSTM以及門控循環(huán)單元(gate recurrent unit，GRU)三種深度學(xué)習(xí)模型的分類精度與收斂效率，實(shí)驗(yàn)結(jié)果如表2所示。

如表2所示，與傳統(tǒng)的TCN、LSTM、GRU網(wǎng)絡(luò)相比，本文所提Bi-DR-TCN分類模型在IPD數(shù)據(jù)集上分類準(zhǔn)確率分別提高0.58個百分點(diǎn)、2.71個百分點(diǎn)、1.35個百分點(diǎn)，迭代次數(shù)分別減少188、73、142次；在PC數(shù)據(jù)集上分類準(zhǔn)確率分別提高1.11個百分點(diǎn)、2.78個百分點(diǎn)、5.56個百分點(diǎn)，迭代次數(shù)分別減少8、155、63次；平均分類正確率分別提高0.84個百分點(diǎn)、2.74個百分點(diǎn)、3.46個百分點(diǎn)，平均迭代次數(shù)降低了98、68、56次，說明本文所提方法在對時序數(shù)據(jù)分類時有更優(yōu)的分類辨識能力和更少的迭代次數(shù)。

圖6是Bi-DR-TCN和TCN在訓(xùn)練過程中的平均誤差收斂情況。相比TCN，本文所提方法在第一個訓(xùn)練周期的損失函數(shù)誤差降低61%，而且在相同迭代次數(shù)下?lián)碛懈偷挠?xùn)練誤差，說明雙向序列建模在一次迭代過程中能獲取到更豐富的細(xì)節(jié)特征，從而加速模型收斂。

圖6 訓(xùn)練迭代對比Fig.6 Comparison of training iterations

3.2 ED分類實(shí)驗(yàn)

通過在實(shí)測負(fù)荷數(shù)據(jù)集進(jìn)行分類實(shí)驗(yàn)，驗(yàn)證所提用戶用電負(fù)荷曲線分類框架的實(shí)用性，以及缺失數(shù)據(jù)補(bǔ)全算法LRTC和生成式模型WGAN的有效性。

3.2.1 缺失數(shù)據(jù)補(bǔ)全

上述UCR得到的負(fù)荷數(shù)據(jù)集不存在數(shù)據(jù)缺失。因此，為了模擬現(xiàn)實(shí)中負(fù)荷數(shù)據(jù)缺失現(xiàn)象，這里將負(fù)荷數(shù)據(jù)隨機(jī)缺失40%，實(shí)際中數(shù)據(jù)丟失一般不會超過該數(shù)值。

不同的張量構(gòu)建方法往往對補(bǔ)全性能有很大的影響。經(jīng)過多次實(shí)驗(yàn)，本文構(gòu)建的三維張量各個維度分別為：用戶數(shù)、天數(shù)以及一天采樣的數(shù)目。最大迭代次數(shù)設(shè)為1 000，β設(shè)置為1。由于三維數(shù)據(jù)補(bǔ)全效果無法直觀展示，這里固定用戶維度，選取補(bǔ)全張量的某個橫切面來說明LRTC的有效性。某用戶的缺失補(bǔ)全熱力圖如圖7所示，其中圖7(a)、(b)和(c)分別為原圖、缺失圖(圖中深藍(lán)色為缺失)和補(bǔ)全圖。

由圖7(a)和圖7(c)可知，原圖和補(bǔ)全圖整體上高度一致，說明LRTC能捕捉到用戶用電整體趨勢。分析圖7(c)，該用戶在早上7點(diǎn)工作日用電水平較高(圖中深紅色部分)而周末用電水平較低(圖中青色部分)，在下午時段工作日用電水平較低(圖中黃色部分)而周末用電水平較高(圖中紅色部分)，表現(xiàn)出2種用電模式。而且隨著天數(shù)增加，用電量總體呈現(xiàn)下降趨勢(圖中紅色區(qū)域變淡)。以上規(guī)律在原圖、補(bǔ)全圖均有體現(xiàn)，說明LRTC可充分利用負(fù)荷數(shù)據(jù)之間的時空關(guān)聯(lián)性實(shí)現(xiàn)缺失數(shù)據(jù)的高精度補(bǔ)全，進(jìn)而提高后續(xù)負(fù)荷分類的效果。

圖7 缺失補(bǔ)全對比Fig.7 Comparison between missing and completion

3.2.2 類別平衡處理

在將負(fù)荷數(shù)據(jù)集進(jìn)行缺失補(bǔ)全以及歸一化之后，按照1∶1∶8的比例將負(fù)荷數(shù)據(jù)集劃分為訓(xùn)練集、驗(yàn)證集、測試集。其中訓(xùn)練集5個類別的樣本數(shù)量分別為927、375、71、80、206。當(dāng)WGAN達(dá)到納什均衡時，此時使用生成器從高斯噪聲中隨機(jī)抽樣生成樣本。為避免生成樣本太多淹沒真實(shí)樣本，只對類別2、類別3、類別4、類別5擴(kuò)充樣本數(shù)量至類別1規(guī)模的一半。通過對比生成樣本與原始樣本的差異來判斷WGAN樣本生成的效果。以類3為例，生成樣本和原始樣本的展示如圖8所示，圖中黑色、橙色曲線分別為生成樣本、原始樣本均值中心。

圖8 生成樣本與原始樣本對比Fig.8 Comparison between synthetic and real samples

由圖8可知，生成樣本和原始樣本的分布基本一致，但生成樣本之間以及生成樣本與原始樣本存在一定的差異，說明WGAN能通過神經(jīng)網(wǎng)絡(luò)之間的對抗博弈建立起從隱空間高斯分布到原始數(shù)據(jù)真實(shí)分布的映射，生成符合原始樣本數(shù)據(jù)分布特性的高質(zhì)量樣本。同時，相比原始樣本，生成的樣本在不同時刻存在一定的細(xì)微波動，避免了生成數(shù)據(jù)的同質(zhì)化，能有效增強(qiáng)數(shù)據(jù)樣本多樣性，提高分類器的泛化能力。

3.2.3 負(fù)荷分類實(shí)驗(yàn)

將上述生成樣本加入到訓(xùn)練集中平衡類別，使用增強(qiáng)訓(xùn)練集對Bi-DR-TCN進(jìn)行訓(xùn)練，并在驗(yàn)證集上測試得到的最優(yōu)超參數(shù)組合如下：Bi-DR-TCN卷積層層數(shù)為4，卷積核大小為12，卷積核個數(shù)為16，空洞因子設(shè)為1、2、4、8，Dropout為0.05，批大小為64，時間步為96，特征數(shù)為1，損失函數(shù)為交叉熵，優(yōu)化器為Adam。負(fù)荷分類結(jié)果如圖9所示。

圖9 負(fù)荷分類結(jié)果Fig.9 Load classification results

由負(fù)荷均值曲線說明本文方法能有效辨識不同用電特性的負(fù)荷。類別1從早上10點(diǎn)到晚上8點(diǎn)用電水平較高，屬于工作日負(fù)荷；類別2在晚上8點(diǎn)左右存在用電高峰，持續(xù)時間較短；類別3從凌晨4點(diǎn)開始到晚上8點(diǎn)用電水平不斷攀升，晚上8點(diǎn)以后迅速下降，屬于單調(diào)型；類別4與類別1相似，但其用電高峰期較短；類別5用電量比較平穩(wěn)，維持在某一水平上下，屬于平穩(wěn)型。有效區(qū)分以上5種用戶用電模式，可以促進(jìn)用戶參與需求響應(yīng)，減少用電峰谷差，提升經(jīng)濟(jì)效益。

3.2.4 數(shù)據(jù)增強(qiáng)有效性

為驗(yàn)證數(shù)據(jù)增強(qiáng)對于負(fù)荷分類結(jié)果的影響，對比有無缺失數(shù)據(jù)補(bǔ)全，有無類別平衡等4種情況的分類效果，各個類別的分類精度如表3所示。

表3 不同數(shù)據(jù)增強(qiáng)方法效果對比Table 3 Comparison of different data enhancement methods

對比表3，相比無數(shù)據(jù)增強(qiáng)，采用LRTC進(jìn)行缺失數(shù)據(jù)補(bǔ)全后，各個類別分類精度分別提高12.4%、11%、16.5%、3.82%、2.16%，平均精度提升9.21%，說明缺失數(shù)據(jù)補(bǔ)全模塊能整體提高后續(xù)負(fù)荷的辨識精度。相比無數(shù)據(jù)增強(qiáng)，采用WGAN進(jìn)行類別平衡后，分類精度較差的類別5、類別4、類別3分別提升0.97%、9.63%、13.46%，類別2、類別1分類精度有所下降，整體分類精度提高4.35%，說明采用WGAN進(jìn)行類別平衡能改善分類器的偏向性，大幅提升少數(shù)類的分類精度，雖然存在多數(shù)類分類精度輕微下降的現(xiàn)象，但對整體的分類辨識能力仍有增益作用。對比無處理、只進(jìn)行缺失補(bǔ)全、只進(jìn)行類別平衡，兩階段數(shù)據(jù)增強(qiáng)擁有最高的分類精度，說明缺失數(shù)據(jù)補(bǔ)全與類別平衡相結(jié)合對提升負(fù)荷曲線分類模型辨識效果有積極的作用。此外，本文方法在各個類別都擁有較高的分類精度，說明本文所提負(fù)荷曲線分類框架具有一定的實(shí)用性。

4 結(jié) 論

本文針對電力用戶負(fù)荷中存在的數(shù)據(jù)缺失、類別不平衡問題以及分類模型性能缺陷，提出一種基于兩階段數(shù)據(jù)增強(qiáng)和Bi-DR-TCN的用戶負(fù)荷曲線分類方法，首先采用LRTC處理缺失數(shù)據(jù)，其次利用WGAN平衡數(shù)據(jù)集，最后訓(xùn)練Bi-DR-TCN實(shí)現(xiàn)用戶負(fù)荷曲線的高效精準(zhǔn)分類。

算例表明，LRTC能有效應(yīng)用于配網(wǎng)側(cè)采集得到的用戶負(fù)荷數(shù)據(jù)，實(shí)現(xiàn)缺失數(shù)據(jù)高精度補(bǔ)全；經(jīng)過對抗學(xué)習(xí)訓(xùn)練后的WGAN，能夠生成近似滿足樣本真實(shí)分布的高質(zhì)量樣本，實(shí)現(xiàn)負(fù)荷樣本類別平衡；與LSTM、GRU相比，所提Bi-DR-TCN分類模型具有更快的收斂速度和更高的分類精度，能實(shí)現(xiàn)對負(fù)荷曲線的精準(zhǔn)分類。

后續(xù)研究將致力于在Hadoop、Spark等大數(shù)據(jù)計算平臺上分布式并行化所提方法，提升算法對于海量數(shù)據(jù)的處理效率。