羅慧，劉梅招，周鈺山，張宸，潘文文，劉陽(yáng)，衛(wèi)志農(nóng)

(1. 國(guó)網(wǎng)江蘇省電力有限公司運(yùn)營(yíng)監(jiān)測(cè)(控)中心，江蘇 南京 211100；2. 河海大學(xué) 能源與電氣學(xué)院，江蘇 南京 210098)

隨著計(jì)算機(jī)、通信、傳感器技術(shù)在電網(wǎng)中的廣泛應(yīng)用，配電網(wǎng)運(yùn)營(yíng)監(jiān)測(cè)業(yè)務(wù)的不斷推進(jìn)以及大量監(jiān)測(cè)計(jì)量裝置的安裝部署，電力系統(tǒng)在實(shí)際運(yùn)行過(guò)程中產(chǎn)生海量的電流、電壓及有功功率等時(shí)間序列數(shù)據(jù)，這些時(shí)間序列有著明顯的時(shí)序性特征，隨著時(shí)間的變化而變化，且彼此之間相互關(guān)聯(lián)。時(shí)間序列數(shù)據(jù)中包含了豐富的電力用戶用電行為信息和特征，從而為電力系統(tǒng)用戶負(fù)荷預(yù)測(cè)、計(jì)劃停電管理、電氣設(shè)備檢修、優(yōu)化調(diào)度、合理應(yīng)對(duì)大用戶電力負(fù)荷變化對(duì)電網(wǎng)造成破壞性沖擊、控制電網(wǎng)穩(wěn)定、經(jīng)濟(jì)高效運(yùn)行等工作的建模與預(yù)測(cè)工作提供科學(xué)的數(shù)據(jù)基礎(chǔ)與指導(dǎo)依據(jù)，實(shí)現(xiàn)電網(wǎng)企業(yè)為電力用戶提供個(gè)性化可靠供電服務(wù)。對(duì)這些數(shù)據(jù)的有效挖掘應(yīng)用，能夠進(jìn)一步促進(jìn)配電變壓器臺(tái)區(qū)的安全經(jīng)濟(jì)運(yùn)行，同時(shí)這也是目前配電網(wǎng)所面臨的一大挑戰(zhàn)。

然而，在時(shí)間序列中經(jīng)常出現(xiàn)與其他數(shù)據(jù)相比數(shù)值波動(dòng)有著明顯差異的觀測(cè)點(diǎn)，也就是異常點(diǎn)。異常點(diǎn)破壞了電力系統(tǒng)正常運(yùn)行時(shí)電流、電壓和功率的變化規(guī)律與特征，在用這些異常甚至錯(cuò)誤的數(shù)據(jù)進(jìn)行其他相關(guān)業(yè)務(wù)建模與分析工作時(shí)，容易增加模型的復(fù)雜度或者降低模型的有效性，有時(shí)還會(huì)導(dǎo)致錯(cuò)誤的結(jié)論。因此，有必要對(duì)時(shí)間序列中存在的異常數(shù)據(jù)進(jìn)行檢測(cè)與甄別，進(jìn)一步采用相關(guān)數(shù)據(jù)挖掘方法對(duì)這些數(shù)據(jù)進(jìn)行剔除或者再分析，從而提高數(shù)據(jù)的準(zhǔn)確性及可利用價(jià)值，為開(kāi)展用戶負(fù)荷預(yù)測(cè)等其他重要業(yè)務(wù)提供科學(xué)、合理、可靠的數(shù)據(jù)保障[1-3]。

在此背景下，對(duì)異常點(diǎn)的檢測(cè)可有效發(fā)現(xiàn)電表采集數(shù)據(jù)中的潛在問(wèn)題，異常點(diǎn)檢測(cè)作為一項(xiàng)數(shù)據(jù)挖掘手段，在智能用電系統(tǒng)中起到了非常重要的作用。異常數(shù)據(jù)檢測(cè)可以及時(shí)發(fā)現(xiàn)用電數(shù)據(jù)時(shí)間序列中的異常點(diǎn)，恢復(fù)電力系統(tǒng)正常運(yùn)行時(shí)電流、電壓和功率的變化規(guī)律與特征，提高數(shù)據(jù)質(zhì)量，并對(duì)故障電表及時(shí)進(jìn)行檢測(cè)和維修。

時(shí)間序列異常點(diǎn)檢測(cè)作為一個(gè)相對(duì)成熟的研究領(lǐng)域，到目前為止已經(jīng)出現(xiàn)了諸多方法，通常情況下可以分為無(wú)監(jiān)督和有監(jiān)督2種類型。其中，無(wú)監(jiān)督檢測(cè)方法主要有聚類方法，在文獻(xiàn)[4-9]中距離聚類、密度聚類、模糊聚類等算法被提出用于尋找離群的數(shù)據(jù)點(diǎn)，以實(shí)現(xiàn)異常值檢測(cè)。此類算法直觀簡(jiǎn)單，但是對(duì)極值和噪聲較為敏感，且模型屬性構(gòu)建不明確，難以設(shè)定各屬性的變化范圍。此外，頻域譜分析法[10]、滑動(dòng)窗口分析法[11]和時(shí)間序列法[12]等方法也被提出用于提升檢測(cè)準(zhǔn)確度。另一方面，有監(jiān)督檢測(cè)方法旨在于建立預(yù)測(cè)模型學(xué)習(xí)歷史時(shí)間序列的分布規(guī)律，在此基礎(chǔ)上判斷下一時(shí)刻點(diǎn)是否屬于合理范圍內(nèi)[13]。人工神經(jīng)網(wǎng)絡(luò)(artificial neural network,ANN)模型基于大量數(shù)據(jù)對(duì)網(wǎng)絡(luò)參數(shù)進(jìn)行訓(xùn)練，能夠擬合任意復(fù)雜非線性函數(shù)映射，因此是最常用的有監(jiān)督預(yù)測(cè)模型[14]。此外，在文獻(xiàn)[15-16]中，支持向量機(jī)(support vector machine,SVM)被提出用于異常點(diǎn)檢測(cè)，其基于結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則訓(xùn)練模型超參數(shù)，對(duì)小樣本仍然具有良好的泛化能力，但其超參數(shù)范圍不易選取，運(yùn)行效率低。文獻(xiàn)[17]對(duì)機(jī)場(chǎng)噪聲時(shí)間序列降維并符號(hào)化，對(duì)時(shí)間序列進(jìn)行度量并根據(jù)度量結(jié)果利用k近鄰孤立因子進(jìn)行異常檢測(cè)，實(shí)現(xiàn)機(jī)場(chǎng)噪聲單監(jiān)測(cè)點(diǎn)時(shí)間序列異常檢測(cè)，該方法減少了數(shù)據(jù)量并提高了計(jì)算速度。文獻(xiàn)[18]為檢測(cè)出正弦時(shí)間序列中的高斯噪聲，對(duì)自回歸模型進(jìn)行改進(jìn)，提出基于距離和距離因子遞推最小二乘的聯(lián)合異常值檢測(cè)算法，但該模型運(yùn)算復(fù)雜度高，實(shí)用性不強(qiáng)。文獻(xiàn)[5]。提出基于邊緣化后驗(yàn)比檢驗(yàn)的異常值在線監(jiān)測(cè)方法，并使用兩窗口降低了算法的復(fù)雜度，適用于處理大量數(shù)據(jù)場(chǎng)景，但在參數(shù)設(shè)置上存在一定的困難。文獻(xiàn)[19]將離散小波變換應(yīng)用于異常點(diǎn)檢測(cè)，取得了較好的結(jié)果。文獻(xiàn)[20]為避免混淆突變點(diǎn)與異常點(diǎn)，結(jié)合線性濾波器和非線性濾波器，采用局部線性尺度近似法對(duì)異常點(diǎn)進(jìn)行檢測(cè)。文獻(xiàn)[21]將通信網(wǎng)絡(luò)核心性能指標(biāo)時(shí)間序列分解成周期分量、趨勢(shì)分量、隨機(jī)誤差分量及突發(fā)分量，對(duì)不同分量完成特征提取后進(jìn)行異常點(diǎn)檢測(cè)，對(duì)檢測(cè)大量長(zhǎng)期數(shù)據(jù)效率較高[22-23]。文獻(xiàn)[24]中提出了一種基于負(fù)荷預(yù)測(cè)與關(guān)聯(lián)規(guī)則修正的不良數(shù)據(jù)辨識(shí)方法，該方法能夠在克服殘差污染和殘差淹沒(méi)現(xiàn)象的前提下準(zhǔn)確辨識(shí)出全部的不良數(shù)據(jù)。此外，卡爾曼濾波方法也經(jīng)常被用于異常數(shù)據(jù)辨識(shí)[25]。

上述這些方法均基于統(tǒng)計(jì)學(xué)原理，認(rèn)為異常點(diǎn)在模型訓(xùn)練過(guò)程中表現(xiàn)為其擬合值遠(yuǎn)遠(yuǎn)偏離真實(shí)值[19]。在此思想指導(dǎo)下，利用偏差的異常值檢測(cè)方法，通過(guò)已知數(shù)據(jù)建立數(shù)學(xué)模型，然后依據(jù)擬合數(shù)據(jù)和真實(shí)值間誤差與設(shè)定閾值的大小關(guān)系來(lái)判斷該數(shù)據(jù)是否異常，其假設(shè)條件是擬合殘差服從均值為零的高斯分布[15]。然而，這些傳統(tǒng)方法諸如ANN、SVM等，均難于在大數(shù)據(jù)樣本上進(jìn)行訓(xùn)練，因而其檢測(cè)精度通常難以保證。因此，本文提出了一種基于深度學(xué)習(xí)的新型預(yù)測(cè)模型，即長(zhǎng)短期記憶(long short-term memory,LSTM)網(wǎng)絡(luò)模型，能夠更好地學(xué)習(xí)數(shù)據(jù)之間的時(shí)序關(guān)系，減少數(shù)據(jù)序列的擬合誤差。本文主要貢獻(xiàn)在于：提出一種基于深度學(xué)習(xí)的LSTM網(wǎng)絡(luò)模型用于異常數(shù)據(jù)甄別，克服傳統(tǒng)機(jī)器學(xué)習(xí)方法在大數(shù)據(jù)樣本上性能不足的問(wèn)題，進(jìn)一步提升檢測(cè)準(zhǔn)確性。為充分驗(yàn)證本文提出方法的可靠性和準(zhǔn)確性，分別選取人工添加噪聲的時(shí)間序列和實(shí)際工程故障的時(shí)間序列樣本進(jìn)行測(cè)試，在無(wú)故障情況下為異常檢測(cè)提供了一種可靠有效的檢測(cè)依據(jù)。

1 電力系統(tǒng)用電數(shù)據(jù)特性

用戶用電信息采集系統(tǒng)是用電領(lǐng)域最基礎(chǔ)的、也是十分重要的系統(tǒng)[26-28]。該系統(tǒng)通過(guò)對(duì)配電臺(tái)區(qū)變壓器和終端用戶的用電數(shù)據(jù)采集和分析，完成用電監(jiān)控、推行階梯定價(jià)、線損分析、負(fù)荷管理等業(yè)務(wù)，最終達(dá)到自動(dòng)抄表、用電檢查、錯(cuò)峰用電、負(fù)荷預(yù)測(cè)和節(jié)約用電成本等目的。實(shí)時(shí)數(shù)據(jù)采集內(nèi)容主要有各相位電流、電壓、有功功率、無(wú)功功率和抄表電量。其中，前4項(xiàng)每15 min測(cè)量一次(每日產(chǎn)生96個(gè)數(shù)據(jù)點(diǎn))，抄表電量每日測(cè)量一次。在搜集到的實(shí)際用電采集數(shù)據(jù)中，主要存在數(shù)據(jù)斷點(diǎn)和異常點(diǎn)的問(wèn)題。

用電異常數(shù)據(jù)是指在用電數(shù)據(jù)時(shí)間序列中經(jīng)常出現(xiàn)與其他數(shù)據(jù)變化規(guī)律有明顯差異的觀測(cè)點(diǎn)。這些異常點(diǎn)破壞了電力系統(tǒng)正常運(yùn)行時(shí)電流、電壓和功率的變化規(guī)律與特征，影響了數(shù)據(jù)質(zhì)量。其出現(xiàn)的主要原因有：讀取、記錄及計(jì)算時(shí)產(chǎn)生的錯(cuò)誤；數(shù)據(jù)庫(kù)合并重構(gòu)時(shí)發(fā)生錯(cuò)誤；特殊事件導(dǎo)致的畸變數(shù)據(jù)；由于計(jì)量裝置故障導(dǎo)致量測(cè)數(shù)據(jù)出現(xiàn)明顯誤差。異常點(diǎn)的存在導(dǎo)致數(shù)據(jù)質(zhì)量降低，嚴(yán)重影響建模過(guò)程與分析結(jié)果，不利于配電變壓器臺(tái)區(qū)監(jiān)測(cè)正常工作的開(kāi)展。通常，電網(wǎng)公司運(yùn)營(yíng)監(jiān)測(cè)中心采用限定數(shù)據(jù)區(qū)間、異常事件上報(bào)和分析電壓、電流、功率數(shù)據(jù)間的物理關(guān)系等方式篩選異常數(shù)據(jù)，并制定異常數(shù)據(jù)甄別規(guī)則對(duì)海量數(shù)據(jù)進(jìn)行清洗。但這些手段不能有效區(qū)分計(jì)量異常導(dǎo)致測(cè)量誤差變化而形成的異常點(diǎn)。針對(duì)這一種情況，本文采用LSTM網(wǎng)絡(luò)擬合原始數(shù)據(jù)，結(jié)合偏差理論判斷誤差是否超出閾值，從而實(shí)現(xiàn)電流、電壓及功率序列中異常數(shù)據(jù)的精確檢測(cè)。

2 用電曲線異常數(shù)據(jù)甄別方法

本文采用LSTM網(wǎng)絡(luò)模型用于電力系統(tǒng)中的用電曲線異常數(shù)據(jù)甄別，該模型屬于深層循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network,RNN)的一種，能夠循環(huán)歷史時(shí)間序列并學(xué)習(xí)曲線分布規(guī)律。該模型被廣泛運(yùn)用于新能源預(yù)測(cè)和電力系統(tǒng)電曲線擬合，包括電壓、電流和功率等[29]。當(dāng)實(shí)際用電曲線發(fā)生異常時(shí)，擬合數(shù)據(jù)與真實(shí)數(shù)據(jù)存在較大誤差，可以通過(guò)設(shè)定閾值進(jìn)行甄別。該異常數(shù)據(jù)甄別模型結(jié)構(gòu)如圖1所示。

圖1 基于深層RNN的異常數(shù)據(jù)甄別模型Fig.1 An anomaly data discrimination model based on deep RNN

2.1 LSTM網(wǎng)絡(luò)模型

LSTM網(wǎng)絡(luò)模型是深層RNN的改進(jìn)，通過(guò)在隱含層增加新的單元狀態(tài)進(jìn)行信息的傳遞，重新設(shè)計(jì)了計(jì)算節(jié)點(diǎn)，實(shí)現(xiàn)對(duì)遠(yuǎn)距離信息的有效控制，較好解決了梯度消失與梯度爆炸問(wèn)題[30]。

RNN是由輸入層、隱含層及輸出層組成的全連接神經(jīng)網(wǎng)絡(luò)[31]，圖2所示為RNN結(jié)構(gòu)展開(kāi)示意圖。其中：x為連接輸入層的輸入向量；U為輸入層與隱含層的權(quán)重矩陣；h為隱含層輸出，當(dāng)前時(shí)刻(t時(shí)刻)輸出ht由隱含層輸入經(jīng)權(quán)重矩陣和激活函數(shù)作用得到；V為隱含層與輸出層的權(quán)重矩陣。由此可得當(dāng)前時(shí)刻的輸出

ot=g(Vht).

(1)

式中g(shù)(·)為輸出層激活函數(shù)。

圖2 RNN結(jié)構(gòu)展開(kāi)示意圖Fig.2 Schematic diagram of unfolding RNN structure

RNN隱含層輸入值在當(dāng)前時(shí)刻包括2個(gè)部分：①t時(shí)刻輸入xt經(jīng)U作用后的值；②前一時(shí)刻t-1隱含層的輸出ht-1并經(jīng)權(quán)重矩陣W作用后的值。其中，權(quán)重矩陣W為前一時(shí)刻隱含層與當(dāng)前時(shí)刻隱含層間的連接權(quán)重。因此，當(dāng)前時(shí)刻隱含層輸出

ht=k(Uxt+Wht-1).

(2)

式中k(·)為隱含層激活函數(shù)。

從圖2中結(jié)構(gòu)可以看出，RNN展開(kāi)后時(shí)序關(guān)系復(fù)雜，較長(zhǎng)的網(wǎng)絡(luò)連接也使得模型的信息傳遞逐漸減少，進(jìn)而導(dǎo)致梯度消失問(wèn)題。為了解決這一問(wèn)題，LSTM網(wǎng)絡(luò)使用記憶單元狀態(tài)c存儲(chǔ)歷史記憶，代替RNN的連接，提升了模型的可靠性[32-33]。LSTM網(wǎng)絡(luò)包括記憶單元、“輸入門”“遺忘門”和“輸出門”，其結(jié)構(gòu)如圖3所示。

(a)“遺忘門”結(jié)構(gòu)

(b)“輸入門”結(jié)構(gòu)

(c)當(dāng)前輸入單元狀態(tài)

(d)當(dāng)前時(shí)刻單元狀態(tài)

(e)“輸出門”計(jì)算

(f)LSTM網(wǎng)絡(luò)完整結(jié)構(gòu)圖3 LSTM網(wǎng)絡(luò)結(jié)構(gòu)Fig.3 Network structure of LSTM

LSTM網(wǎng)絡(luò)模型在t時(shí)刻含有3個(gè)輸入：當(dāng)前時(shí)刻網(wǎng)絡(luò)的外部輸入xt；前一時(shí)刻LSTM網(wǎng)絡(luò)隱含層輸出值ht-1；前一時(shí)刻單元狀態(tài)ct-1。LSTM網(wǎng)絡(luò)在t時(shí)刻含有2個(gè)輸出：當(dāng)前時(shí)刻LSTM網(wǎng)絡(luò)輸出值ht和當(dāng)前時(shí)刻單元狀態(tài)ct。

LSTM網(wǎng)絡(luò)模型通過(guò)3個(gè)控制開(kāi)關(guān)實(shí)現(xiàn)對(duì)單元狀態(tài)c的有效控制：“遺忘門”實(shí)現(xiàn)對(duì)前一時(shí)刻長(zhǎng)期狀態(tài)ct-1的控制，決定前一時(shí)刻單元狀態(tài)ct-1保留到當(dāng)前時(shí)刻ct的程度；“輸入門”實(shí)現(xiàn)對(duì)當(dāng)前時(shí)刻輸入信息的控制，決定當(dāng)前時(shí)刻網(wǎng)絡(luò)輸入xt保存到單元狀態(tài)ct的程度；“輸出門”實(shí)現(xiàn)對(duì)當(dāng)前時(shí)刻長(zhǎng)期狀態(tài)ct的控制，確定當(dāng)前時(shí)刻單元狀態(tài)ct傳遞到LSTM網(wǎng)絡(luò)當(dāng)前輸出值ht的信息量[34-35]。根據(jù)圖3，可以得到如下各“門”結(jié)構(gòu)的具體計(jì)算式[32]：

a)當(dāng)前時(shí)刻“遺忘門”

ft=σf(Wf[ht-1,xt]+bf).

(3)

式中：Wf為“遺忘門”權(quán)重矩陣；[ht-1,xt]表示將2個(gè)向量拼接；bf為“遺忘門”偏置項(xiàng)；σf(·)為“遺忘門”激活函數(shù)。

b)當(dāng)前時(shí)刻“輸入門”

it=σi(Wi[ht-1,xt]+bi).

(4)

式中：Wi為“輸入門”權(quán)重矩陣；bi為“輸入門”偏置項(xiàng)；σi(·)為“輸入門”激活函數(shù)。

c)當(dāng)前輸入的單元狀態(tài)c′由前一時(shí)刻LSTM網(wǎng)絡(luò)輸出ht-1及當(dāng)前時(shí)刻輸入xt計(jì)算，計(jì)算式為

(5)

d)當(dāng)前時(shí)刻單元狀態(tài)

(6)

式中符號(hào)。表示按元素乘。此時(shí)，LSTM網(wǎng)絡(luò)將當(dāng)前記憶ct′和長(zhǎng)期記憶ct-1相結(jié)合，形成新單元狀態(tài)ct。

e)當(dāng)前時(shí)刻“輸出門”ot受到長(zhǎng)期記憶對(duì)當(dāng)前輸出的影響，計(jì)算式為

ot=σo(Wo[ht-1,xt]+bo).

(7)

式中：Wo為“輸出門”權(quán)重矩陣；bo為“輸出門”偏置項(xiàng)；σo(·)為“輸出門”激活函數(shù)。

f)LSTM網(wǎng)絡(luò)最終輸出由“輸出門”和單元狀態(tài)共同確定的，計(jì)算式為

ht=ot。tanh(ct).

(8)

2.2 異常數(shù)據(jù)甄別具體流程

通過(guò)建立智能分析模型，可以實(shí)現(xiàn)對(duì)異常數(shù)據(jù)的甄別，進(jìn)而提升監(jiān)測(cè)數(shù)據(jù)的質(zhì)量。本文使用LSTM網(wǎng)絡(luò)模型進(jìn)行異常數(shù)據(jù)甄別，流程如圖4所示。

圖4 基于LSTM網(wǎng)絡(luò)的異常數(shù)據(jù)甄別流程Fig.4 Flowchart of anomaly data discrimination based on LSTM network

圖4展示的異常數(shù)據(jù)甄別的具體步驟為：

a)獲取歷史電流、電壓、功率數(shù)據(jù)曲線，以歷史一定長(zhǎng)度的點(diǎn)為一組時(shí)間序列，作為訓(xùn)練樣本特征；該序列下一個(gè)時(shí)間點(diǎn)的數(shù)值作為樣本的標(biāo)簽。

b)按照上述要求，將電流、電壓、功率的時(shí)間序列進(jìn)行滾動(dòng)抽樣，構(gòu)成模型的學(xué)習(xí)樣本庫(kù)。

c)設(shè)定LSTM網(wǎng)絡(luò)模型結(jié)構(gòu)，包括LSTM網(wǎng)絡(luò)層的個(gè)數(shù)和層節(jié)點(diǎn)數(shù)，模型梯度下降算法、迭代次數(shù)及目標(biāo)函數(shù)等。

d)訓(xùn)練模型，并預(yù)測(cè)電流、電壓、電壓時(shí)間序列值，得到目標(biāo)模擬序列。

e)將模擬序列和真實(shí)的時(shí)間序列相減，比較各點(diǎn)的誤差絕對(duì)值，檢查精度是否滿足要求。

f)使用訓(xùn)練好的模型模擬目標(biāo)電表的用電曲線，將模擬曲線與實(shí)際曲線進(jìn)行比較，誤差大于閾值的點(diǎn)為異常點(diǎn)。

3 算例分析

本部分基于正常運(yùn)行計(jì)量裝置的用電數(shù)據(jù)，使用原型聚類法、密度聚類法、概率密度法、LSTM網(wǎng)絡(luò)模型4種方法進(jìn)行測(cè)試，檢驗(yàn)異常數(shù)據(jù)甄別精度。本研究中的故障時(shí)間序列包括人工添加噪聲的時(shí)間序列和實(shí)際運(yùn)行工況下的故障時(shí)間序列，通過(guò)對(duì)故障時(shí)間序列進(jìn)行異常點(diǎn)甄別，對(duì)選出的異常點(diǎn)進(jìn)行分析。

3.1 人工異常數(shù)據(jù)構(gòu)造

已知某編號(hào)電表連續(xù)23 d的A相功率、電壓、電流曲線。分別在A相功率、電壓、電流曲線中加入噪聲，生成100個(gè)人為異常點(diǎn)，異常點(diǎn)的位置為第1 000點(diǎn)至2 000點(diǎn)，每10點(diǎn)添加一個(gè)噪聲點(diǎn)。以電壓為例，在電壓曲線中添加噪聲為符合正態(tài)分布的均值為0，方差為0.5 V2的隨機(jī)數(shù)列。含噪聲電壓曲線與原始正常電壓曲線對(duì)比如圖5所示。

圖5 電壓曲線添加噪聲前后對(duì)比Fig.5 Comparison of voltage curves before and after adding noises

3.2 異常數(shù)據(jù)甄別模型建立與仿真

本研究中，分別采用原型聚類法、密度聚類法、概率密度法、傳統(tǒng)神經(jīng)網(wǎng)絡(luò)法和LSTM算法進(jìn)行異常點(diǎn)甄別，對(duì)各類方法進(jìn)行參數(shù)設(shè)置，見(jiàn)表1。

表1 LSTM網(wǎng)絡(luò)模型結(jié)構(gòu)及參數(shù)
Tab.1 Structure and parameters of LSTM network model

模型層模型超參數(shù)訓(xùn)練參數(shù)個(gè)數(shù)輸入層輸入個(gè)數(shù):96LSTM網(wǎng)絡(luò)層節(jié)點(diǎn)數(shù):8;激活函數(shù):tanh320全連接層節(jié)點(diǎn)數(shù):4;激活函數(shù):sigmoid36全連接層(輸出層)節(jié)點(diǎn)數(shù):1;激活函數(shù):sigmoid5

a)聚類方法參數(shù)。原型聚類法中聚類類別設(shè)置為3，異常值點(diǎn)判斷準(zhǔn)則閾值設(shè)置為5，聚類最大循環(huán)次數(shù)為500，距離函數(shù)采用歐式距離。將電壓實(shí)際值、電壓變化值作為聚類屬性。密度聚類模型中最大距離設(shè)置為0.5，樣本點(diǎn)歸一化范圍為(0,4)，每一類別的最少樣本個(gè)數(shù)為5，距離函數(shù)為歐式距離。概率密度模型采用ksdensity函數(shù)擬合電壓變化率時(shí)間序列的概率分布，獲得概率密度函數(shù)，結(jié)合其概率密度函數(shù)，獲得電壓變化率出現(xiàn)某一值時(shí)的概率。

b)傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型參數(shù)。該神經(jīng)網(wǎng)絡(luò)模型為一個(gè)典型的單隱層神經(jīng)網(wǎng)絡(luò)，屬于淺層網(wǎng)絡(luò)模型，其中包含輸入層(96×1序列輸入)、隱含層(8節(jié)點(diǎn))和輸出層(1節(jié)點(diǎn))。模型優(yōu)化選擇標(biāo)準(zhǔn)梯度下降算法，迭代次數(shù)400次，目標(biāo)函數(shù)為模型輸出值與真實(shí)值的均方誤差。模型使用最近歷史96點(diǎn)的數(shù)據(jù)預(yù)測(cè)下一時(shí)刻的電流值(采樣間隔15 min)。

c)LSTM網(wǎng)絡(luò)模型參數(shù)設(shè)置為4層RNN輸入層、1層LSTM網(wǎng)絡(luò)層、1層全連接隱含層、1層全連接輸出層，見(jiàn)表1。與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型一致，使用最近歷史96點(diǎn)的數(shù)據(jù)預(yù)測(cè)下一時(shí)刻的電流值(采樣間隔15 min)。模型優(yōu)化為帶動(dòng)量的隨機(jī)梯度下降算法，迭代次數(shù)為400，訓(xùn)練樣本中驗(yàn)證集所占比率為5%。目標(biāo)函數(shù)為模型輸出值與真實(shí)值的均方誤差。具體模型結(jié)構(gòu)見(jiàn)表1。

確定模型參數(shù)并建立模型后，使用未添加噪聲信號(hào)的時(shí)間序列建立訓(xùn)練樣本庫(kù)，訓(xùn)練LSTM網(wǎng)絡(luò)模型并學(xué)習(xí)曲線的變化規(guī)律。訓(xùn)練完畢后，使用LSTM網(wǎng)絡(luò)模型滾動(dòng)預(yù)測(cè)獲得模擬電壓曲線，將模擬電壓結(jié)果與噪聲電壓相比較，如圖6所示?？梢钥闯?，模擬電壓曲線較平穩(wěn)地反映出了實(shí)際電壓的變化趨勢(shì)和規(guī)律，與噪聲電壓相比，部分異常噪聲點(diǎn)的誤差十分明顯。

圖6 使用LSTM網(wǎng)絡(luò)模型模擬電壓曲線Fig.6 Simulated voltage curves by using LSTM network model

其中，為了甄別誤差較大的異常點(diǎn)，設(shè)置篩選異常點(diǎn)的閾值為電壓歷史數(shù)據(jù)變化幅度的5%，即1.12 V。當(dāng)模擬電壓與噪聲電壓之間的差的絕對(duì)值大于閾值，則該點(diǎn)電壓判定為異常值。選用正確率和誤判率作為指標(biāo)，即

(9)

式中：kac、ker分別為檢測(cè)正確率、誤判率；Nb為異常點(diǎn)個(gè)數(shù)；NT為正確判定的異常點(diǎn)數(shù)；NF為判斷錯(cuò)誤的點(diǎn)數(shù)。

通過(guò)改變?cè)肼暣笮?，進(jìn)行多次檢測(cè)試驗(yàn)，可以得到檢測(cè)結(jié)果見(jiàn)表2。

表2 異常點(diǎn)檢測(cè)結(jié)果
Tab.2 Detection results of anomaly data

類型噪聲方差LSTM網(wǎng)絡(luò)kac/%ker/%傳統(tǒng)神經(jīng)網(wǎng)絡(luò)kac/%ker/%電壓0.5 V285.0022.7352.0056.75電壓0.75 V278.0017.0259.0056.05電流0.01 A280.0023.0859.0049.03電流0.05 A282.0029.9165.0047.19功率0.01 kW257.0032.1474.0032.87功率0.05 kW274.0026.7377.0030.63平均76.0025.2764.3345.42類型原型聚類kac/%ker/%密度聚類kac/%ker/%概率密度kac/%ker/%電壓55.0055.6545.0043.0477.0037.90電壓58.0055.3855.0051.7564.0052.24電流60.0048.7257.0051.2867.0054.42電流66.0045.4560.0050.8271.0046.21功率77.0031.8671.0029.7073.0039.67功率78.0029.7377.0022.2278.0030.36平均65.6744.4760.83 41.4771.6743.47

從該比較結(jié)果可以看出，在不同的聚類方法中，原型聚類法檢測(cè)出來(lái)的異常點(diǎn)個(gè)數(shù)較多，因此其誤檢率最高；密度聚類法不能有效檢測(cè)出異常點(diǎn)，其檢測(cè)正確率最低；概率密度法較為靈敏，可以檢測(cè)出大部分存在異常的點(diǎn)，但仍有較大的誤判可能性。對(duì)于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型，其檢測(cè)原理是直接將歷史數(shù)據(jù)輸入，進(jìn)而對(duì)下一時(shí)刻的電表數(shù)據(jù)點(diǎn)進(jìn)行簡(jiǎn)單預(yù)測(cè)，無(wú)法考慮數(shù)據(jù)直接的相關(guān)性，其可行性較差。根據(jù)表2的檢測(cè)結(jié)果，傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的檢測(cè)正確率與原型聚類方法相近，稍高于密度聚類法；而其誤檢率極高，甚至超過(guò)原型聚類方法的誤檢率。這是由于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)僅做了簡(jiǎn)單預(yù)測(cè)，沒(méi)有考慮電表數(shù)據(jù)之間的相關(guān)性。而本文提出的LSTM檢測(cè)法，其中所用模型既建立了歷史電表數(shù)據(jù)與未來(lái)時(shí)刻電表數(shù)據(jù)的映射關(guān)系，又同時(shí)考慮了電表數(shù)據(jù)點(diǎn)之間的相關(guān)性。從比較結(jié)果可以看出，本文所提方法平均檢測(cè)正確率最高，達(dá)到76%；且同時(shí)具有最低誤檢測(cè)可能性，誤檢率僅25.27%。

3.3 異常數(shù)據(jù)甄別精度對(duì)比測(cè)試

為了驗(yàn)證異常點(diǎn)LSTM檢測(cè)法在實(shí)際用電曲線序列中的效果，取故障電表A從2017-04-08日至2017-06-08日共計(jì)5 952點(diǎn)A相電壓值序列。通過(guò)滾動(dòng)抽樣連續(xù)96點(diǎn)序列構(gòu)建學(xué)習(xí)樣本庫(kù)，樣本標(biāo)簽為序列下一點(diǎn)電壓值，據(jù)此獲得訓(xùn)練樣本。使用該訓(xùn)練樣本訓(xùn)練LSTM網(wǎng)絡(luò)模型，并選取測(cè)試集樣本評(píng)估模型性能。

在測(cè)試集樣本中，使用LSTM算法對(duì)2017-06-09日第1至96點(diǎn)電壓值進(jìn)行模擬，比較模擬值與實(shí)際值。實(shí)際故障電表A電壓如圖7所示，在第33點(diǎn)至64點(diǎn)處電壓與其余點(diǎn)電壓相比明顯偏小，且經(jīng)過(guò)突變后電壓恢復(fù)正常范圍。確定第33點(diǎn)至64點(diǎn)為異常點(diǎn)，異常原因?qū)儆陔妷浩?，異常點(diǎn)甄別有效。

圖7 實(shí)際故障電表A電壓(2017-06-09)Fig.7 Voltage series of actual faulty meter A

取故障電表B從2017-04-03日至2017-06-03日共計(jì)5 856點(diǎn)A相電壓值序列，使用LSTM算法對(duì)2017-06-04日第1至96點(diǎn)電壓值進(jìn)行模擬，比較模擬值與實(shí)際值。從圖8所示的實(shí)際故障電表B電壓值可以看出，在第72、74、76點(diǎn)處電壓與其余點(diǎn)電壓相比明顯偏大，最高達(dá)到274.8 V，屬于曲線的明顯毛刺，且隨后電壓經(jīng)過(guò)突變恢復(fù)正常。將其判定為異常點(diǎn)，異常原因?qū)儆陔妷寒惓８?、電壓突變，異常點(diǎn)甄別有效。

圖8 實(shí)際故障電表B電壓(2017-06-04)Fig.8 Voltage series of actual faulty meter B

同理，實(shí)際故障電表的電流和功率異常點(diǎn)也可以通過(guò)LSTM網(wǎng)絡(luò)模型的模擬得出，其中電流和功率異常點(diǎn)檢測(cè)結(jié)果如圖9所示?？梢钥闯觯诠收想姳淼臏y(cè)試集樣本中，第22、34、55及60點(diǎn)處存在異常點(diǎn)，其模擬值與實(shí)際值的誤差超過(guò)閾值，實(shí)際反映出的異常原因?yàn)殡娏骰蚬β实漠惓Ｍ蛔?，與模型甄別結(jié)果一致。

圖9 實(shí)際故障電表電流和功率(2017-05-02)Fig.9 Current and power series of actual faulty meter

本文研究的算例數(shù)據(jù)主要來(lái)源于電網(wǎng)配電變壓器臺(tái)區(qū)的專用變壓器數(shù)據(jù)。特別是對(duì)于居民用電負(fù)荷，雖然其用電數(shù)據(jù)波動(dòng)較大，但是由于其具有較為明顯的日相關(guān)性和日周期性規(guī)律，LSTM網(wǎng)絡(luò)模型能夠?qū)W習(xí)這種特性并提升預(yù)測(cè)精度，進(jìn)而能夠有效挖掘出特定的異常點(diǎn)。此外，由于LSTM網(wǎng)絡(luò)模型同時(shí)建立了歷史數(shù)據(jù)與待預(yù)測(cè)數(shù)據(jù)的映射關(guān)系和歷史數(shù)據(jù)之間的映射關(guān)系，克服了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)精度差的問(wèn)題，成功地將預(yù)測(cè)方法和深度學(xué)習(xí)技術(shù)引入了異常數(shù)據(jù)甄別領(lǐng)域，并提升了異常檢測(cè)的準(zhǔn)確性。

通過(guò)本研究中算例分析，無(wú)論是人工添加噪聲的異常曲線或是實(shí)際運(yùn)行故障的異常曲線，在保證有足夠量歷史訓(xùn)練樣本的前提下，本文所提出的基于LSTM網(wǎng)絡(luò)的甄別方法都能夠有效檢測(cè)。此外該研究結(jié)果同時(shí)表明，在實(shí)際運(yùn)行工況中若無(wú)故障曲線，可以通過(guò)人為添加噪聲點(diǎn)構(gòu)造異常曲線，以此試驗(yàn)異常數(shù)據(jù)甄別方法的準(zhǔn)確性和可靠性。因此，本文提出的方法作為一種基于深度學(xué)習(xí)的異常甄別手段，進(jìn)一步提升了異常檢測(cè)的準(zhǔn)確性和靠性，能夠有效地指導(dǎo)電力系統(tǒng)的運(yùn)行檢修人員，進(jìn)而及時(shí)對(duì)異常電表進(jìn)行排查維護(hù)。

4 結(jié)束語(yǔ)

本文結(jié)合當(dāng)下人工智能和深度學(xué)習(xí)領(lǐng)域研究熱點(diǎn)，對(duì)用電異常數(shù)據(jù)甄別開(kāi)展了如下研究：

a)獲取計(jì)量裝置歷史電壓數(shù)據(jù)曲線，以連續(xù)96點(diǎn)數(shù)據(jù)為一組時(shí)間序列，采用滾動(dòng)抽樣作為訓(xùn)練樣本特征。樣本標(biāo)簽設(shè)置為每一組時(shí)間序列下一個(gè)時(shí)間點(diǎn)數(shù)據(jù)值，構(gòu)建學(xué)習(xí)樣本庫(kù)。同時(shí)，分別測(cè)試了人工添加噪聲的時(shí)間序列和實(shí)際運(yùn)行工況下的故障時(shí)間序列，充分驗(yàn)證了本文所提出方法的優(yōu)越性。在智能電網(wǎng)大數(shù)據(jù)發(fā)展背景下，因電表數(shù)據(jù)采集和存儲(chǔ)技術(shù)的不斷提升，可獲得大量的歷史訓(xùn)練數(shù)據(jù)樣本，為基于深度學(xué)習(xí)方法的異常數(shù)據(jù)甄別手段提供了可靠的保證。

b)提出了一種基于新型深層神經(jīng)網(wǎng)絡(luò)模型的異常數(shù)據(jù)甄別方法，即LSTM網(wǎng)絡(luò)模型。該模型能夠同時(shí)建立歷史數(shù)據(jù)與待預(yù)測(cè)數(shù)據(jù)的映射關(guān)系和歷史數(shù)據(jù)之間的映射關(guān)系，對(duì)目標(biāo)計(jì)量裝置的歷史用電曲線進(jìn)行有效擬合，進(jìn)而獲取更為準(zhǔn)確的電力系統(tǒng)模擬序列。通過(guò)設(shè)定閾值并將模擬序列和真實(shí)序列進(jìn)行比較，成功地將預(yù)測(cè)方法用于判斷篩選異常點(diǎn)。

c)比較了所提出的LSTM檢測(cè)方法和原型聚類法、密度聚類法、概率密度法和傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型在異常數(shù)據(jù)中的檢測(cè)正確率。比較結(jié)果顯示，本文提出的模型能夠?qū)v史序列數(shù)據(jù)進(jìn)行深層特征挖掘，并學(xué)習(xí)歷史序列中的時(shí)序規(guī)律，克服了傳統(tǒng)機(jī)器學(xué)習(xí)預(yù)測(cè)方法在異常檢測(cè)上的不足，異常甄別準(zhǔn)確率明顯提升。該方法適用于配電變壓器臺(tái)區(qū)下的專用變壓器用電數(shù)據(jù)和居民用電數(shù)據(jù)，能夠有效地指導(dǎo)電力系統(tǒng)的運(yùn)行檢修人員，進(jìn)而及時(shí)對(duì)異常電表進(jìn)行排查維護(hù)，保證了電力系統(tǒng)的長(zhǎng)期穩(wěn)定可靠運(yùn)行。