夏 睿，高云鵬，朱彥卿，歐陽(yáng)博，吳 聰

基于SE-CNN模型的竊電檢測(cè)方法研究

夏 睿，高云鵬，朱彥卿，歐陽(yáng)博，吳 聰

(湖南大學(xué)電氣與信息工程學(xué)院，湖南 長(zhǎng)沙 410082)

針對(duì)傳統(tǒng)電網(wǎng)現(xiàn)有竊電檢測(cè)僅用單一電量且實(shí)際數(shù)據(jù)集下檢測(cè)準(zhǔn)確度低的問(wèn)題，提出一種基于通道注意力網(wǎng)絡(luò)改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)模型的竊電行為檢測(cè)方法。首先建立一種包含用電量趨勢(shì)、線損增長(zhǎng)率、終端告警多源數(shù)據(jù)融合的竊電評(píng)價(jià)指標(biāo)體系，以此構(gòu)建用戶用電特征集。然后，基于通道注意力擠壓激勵(lì)網(wǎng)絡(luò)(squeeze and excitation networks, SENet)優(yōu)化卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network, CNN)模型，據(jù)此構(gòu)建自適應(yīng)通道注意力網(wǎng)絡(luò)改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)模型的竊電檢測(cè)方法。最后，利用南方電網(wǎng)數(shù)據(jù)集對(duì)提出方法的有效性與準(zhǔn)確性進(jìn)行驗(yàn)證。實(shí)測(cè)結(jié)果表明，所提方法能有效實(shí)現(xiàn)實(shí)際電網(wǎng)情況下各類竊電行為準(zhǔn)確檢測(cè)，建立的評(píng)價(jià)指標(biāo)體系可更明顯表征竊電行為規(guī)律。構(gòu)建的竊電檢測(cè)模型可自適應(yīng)對(duì)特征通道重要程度調(diào)整，提升通道利用率。相比現(xiàn)有檢測(cè)方法，其具有更高準(zhǔn)確度和更優(yōu)泛化性能。

竊電行為；改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)；注意力網(wǎng)絡(luò)；電量趨勢(shì)；線損

0 引言

電力傳輸過(guò)程中電力損失不可避免，用戶側(cè)的竊電行為是當(dāng)前造成非技術(shù)性損失的主要原因[1-2]。每年因竊電造成的經(jīng)濟(jì)損失不僅在發(fā)展中國(guó)家影響巨大，在發(fā)達(dá)國(guó)家同樣嚴(yán)重[3]，對(duì)電力公司來(lái)說(shuō)，會(huì)增加電網(wǎng)的運(yùn)營(yíng)成本，同時(shí)給電網(wǎng)安全運(yùn)行帶來(lái)巨大的潛在風(fēng)險(xiǎn)[4-6]。因此，研究如何對(duì)竊電用戶準(zhǔn)確檢測(cè)，降低非技術(shù)損失，對(duì)于電力公司具有重大意義。

針對(duì)竊電檢測(cè)技術(shù)，近些年國(guó)內(nèi)外諸多學(xué)者做了大量的工作。傳統(tǒng)竊電檢測(cè)主要利用人工對(duì)可疑用戶進(jìn)行稽查，但該方法效率低且人力和時(shí)間成本高。隨著智能電網(wǎng)的高速發(fā)展，基于能源互聯(lián)網(wǎng)的高級(jí)量測(cè)體系(Advanced Metering Infrastructure, AMI)在電網(wǎng)公司逐步建立，同時(shí)伴隨智能電表大面積應(yīng)用，可有效利用AMI下的智能電表數(shù)據(jù)對(duì)竊電行為展開(kāi)研究分析[7]。機(jī)器學(xué)習(xí)因具有從大量歷史數(shù)據(jù)中挖掘其隱含的規(guī)律并對(duì)新數(shù)據(jù)預(yù)測(cè)或判斷的能力，已開(kāi)始被應(yīng)用于竊電檢測(cè)領(lǐng)域[8]，其中無(wú)監(jiān)督學(xué)習(xí)可通過(guò)學(xué)習(xí)用戶用電數(shù)據(jù)內(nèi)在相似關(guān)聯(lián)屬性，自動(dòng)提取用戶用電典型特征聚類正常用戶，找出離群點(diǎn)作為異常用戶[9-10]。文獻(xiàn)[11]提出基于集群點(diǎn)算法的竊電檢測(cè)模型，但由于無(wú)特征提取階段，且算法簡(jiǎn)單，造成檢測(cè)準(zhǔn)確度低。為解決以上問(wèn)題，文獻(xiàn)[12]提出基于時(shí)間尺度負(fù)荷序列的特征提取，并采用基于網(wǎng)格的局部離群因子算法對(duì)竊電行為進(jìn)行檢測(cè)，然而特征提取過(guò)程復(fù)雜且計(jì)算量大。文獻(xiàn)[13]提出生成對(duì)抗網(wǎng)絡(luò)生成逼真竊電樣本，增強(qiáng)竊電樣本多樣性，簡(jiǎn)化建模過(guò)程，但無(wú)監(jiān)督學(xué)習(xí)方法對(duì)參數(shù)嚴(yán)重依賴，不適用于復(fù)雜電網(wǎng)環(huán)境和多種類竊電手段檢測(cè)[14]。

為克服無(wú)監(jiān)督學(xué)習(xí)方法對(duì)竊電檢測(cè)的不足，可采用基于有監(jiān)督學(xué)習(xí)方法檢測(cè)，該類方法需含有標(biāo)簽的數(shù)據(jù)集進(jìn)行訓(xùn)練，將訓(xùn)練好的模型對(duì)新用電數(shù)據(jù)進(jìn)行分類(即是否為竊電)[15]。文獻(xiàn)[16-17]分別采用SVM和決策樹(shù)方法進(jìn)行竊電行為檢測(cè)，為進(jìn)一步提高檢測(cè)準(zhǔn)確度，將AdaBoost和XGboost等集成學(xué)習(xí)方法應(yīng)用于竊電檢測(cè)領(lǐng)域[18-21]，但上述方法未對(duì)數(shù)據(jù)進(jìn)行特征提取，無(wú)法找出用電數(shù)據(jù)時(shí)間序列特征，為此可采用神經(jīng)網(wǎng)絡(luò)[22-23]和LSTM[24-25]進(jìn)行特征提取。卷積神經(jīng)網(wǎng)絡(luò)是當(dāng)下應(yīng)用非常廣泛而且有效的深度學(xué)習(xí)方法，其廣泛應(yīng)用于圖像處理、語(yǔ)音識(shí)別以及自然語(yǔ)言處理等領(lǐng)域，在竊電領(lǐng)域應(yīng)用具有較高的準(zhǔn)確率[26]。文獻(xiàn)[27]提出將CNN和隨機(jī)森林結(jié)合的新型混合模型對(duì)竊電進(jìn)行檢測(cè)，但采用篡改公式對(duì)正常數(shù)據(jù)集模擬竊電行為無(wú)法完全應(yīng)用于真實(shí)復(fù)雜電網(wǎng)環(huán)境。文獻(xiàn)[28]提出一種將寬度和深度結(jié)合的卷積神經(jīng)網(wǎng)絡(luò)，采用國(guó)家電網(wǎng)數(shù)據(jù)集對(duì)竊電行為檢測(cè)，然而該數(shù)據(jù)集僅包含不同用戶日用電量的單一信息，其表征出的竊電行為所具有的特征不明顯，且模型訓(xùn)練前未對(duì)數(shù)據(jù)進(jìn)行變換。目前大部分CNN模型均為空間維度通過(guò)增加網(wǎng)絡(luò)深度提升網(wǎng)絡(luò)性能[29-31]，但因其網(wǎng)絡(luò)層數(shù)增加，通道增多而造成模型訓(xùn)練時(shí)間增加，模型檢測(cè)效率低。

因此，本文針對(duì)實(shí)際電網(wǎng)情況下跨類雜糅用戶竊電行為的準(zhǔn)確檢測(cè)，建立一種包含用電量趨勢(shì)、線損增長(zhǎng)率、終端告警多源數(shù)據(jù)融合的竊電評(píng)價(jià)指標(biāo)體系，以此建立用戶用電特征指標(biāo)，構(gòu)建用戶用電特征集，基于CNN模型引入通道注意力網(wǎng)絡(luò)SENet對(duì)特征通道的重要程度進(jìn)行調(diào)整，提升通道利用率，據(jù)此建立基于通道注意力網(wǎng)絡(luò)SENet的CNN模型的竊電檢測(cè)方法，并在此基礎(chǔ)上進(jìn)行模型訓(xùn)練和測(cè)試，最后通過(guò)南方電網(wǎng)某地區(qū)實(shí)際用戶用電數(shù)據(jù)集對(duì)本文提出方法的準(zhǔn)確性和有效性進(jìn)行分析與驗(yàn)證。

1 竊電評(píng)價(jià)指標(biāo)構(gòu)建

在AMI體系下，通過(guò)智能電表采集電量、負(fù)荷在一定程度上能反映用戶竊電行為的某些規(guī)律，但需建立更符合電網(wǎng)實(shí)際情況的竊電檢測(cè)模型，有必要構(gòu)建新的具有更明顯特征的評(píng)估指標(biāo)體系，以此建立用戶用電特征指標(biāo)，獲得用戶用電特征集。構(gòu)建的新評(píng)價(jià)指標(biāo)體系如圖1所示。

圖1 竊電評(píng)價(jià)指標(biāo)體系

1.1 用電量趨勢(shì)下降指標(biāo)

1.2 線損指標(biāo)

1.3 告警類指標(biāo)

為盡可能全面覆蓋各類疑似竊電方式，建模樣本數(shù)據(jù)還需考慮在AMI體系下，計(jì)量自動(dòng)化系統(tǒng)出現(xiàn)的與疑似竊電行為相關(guān)的終端報(bào)警，其指標(biāo)如表1所示，主要包括：“1”代表電壓缺相、“2”代表電壓斷相、“3”代表電流反極性、“4”代表電流不平衡、“5”代表最大需量復(fù)零，綜上以計(jì)算發(fā)生與疑似竊電相關(guān)的終端報(bào)警次數(shù)總和作為告警類指標(biāo)。

表1 終端告警類指標(biāo)

2 基于SE-CNN竊電行為檢測(cè)算法

2.1 卷積神經(jīng)網(wǎng)絡(luò)

為提取用戶用電數(shù)據(jù)時(shí)間序列特征，實(shí)現(xiàn)竊電用戶的準(zhǔn)確識(shí)別，本文采用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行竊電行為檢測(cè)。典型卷積神經(jīng)網(wǎng)絡(luò)由輸入層、卷積層(convolutional layer)、池化層(pooling layer)、全連接層(fully connected layer, FC)及輸出層組成[33]，其模型框架如圖3所示。

圖3 卷積神經(jīng)網(wǎng)絡(luò)模型框架

卷積層為CNN的核心組成模塊，由一組平行特征圖(Feature Map)組成，通過(guò)卷積核(convolution kernel)對(duì)輸入特征圖進(jìn)行卷積運(yùn)算得到輸出特征圖，該特征圖中所有元素均通過(guò)同一個(gè)卷積核計(jì)算，即權(quán)值和偏置項(xiàng)共享。卷積運(yùn)算為

池化層用于CNN降低特征圖的特征空間，減少冗余特征量，同時(shí)保留用電行為主要特征，通過(guò)減少計(jì)算參量以達(dá)到降維效果，防止過(guò)擬合現(xiàn)象，從而提高模型泛化能力。實(shí)際上池化操作是一種下采樣操作，其操作包括最大池化、均值池化、隨機(jī)池化等。CNN中最典型的池化操作為最大池化[33]，為保證用電特征的主要特征、降低參數(shù)量，本文采用最大池化進(jìn)行計(jì)算，其將輸入特征劃分為若干矩形區(qū)域，對(duì)每個(gè)子區(qū)域輸出最大值，其輸出計(jì)算式為

全連接層將CNN中最后一個(gè)池化層的所有神經(jīng)元進(jìn)行全連接操作，其模型可表示為

式中：為全連接層的輸入；為權(quán)值矩陣；為偏置向量。

2.2 自適應(yīng)注意力機(jī)制

在采用CNN網(wǎng)絡(luò)對(duì)竊電行為進(jìn)行檢測(cè)時(shí)，存在無(wú)用信息被CNN網(wǎng)絡(luò)提取，而這些無(wú)用信息也會(huì)分布在特征圖的通道維度里，分散CNN網(wǎng)絡(luò)的“注意力”，嚴(yán)重影響竊電檢測(cè)的準(zhǔn)確度。據(jù)此本文采用通道維度的自適應(yīng)注意力模塊SENet模型對(duì)CNN獲得特征表達(dá)進(jìn)行有效融合，提高CNN模型的檢測(cè)性能，其結(jié)構(gòu)如圖4所示。

圖4 SENet模型

注意力機(jī)制的本質(zhì)在于模仿人類視覺(jué)注意力機(jī)制，忽略掉上下文不相關(guān)的信息，其被廣泛應(yīng)用于自然語(yǔ)言處理領(lǐng)域。神經(jīng)網(wǎng)絡(luò)中注意力機(jī)制常用于通道維度里，從大量的輸入信息里篩選重要信息再給這些信息分配不同的權(quán)值。如圖4所示，SE模塊(SENet簡(jiǎn)稱)主要包括擠壓(Squeeze)以及激勵(lì)(Excitation)兩個(gè)操作，可適用于任何映射Ftr：→，輸入為∈?'×W′×C′，輸出∈?×W×C。SENet提出擠壓操作，即圖4中Fsq(?)，將一個(gè)通道上整個(gè)空間特征編碼為一個(gè)全局特征，其計(jì)算式為

激勵(lì)操作的目的為獲取特征通道之間的相關(guān)性，其需滿足兩個(gè)準(zhǔn)則：第一是可學(xué)習(xí)到各通道間的非線性關(guān)系；第二點(diǎn)是學(xué)習(xí)的關(guān)系不是互斥的，因其允許多通道特征，而非one-hot形式。據(jù)此本文采用sigmoid形式的門控機(jī)制得到歸一化后的權(quán)重向量如式(10)所示。

2.3 SE-CNN竊電行為檢測(cè)

SE-CNN竊電行為檢測(cè)模型實(shí)驗(yàn)流程如圖6所示，首先對(duì)AMI體系下智能電表采集的南方電網(wǎng)原始用戶用電數(shù)據(jù)進(jìn)行預(yù)處理，其中包括缺失值的補(bǔ)值和離群值修復(fù)，另結(jié)合實(shí)際情況，居民節(jié)假日用電量與工作日相比明顯偏低，為盡可能達(dá)到較好的數(shù)據(jù)效果，過(guò)濾節(jié)假日用電數(shù)據(jù)；再提取在圖1構(gòu)建的竊電評(píng)價(jià)指標(biāo)3類特征；在模型訓(xùn)練和分類階段，利用上述提取的特征作為數(shù)據(jù)輸入，通過(guò)2層卷積層與池化層提取出時(shí)間序列的關(guān)聯(lián)特征，再由SENet模塊對(duì)特征圖各通道賦予不同權(quán)值以對(duì)其重要性進(jìn)行調(diào)整，其通過(guò)3個(gè)操作進(jìn)行，具體實(shí)現(xiàn)如下。

圖5 SE-CNN竊電行為檢測(cè)模型

表2 SE-CNN模型參數(shù)設(shè)置

圖6 SE-CNN竊電檢測(cè)模型實(shí)驗(yàn)流程圖

3) 聚合操作：使用Scale層把歸一化后的權(quán)重參數(shù)加權(quán)到每個(gè)通道的特征上，即將擠壓操作和激勵(lì)操作學(xué)習(xí)到的各個(gè)通道的激活值和的原始特征相乘，即圖4的Fscale(·,·)操作。

通過(guò)以上操作可讓SE模塊更專注于信息量大的通道特征，抑制無(wú)效特征，實(shí)現(xiàn)對(duì)局部區(qū)域進(jìn)行通道上的特征融合，最后通過(guò)全連接層(即圖5中的FC層1和FC層2)操作與sigmoid分類器得出竊電行為檢測(cè)結(jié)果。

3 實(shí)驗(yàn)與分析

為驗(yàn)證本文提出算法的有效性和準(zhǔn)確性，實(shí)驗(yàn)硬件為擁有64位6核的Intel Core i7-8750H CPU@2.20 GHz，深度學(xué)習(xí)框架采用TensorFlow和Keras。本文采用實(shí)驗(yàn)數(shù)據(jù)為南方電網(wǎng)某市電網(wǎng)公司實(shí)際數(shù)據(jù)，該數(shù)據(jù)集包含從2009年1月1日至2014年12月31日共計(jì)6085個(gè)用戶每天用電量數(shù)據(jù)，該數(shù)據(jù)分為正常數(shù)據(jù)和竊電數(shù)據(jù)，且擁有竊電標(biāo)簽(竊電為“1”，正常為“0”)。其中竊電用戶834個(gè)，占總用戶數(shù)的13.7%、該類樣本占比較小，數(shù)據(jù)集存在較為嚴(yán)重的不平衡，會(huì)影響模型的訓(xùn)練結(jié)果。本文采用隨機(jī)過(guò)采樣方法，通過(guò)復(fù)制少數(shù)類示例平衡數(shù)據(jù)，消除數(shù)據(jù)不平衡帶來(lái)的影響，預(yù)處理后樣本數(shù)據(jù)集詳細(xì)描述如表3所示，其總用戶數(shù)10 291個(gè)，竊電用戶5040個(gè)，占總用戶數(shù)的48.97%。

表3 預(yù)處理后南方電網(wǎng)數(shù)據(jù)集

3.1 評(píng)價(jià)指標(biāo)構(gòu)建

南方電網(wǎng)實(shí)際數(shù)據(jù)分為正常用戶和竊電用戶兩類，竊電檢測(cè)本質(zhì)為二元分類問(wèn)題。為衡量檢測(cè)方法的優(yōu)劣，可采用混淆矩陣進(jìn)行驗(yàn)證，其如表4所示。根據(jù)表4的混淆矩陣定義召回率(Recall)和1值，分別對(duì)應(yīng)式(12)和式(13)。

表4 竊電行為檢測(cè)中的混淆矩陣

AUC(Area Under ROC Curve)可通過(guò)ROC曲線下的各部分面積和求得，對(duì)于比較各分類器的分類性能，AUC值越大越好，當(dāng)AUC=1時(shí)為理想分類器。AUC的計(jì)算式為

平均精度均值(Mean Average Precision, MAP)用于評(píng)估模型檢測(cè)性能。MAP@定義為在前個(gè)嫌疑度最高的用戶中，檢測(cè)模型正確識(shí)別為竊電用戶的平均精度均值，即

3.2 本文方法實(shí)驗(yàn)與分析

本文提出SE-CNN竊電行為檢測(cè)方法的輸入項(xiàng)包括電量趨勢(shì)下降指標(biāo)、線損類指標(biāo)以及告警類指標(biāo)，而輸出項(xiàng)為竊電標(biāo)志。針對(duì)輸入項(xiàng)數(shù)據(jù)樣本進(jìn)行數(shù)據(jù)劃分，隨機(jī)選取50%、60%、70%以及80%作為訓(xùn)練樣本(對(duì)應(yīng)50%、40%、30%以及20%數(shù)據(jù)作為測(cè)試樣本)，并分別進(jìn)行4組實(shí)驗(yàn)，基于本文方法在不同訓(xùn)練數(shù)據(jù)比例的實(shí)驗(yàn)結(jié)果如表5所示。

由表5可知，本文提出基于SE-CNN竊電行為檢測(cè)方法在不同訓(xùn)練數(shù)據(jù)比例下各種評(píng)價(jià)指標(biāo)均表現(xiàn)優(yōu)異，AUC值達(dá)到0.999以上。當(dāng)訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)比例均為50%以下時(shí)，數(shù)據(jù)呈現(xiàn)出平衡狀態(tài)，此時(shí)評(píng)價(jià)指標(biāo)多數(shù)略優(yōu)于其他訓(xùn)練數(shù)據(jù)比例，但各種訓(xùn)練數(shù)據(jù)比例下評(píng)價(jià)指標(biāo)結(jié)果相差很小，甚至可以忽略，因此本文提出方法表現(xiàn)出良好的泛化性能，能適用于工程實(shí)際的復(fù)雜電網(wǎng)環(huán)境。

表5 SE-CNN方法的實(shí)驗(yàn)結(jié)果

針對(duì)SE-CNN在實(shí)際電網(wǎng)數(shù)據(jù)下的檢測(cè)結(jié)果進(jìn)行可視化展示如圖7所示，其中檢測(cè)樣本數(shù)為6174(占總用戶的60%)，預(yù)測(cè)正確的個(gè)數(shù)是6138，預(yù)測(cè)正確率高達(dá)99.417%，該模型在實(shí)際電網(wǎng)數(shù)據(jù)下檢測(cè)結(jié)果表現(xiàn)優(yōu)異。

圖7 SE-CNN模型預(yù)測(cè)竊電的混淆矩陣圖

為驗(yàn)證注意力機(jī)制(SENet模塊)在CNN模型上的改進(jìn)效果，通過(guò)南方電網(wǎng)數(shù)據(jù)集進(jìn)行實(shí)驗(yàn)測(cè)試，隨機(jī)選取60%數(shù)據(jù)作為訓(xùn)練樣本，其訓(xùn)練結(jié)果如圖8所示。圖8(a)為CNN模型下模型評(píng)價(jià)指標(biāo)隨遍歷次數(shù)的增加而變化的情況，該模型需25次遍歷才能收斂；圖8(b)表示SE-CNN模型下模型評(píng)價(jià)指標(biāo)隨遍歷次數(shù)的增加而變化的情況，從圖8中趨勢(shì)可見(jiàn)，當(dāng)遍歷次數(shù)達(dá)到5次時(shí)就完全收斂，因此在CNN模型上添加注意力機(jī)制使得模型訓(xùn)練效率更高，有效提高模型的檢測(cè)性能。該模型算法的偽代碼圖如圖9所示，具體描述了該模型算法的工作流程。

圖8 遍歷次數(shù)下的模型評(píng)價(jià)指標(biāo)圖

3.3 與現(xiàn)有方法對(duì)比分析

為驗(yàn)證本文提出基于SE-CNN竊電行為檢測(cè)方法的有效性，本文分別采用SVM[16]、CART決策樹(shù)(Decision Tree)[17]、XGboost[19]、LM神經(jīng)網(wǎng)絡(luò)[22]和CNN[27]這5種基于機(jī)器學(xué)習(xí)的檢測(cè)模型進(jìn)行比較。本文提出的基于SE-CNN竊電行為檢測(cè)及前述5種基于機(jī)器學(xué)習(xí)方法的輸入項(xiàng)包括電量趨勢(shì)下降指標(biāo)、線損類指標(biāo)以及告警類指標(biāo)，而輸出項(xiàng)為竊電標(biāo)志。針對(duì)輸入項(xiàng)數(shù)據(jù)樣本進(jìn)行數(shù)據(jù)劃分，隨機(jī)選取60%和80%作為訓(xùn)練樣本(對(duì)應(yīng)40%和20%數(shù)據(jù)作為測(cè)試樣本)，并分別進(jìn)行兩組實(shí)驗(yàn)，兩組實(shí)驗(yàn)數(shù)據(jù)下不同方法的實(shí)驗(yàn)結(jié)果如表6所示。由表6可知，本文提出方法在實(shí)際電網(wǎng)數(shù)據(jù)下的各項(xiàng)評(píng)價(jià)指標(biāo)均好于其他5種基于機(jī)器學(xué)習(xí)方法，而CNN方法在這5種方法中的大部分指標(biāo)均優(yōu)于其他4種方法(如AUC在兩組數(shù)據(jù)下均達(dá)到0.9，MAP@100和MAP@200均大于0.929)。

當(dāng)在CNN網(wǎng)絡(luò)上采用自適應(yīng)注意力模塊(本文采用SENet模塊)后，本文構(gòu)建的SE-CNN模型在CNN方法的基礎(chǔ)上各項(xiàng)指標(biāo)均大幅提升，且均達(dá)到0.99以上，尤其是MAP@100和MAP@200這兩項(xiàng)指標(biāo)均達(dá)到1。從兩組實(shí)驗(yàn)數(shù)據(jù)在本文所提方法的實(shí)驗(yàn)表現(xiàn)來(lái)看差距很小，因此同時(shí)可驗(yàn)證本文方法的泛化性能表現(xiàn)優(yōu)越。為了進(jìn)一步驗(yàn)證本文提出的SE-CNN竊電行為檢測(cè)方法的有效性，在訓(xùn)練數(shù)據(jù)為60%的情況下，采用ROC曲線對(duì)所有方法的實(shí)驗(yàn)結(jié)果進(jìn)行可視化描述，不同方法的ROC曲線如圖10所示。在ROC空間坐標(biāo)中，越靠近左上的ROC曲線意味著在同樣檢測(cè)命中率下造成的誤檢率越低，檢測(cè)效果越好，本文提出的基于SE-CNN竊電行為檢測(cè)方法AUC表現(xiàn)均優(yōu)于其他方法。本文提出的SE-CNN竊電行為檢測(cè)方法利用卷積神經(jīng)網(wǎng)絡(luò)基于卷積運(yùn)算自動(dòng)提取用戶用電數(shù)據(jù)高維深層特征；通過(guò)在卷積神經(jīng)網(wǎng)絡(luò)上添加SENet通道注意力模塊，使模型抑制其他無(wú)效特征，實(shí)現(xiàn)對(duì)局部區(qū)域通道上的特征融合，可更快達(dá)到擬合狀態(tài)。由此可見(jiàn)，本文提出方法相比于現(xiàn)有幾種機(jī)器學(xué)習(xí)方法具有更高的模型訓(xùn)練效率和識(shí)別準(zhǔn)確度。

圖9 SE-CNN算法的偽代碼

表6 不同竊電檢測(cè)方法的結(jié)果

圖10 不同方法的ROC曲線

4 結(jié)論

本文提出了基于通道注意力網(wǎng)絡(luò)改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)模型的竊電行為檢測(cè)方法，實(shí)現(xiàn)了實(shí)際電網(wǎng)情況下竊電行為的準(zhǔn)確檢測(cè)，實(shí)驗(yàn)結(jié)果表明：通過(guò)建立竊電評(píng)價(jià)指標(biāo)體系，提取電量趨勢(shì)下降指標(biāo)、線損指標(biāo)以及與其竊電相關(guān)的終端報(bào)警類指標(biāo)特征，可減少輸入數(shù)據(jù)維度，更明顯表征竊電行為規(guī)律；在CNN模型基礎(chǔ)上引入了SENet自適應(yīng)注意力機(jī)制，使模型聚焦特征表達(dá)更有效的特征通道、并抑制無(wú)效的特征通道，提升了模型的檢測(cè)準(zhǔn)確度；相比于現(xiàn)有檢測(cè)方法，本文提出方法的檢測(cè)精度更高、實(shí)用性強(qiáng)，表現(xiàn)出良好的泛化性能，為當(dāng)前智能電網(wǎng)發(fā)現(xiàn)異常用電行為、稽查竊電用戶提供準(zhǔn)確有效的檢測(cè)手段，降低企業(yè)運(yùn)營(yíng)成本，保證電網(wǎng)可靠安全運(yùn)行。

[1] VIEGAS J L, ESTEVES P R, MELíCIO R, et al. Solutions for detection of non-technical losses in the electricity grid: a review[J]. Renewable and Sustainable Energy Reviews, 2017, 80: 1256-1268.

[2] 萬(wàn)磊, 陳成, 黃文杰, 等. 基于BRB和LSTM網(wǎng)絡(luò)的電力大數(shù)據(jù)用電異常檢測(cè)方法[J]. 電力建設(shè), 2021, 42(8): 38-45.

WAN Lei, CHEN Cheng, HUANG Wenjie, et al. Power abnormity detection method based on power big data applying BRB and LSTM network[J]. Electric Power Construction, 2021, 42(8): 38-45.

[3] MASSAFERRO P, MARTINO J M D, FERNáNDEZ A. Fraud detection in electric power distribution: an approach that maximizes the economic return[J]. IEEE Transactions on Power Systems, 2020, 35(1): 703-710.

[4] 張承智, 肖先勇, 鄭子萱. 基于實(shí)值深度置信網(wǎng)絡(luò)的用戶側(cè)竊電行為檢測(cè)[J]. 電網(wǎng)技術(shù), 2019, 43(3): 1083-1091.

ZHANG Chengzhi, XIAO Xianyong, ZHENG Zixuan. Electricity theft detection for customers in power utility based on real-valued deep belief network[J]. Power System Technology, 2019, 43(3): 1083-1091.

[5] 招景明, 唐捷, 潘峰, 等. 基于SDAE和雙模型聯(lián)合訓(xùn)練的低壓用戶竊電檢測(cè)方法[J]. 電測(cè)與儀表, 2021, 58(12): 161-168.

ZHAO Jingming, TANG Jie, PAN Feng, et al. Detection method of electricity theft for low-voltage users based on SDAE and double-model joint training[J]. Electrical Measurement & Instrumentation, 2021, 58(12): 161-168.

[6] 武超飛, 孫沖, 劉廈, 等. 基于改進(jìn)FCM聚類的竊電行為檢測(cè)[J]. 電力科學(xué)與技術(shù)學(xué)報(bào), 2021, 36(6): 164-170.

WU Chaofei, SUN Chong, LIU Sha, et al. Detection of stealing electricity energy based on improved fuzzy C-means clustering[J]. Journal of Electric Power Science and Technology, 2021, 36(6): 164-170.

[7] RAZAVI R, GHARIPOUR A, FLEURY M, et al. A practical feature-engineering framework for electricity theft detection in smart grids[J]. Applied Energy, 2019, 238: 481-494.

[8] 保富, 黃祖源. 基于流計(jì)算的大客戶用能智能分析方法[J]. 電力系統(tǒng)保護(hù)與控制, 2021, 49(11): 148-154.

BAO Fu, HUANG Zuyuan. Intelligent analysis method for energy consumption of large customers based on stream computing[J]. Power System Protection and Control, 2021, 49(11): 148-154.

[9] 孫毅, 李世豪, 崔燦, 等. 基于高斯核函數(shù)改進(jìn)的電力用戶用電數(shù)據(jù)離群點(diǎn)檢測(cè)方法[J]. 電網(wǎng)技術(shù), 2018, 42(5): 1595-1606.

SUN Yi, LI Shihao, CUI Can, et al. Improved outlier detection method of power consumer data based on Gaussian kernel function[J]. Power System Technology, 2018, 42(5): 1595-1606.

[10] 戶艷琴, 李海明, 劉念, 等. 面向能源互聯(lián)網(wǎng)終端用戶的異常數(shù)據(jù)檢測(cè)方法[J]. 電力建設(shè), 2021, 42(10): 19-27.

HU Yanqin, LI Haiming, LIU Nian, et al. Detection method of abnormal data for end users of energy internet[J]. Electric Power Construction, 2021, 42(10): 19-27.

[11] 程超, 張漢敬, 景志敏, 等. 基于離群點(diǎn)算法和用電信息采集系統(tǒng)的反竊電研究[J]. 電力系統(tǒng)保護(hù)與控制, 2015, 43(17): 69-74.

CHENG Chao, ZHANG Hanjing, JING Zhimin, et al. Study on the anti-electricity stealing based on outlier algorithm and the electricity information acquisition system[J]. Power System Protection and Control, 2015, 43(17): 69-74.

[12] 莊池杰, 張斌, 胡軍, 等. 基于無(wú)監(jiān)督學(xué)習(xí)的電力用戶異常用電模式檢測(cè)[J]. 中國(guó)電機(jī)工程學(xué)報(bào), 2016, 36(2): 379-387.

ZHUANG Chijie, ZHANG Bin, HU Jun, et al. Anomaly detection for power consumption patterns based on unsupervised learning[J]. Proceedings of the CSEE, 2016, 36(2): 379-387.

[13] 王德文, 楊凱華. 基于生成式對(duì)抗網(wǎng)絡(luò)的竊電檢測(cè)數(shù)據(jù)生成方法[J]. 電網(wǎng)技術(shù), 2020, 44(2): 775-782.

WANG Dewen, YANG Kaihua. A data generation method for electricity theft detection using generative adversarial network[J]. Power System Technology, 2020, 44(2): 775-782.

[14] TAKIDDIN A, ISMAIL M, ZAFAR U, et al. Robust electricity theft detection against data poisoning attacks in smart grids[J]. IEEE Transactions on Smart Grid, 2021, 12(3): 2675-2684.

[15] MESSINIS G M, RIGAS A E, HATZIARGYRIOU N D. A hybrid method for non-technical loss detection in smart distribution grids[J]. IEEE Transactions on Smart Grid, 2019, 10(6): 6080-6091.

[16] NAGI J, YAP K S, TIONG S K, et al. Improving SVM-based nontechnical loss detection in power utility using the fuzzy inference system[J]. IEEE Transactions on Power Delivery, 2011, 26(2): 1284-1285.

[17] JINDAL A, DUA A, KAUR K, et al. Decision tree and SVM-based data analytics for theft detection in smart grid[J]. IEEE Transactions on Industrial Informatics, 2016, 12(3): 1005-1016.

[18] 游文霞, 申坤, 楊楠,等.基于AdaBoost集成學(xué)習(xí)的竊電檢測(cè)研究[J]. 電力系統(tǒng)保護(hù)與控制, 2020, 48(19): 151-159.

YOU Wenxia, SHEN Kun, YANG Nan, et al. Research on electricity theft detection based on AdaBoost ensemble learning[J]. Power System Protection and Control, 2020, 48(19): 151-159.

[19] YAN Z, WEN H. Electricity theft detection base on extreme gradient boosting in AMI[J]. IEEE Transactions on Instrumentation and Measurement, 2021, 70: 1-9.

[20] 陳鋼, 李德英, 陳希祥. 基于改進(jìn)XGBoost模型的低誤報(bào)率竊電檢測(cè)方法[J]. 電力系統(tǒng)保護(hù)與控制, 2021, 49(23): 178-186.

CHEN Gang, LI Deying, CHEN Xixiang. Detection method of electricity theft with low false alarm rate based on an XGBoost model[J]. Power System Protection and Control, 2021, 49(23): 178-186.

[21] 巢政, 溫蜜. 一種基于SMOTE和XGBoost的竊電檢測(cè)方案[J]. 智慧電力, 2020, 48(11): 97-102.

CHAO Zheng, WEN Mi. Scheme for electricity theft detection based on SMOTE and XGBoost[J]. Smart Power, 2020, 48(11): 97-102.

[22] BUZAU M, TEJEDOR-AGUILERA J, CRUZ-ROMERO P, et al. Hybrid deep neural networks for detection of non-technical losses in electricity smart meters[J]. IEEE Transactions on Power Systems, 2020, 35(2): 1254-1263.

[23] 林曉靜, 劉文, 甘超飛, 等. 基于卷積神經(jīng)網(wǎng)絡(luò)與多維度電力大數(shù)據(jù)的信用評(píng)估系統(tǒng)[J]. 電測(cè)與儀表, 2021, 58(11): 101-106.

LIN Xiaojing, LIU Wen, GAN Chaofei, et al. Corporate credit assessment system based on convolutional neural network and multi-dimensional power big data[J]. Electrical Measurement & Instrumentation, 2021, 58(11): 101-106.

[24] 趙文清, 沈哲吉, 李剛. 基于深度學(xué)習(xí)的用戶異常用電模式檢測(cè)[J]. 電力自動(dòng)化設(shè)備, 2018, 38(9): 34-38.

ZHAO Wenqing, SHEN Zheji, LI Gang. Anomaly detection for power consumption pattern based on deep learning[J]. Electric Power Automation Equipment, 2018, 38(9): 34-38.

[25] 張靜, 尚光偉, 龔正國(guó), 等. 計(jì)及負(fù)荷分類及其需求響應(yīng)的配電網(wǎng)設(shè)備利用率提高方法[J]. 電網(wǎng)與清潔能源, 2021, 37(2): 50-56, 63.

ZHANG Jing, SHANG Guangwei, GONG Zhengguo, et al. An optimization method of distribution network equipment utilization considering load classification and demand response[J]. Power System and Clean Energy, 2021, 37(2): 50-56, 63.

[26] HE Y, MENDIS G J, WEI J. Real-time detection of false data injection attacks in smart grid: a deep learning-based intelligent mechanism[J]. IEEE Transactions on Smart Grid, 2017, 8(5): 2505-2516.

[27] LI S, HAN Y, YAO X, et al. Electricity theft detection in power grids with deep learning and random forests[J]. Journal of Electrical and Computer Engineering, 2019, 1-12.

[28] ZHENG Z, YANG Y, NIU X, et al. Wide and deep convolutional neural networks for electricity-theft detection to secure smart grids[J]. IEEE Transactions on Industrial Informatics, 2018, 14(4): 1606-1615.

[29] DESAI J P, MAKWANA V H. A novel out of step relaying algorithm based on wavelet transform and a deep learning machine model[J]. Protection and Control of Modern Power Systems, 2021, 6(4): 500-511.

[30] 鄭煒, 林瑞全, 王俊, 等. 基于GAF與卷積神經(jīng)網(wǎng)絡(luò)的電能質(zhì)量擾動(dòng)分類[J]. 電力系統(tǒng)保護(hù)與控制, 2021, 49(11): 97-104.

ZHENG Wei, LIN Ruiquan, WANG Jun, et al. Power quality disturbance classification based on GAF and a convolutional neural network[J]. Power System Protection and Control, 2021, 49(11): 97-104.

[31] 劉佳翰, 陳克緒, 馬建, 等. 基于卷積神經(jīng)網(wǎng)絡(luò)和隨機(jī)森林的三相電壓暫降分類[J]. 電力系統(tǒng)保護(hù)與控制, 2019, 47(20): 112-118.

LIU Jiahan, CHEN Kexu, MA Jian, et al. Classification of three-phase voltage dips based on CNN and random forest[J]. Power System Protection and Control, 2019, 47(20): 112-118.

[32] TAKIDDIN A, ISMAIL M, NABIL M, et al. Detecting electricity theft cyber-attacks in AMI networks using deep vector embeddings[J]. IEEE Systems Journal, 2021, 15(3): 4189-4198.

[33] 周飛燕, 金林鵬, 董軍. 卷積神經(jīng)網(wǎng)絡(luò)研究綜述[J]. 計(jì)算機(jī)學(xué)報(bào), 2017, 40(6): 1229-1251.

ZHOU Feiyan, JIN Linpeng, DONG Jun. Review of convolutional neural network[J]. Chinese Journal of Computers, 2017, 40(6): 1229-1251.

A detection method of electricity theft behavior based on an SE-CNN model

XIA Rui, GAO Yunpeng, ZHU Yanqing, OUYANG Bo, WU Cong

(College of Electrical and Information Engineering, Hunan University, Changsha410082,China)

There is a problem that the existing electricity theft detection of traditional power grids only uses a single amount of electricity and the detection accuracy is low under the actual dataset. Thus a method of electricity theft behavior detection based on a channel attention network improved convolutional neural network model is proposed. First,a multi-source data fusion electricity theft evaluation index system is established. This includes the trend of electricity consumption, the growth rate of line loss, and the terminal alarm, so as to construct the user's electricity consumption feature set. Then, the convolutional neural network (CNN) model is optimized based on the channel attention squeeze and excitation networks (SENet). Thus an electricity theft detection method based on an improved CNN model of the adaptive channel attention network is constructed. Finally, the dataset of the China Southern Power Grid is used to verify the validity and accuracy of the proposed method. Actual measurement results show that the proposed method can effectively realize the accurate detection of various electricity theft behaviors in the actual power grid situation, and the established evaluation index system can more clearly characterize the electricity theft behavior rules. The constructed electricity theft detection model can adaptively adjust the importance of feature channels to improve channel utilization. Compared with existing detection methods, it has higher accuracy and better generalization ability.

electricity theft behavior; improved convolutional neural network; attention network; electricity consumption trend; line loss

10.19783/j.cnki.pspc.220074

國(guó)家自然科學(xué)基金項(xiàng)目資助(51777061)；廣西電網(wǎng)科技項(xiàng)目資助(GXKJXM20200020)

This work is supported by the National Natural Science Foundation of China (No. 51777061).

2022-01-17；

2022-04-06

夏 睿(1991—)，男，博士研究生，研究方向?yàn)橹悄苄畔⑻幚怼⑷斯ぶ悄茉陔娏ο到y(tǒng)大數(shù)據(jù)中的應(yīng)用；E-mail: xiarui536@hnu.edu.cn

高云鵬(1978—)，男，通信作者，博士，教授，博士生導(dǎo)師，研究方向?yàn)橹悄苄畔⑻幚怼⑷斯ぶ悄茉陔娏ο到y(tǒng)大數(shù)據(jù)中的應(yīng)用。E-mail: gaoyp@hnu.edu.cn

(編輯 周金梅)