吳定安，鐘建偉*，秦 勉，向家國(guó)，曾凡偉，陳 晨，胡 凱

(1.湖北民族大學(xué) 信息工程學(xué)院,湖北 恩施 445000;2.國(guó)網(wǎng)湖北省電力有限公司恩施供電公司,湖北 恩施 445000)

隨著社會(huì)經(jīng)濟(jì)的發(fā)展和各種各樣的可再生能源的推廣，導(dǎo)致間隙性分布電源的大量接入電網(wǎng)，將會(huì)引起電壓的波形發(fā)生各種各樣的畸變.同時(shí)隨著電力電子設(shè)備的不斷發(fā)展，大量的非線性的電力電子器件給電網(wǎng)帶來(lái)了一系列的電能質(zhì)量問(wèn)題，電力系統(tǒng)的安全和穩(wěn)定運(yùn)行帶來(lái)了巨大的挑戰(zhàn).為了改善電能質(zhì)量，需要首先對(duì)電能質(zhì)量擾動(dòng)信號(hào)進(jìn)行準(zhǔn)確快速的識(shí)別和分類，因此展開(kāi)對(duì)電能質(zhì)量的研究有重要意義[1].

通常對(duì)電能質(zhì)量擾動(dòng)識(shí)別的步驟是對(duì)電能質(zhì)量信號(hào)進(jìn)行處理，然后提取特征值，對(duì)特征值進(jìn)行分析，最終得到分類結(jié)果.許多學(xué)者在電能質(zhì)量擾動(dòng)識(shí)別研究中進(jìn)行了研究和探索.而近幾年發(fā)展迅速的卷積神經(jīng)網(wǎng)絡(luò)在電能質(zhì)量擾動(dòng)分類中應(yīng)用較多[2].其卷積神經(jīng)網(wǎng)絡(luò)利用的優(yōu)化器也各有不同.瞿合祚等[3]利用卷積神經(jīng)網(wǎng)絡(luò)對(duì)電能質(zhì)量擾動(dòng)進(jìn)行分類，其優(yōu)化器是SGD.陳偉利等[4]用卷積神經(jīng)網(wǎng)絡(luò)對(duì)電能質(zhì)量擾動(dòng)進(jìn)行分類，其優(yōu)化器也是SGD.朱瑞金等[5]利用卷積神經(jīng)網(wǎng)絡(luò)對(duì)電能質(zhì)量擾動(dòng)進(jìn)行分類，其優(yōu)化器是Adam.因?yàn)榫矸e神經(jīng)網(wǎng)絡(luò)優(yōu)化器眾多，本文先就Adam、Rmsprop、SGD 3種優(yōu)化器在電能質(zhì)量擾動(dòng)識(shí)別中的效果，研究其在電能質(zhì)量擾動(dòng)識(shí)別中的優(yōu)劣性.

1 卷積神經(jīng)網(wǎng)絡(luò)

1.1 卷積神經(jīng)網(wǎng)絡(luò)的構(gòu)造

卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network，CNN)被用于圖像識(shí)別、語(yǔ)音識(shí)別等各種各樣的場(chǎng)合.因?yàn)榫矸e神經(jīng)網(wǎng)絡(luò)相比于其他的算法有巨大的優(yōu)勢(shì)，所以本文運(yùn)用卷積神經(jīng)網(wǎng)絡(luò)作為研究電能質(zhì)量擾動(dòng)分類的核心算法.卷積神經(jīng)網(wǎng)絡(luò)是由卷積層和池化層構(gòu)成的，可以像樂(lè)高積木一樣通過(guò)組裝來(lái)構(gòu)成[6].首先通過(guò)卷積層對(duì)輸入信號(hào)的特征值進(jìn)行局部提取，然后經(jīng)過(guò)激活函數(shù)再次導(dǎo)入到池化層，池化層可以有效減少特征值的分辨率，減少網(wǎng)絡(luò)的計(jì)算量，優(yōu)化網(wǎng)絡(luò)，然后經(jīng)過(guò)激活函數(shù)再次導(dǎo)入到卷積層，以此類推.最終在倒數(shù)第二層的時(shí)候接入全連接層，通過(guò)激活函數(shù)傳入到下一個(gè)全連接層，最終通過(guò)softmax函數(shù)得出最終分類結(jié)果.

1.2 激活函數(shù)

在神經(jīng)網(wǎng)絡(luò)中有很多的激活函數(shù)，通常的神經(jīng)網(wǎng)絡(luò)會(huì)用sigmoid函數(shù)，但是由于sigmoid函數(shù)在神經(jīng)網(wǎng)絡(luò)中有一定的局限性，在趨向無(wú)窮的時(shí)候，函數(shù)值變化很小，容易缺失梯度，不利于深層神經(jīng)網(wǎng)絡(luò)的反饋傳輸.因此在本文中，取ReLU函數(shù)作為卷積神經(jīng)網(wǎng)絡(luò)的激活函數(shù)[7]，激活函數(shù)表達(dá)式：

(1)

1.3 優(yōu)化器

神經(jīng)網(wǎng)絡(luò)的參數(shù)如果使損失函數(shù)越小，那么就說(shuō)明這個(gè)參數(shù)對(duì)應(yīng)的神經(jīng)網(wǎng)絡(luò)越強(qiáng)大，神經(jīng)網(wǎng)絡(luò)識(shí)別的效果就越好.神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)的目的就是找到使損失函數(shù)的值盡可能小的參數(shù).這是尋找最優(yōu)參數(shù)的問(wèn)題，解決這個(gè)問(wèn)題的過(guò)程稱為最優(yōu)化[8].為了找到最優(yōu)參數(shù)，將參數(shù)的梯度作為線索.而卷積神經(jīng)網(wǎng)絡(luò)自我學(xué)習(xí)和訓(xùn)練的過(guò)程就是以這個(gè)參數(shù)為引導(dǎo)不斷的更新神經(jīng)網(wǎng)絡(luò)的權(quán)值和偏置以此來(lái)使最終的識(shí)別效果達(dá)到最好[9].尋找參數(shù)最優(yōu)化的過(guò)程需要使用到優(yōu)化器.本文就是研究各個(gè)不同的優(yōu)化器在卷積神經(jīng)網(wǎng)絡(luò)中對(duì)電能質(zhì)量擾動(dòng)識(shí)別的效果.本文采用了Adam、Rmsprop、SGD這3種優(yōu)化器進(jìn)行研究.

2 電能質(zhì)量擾動(dòng)類型

電能質(zhì)量擾動(dòng)信號(hào)有復(fù)合電能質(zhì)量擾動(dòng)信號(hào)和單一電能質(zhì)量擾動(dòng)信號(hào)，而復(fù)合電能質(zhì)量擾動(dòng)信號(hào)是由兩個(gè)或者多個(gè)單一電能質(zhì)量擾動(dòng)信號(hào)組成的.本文研究的是單一電能質(zhì)量信號(hào)的擾動(dòng)分類，單一電能質(zhì)量信號(hào)除了標(biāo)準(zhǔn)信號(hào)(C0)以外，還有7種電能質(zhì)量擾動(dòng)信號(hào)，分別為電壓暫升(C1)、電壓中斷(C2)、電壓暫降(C3)、諧波信號(hào)(C4)、暫態(tài)振蕩(C5)、瞬態(tài)沖擊(C6)和電壓閃變(C7)[3].

單一電能質(zhì)量擾動(dòng)數(shù)學(xué)模型如下.

標(biāo)準(zhǔn)信號(hào)(C0)模型為：

v(t)=sin(wt).

(2)

式中w為工頻周期角頻率，取50 Hz.

電壓暫升(C1)模型為：

ν(t)={1+k[u(t2)-u(t1)]}sin(wt)，0.1≤k≤0.9，0.5T≤t2-t1≤30T.

(3)

式中k為附加擾動(dòng)值，T為工頻周期，u(t)為單位階躍函數(shù)，w為工頻周期角頻率，取50 Hz，t1和t2分別為電能質(zhì)量擾動(dòng)的開(kāi)始時(shí)間和電能質(zhì)量擾動(dòng)的結(jié)束時(shí)間.

電壓中斷(C2)模型為：

ν(t)={1-k[u(t2)-u(t1)]}sin(wt)，0.9≤k≤1，0.5T≤t2-t1≤30T.

(4)

式中k為附加擾動(dòng)值，T為工頻周期，u(t)為單位階躍函數(shù)，w為工頻周期角頻率，取50 Hz，t1和t2分別為電能質(zhì)量擾動(dòng)的開(kāi)始時(shí)間和電能質(zhì)量擾動(dòng)的結(jié)束時(shí)間.

電壓暫降(C3)模型為：

ν(t)={1-k[u(t2)-u(t1)]}sin(wt)，0.1≤k≤0.9，0.5T≤t2-t1≤30T.

(5)

式中k為附加擾動(dòng)值，T為工頻周期，u(t)為單位階躍函數(shù)，w為工頻周期角頻率，取50 Hz，t1和t2分別為電能質(zhì)量擾動(dòng)的開(kāi)始時(shí)間和電能質(zhì)量擾動(dòng)的結(jié)束時(shí)間.

諧波信號(hào)(C4)模型為：

(6)

式中w為工頻周期角頻率，取50 Hz，ak為附加參數(shù).

暫態(tài)振蕩(C5)模型為：

ν(t)=sin(wt)+α-λ(t-t1)sin(βwt)u(t-t1)，0.05<α<1，15<λ<130，14≤β≤30.

(7)

式中w為工頻周期角頻率，取50 Hz，u(t)為單位階躍函數(shù)，α，λ，β為附加參數(shù).

瞬態(tài)沖擊(C6)模型為：

v(t)=sin(wt)+a[u(t1)-u(t2)]，α>0.8，1 ms

(8)

式中w為工頻周期角頻率，取50 Hz，u(t)為單位階躍函數(shù)，α為附加參數(shù).

電壓閃變(C7)模型為：

v(t)=[1+asin(βwt)]sin(wt)，0.05<α<0.2，0.1<β<0.5.

(9)

式中w為工頻周期角頻率，取50 Hz，α，β為附加參數(shù).

本文利用MATLAB生成如圖1的單一電能質(zhì)量的擾動(dòng)信號(hào)模型，該電能質(zhì)量擾動(dòng)信號(hào)模型已經(jīng)進(jìn)行了歸一化處理，分別有標(biāo)準(zhǔn)信號(hào)(C0)、電壓暫升(C1)、電壓中斷(C2)、電壓暫降(C3)、諧波信號(hào)(C4)、暫態(tài)振蕩(C5)、瞬態(tài)沖擊(C6)和電壓閃變(C7).通過(guò)采樣區(qū)間是10個(gè)周期也就是0.2 s,每秒采樣3 915次，0.2 s只要采樣784次即可，也就是784個(gè)采樣點(diǎn)[11].

(a)標(biāo)準(zhǔn)信號(hào) (b)電壓暫升 (c)電壓中斷 (d)電壓暫降

(e)諧波信號(hào) (f)暫態(tài)振蕩 (g)瞬態(tài)沖擊 (h)電壓閃變圖1歸一化后的8種電能質(zhì)量擾動(dòng)信號(hào)Fig.1 Normalized eight power quality disturbance signals

圖1就是歸一化后的電能質(zhì)量擾動(dòng)波形信號(hào)的波形圖，由圖1可以知道，擾動(dòng)信號(hào)歸一化的處理不會(huì)影響到信號(hào)的波形.圖1中，(a～h)分別對(duì)應(yīng)C0-C7歸一化后的信號(hào)波形，其圖中橫坐標(biāo)為是10個(gè)周期也就是0.2 s時(shí)間內(nèi)的采樣點(diǎn)個(gè)數(shù)，單位為個(gè)；縱坐標(biāo)為電壓幅值，單位為V.

3 實(shí)驗(yàn)仿真

本文采用MATLAB生成如圖1所示電能質(zhì)量擾動(dòng)信號(hào)，每類電能質(zhì)量擾動(dòng)信號(hào)各生成1 125條隨機(jī)樣本，總共有9 000條電能質(zhì)量擾動(dòng)信號(hào)隨機(jī)樣本，每條信號(hào)的長(zhǎng)度是784.其中，選取每種電能質(zhì)量擾動(dòng)信號(hào)1 000條作為訓(xùn)練集，共8 000條隨機(jī)樣本.后1 000個(gè)包括8種電能質(zhì)量擾動(dòng)信號(hào)用來(lái)作為測(cè)試集，每種125條隨機(jī)樣本.所提的算法在TensorFlow平臺(tái)下運(yùn)行，電腦配置為Intel(R)core(TM)i5-5200CUP2.20-GHz處理器和6 GB內(nèi)存[5].經(jīng)過(guò)大量的實(shí)驗(yàn)和不斷的對(duì)模型進(jìn)行改進(jìn)，設(shè)置了最終的模型的參數(shù)：學(xué)習(xí)率為0.1，Dropout的值設(shè)為0.5，訓(xùn)練輪數(shù)為50輪次，訓(xùn)練所用的優(yōu)化器分別有：Adam、Rmsprop、SGD.

為了評(píng)估卷積神經(jīng)網(wǎng)絡(luò)在電能質(zhì)量擾動(dòng)的分類的訓(xùn)練狀態(tài)，繪制出了各個(gè)優(yōu)化器在電能質(zhì)量擾動(dòng)分類中的訓(xùn)練集分類識(shí)別精確度、訓(xùn)練集loss值、驗(yàn)證集分類識(shí)別精確度、驗(yàn)證集loss值.如圖2至圖5所示.

圖2 訓(xùn)練集模型精度 圖3訓(xùn)練集loss值Fig.2 The accuracy of training set model Fig.3 Training set loss values

圖2是3種優(yōu)化器在電能質(zhì)量擾動(dòng)分類中的識(shí)別精度.很明顯，Adam和Rmsprop在大約10個(gè)訓(xùn)練周期左右識(shí)別精度就已經(jīng)趨于平穩(wěn)且識(shí)別精度在90%以上.從識(shí)別精度達(dá)到平穩(wěn)需要的訓(xùn)練周期來(lái)看，Rmsprop和Adam效果都很好且不分上下.而SGD在電能質(zhì)量擾動(dòng)分類識(shí)別中訓(xùn)練集大約要花40個(gè)周期才達(dá)到穩(wěn)定，且識(shí)別的精度要低于Adam和Rmsprop這兩種優(yōu)化器.

從圖3可以看到3種優(yōu)化器在50個(gè)訓(xùn)練周期的loss值的變化.很明顯SGD優(yōu)化器的loss值下降速度要低于Adam和Rmsprop，且Adam和Rmsprop在大約15個(gè)訓(xùn)練周期左右loss值就已經(jīng)趨于平穩(wěn)，而SGD在50個(gè)訓(xùn)練周期內(nèi)loss值都還沒(méi)有趨于平穩(wěn).

從圖4可以看到3種優(yōu)化器在50個(gè)檢驗(yàn)周期的電能質(zhì)量擾動(dòng)識(shí)別的精度.可以看出SGD識(shí)別精度波動(dòng)比較大，這說(shuō)明SGD在電能質(zhì)量擾動(dòng)識(shí)別中過(guò)擬合情況比較明顯，魯棒性比較差.而相比較而言Adam和Rmsprop在檢驗(yàn)周期中識(shí)別平穩(wěn)，說(shuō)明魯棒性較強(qiáng).

圖4 驗(yàn)證集模型精度 圖5驗(yàn)證集loss值Fig.4 The accuracy verification of the set model Fig.5 Verification set loss value

從圖5可以看到3種優(yōu)化器在50個(gè)校驗(yàn)周期的loss值的變化.Loss值得變化同樣說(shuō)明了圖4的問(wèn)題，SGD在電能質(zhì)量擾動(dòng)識(shí)別中過(guò)擬合情況比較明顯，魯棒性比較差.而相比較而言Adam和Rmsprop在檢驗(yàn)周期中識(shí)別平穩(wěn)，說(shuō)明魯棒性較強(qiáng).

4 結(jié)語(yǔ)

本文提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)算法對(duì)電能質(zhì)量擾動(dòng)進(jìn)行分類，比較了Adam、Rmsprop、SGD 3種優(yōu)化器在卷積神經(jīng)網(wǎng)絡(luò)中對(duì)電能質(zhì)量擾動(dòng)分類的性能.從仿真實(shí)驗(yàn)結(jié)果可知，Adam和Rmsprop這兩種優(yōu)化器在電能質(zhì)量擾動(dòng)分類中識(shí)別速度快、精度高、魯棒性強(qiáng)，而SGD在電能質(zhì)量擾動(dòng)分類中也有一定的效果，但是識(shí)別速度較慢、魯棒性較差，性能要低于Adam和Rmsprop這兩種優(yōu)化器.