程志友,姜 帥,胡 杰,汪德勝

(1.安徽大學(xué)互聯(lián)網(wǎng)學(xué)院,安徽 合肥 230601; 2.安徽大學(xué)教育部電能質(zhì)量研究中心,安徽 合肥 230601)

1 引言

近年來,多種新能源發(fā)電模式在電網(wǎng)中的比例逐漸增加,這些新型發(fā)電設(shè)備的出現(xiàn)致使電網(wǎng)產(chǎn)生一系列如電壓暫降暫升、中斷以及諧波等電能質(zhì)量問題[1,2],對(duì)電力系統(tǒng)穩(wěn)定、安全運(yùn)行產(chǎn)生了一定的影響,同時(shí)電能質(zhì)量問題的出現(xiàn)還會(huì)對(duì)企業(yè)造成不可評(píng)估的經(jīng)濟(jì)損失,因此精準(zhǔn)地對(duì)各種電能質(zhì)量問題進(jìn)行識(shí)別與分類至關(guān)重要。

傳統(tǒng)的電能質(zhì)量擾動(dòng)(Power Quality Disturbance,PQD)分類方法多采用從擾動(dòng)信號(hào)中提取特征,再將特征送入分類器進(jìn)行分類的手段。常見的特征提取方法主要有短時(shí)傅里葉變換(Short-Time Fourier Transform,STFT)[3,4]、S變換(S-Transform,ST)[5,6]等。但傳統(tǒng)分類方法使用信號(hào)分析手段提取特征存在一些弊端,如:STFT的分析能力受到固定窗口的限制,無法提取暫態(tài)特征;S變換能夠克服上述問題,但其計(jì)算程度過于復(fù)雜且耗時(shí),同時(shí)人為提取的特征集含有一些不相關(guān)和冗余的特征,增加了分類器的負(fù)擔(dān)。隨著深度學(xué)習(xí)技術(shù)的快速發(fā)展,研究人員發(fā)現(xiàn)將其應(yīng)用于電能質(zhì)量擾動(dòng)分類具有極大的優(yōu)勢(shì),如文獻(xiàn)[7,8]中使用卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,CNN)對(duì)擾動(dòng)波形自動(dòng)進(jìn)行特征選擇和提取,無需人工構(gòu)建特征集,前期可通過樣本進(jìn)行批量性的訓(xùn)練,使得輸入波形與輸出標(biāo)簽之間形成一種映射關(guān)系,該方法彌補(bǔ)了傳統(tǒng)方法特征冗余或者不足的缺點(diǎn),剔除了不相關(guān)的特征,但網(wǎng)絡(luò)需要訓(xùn)練的超參數(shù)較多,容易造成梯度消失或爆炸等問題。文獻(xiàn)[9]提出將粒子群優(yōu)化(Particle Swarm Optimization,PSO)算法與極限學(xué)習(xí)機(jī)(Extreme Learning Machine,ELM)相結(jié)合的思路,通過PSO對(duì)原始特征集優(yōu)化尋優(yōu),同時(shí)也對(duì)分類器的模型結(jié)構(gòu)參數(shù)進(jìn)行優(yōu)化,減少了不相關(guān)的超參數(shù),與以往方法相比,提高了PQD的分類精度,但ELM沒有考慮到網(wǎng)絡(luò)結(jié)構(gòu)化的風(fēng)險(xiǎn),因此可能出現(xiàn)過度擬合的問題。

基于CNN的分類方法具有繁雜的多重網(wǎng)絡(luò)結(jié)構(gòu)與可設(shè)置參數(shù),其中不必要的參數(shù)可能會(huì)影響模型的識(shí)別效果,因此CNN具有待優(yōu)化的空間。為了優(yōu)化CNN模型中的大量超參數(shù)與權(quán)值,提高模型的整體效果,本文提出一種基于改進(jìn)PSO和CNN的PQD分類方法。首先將電能電壓信號(hào)進(jìn)行數(shù)據(jù)預(yù)處理,得到利于網(wǎng)絡(luò)提取分類特征的一維擾動(dòng)波形,再利用改進(jìn)的PSO算法對(duì)CNN卷積層的卷積核數(shù)量矩陣進(jìn)行自動(dòng)迭代調(diào)優(yōu),尋找最合適的分類參數(shù)矩陣,提高模型對(duì)當(dāng)前任務(wù)的效果,最后對(duì)本文提出的方法進(jìn)行實(shí)驗(yàn)和數(shù)據(jù)分析,結(jié)果表明了該方法可行且有效。

2 粒子群優(yōu)化改進(jìn)算法

2.1 標(biāo)準(zhǔn)粒子群算法

PSO是由USA工學(xué)博士Eberhart和心理學(xué)博士Kennedy在1995年開發(fā)的一種優(yōu)化計(jì)算技術(shù),其靈感來自用于研究鳥類群集和魚類群集社會(huì)行為的Boid模型[10]。PSO利用了一個(gè)粒子“種群”,這些粒子以給定的速度在問題多維空間中飛行,其速度是由該問題本身定義的,可通過特定的算法來獲得。在每次迭代中,粒子的位置將根據(jù)其自身的歷史最佳位置和鄰域最佳位置進(jìn)行調(diào)整,以達(dá)到最優(yōu)狀態(tài),同時(shí)為了防止粒子過度偏離其最佳狀態(tài),還會(huì)對(duì)其進(jìn)行限制,以確保它始終處于最優(yōu)狀態(tài)。粒子最優(yōu)和鄰域最優(yōu)算法都是基于適應(yīng)度函數(shù)進(jìn)行優(yōu)化的,其過程是將用戶定義的適應(yīng)度函數(shù)作為輸入,通過對(duì)參數(shù)進(jìn)行調(diào)整來達(dá)到最優(yōu)化,因此粒子的運(yùn)動(dòng)自然地演變?yōu)橐粋€(gè)最優(yōu)或者接近最優(yōu)的解決方案,這些粒子通過合作和信息共享尋找到全局最優(yōu)解[11]。

PSO將粒子群初始化成只具有兩個(gè)特性的隨機(jī)粒子組,并在迭代期間跟蹤這兩個(gè)特性的極值,從而對(duì)自身進(jìn)行更新,其速度更新方程式為:

(1)

粒子i第k次迭代的位置更新方程為:

(2)

2.2 粒子群算法參數(shù)改進(jìn)

通常在速度屬性的迭代步驟中加入慣性因子w(w>0),該因子通過調(diào)節(jié)粒子的速度來控制種群中粒子的尋優(yōu)能力,其表達(dá)式為:

(3)

采用全局靜態(tài)慣性因子對(duì)訓(xùn)練模型的內(nèi)核參數(shù)進(jìn)行迭代尋優(yōu),但固定的因子值不能適應(yīng)粒子在不同搜索時(shí)期所需要的速度變化,比如在迭代前期,通過調(diào)高因子值使得粒子搜索速度變大,從而提高粒子的全局尋優(yōu)能力,中期因子逐漸減小,到后期較小的慣性因子使得搜索速度趨于平穩(wěn),極大提高了粒子的局部尋優(yōu)能力。動(dòng)態(tài)慣性因子能獲得比固定值更好的尋優(yōu)精度,因此本文對(duì)慣性因子引入線性遞減權(quán)值策略[12],改進(jìn)的慣性權(quán)值表達(dá)式為:

(4)

式中,wini為初始慣性權(quán)值,通常取值為0.9;wend為迭代至最大進(jìn)化代數(shù)時(shí)的慣性權(quán)值,其值通常為0.4;Kmax為粒子搜索期間的最大迭代次數(shù);k為粒子搜索當(dāng)前的迭代次數(shù)。

同時(shí)采用異步時(shí)變的優(yōu)化策略對(duì)粒子的c1和c2進(jìn)行改進(jìn),以提高粒子的學(xué)習(xí)效率和準(zhǔn)確性。具體來說,根據(jù)環(huán)境變化,異步時(shí)變優(yōu)化策略可以自動(dòng)地調(diào)整參數(shù),即減小c1的同時(shí)擴(kuò)大c2,能夠更好地推動(dòng)粒子在迭代末期趨向于全局最優(yōu)值,使粒子更好地適應(yīng)環(huán)境變化,從而提高算法的性能,改進(jìn)后的學(xué)習(xí)因子表達(dá)式為:

(5)

式中,c1ini、c1end、c2ini、c2end分別為c1和c2的起止值。

所提基于線性遞減權(quán)值和異步時(shí)變學(xué)習(xí)因子融合的改進(jìn)粒子群優(yōu)化算法(Improved Particle Swarm Optimization,IPSO)速度更新公式為:

(6)

3 基于IPSO-CNN的電能質(zhì)量擾動(dòng)分類

本文基于改進(jìn)粒子群優(yōu)化卷積神經(jīng)網(wǎng)絡(luò)(Improved Particle Swarm Optimization Convolution Neural Network,IPSO-CNN)的擾動(dòng)分類方法框架如圖1所示。

圖1 電能質(zhì)量擾動(dòng)分類模型框架

(1)數(shù)據(jù)輸入。對(duì)電力系統(tǒng)中的電壓信號(hào)進(jìn)行離散化處理得到一維擾動(dòng)序列,其次對(duì)原序列進(jìn)行數(shù)據(jù)預(yù)處理,以突出擾動(dòng)波形的特征,便于CNN更好地識(shí)別信號(hào)。

(2)模型分類?；诰矸e神經(jīng)網(wǎng)絡(luò)的三重堆疊結(jié)構(gòu),對(duì)PQD數(shù)據(jù)進(jìn)行特征提取、降維及歸一化,然后采用全連接層來擬合特征,最后通過分類器完成識(shí)別,輸出整體分類的評(píng)價(jià)指標(biāo)數(shù)據(jù)。

(3)參數(shù)優(yōu)化。利用改進(jìn)的PSO算法對(duì)基于CNN構(gòu)建的PQD分類模型的卷積核數(shù)量矩陣[n1n2n3]進(jìn)行優(yōu)化,通過大量的數(shù)據(jù)訓(xùn)練,找到最優(yōu)的參數(shù)矩陣,從而減少一些不必要的核參數(shù),提高模型的分類效果。

3.1 深度卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)的特點(diǎn)在于表征學(xué)習(xí),能夠在大量的數(shù)據(jù)中學(xué)習(xí)并發(fā)現(xiàn)分類所需的特征,將其應(yīng)用于電能質(zhì)量擾動(dòng)識(shí)別問題不僅能夠提高分類的準(zhǔn)確度,同時(shí)對(duì)于節(jié)約成本、簡(jiǎn)化處理過程也具有一定的優(yōu)勢(shì)。CNN的關(guān)鍵在于特征提取階段,其核心在于三個(gè)堆疊單元,如圖1所示,每個(gè)單元分別由兩個(gè)一維卷積層(One Dimension Convolution Layer,ODCL)、一個(gè)池化層(Pooling Layer,PL)和一個(gè)批處理歸一化(Batch Normalization,BN)層組成。分類階段由兩個(gè)全連接層(Dense Layer,DL)、兩個(gè)BN層和一個(gè)分類層組成[13]。

單個(gè)堆疊單元工作時(shí),前期采用兩個(gè)短步長(zhǎng)卷積層獲取擾動(dòng)信號(hào)的序列特征;中期使用池化層對(duì)特征進(jìn)行降維并突出擾動(dòng)的特征,原理與圖片壓縮相似,通過縮小空間信息來減少參數(shù)數(shù)量,參數(shù)變少能夠抑制過擬合的現(xiàn)象;后期利用BN層對(duì)特征實(shí)現(xiàn)歸一化,其可以減少過擬合問題,提高模型的泛化水平。通常卷積層要構(gòu)建具有共享權(quán)值的濾波器,每個(gè)濾波器都有一個(gè)較小的接受域[14]。第l層濾波器的個(gè)數(shù)為fl,Yi為輸入的一維矩陣(n×1),濾波器的內(nèi)核為D,卷積層第fl層濾波器的輸出表示為:

(7)

式中,m為相鄰兩層之間所連接的神經(jīng)元個(gè)數(shù);Bl為偏置量;f(·)為激活函數(shù),常見的激活函數(shù)包含Tanh函數(shù)和ReLU函數(shù)等,在不引入附加參數(shù)的條件下,選擇ReLU當(dāng)作深度學(xué)習(xí)模型的激活函數(shù)有一個(gè)優(yōu)勢(shì):計(jì)算效率高于Tanh函數(shù),同時(shí)還能夠?qū)δＰ吞荻葦U(kuò)散問題進(jìn)行有效地解決,從而提升網(wǎng)絡(luò)的分類性能[15],ReLU激活函數(shù)形式可表示為:

fReLU(y)=max(0,y)

(8)

全連接層位于網(wǎng)絡(luò)結(jié)構(gòu)末端,輸出圖像的高維特征,通過分類器函數(shù)統(tǒng)計(jì)輸入數(shù)據(jù)與對(duì)應(yīng)類別標(biāo)簽的概率,在多分類處理中,Softmax被廣泛用于映射多個(gè)神經(jīng)元的輸出至特定的范圍,其公式可表示為:

(9)

式中,j為數(shù)組Y的長(zhǎng)度;i為索引,i=1,2,…,j。

3.2 基于IPSO的PQD分類模型超參數(shù)優(yōu)化

以往的CNN將權(quán)值共享與局部區(qū)域連接技術(shù)相結(jié)合,這樣可有效地減少模型的復(fù)雜性,緩解參數(shù)膨脹問題,同時(shí)提高了網(wǎng)絡(luò)模型的性能。在研究過程中發(fā)現(xiàn),傳統(tǒng)CNN能夠?qū)_動(dòng)信號(hào)進(jìn)行特征選取和識(shí)別,但卷積核大小、卷積核個(gè)數(shù)、激活函數(shù)和學(xué)習(xí)率等各類超參數(shù)往往根據(jù)人為經(jīng)驗(yàn)選取固定值,從而造成訓(xùn)練參數(shù)冗余,引起模型出現(xiàn)過擬合、欠擬合及分類精度不高等問題,而且在利用隨機(jī)梯度下降進(jìn)行訓(xùn)練時(shí),以往的CNN初始權(quán)值很可能會(huì)趨于局部最優(yōu),從而對(duì)其學(xué)習(xí)能力造成很大的影響,需要一種收斂速度快而穩(wěn)定的方法對(duì)這些參數(shù)進(jìn)行優(yōu)化,剔除一些不需要的訓(xùn)練參數(shù)。PSO具有魯棒性好、收斂快以及適應(yīng)性強(qiáng)等優(yōu)點(diǎn),相比于其他傳統(tǒng)優(yōu)化方法,更能提高模型的分類準(zhǔn)確度,因此本文采用改進(jìn)的PSO來優(yōu)化基于CNN的電能質(zhì)量擾動(dòng)分類模型。

基于CNN的PQD分類模型常使用隨機(jī)梯度下降法(Stochastic Gradient Descent,SGD)減小損失函數(shù)值,雖然SGD具有收斂速度快的特性,但正是因?yàn)楦卤容^頻繁,會(huì)造成代價(jià)函數(shù)嚴(yán)重的振蕩,而且其更新方向完全依賴于當(dāng)前的批處理,收斂十分不穩(wěn)定,針對(duì)這一問題,在SGD中引入動(dòng)量可以有效地抑制振蕩的影響[16],其模擬物體運(yùn)動(dòng)時(shí)的慣性特征,參數(shù)更新時(shí),由于會(huì)受到之前方向的影響,所以通過當(dāng)前批處理的梯度來對(duì)最終的更新方向進(jìn)行微調(diào),此法可以在一定程度上提高損失函數(shù)收斂的穩(wěn)定性。

IPSO優(yōu)化卷積層參數(shù)流程如圖2所示。

圖2 改進(jìn)的粒子群優(yōu)化流程圖

采用IPSO優(yōu)化CNN卷積層參數(shù)步驟如下:

(1)確定CNN結(jié)構(gòu):根據(jù)需解決問題的特征,確定CNN的結(jié)構(gòu)和待優(yōu)化參數(shù)。

(2)粒子群初始化:隨機(jī)確定粒子的初始速度與位置,由于CNN網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜、參數(shù)較多,使用PSO優(yōu)化該網(wǎng)絡(luò)代價(jià)過于昂貴且耗時(shí),因此需要減少種群數(shù)量與迭代次數(shù),種群個(gè)數(shù)設(shè)置為10,最大迭代次數(shù)設(shè)置為12。c1為個(gè)體認(rèn)知部分,迭代初期,個(gè)體粒子社會(huì)經(jīng)驗(yàn)不足,主要依靠自身經(jīng)驗(yàn)來學(xué)習(xí),因此式(5)中的c1ini和c1end參數(shù)分別設(shè)置為2.5和0.5,從而使c1整體呈現(xiàn)線性遞減變化;c2為社會(huì)部分,反映粒子間協(xié)同合作與知識(shí)共享的群體歷史經(jīng)驗(yàn),其代表粒子的一種趨向,即向群體或領(lǐng)域歷史最佳位置聚攏,通過c2線性遞增的變化,使得粒子在迭代期間依賴社會(huì)部分的占比逐步增大,故設(shè)置c2ini和c2end分別為0.5和2.5。c1和c2兩者互相配合來共同調(diào)整群體最優(yōu)適應(yīng)度,同時(shí)在全局搜索中由于種群數(shù)目較少,但隨著慣性因子w變小,參與搜索的個(gè)體越少,單個(gè)粒子搜索能力越強(qiáng)[17]。

(3)設(shè)置待優(yōu)化參數(shù)的范圍:設(shè)定第2、4、6卷積層的核個(gè)數(shù)為待優(yōu)化變量,通過限制待優(yōu)化參數(shù)取值區(qū)間合理規(guī)范粒子的更新速度和位置,超過范圍選取區(qū)間邊界值,待優(yōu)化變量矩陣[n1n2n3]的下限為[25 55 115],上限為[45 75 135]。

(4)根據(jù)式(6)和式(2),對(duì)粒子的兩種屬性進(jìn)行更新,將CNN訓(xùn)練得到的分類準(zhǔn)確度作為算法的適應(yīng)度閾值,如果該值優(yōu)于個(gè)體極值和全局極值,則更新為全局最優(yōu)。當(dāng)達(dá)到精度最優(yōu)或者滿足最終迭代次數(shù),將所得參數(shù)矩陣作為模型的最優(yōu)結(jié)構(gòu)參數(shù),否則返回到步驟(4)。將最優(yōu)參數(shù)矩陣返回至CNN中訓(xùn)練,得到PQD的分類最優(yōu)準(zhǔn)確度。

4 實(shí)驗(yàn)結(jié)果與分析

4.1 實(shí)驗(yàn)數(shù)據(jù)及模型參數(shù)設(shè)置

本文基于Tensorflow和Keras框架訓(xùn)練PQD分類模型,利用準(zhǔn)確率和損失率兩種指標(biāo)來驗(yàn)證模型的分類效果,準(zhǔn)確率越高,損失率越低,模型整體分類性能越好,其中準(zhǔn)確率的表達(dá)式為:

(10)

式中,TP、TN、FP和FN分別為真正例、真反例、假正例和假反例[18]。使用分類交叉熵作為模型損失函數(shù)的評(píng)價(jià)指標(biāo),其可表示為:

(11)

式中,n為總樣本數(shù);pi為預(yù)測(cè)結(jié)果是正例的概率;p′i為真實(shí)事件為正例的概率。

實(shí)際應(yīng)用中,PQD樣本的獲取較難,所以利用Matlab仿真構(gòu)建出包含標(biāo)準(zhǔn)正弦波形在內(nèi)的10種單一及6種復(fù)合PQD信號(hào)。數(shù)據(jù)集中存在7 680個(gè)數(shù)據(jù),表1為每種信號(hào)的數(shù)學(xué)公式,其中A為PQD信號(hào)幅值;ω為信號(hào)工頻角頻率;T為信號(hào)周期;f為信號(hào)基波頻率;t1、t2分別為每種擾動(dòng)的開始和結(jié)束時(shí)刻,即t2-t1為擾動(dòng)的持續(xù)時(shí)間;α為擾動(dòng)信號(hào)的幅值調(diào)制參數(shù);u(t)為單位階躍函數(shù);α3、α5、α7分別為3、5、7次諧波幅值;τ與ωn為振蕩衰減系數(shù)和振蕩頻率;αf與β為閃變的幅值和頻率調(diào)制參數(shù);sign(t)為符號(hào)函數(shù);κ為周期性切痕幅值系數(shù),所有的參數(shù)取值范圍均滿足標(biāo)準(zhǔn)IEEE Std 1159-2009[19],且數(shù)據(jù)集中訓(xùn)練、驗(yàn)證和測(cè)試樣本的占比各為80%、10%和10%。

表1 電能質(zhì)量擾動(dòng)信號(hào)公式

PQD信號(hào)的基頻設(shè)為50 Hz,采樣頻率設(shè)為3 200 Hz,共計(jì)10個(gè)周期,640個(gè)采樣點(diǎn),并且在信號(hào)中添加不同比例的噪聲信號(hào)來增強(qiáng)仿真數(shù)據(jù)的真實(shí)性,信噪比取值范圍為25～45 dB[20]。

表2為訓(xùn)練模型層與層之間的布局安排以及詳細(xì)的參數(shù)設(shè)置,整體分類模型中共有6個(gè)卷積層,3個(gè)池化層,且池化層分別放置在每個(gè)偶數(shù)卷積層之后,除內(nèi)核個(gè)數(shù)外,每個(gè)池化層超參數(shù)皆與前一層卷積層超參數(shù)一致,同時(shí)針對(duì)一維形式的樣本信號(hào),采用小步長(zhǎng)卷積核實(shí)現(xiàn)數(shù)據(jù)的提取。

表2 卷積神經(jīng)網(wǎng)絡(luò)各層網(wǎng)絡(luò)參數(shù)

4.2 IPSO算法參數(shù)選擇

針對(duì)本文所提IPSO算法的有效性問題,通過實(shí)驗(yàn)分析不同Kmax值對(duì)PQD分類模型的影響。

為了驗(yàn)證Kmax值對(duì)模型的全局尋優(yōu)能力的影響,給定Kmax值范圍為10～15,c1ini、c1end、c2ini和c2end分別設(shè)置為2.5、0.5、2.5、0.5,實(shí)驗(yàn)結(jié)果如圖3所示,隨著Kmax值的增大,PQD分類模型的全局最優(yōu)準(zhǔn)確度先上升后下降,分類損失值先下降后上升,當(dāng)Kmax值為12時(shí),分類模型準(zhǔn)確度和損失率趨勢(shì)圖如圖4所示,全局最優(yōu)分類準(zhǔn)確度為99.56%且損失率收斂到1.71%,相比于其他值來說整體分類效果更好,因此本實(shí)驗(yàn)采用Kmax=12作為算法的參數(shù)值,此外不同數(shù)據(jù)集之間存在著樣本差異性,每一種數(shù)據(jù)集需各自尋找符合其條件的值。

圖3 不同最大迭代次數(shù)對(duì)分類模型的影響

圖4 最大迭代次數(shù)為12時(shí)模型性能優(yōu)化趨勢(shì)圖

4.3 IPSO-CNN算法與其他方法對(duì)比及評(píng)估

為了驗(yàn)證本文方法的優(yōu)越性,通過對(duì)比性實(shí)驗(yàn)進(jìn)行數(shù)據(jù)分析,幾種對(duì)比算法簡(jiǎn)要介紹如下。

(1)長(zhǎng)短期記憶網(wǎng)絡(luò)(Long Short-Term Memory,LSTM):LSTM是一個(gè)典型的遞歸神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN),具有一個(gè)記憶單元,由門控輸入、門控輸出和門控反饋回路組成。本文采用堆疊LSTM結(jié)構(gòu)對(duì)PQD進(jìn)行分類并進(jìn)行比較,三個(gè)LSTM層記憶節(jié)點(diǎn)數(shù)都設(shè)置為32。

(2)深度卷積神經(jīng)網(wǎng)絡(luò)(Deep Convolutional Neural Networks,DCNN):SGD和自適應(yīng)矩估計(jì)(Adaptive Moment Estimation,AME)兩種方法基于文獻(xiàn)[8]提出的DCNN模型,該網(wǎng)絡(luò)具有6個(gè)標(biāo)準(zhǔn)卷積層,卷積核大小設(shè)置為3,步長(zhǎng)設(shè)置為1,各卷積層卷積核數(shù)量分別設(shè)置為32、32、64、64、128、128。

(3)粒子群優(yōu)化卷積神經(jīng)網(wǎng)絡(luò)方法(Particle Swarm Optimization Convolution Neural Network,PSO-CNN):該方法通過標(biāo)準(zhǔn)PSO算法優(yōu)化CNN的學(xué)習(xí)率,使其達(dá)到最優(yōu)值,學(xué)習(xí)率的上下限分別設(shè)置為0.01和0.000 1,速度更新方程的慣性權(quán)值和學(xué)習(xí)因子設(shè)置為固定值0.5。

表3為IPSO-CNN方法與其他幾種方法的評(píng)價(jià)指標(biāo)對(duì)比結(jié)果,可以看出,LSTM算法相比于其他方法來說,訓(xùn)練參數(shù)最少,但其訓(xùn)練模型一次耗時(shí)過長(zhǎng)。圖5和圖6分別為SGD與AME兩種方法在測(cè)試集中不同訓(xùn)練次數(shù)上的損失率趨勢(shì)圖,可以看出,SGD方法在損失函數(shù)驗(yàn)證曲線下降過程中造成了振蕩現(xiàn)象,該方法使得函數(shù)收斂十分不穩(wěn)定,無法收斂到更小,而AME方法是隨機(jī)梯度下降方法的拓展,該方法利用了動(dòng)量的慣性原理,很好地抑制了收斂方向的振蕩現(xiàn)象,損失曲線更加平穩(wěn),從表3可以看出,AME方法的損失率達(dá)到了3.34%,其相比于SGD的8.80%得到了有效地改善,同時(shí)分類準(zhǔn)確率也獲得了提高,體現(xiàn)了該方法有較好的魯棒性和優(yōu)越性。

表3 幾種方法在隨機(jī)噪聲(25～45 dB)環(huán)境下的評(píng)價(jià)指標(biāo)對(duì)比

圖5 隨機(jī)梯度下降方法損失率趨勢(shì)圖

圖6 自適應(yīng)矩估計(jì)方法損失率趨勢(shì)圖

PSO-CNN方法基于AME分類模型引入了標(biāo)準(zhǔn)粒子群優(yōu)化算法,該方法控制粒子速度更新的慣性因子為固定值,從圖7可以看出,在整個(gè)粒子群更新迭代的過程中,粒子的個(gè)體極值整體趨于上下波動(dòng)狀態(tài),不能滿足粒子在不同搜索時(shí)期所需要的速度變化,容易錯(cuò)過局部最優(yōu)值。而改進(jìn)的IPSO-CNN方法中引入了動(dòng)態(tài)慣性因子,由圖8可知,在迭代前期,慣性因子變大,粒子全局搜索能力較強(qiáng),局部搜索能力較弱,通過這種方法加快粒子的前期尋優(yōu)速度,減少粒子群的迭代總次數(shù),PSO-CNN和IPSO-CNN方法的迭代總次數(shù)分別為97和90,隨著因子值逐漸減小,適應(yīng)度值曲線沒有大范圍內(nèi)上下波動(dòng),粒子的局部尋優(yōu)能力增強(qiáng)。從表3可以看出,IPSO-CNN方法的分類準(zhǔn)確度99.56%以及損失率2.13%都優(yōu)于PSO-CNN,體現(xiàn)了該方法的優(yōu)越性,同時(shí)兩種方法的訓(xùn)練超參數(shù)個(gè)數(shù)都少于普通的CNN網(wǎng)絡(luò),其去除了模型中不必要的超參數(shù),優(yōu)化了模型分類效果。綜上所述:通過分類準(zhǔn)確度、損失率、訓(xùn)練參數(shù)個(gè)數(shù)、訓(xùn)練模型單次耗時(shí)以及迭代總次數(shù)幾種評(píng)價(jià)指標(biāo)對(duì)比,本文所提的IPSO-CNN取得較好的效果,整體分類效果優(yōu)于其他幾種深度學(xué)習(xí)方法。

圖7 標(biāo)準(zhǔn)粒子群算法迭代期間分類準(zhǔn)確度和損失率

圖8 改進(jìn)粒子群算法迭代期間分類準(zhǔn)確度和損失率

表4為本文所提方法在不同的噪聲強(qiáng)度下對(duì)擾動(dòng)分類的準(zhǔn)確度,可以看出IPSO-CNN方法在信噪比RSN為30 dB的較強(qiáng)噪聲環(huán)境下總體擾動(dòng)分類準(zhǔn)確度仍然保持在98%以上。從單一擾動(dòng)和復(fù)合擾動(dòng)分類的角度分析,噪聲強(qiáng)度越大,暫降和中斷的識(shí)別度較低,原因在于噪聲環(huán)境下的暫降信號(hào)和中斷信號(hào)空間特征比較相似。對(duì)于其他類別的擾動(dòng),識(shí)別度基本上能達(dá)到100%,因此IPSO-CNN方法具有較好的抗噪性。

表4 改進(jìn)粒子群優(yōu)化卷積神經(jīng)網(wǎng)絡(luò)方法在不同噪聲環(huán)境下的分類準(zhǔn)確度

4.4 實(shí)測(cè)數(shù)據(jù)驗(yàn)證

利用一系列真實(shí)數(shù)據(jù)對(duì)IPSO-CNN算法進(jìn)行分類實(shí)驗(yàn),以檢驗(yàn)其在實(shí)際測(cè)量數(shù)據(jù)上的適應(yīng)能力。實(shí)測(cè)信號(hào)來自于IEEE PES數(shù)據(jù)庫,如圖9所示,信號(hào)長(zhǎng)度為6個(gè)周期,每個(gè)周期128個(gè)采樣點(diǎn)。

圖9 6種電能質(zhì)量擾動(dòng)實(shí)測(cè)數(shù)據(jù)類型

將訓(xùn)練好的PQD模型用于實(shí)測(cè)數(shù)據(jù)標(biāo)簽分類,實(shí)驗(yàn)結(jié)果見表5,其中每種測(cè)試信號(hào)20個(gè),只有中斷信號(hào)識(shí)別率可以達(dá)到100%,原因在于訓(xùn)練數(shù)據(jù)通過數(shù)學(xué)公式模擬產(chǎn)生,與實(shí)際數(shù)據(jù)存在著一些差異,同時(shí)真實(shí)信號(hào)在電網(wǎng)中所受干擾更加復(fù)雜,實(shí)際采集到的數(shù)據(jù)周期較小,類別之間的分布不均衡,還有人為的注釋存在偏差等因素,都會(huì)導(dǎo)致模型的分類精度有所降低。

表5 改進(jìn)粒子群優(yōu)化卷積神經(jīng)網(wǎng)絡(luò)方法應(yīng)用實(shí)測(cè)數(shù)據(jù)的正確率

5 結(jié)論

針對(duì)以往PQD分類過程中可能產(chǎn)生的問題,本文提出了一種將改良的粒子群優(yōu)化算法與卷積神經(jīng)網(wǎng)絡(luò)相結(jié)合的PQD識(shí)別模型,通過粒子群優(yōu)化算法對(duì)卷積層內(nèi)核參數(shù)進(jìn)行迭代尋優(yōu),克服了人工提取特征困難和模型超參數(shù)冗余的問題。根據(jù)適用條件的不同進(jìn)行了仿真和實(shí)測(cè)數(shù)據(jù)實(shí)驗(yàn),實(shí)驗(yàn)結(jié)果表明了IPSO-CNN在分類準(zhǔn)確率、損失率、訓(xùn)練超參數(shù)數(shù)量、訓(xùn)練時(shí)間和魯棒性等指標(biāo)上具備一定的優(yōu)勢(shì)。

本文方法通過優(yōu)化算法對(duì)卷積網(wǎng)絡(luò)中的結(jié)構(gòu)和參數(shù)進(jìn)行調(diào)優(yōu),為PQD的識(shí)別提供了新的思路。