趙晨， 李開成， 張浩毅， 林煒鑫， 曾子瑩

(1.福建農(nóng)林大學(xué)機(jī)電工程學(xué)院， 福州 350002； 2.華中科技大學(xué)電氣與電子工程學(xué)院， 武漢 430074)

電能質(zhì)量問(wèn)題近幾年引起了科研人員以及工程師的關(guān)注，由于電能質(zhì)量問(wèn)題增加了電網(wǎng)維護(hù)、操作和監(jiān)測(cè)的成本，愈發(fā)凸顯重要。電能質(zhì)量問(wèn)題主要分為：①簡(jiǎn)單的擾動(dòng)問(wèn)題如電壓暫降驟升、諧波；②復(fù)合擾動(dòng)：暫降疊加其他擾動(dòng)或者驟升疊加其他擾動(dòng)。這些電能質(zhì)量擾動(dòng)大大增加了電氣設(shè)備故障出現(xiàn)的頻率。電能質(zhì)量擾動(dòng)的檢測(cè)和識(shí)別是一項(xiàng)復(fù)雜的工作，擾動(dòng)波形中包含了有用信息，但不能直接反映擾動(dòng)類型。正確檢測(cè)識(shí)別這些擾動(dòng)類型有助于后續(xù)采取相應(yīng)措施，保證無(wú)污染的電力供應(yīng)以及保障設(shè)備和人力的安全[1]。

已有的電能質(zhì)量擾動(dòng)檢測(cè)識(shí)別實(shí)現(xiàn)分成兩步，首先對(duì)擾動(dòng)信號(hào)進(jìn)行特征選取，其次對(duì)提取的特征進(jìn)行分類模型的監(jiān)督學(xué)習(xí)。這其中特征的選取常用S變換[2]、小波變換[3]和希爾伯特黃變換[4]、經(jīng)驗(yàn)?zāi)B(tài)分解[5]等現(xiàn)代信號(hào)處理方法。文獻(xiàn)[6]提出了一種改進(jìn)的分段S變換和隨機(jī)森林結(jié)合的識(shí)別方法。文獻(xiàn)[7]將變分模態(tài)分解(variational mode decomposition, VMD)初始化并經(jīng)過(guò)S變換提取的特征通過(guò)多重聚類，實(shí)現(xiàn)擾動(dòng)的識(shí)別。文獻(xiàn)[8]通過(guò)擾動(dòng)在過(guò)完備字典上的稀疏表示對(duì)擾動(dòng)進(jìn)行識(shí)別。決策樹[9]、支持向量機(jī)[10]、極限學(xué)習(xí)機(jī)(extreme learning machine，ELM)[11]等方法則是較常用的擾動(dòng)分類的機(jī)器學(xué)習(xí)模型。隨著深度學(xué)習(xí)在語(yǔ)音信號(hào)處理和圖像識(shí)別領(lǐng)域取得廣泛應(yīng)用[12]，一些深度網(wǎng)絡(luò)模型也開始被用于電能質(zhì)量擾動(dòng)的自動(dòng)提取和分類識(shí)別。文獻(xiàn)[13]提出了一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的電能質(zhì)量擾動(dòng)檢測(cè)和分類的全新閉環(huán)方法。文獻(xiàn)[14]通過(guò)訓(xùn)練一個(gè)三層深度前饋網(wǎng)絡(luò)提高擾動(dòng)識(shí)別模型的泛化性和抗噪性。

已有研究工作中擾動(dòng)分類方法大多采用監(jiān)督學(xué)習(xí)的分類模型，即利用已知擾動(dòng)類型的訓(xùn)練數(shù)據(jù)訓(xùn)練一個(gè)分類器，進(jìn)而診斷未知的新擾動(dòng)類型。而在實(shí)際應(yīng)用中，監(jiān)督學(xué)習(xí)模型無(wú)法將電力系統(tǒng)監(jiān)測(cè)設(shè)備保存的無(wú)類型標(biāo)簽的擾動(dòng)波形數(shù)據(jù)加入模型訓(xùn)練過(guò)程中，從而導(dǎo)致過(guò)擬合現(xiàn)象。因此，如何有效利用這些未標(biāo)注樣本提升分類器性能成為電能質(zhì)量擾動(dòng)識(shí)別的熱點(diǎn)。針對(duì)少量已標(biāo)注歷史數(shù)據(jù)背景下的擾動(dòng)識(shí)別問(wèn)題，從機(jī)器學(xué)習(xí)領(lǐng)域的半監(jiān)督學(xué)習(xí)出發(fā)，提出一種基于混合流形正則化半監(jiān)督極限學(xué)習(xí)機(jī)的擾動(dòng)識(shí)別方法。首先利用變分模態(tài)分解算法提取復(fù)合擾動(dòng)經(jīng)過(guò)分解后的標(biāo)準(zhǔn)能量差作為特征，并將混合了圖拉普拉斯和海森正則化的流形學(xué)習(xí)框架引入極限學(xué)習(xí)機(jī)模型中，最終構(gòu)建半監(jiān)督極限學(xué)習(xí)機(jī)模型將已標(biāo)注擾動(dòng)和未標(biāo)注擾動(dòng)樣本一起訓(xùn)練。該方法通過(guò)流形正則化約束實(shí)現(xiàn)了在復(fù)合擾動(dòng)分類的同時(shí)在模型輸出空間也保留了數(shù)據(jù)內(nèi)部的局部結(jié)構(gòu)，更加有利于最終分類效果的提升。

1 電能質(zhì)量復(fù)合擾動(dòng)特征提取

1.1 變分模態(tài)分解

變分模態(tài)分解(variational mode decomposition，VMD)是由Dragomeretskiy等[15]提出的一種新的信號(hào)分解方法。它將一個(gè)實(shí)值信號(hào)r(t)分解成k個(gè)窄帶子信號(hào)sk(t)，同時(shí)獲得每個(gè)子信號(hào)的中心頻率ωk(k=1,2,…,K)。算法通過(guò)求解一個(gè)受約束的優(yōu)化問(wèn)題來(lái)獲取這些窄帶信號(hào)及其中心頻率ωk，利用調(diào)制性質(zhì)對(duì)頻譜進(jìn)行搬移。信號(hào)的帶寬通過(guò)解調(diào)信號(hào)H高斯平滑度進(jìn)行估算。算法的約束優(yōu)化問(wèn)題可表示為

(1)

通過(guò)拉格朗日乘子λ可以將約束問(wèn)題轉(zhuǎn)化成無(wú)約束問(wèn)題。擴(kuò)展的拉格朗日表達(dá)式L可表示為

(2)

式(2)中：α為一個(gè)懲罰因子;f(t)為原信號(hào)。

第n+1次迭代估算的窄帶子信號(hào)及其中心頻率的計(jì)算公式為

(3)

(4)

λ的更新可以通過(guò)式(5)實(shí)現(xiàn)。

(5)

1.2 基于變分模態(tài)分解的標(biāo)準(zhǔn)能量差

復(fù)合擾動(dòng)由于多個(gè)單一擾動(dòng)的存在使得特征存在部分重疊， 提出以復(fù)合擾動(dòng)VMD分解的子信號(hào)與標(biāo)準(zhǔn)正弦信號(hào)VMD分解的子信號(hào)之間的能量差作為特征向量。信號(hào)分解過(guò)程中兩個(gè)重要的參數(shù)：數(shù)據(jù)保真約束參數(shù)α和模式數(shù)K對(duì)最終分解效果影響較大。考慮到復(fù)合擾動(dòng)的頻帶范圍以及最高諧波次數(shù)，將α設(shè)置為1 000，K設(shè)置為10。

(6)

(7)

式中：Fik為第i個(gè)信號(hào)的第k個(gè)特征值；EMPi(k)為第i個(gè)信號(hào)的第k層分量的能量；EPure(k)為純正弦信號(hào)進(jìn)行VMD分解后第k層分量的能量;E(·)(j)為第j個(gè)信號(hào)能量；Ns為采樣點(diǎn)數(shù)；ν為計(jì)數(shù)單元；s(t)為窄帶子信號(hào)。

圖1 特征提取曲線Fig.1 The curve of the characteristic extraction

圖1給出6種類型的擾動(dòng)信號(hào)(電壓暫降、瞬態(tài)脈沖、諧波、閃變、電壓暫升疊加瞬態(tài)脈沖、電壓中斷疊加諧波和瞬態(tài)脈沖)經(jīng)過(guò)VMD分解后計(jì)算的標(biāo)準(zhǔn)能量差的對(duì)比曲線圖。由圖1可知，標(biāo)準(zhǔn)能量差在6層之前都能較好地體現(xiàn)出不同擾動(dòng)信號(hào)之間的差異性。

2 混合流形正則化極限學(xué)習(xí)機(jī)

2.1 半監(jiān)督極限學(xué)習(xí)機(jī)

極限學(xué)習(xí)機(jī)作為一種新型的單隱層前饋神經(jīng)網(wǎng)絡(luò)因其簡(jiǎn)單高效而在許多需要使用機(jī)器學(xué)習(xí)的問(wèn)題上得到了廣泛的應(yīng)用[16]。Huang等[17]提出了一種圖拉普拉斯正則化的半監(jiān)督極限學(xué)習(xí)機(jī)網(wǎng)絡(luò)模型(semi-supervised extreme learning machine，SS-ELM)。給定一個(gè)包含n個(gè)訓(xùn)練樣本的數(shù)據(jù)集{X,Y}，其中已標(biāo)注的樣本集為{Xl,Y}l={xi,yi},i=1,2,…,l，其中l(wèi)為已標(biāo)注樣本個(gè)數(shù)；未標(biāo)注的樣本集表示為Xu={xu},未標(biāo)注樣本個(gè)數(shù)u=l+1,l+2,…,n-l，SS-ELM通過(guò)在ELM模型目標(biāo)函數(shù)中加入圖拉普拉斯正則化挖掘無(wú)標(biāo)簽樣本中的局部流形信息，從而將監(jiān)督學(xué)習(xí)的ELM擴(kuò)展到半監(jiān)督學(xué)習(xí)應(yīng)用上。其目標(biāo)函數(shù)可表示為

(8)

2.2 海森正則化

雖然圖拉普拉斯已經(jīng)在半監(jiān)督學(xué)習(xí)中證明有效性，然而它在少量已標(biāo)注樣本較少存在的情況下外推能力較差容易過(guò)擬合。由于圖拉普拉斯的零空間測(cè)地線函數(shù)為常數(shù)不能很好地保持?jǐn)?shù)據(jù)局部流形結(jié)構(gòu)，Kim等[18]提出了在海森流形正則化，使用函數(shù)的二階導(dǎo)數(shù)來(lái)近似計(jì)算每個(gè)鄰域中的Eells能量。 海森正則化通過(guò)在兩個(gè)方向上近似函數(shù)的變化來(lái)解決圖拉普拉斯外推法的不足。這有助于輕松地識(shí)別未被圖拉普拉斯正則化懲罰的測(cè)地線偏離函數(shù)。因此，基于海森正則化的模型比基于圖拉普拉斯正則化的模型在訓(xùn)練和測(cè)試數(shù)據(jù)集上具有更好的標(biāo)簽預(yù)測(cè)能力。

海森正則化中的海森算子H的計(jì)算流程如下。

步驟1對(duì)于每個(gè)樣本xi，通過(guò)聚類算法K最鄰近(K-nearest neighbor，KNN)定義其鄰域Nk(xi)，將鄰域內(nèi)每一個(gè)樣xj均與xi相減，形成最終的矩陣Xi。

步驟2對(duì)矩陣Xi做奇異值分解，記Xi=UDVT取左奇異矩陣U前d個(gè)特征值所對(duì)應(yīng)的特征向量構(gòu)成正切空間。

2.3 混合流形正則化極限學(xué)習(xí)機(jī)

圖拉普拉斯正則化存在外推能力差的問(wèn)題，海森正則化也存在流形快速變化情況下海森能量估計(jì)不穩(wěn)定的問(wèn)題。為了克服兩種流形正則化的缺點(diǎn)，提出了結(jié)合了圖拉普拉斯和海森兩種正則化的半監(jiān)督極限學(xué)習(xí)機(jī)模型圖拉普拉斯-海森半監(jiān)督極限學(xué)習(xí)機(jī)(Laplacian Hessian semi-supervised-extreme learning machine, LHSS-ELM)。LHSS-ELM算法的目標(biāo)函數(shù)參照SS-ELM的框架，通過(guò)修改SS-ELM的式(8)獲得最終目標(biāo)函數(shù)表達(dá)式為

(9)

式(9)中：λ1和λ2為正則化系數(shù)。

將約束條件代入目標(biāo)函數(shù)式中重寫目標(biāo)函數(shù)為

(10)

式(10)中：T=[t1,t2,…,tl]T為訓(xùn)練集真實(shí)輸出；C為訓(xùn)練誤差項(xiàng)對(duì)應(yīng)的懲罰因子。

對(duì)β求偏導(dǎo)置0，可得

β*=(Inh+ΦTCΦ+λ1ΦTLΦ+

λ2ΦTHΦ)-1ΦTCT

(11)

式(11)中：Inh為大小為nh的單位矩陣。

當(dāng)輸入樣本數(shù)少于模型隱層節(jié)點(diǎn)數(shù)時(shí)，有

β*=ΦT(Il+u+CΦΦT+λ1LΦΦT+

λ2HΦΦT)-1CT

(12)

LHSS-ELM算法的具體流程如下。

輸入已標(biāo)注的樣本集 {Xl,Yl}={xi,yi}，i=1,2，…,l，未標(biāo)注樣本集Xu={xj}，j=l+1,l+2,…,n-l；懲罰系數(shù)C、正則化系數(shù)λ1和λ2、隱層節(jié)點(diǎn)數(shù)。

輸出LHSS-ELM的映射函數(shù)f:Rd→Rq。

步驟1通過(guò){Xl,Xu}計(jì)算圖拉普拉斯矩陣L和海森算子H。

步驟2建立一個(gè)包含了隱層節(jié)點(diǎn)數(shù)為nh的ELM網(wǎng)絡(luò)模型，隨機(jī)給定輸入層權(quán)重和偏置。

步驟3計(jì)算隱層輸出矩陣Φ∈R(l+u)×nh。

步驟4如果nh

步驟5求得模型映射函數(shù)為f(x)=Φ(x)β。

3 實(shí)驗(yàn)及結(jié)果

3.1 數(shù)據(jù)集及實(shí)驗(yàn)設(shè)置

電能質(zhì)量復(fù)合擾動(dòng)波形數(shù)據(jù)來(lái)源于MATLAB軟件數(shù)值模型仿真以及福祿克6105A三相功率源的實(shí)測(cè)數(shù)據(jù)。其中仿真數(shù)據(jù)依據(jù)參考文獻(xiàn)[19]通過(guò)MATLAB以6.4 kHz采樣頻率生成十個(gè)周期的波形數(shù)據(jù)，一共生成47種擾動(dòng)信號(hào)，其中復(fù)合擾動(dòng)信號(hào)最多包含4種單一擾動(dòng)。由于自身限制，標(biāo)準(zhǔn)功率源只能生成15種復(fù)合擾動(dòng)，硬件采樣平臺(tái)如圖2所示。最終仿真數(shù)據(jù)加功率源采樣數(shù)據(jù)一共包含9 400個(gè)樣本，其中每個(gè)類型復(fù)合擾動(dòng)200個(gè)樣本。實(shí)驗(yàn)過(guò)程采用四折交叉校驗(yàn)，即四等分?jǐn)?shù)據(jù)集，一份用于測(cè)試，其余三份用于訓(xùn)練。訓(xùn)練集進(jìn)一步劃分為：已標(biāo)注集U、驗(yàn)證集V和未標(biāo)注集T。在20～50 dB的不同噪聲環(huán)境下，采用4種半監(jiān)督學(xué)習(xí)算法：

圖2 硬件采樣平臺(tái)Fig.2 Hardware sampling platform

半監(jiān)督拉普拉斯支持向量機(jī)(Laplacian support vector machine，LapSVM)[20]、直推式支持向量機(jī)(transductive SVM，TSVM)[21]、半監(jiān)督極限學(xué)習(xí)機(jī)(semi supervised extreme learning machine，SS-ELM)[18]、海森極限學(xué)習(xí)機(jī)(Hessian semi supervised extreme learning machine，HSS-ELM)[22]和監(jiān)督學(xué)習(xí)算法：極限學(xué)習(xí)機(jī)(extreme learning machine，ELM)進(jìn)行性能對(duì)比。以上算法均在Intel I7-6800K 3.5 GHz CPU、32 G內(nèi)存、Win7系統(tǒng)下MATLAB2020a的環(huán)境中運(yùn)行。

3.2 算法對(duì)比結(jié)果與分析

表1給出不同噪聲條件下，6種算法在復(fù)合擾動(dòng)數(shù)據(jù)集上性能表現(xiàn)結(jié)果。由表1可知，提出的混合流形的半監(jiān)督極限學(xué)習(xí)機(jī)LHSS-ELM在各項(xiàng)指標(biāo)上均優(yōu)于其他方法。與監(jiān)督學(xué)習(xí)算法ELM對(duì)比，3種流形正則化半監(jiān)督模型都有較明顯的精度提升。結(jié)果表明，流形正則化在挖掘未標(biāo)注數(shù)據(jù)的信息從而提升分類性能上的有效性。而這其中混合流形方式的半監(jiān)督極限學(xué)習(xí)機(jī)效果最佳。由表2給出的運(yùn)行時(shí)間結(jié)果可見，由于計(jì)算了兩個(gè)流形正則化算子，LHSS-ELM時(shí)間消耗最多。

圖3給出初始條件為不同數(shù)量已標(biāo)注樣本情況下，ELM、SS-ELM、HSS-ELM以及提出的LHSS-ELM在復(fù)合擾動(dòng)數(shù)據(jù)集上的測(cè)試誤差趨勢(shì)。初始狀態(tài)假定已標(biāo)注擾動(dòng)數(shù)量為470個(gè)，每次遞增數(shù)量為樣本總數(shù)的10%，增加過(guò)程保持校驗(yàn)集與已標(biāo)注集樣本數(shù)量相同。由圖3可見，隨著已標(biāo)注樣本數(shù)量增多4種方法的測(cè)試誤差均趨于減少，其中LHSS-ELM測(cè)試誤差最低。而比例增長(zhǎng)到一定值后，4種方法誤差降低趨勢(shì)均有所放緩。圖4給出固定已標(biāo)注樣本數(shù)目情況下，以未標(biāo)注樣本總數(shù)10%的數(shù)量往訓(xùn)練集添加未標(biāo)注樣本時(shí)，4種算法的測(cè)試誤差趨勢(shì)變化曲線。分析可知，隨著未標(biāo)注樣本數(shù)量的增加，LHSS-ELM測(cè)試誤差呈明顯下降趨勢(shì)，且在4種

表1 不同信噪比下算法分類精度對(duì)比Table 1 Comparison of classification accuracy for algorithms under different SNR values

表2 不同信噪比下算法計(jì)算時(shí)間對(duì)比Table 2 Comparison of computational cost for algorithms under different SNR values

圖3 已標(biāo)注樣本數(shù)目不同時(shí)測(cè)試誤差對(duì)比Fig.3 Comparison of testing error with different number of labeled data

方法中最低。即使在初始階段訓(xùn)練集未添加任何未標(biāo)注樣本的情況下，LHSS-ELM測(cè)試誤差也在4個(gè)方法中最低。這其中主要原因是由于流形正則化在純監(jiān)督學(xué)習(xí)的情況下也具有有效性。

圖4 未標(biāo)注樣本數(shù)目不同時(shí)測(cè)試誤差對(duì)比Fig.4 Comparison of testing error with different number of unlabeled data

4 結(jié)論

針對(duì)電網(wǎng)實(shí)測(cè)復(fù)合擾動(dòng)樣本多數(shù)未標(biāo)注類別而無(wú)法加入監(jiān)督學(xué)習(xí)模型訓(xùn)練的情況，提出了一種新型的基于混合流形正則化的LHSS-ELM半監(jiān)督擾動(dòng)識(shí)別模型。本文算法通過(guò)圖拉普拉斯和海森流形正則化的結(jié)合，利用未標(biāo)注樣本蘊(yùn)含的局部結(jié)構(gòu)信息來(lái)降低全部標(biāo)注未知樣本的代價(jià)。結(jié)果表明，混合流形正則化的引入有效提升了復(fù)合擾動(dòng)半監(jiān)督學(xué)習(xí)精度，與單一的圖拉普拉斯和海森正則化對(duì)比具有更好的局部幾何結(jié)構(gòu)保持和外推能力。實(shí)驗(yàn)結(jié)果證明所提方法是一種有效的從半監(jiān)督學(xué)習(xí)角度識(shí)別復(fù)合擾動(dòng)的新方法，具有廣闊的應(yīng)用前景。