王金軒，湯占軍，詹躍東，周盛山

(昆明理工大學(xué)信息工程與自動(dòng)化學(xué)院，云南 昆明 650500)

1 引言

風(fēng)能作為可再生能源，廣泛地存在于國(guó)內(nèi)外各個(gè)地區(qū)，是當(dāng)前最具發(fā)展前景的能源之一[1]。風(fēng)力發(fā)電機(jī)一般裝設(shè)在風(fēng)能豐富的地區(qū)，同時(shí)這類地區(qū)也具有高海拔、高濕度、低溫度等特點(diǎn)[2]，風(fēng)力發(fā)電機(jī)葉片長(zhǎng)期直接暴露在惡劣環(huán)境中，導(dǎo)致風(fēng)力發(fā)電機(jī)葉片時(shí)常發(fā)生結(jié)冰故障。葉片結(jié)冰除了直接影響風(fēng)力發(fā)電的經(jīng)濟(jì)性外，還威脅到風(fēng)力發(fā)電機(jī)周邊的安全以及設(shè)備的使用壽命[3]。

由上所述，葉片結(jié)冰影響嚴(yán)重，所以對(duì)葉片結(jié)冰故障進(jìn)行檢測(cè)十分必要。文獻(xiàn)[4]采用深度全連接神經(jīng)網(wǎng)絡(luò)對(duì)風(fēng)機(jī)葉片結(jié)冰故障進(jìn)行研究，采集風(fēng)力發(fā)電機(jī)運(yùn)行數(shù)據(jù)集，將數(shù)據(jù)集輸入至深度全連接神經(jīng)網(wǎng)絡(luò)中進(jìn)行訓(xùn)練，得到的結(jié)果即為結(jié)冰故障檢測(cè)結(jié)果。因?yàn)樵摲椒ǖ倪^(guò)程較為簡(jiǎn)潔，導(dǎo)致該方法的檢測(cè)精度受到影響。文獻(xiàn)[5]提出基于特征選擇和XGBoost風(fēng)機(jī)葉片結(jié)冰故障檢測(cè)方法，該方法根據(jù)SCADA數(shù)據(jù)，采用特征選擇算法對(duì)葉片早期結(jié)冰過(guò)程進(jìn)行預(yù)測(cè)，根據(jù)預(yù)測(cè)結(jié)果結(jié)合XGBoost算法對(duì)葉片結(jié)冰故障進(jìn)行檢測(cè)，但是該方法的數(shù)據(jù)較為單一，導(dǎo)致檢測(cè)精度不理想。文獻(xiàn)[6]提出基于棧式自編碼網(wǎng)絡(luò)風(fēng)機(jī)葉片結(jié)冰故障檢測(cè)方法，該方法首先采用非監(jiān)督方法度無(wú)標(biāo)簽的SCADA數(shù)據(jù)進(jìn)行預(yù)處理。以預(yù)處理后的數(shù)據(jù)為基礎(chǔ)，采用反向傳播算法對(duì)故障特征進(jìn)行分類，完成風(fēng)機(jī)葉片結(jié)冰故障的檢測(cè)，但是該方法的泛化性不足，且未考慮樣本分布均衡性的問(wèn)題，導(dǎo)致檢測(cè)結(jié)果的局限性較大。

基于以上問(wèn)題，本文提出了以卷積神經(jīng)網(wǎng)絡(luò)為核心的風(fēng)機(jī)葉片結(jié)冰故障檢測(cè)模型。

2 風(fēng)機(jī)葉片結(jié)冰故障檢測(cè)

2.1 卷積神經(jīng)網(wǎng)絡(luò)與Swish激活函數(shù)

近年來(lái)，卷積神經(jīng)網(wǎng)絡(luò)(Convolutional neural network，CNN)取得了較多發(fā)展，經(jīng)常應(yīng)用于圖像識(shí)別[7]、語(yǔ)音識(shí)別[8]等方面。而在新提出的深度卷積神經(jīng)網(wǎng)絡(luò)GoogleNet中，1×1卷積核應(yīng)用帶來(lái)了新的研究方向，并且新激活函數(shù)Swish的提出，提高了新方法的有效性。

卷積神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)有：卷積層、激活層、池化層、dropout層和全連接層。其中最為核心的為卷積層。卷積層由一定大小和一定數(shù)量的卷積核組成，卷積核按照一定步幅移動(dòng)進(jìn)行卷積計(jì)算，最終獲得feature map，計(jì)算過(guò)程如圖1所示。

圖1 卷積計(jì)算過(guò)程

而當(dāng)輸入多個(gè)維度的時(shí)候，卷積核的數(shù)量則可以調(diào)整輸出維度，獲得多張feature map，此過(guò)程如圖2所示。

圖2 多維度卷積過(guò)程

在大小為n0×n0、維度為nf0的多維度平面上，使用nf1個(gè)大小為k×k×nf0的卷積核，進(jìn)行步數(shù)為s的卷積運(yùn)算，得到輸出的輸出結(jié)果為

(1)

式中，p表示零填充大小。當(dāng)不進(jìn)行零填充卷積核k大小為1、步數(shù)s為1時(shí)，上式轉(zhuǎn)換為

[n，n，nf]=[n0，n0，nf1]

(2)

此時(shí)得到的新的矩陣輸出大小與原矩陣相同，而維度則由卷積核個(gè)數(shù)nf1決定，因此1×1卷積核的數(shù)量具有調(diào)整網(wǎng)絡(luò)維度的能力。

在卷積神經(jīng)網(wǎng)絡(luò)中，激活層通過(guò)激活函數(shù)引入非線性，此次研究選用的激活函數(shù)為Swish激活函。

如果feature map較大，影響運(yùn)算速度并且還有可能造成過(guò)擬合。池化層通常用來(lái)縮小卷積得到的feature map，降低訓(xùn)練過(guò)程中參數(shù)數(shù)量，并且保留一定的空間不變性。常用有最大池化和平均池化。本文因?yàn)閒eature map相對(duì)較小和數(shù)據(jù)并沒(méi)有空間意義，所以棄用池化層。

Dropout層是通過(guò)棄置部分神經(jīng)元，防止過(guò)擬合，本文設(shè)置的dropout比例為0.4。全連接層可以將層間節(jié)點(diǎn)完全連接，綜合所有在卷積層提取到的特征。并且全連接層也可以作為分類器，通過(guò)softmax輸出檢測(cè)結(jié)果。葉片結(jié)冰故障檢測(cè)是二分類問(wèn)題，所以通過(guò)softmax輸出的正常故障概率P0、P1為

(3)

(4)

式中，F(xiàn)0、F1均為連接層輸出。

2.2 SMOTE和模型評(píng)價(jià)指標(biāo)

SMOTE是一種通過(guò)合成少數(shù)類樣本，平衡多數(shù)類與少數(shù)類樣本的方法。其核心方式是從某個(gè)少數(shù)類樣本Xi附近選擇另一個(gè)少數(shù)類樣本Xj，在兩者連線上隨機(jī)選擇一點(diǎn)，作為新合成新的少數(shù)類樣本Xij。SMOTE過(guò)程如圖3所示。

圖3 SMOTE過(guò)程

而在大多數(shù)故障數(shù)據(jù)集中，因?yàn)楣收喜⒉粫?huì)時(shí)常發(fā)生，故障樣本一般都為少數(shù)類樣本。在這種情況下，通過(guò)SMOTE合成一定數(shù)量的少數(shù)類樣本，可以有效提高模型的故障識(shí)別率。SMOTE合成比例是影響其效果的因素，比例過(guò)低時(shí)提高效果可能較小，比例過(guò)高時(shí)可能會(huì)更多的錯(cuò)判正常樣本為故障樣本，減小整體準(zhǔn)確率[9]。

通過(guò)多指標(biāo)評(píng)價(jià)不平衡樣本的檢測(cè)結(jié)果，可以有效避免準(zhǔn)確率陷阱，同時(shí)多指標(biāo)也可以更明確地指導(dǎo)模型的修改方向。在不平衡數(shù)據(jù)集中，可以引入召回率、精確率、F1分?jǐn)?shù)作為評(píng)價(jià)指標(biāo)。此次研究的主要目的為檢測(cè)風(fēng)力發(fā)電機(jī)葉片的結(jié)冰故障，所以以故障樣本作為正樣本，指標(biāo)中召回率代表的是所有故障樣本中被檢測(cè)出的故障樣本，也就是故障識(shí)別率；精確率代表著所有被檢測(cè)為故障的樣本確實(shí)為故障的概率；F1分?jǐn)?shù)則是兩者的調(diào)和平均。樣本分類結(jié)果如表1所示。

表1 樣本分類表

指標(biāo)的具體計(jì)算如下所示：

準(zhǔn)確率

(5)

召回率

(6)

精確率

(7)

F1分?jǐn)?shù)

(8)

從分類角度考慮，召回率與精確率是互斥的，假如在模型判別能力不變的情況下，提高召回率的同時(shí)會(huì)相對(duì)減少精確率，反之亦然。F1分?jǐn)?shù)是平衡兩者的評(píng)價(jià)指標(biāo)，優(yōu)先作為衡量模型效果的指標(biāo)，其次是在故障檢測(cè)中更為重要的召回率。

3 仿真驗(yàn)證

3.1 數(shù)據(jù)集與模型介紹

本文的風(fēng)力發(fā)電機(jī)葉片結(jié)冰故障數(shù)據(jù)來(lái)源于2017年工業(yè)大數(shù)據(jù)競(jìng)賽中15號(hào)和21號(hào)風(fēng)力發(fā)電機(jī)的真實(shí)運(yùn)行的SCADA數(shù)據(jù)。基于此數(shù)據(jù)建立的模型有一定現(xiàn)實(shí)意義。

數(shù)據(jù)有28個(gè)特征，包含發(fā)電量、風(fēng)速、發(fā)電機(jī)轉(zhuǎn)速等具有物理意義的特征，也包含日期、組數(shù)2個(gè)沒(méi)有訓(xùn)練意義的特征，同時(shí)還有3個(gè)時(shí)常為0值的噪聲特征。經(jīng)過(guò)基本數(shù)據(jù)處理，刪去上述5特征，從日期中提取小時(shí)數(shù)作為新特征，最終訓(xùn)練數(shù)據(jù)有24個(gè)有效特征。

15號(hào)風(fēng)力發(fā)電機(jī)SCADA數(shù)據(jù)有393886條樣本，21號(hào)風(fēng)力發(fā)電機(jī)SCADA數(shù)據(jù)有190494條樣本。刪去未標(biāo)記無(wú)效數(shù)據(jù)，得到有效數(shù)據(jù)量如表2所示。

表2 SCADA數(shù)據(jù)表

將樣本打亂，按照70%、15%、15%的比例構(gòu)建訓(xùn)練集、驗(yàn)證集、測(cè)試集，三集沒(méi)有重復(fù)部分。模型通過(guò)訓(xùn)練集訓(xùn)練，訓(xùn)練過(guò)程中保存驗(yàn)證集效果最佳的網(wǎng)絡(luò)參數(shù)，最終效果則以測(cè)試集得到的統(tǒng)計(jì)指標(biāo)為主。

基于卷積神經(jīng)網(wǎng)絡(luò)構(gòu)建的結(jié)冰故障檢測(cè)模型如圖4。

圖4 檢測(cè)模型結(jié)構(gòu)

模型首先通過(guò)多個(gè)1×1卷積核改變?nèi)~片結(jié)冰數(shù)據(jù)的維度，通過(guò)激活函數(shù)加入非線性，增強(qiáng)模型對(duì)葉片結(jié)冰這類非線性問(wèn)題的表達(dá)能力。之后用Dropout層隨機(jī)棄置神經(jīng)元，使用Flatten將數(shù)據(jù)變成一維，最后通過(guò)全連接層輸出檢測(cè)結(jié)果。

3.2 卷積核升維效果實(shí)驗(yàn)對(duì)比

當(dāng)卷積核數(shù)量不同時(shí)，得到的維度不同，非線性表達(dá)能力不同，會(huì)對(duì)模型效果造成不同的影響。本文首先使用Relu激活函數(shù)測(cè)試不同維度效果差別，訓(xùn)練過(guò)程Loss下降過(guò)程如圖5所示。

圖5 訓(xùn)練過(guò)程Loss值

圖5中，(A)、(B)、(C)分別表示1維、5維與9維。隨著卷積核數(shù)量的增加，維度升高，Loss下降幅度越大，最終數(shù)值越小。訓(xùn)練過(guò)程保存最優(yōu)模型，以故障數(shù)據(jù)作為正樣本，在不同維度模型下，對(duì)測(cè)試集檢測(cè)后，統(tǒng)計(jì)的評(píng)價(jià)指標(biāo)如表3所示。

表3 多維度對(duì)比表

如表3所示，最初1維2維時(shí)，效果較差，準(zhǔn)確率僅在95%左右。故障樣本F1分?jǐn)?shù)較低，40%以下的召回率表明，多數(shù)故障并沒(méi)有被檢測(cè)出來(lái)。隨著卷積核數(shù)量增加，維度升高，模型效果逐漸提升，當(dāng)維度為9的時(shí)候，準(zhǔn)確率、召回率、精確率與F1分?jǐn)?shù)均達(dá)到最大值。從1維到9維，準(zhǔn)確提升了5.7%，F(xiàn)1分?jǐn)?shù)提高了74.44，說(shuō)明通過(guò)提高維度，能有效地提高檢測(cè)效果。10維時(shí)，各項(xiàng)指標(biāo)反而有所下降，說(shuō)明維度升高提高模型效果有一定限制。

為了觀察泛化性變化，訓(xùn)練集和驗(yàn)證集不變，以21號(hào)風(fēng)力發(fā)電機(jī)所有SCADA數(shù)據(jù)為測(cè)試集進(jìn)行泛化性測(cè)試實(shí)驗(yàn)，模型評(píng)價(jià)指標(biāo)如表4所示。

表4 多維度泛化性對(duì)比表

從表4中的數(shù)據(jù)可以看出，提高維度明顯提高了21號(hào)風(fēng)力發(fā)電機(jī)SCADA數(shù)據(jù)檢測(cè)的F1分?jǐn)?shù)與召回率。當(dāng)維度升高到4維時(shí)，F(xiàn)1分?jǐn)?shù)大于20之后，F(xiàn)1分?jǐn)?shù)隨著維度升高處于波動(dòng)狀態(tài)，提高維度并沒(méi)有持續(xù)提高F1分?jǐn)?shù)和召回率。而且在表3中表現(xiàn)出色的9維，在泛化性測(cè)試中卻表現(xiàn)相對(duì)較差。

如果既需要獲得15號(hào)風(fēng)力發(fā)電機(jī)較好的檢測(cè)數(shù)據(jù)，又需要保證對(duì)21號(hào)風(fēng)力發(fā)電機(jī)有足夠的泛化性，必須改進(jìn)模型。并且在表3的9維下得到的評(píng)價(jià)指標(biāo)中，召回率為86%左右，代表著有14%故障并沒(méi)有被檢測(cè)出來(lái)，也存在改進(jìn)空間。

3.3 多模型實(shí)驗(yàn)對(duì)比

為了更為全面地描述模型的性能，與其它檢測(cè)模型進(jìn)行對(duì)比，使用K近鄰(KNN)、支持向量機(jī)(SVM)、深度置信網(wǎng)絡(luò)(DBN)模型與本模型進(jìn)行對(duì)比，結(jié)果如表5所示。

表5 多模型對(duì)比表

從表5的對(duì)比結(jié)果中可以看出，K近鄰算法模型獲得了較低的召回率，幾乎沒(méi)有找出故障，且F1分?jǐn)?shù)較低，說(shuō)明該模型的檢測(cè)有效性較低。而支持向量機(jī)算法模型的檢測(cè)效果優(yōu)于K近鄰算法模型，但是召回率也較低，F(xiàn)1分?jǐn)?shù)表現(xiàn)不佳。深度置信網(wǎng)絡(luò)作為深度學(xué)習(xí)算法，處理非線性問(wèn)題能力較強(qiáng)，相對(duì)于K近鄰和支持向量機(jī)模型，取得了較高的F1分?jǐn)?shù)，并且50%左右的召回率表示深度置信網(wǎng)絡(luò)模型具有一定故障檢測(cè)能力，但是與本文提出的模型相比，整體統(tǒng)計(jì)指標(biāo)都相對(duì)較低。說(shuō)明本文提出的基于卷積神經(jīng)網(wǎng)絡(luò)的風(fēng)力發(fā)電機(jī)葉片結(jié)冰故障檢測(cè)模型，明顯優(yōu)于其余三種算法模型。

4 結(jié)論

本文構(gòu)建了基于卷積神經(jīng)網(wǎng)絡(luò)風(fēng)力發(fā)電機(jī)葉片結(jié)冰故障檢測(cè)模型，檢測(cè)真實(shí)運(yùn)行的風(fēng)力發(fā)電機(jī)SCDAD數(shù)據(jù)。通過(guò)改變1×1卷積核數(shù)量，提高模型的故障檢測(cè)效果，增強(qiáng)對(duì)風(fēng)力發(fā)電機(jī)葉片結(jié)冰故障這類非線性問(wèn)題檢測(cè)能力。實(shí)驗(yàn)選取了獲得了較好效果的維度，之后使用Swish激活函數(shù)和SMOTE，有效的提高了模型多角度綜合評(píng)價(jià)指標(biāo)，最終取到較好的檢測(cè)結(jié)果，即99.59%的準(zhǔn)確率和96.80的故障樣本F1分?jǐn)?shù)。并且故障樣本召回率表明，模型可以檢測(cè)97.44%的故障，具有較好的故障檢測(cè)能力。