辛 鵬,楊剴勛**,文孝強

(1.吉林化工學院 信息與控制工程學院,吉林 吉林 132022;2.東北電力大學 自動化工程學院,吉林 吉林 132012)

隨著石化能源的逐漸枯竭,發(fā)展新型的可再生能源成為發(fā)電領域重要的趨勢。風能作為綠色、清潔的可再生能源,近年來得到了快速發(fā)展。為了獲取最大的發(fā)電效益,風電機組通常都位于風力資源豐富的地區(qū),然而這些地區(qū)大多處于近?；蛘哌h郊,工作環(huán)境十分惡劣,導致風電機組故障頻發(fā)[1-2]。因此,為了降低風機故障所帶來的經濟損失,有必要對風電機組故障診斷問題進行深入研究。

當前,在風電機組故障診斷方面,大多使用數(shù)據(jù)驅動的方法。張振海[3]等人使用小波分析法和支持向量機進行故障診斷。Carroll J[4]等人采用機器學習的方法進行故障診斷。但這些方法普遍需要人工對數(shù)據(jù)進行特征提取,同時淺層網(wǎng)絡不足以學習到更深的特征,這些原因影響著故障診斷的準確率。

深度學習方法可以省略人工提取故障特征的過程,因此大量的深度學習方法被應用于風電機組的故障診斷中。鄧子豪[5]等人使用ReliefF、核密度均值法和BP神經網(wǎng)絡進行風電機組偏航齒輪的故障診斷。Rezamand M[6]等人使用PCA和小波分析法對風電機組進行故障診斷。上述方法均需要對數(shù)據(jù)進行降維,但進行數(shù)據(jù)的降維會導致部分故障特征丟失,從而影響故障診斷的準確率。此外,上述方法均不能自適應地調整輸入?yún)?shù)的權重。因此,本文首先使用滑動窗口對數(shù)據(jù)進行擴充,其次使用tanh函數(shù)對壓縮激勵網(wǎng)絡(SEnet)進行改進以獲取更全面的數(shù)據(jù)特征,并使用改進后的SEnet調整數(shù)據(jù)中各參數(shù)的權重,然后使用卷積神經網(wǎng)絡(CNN)避免人為操作直接學習數(shù)據(jù)中的故障特征,同時在CNN中引入全局最大池化層提高網(wǎng)絡的稀疏程度,最后使用全連接層輸出診斷結果。與其他深度學習模型進行對比,實驗結果表明,該模型的故障診斷效果均優(yōu)于RNN、PCA-DNN、BiLSTM。

1 改進壓縮激勵網(wǎng)絡與卷積神經網(wǎng)絡結合的(SE-CNN)故障診斷方法

1.1 樣本的擴充及標準化

在使用深度學習進行故障診斷時,樣本數(shù)據(jù)量是影響故障診斷效果的關鍵因素,由于原始數(shù)據(jù)集數(shù)據(jù)量較少,因此需要使用滑動窗口對數(shù)據(jù)樣本進行擴充[7]。滑動窗口方法如圖1所示,通過設置窗口大小與滑動步長,使后一個樣本的數(shù)據(jù)包含部分前一個樣本的數(shù)據(jù),在實現(xiàn)數(shù)據(jù)重復利用的同時達到擴充數(shù)據(jù)的目的。

圖1 滑動窗口

由于原始數(shù)據(jù)集中不同參數(shù)之間的量綱不同,取值范圍差異較大,直接作為網(wǎng)絡的輸入會影響網(wǎng)絡的學習能力。因此,需要進行數(shù)據(jù)的標準化,標準化計算過程如式(1)所示。

(1)

1.2 改進SEnet原理

在進行故障特征學習時,一些無關的特征信息也會被網(wǎng)絡所學習,這些無關的特征信息分散了網(wǎng)絡的注意力,降低了故障診斷的準確率,而SEnet能夠自適應地調整數(shù)據(jù)中不同參數(shù)的權重,同時降低無關特征信息對網(wǎng)絡的影響[8-9]。由于故障數(shù)據(jù)量較少,為了更全面地獲得故障特征,將SEnet中的relu函數(shù)調整為tanh函數(shù),提高故障診斷的準確率,SEnet結構如圖2所示,主要由Squeeze、Excitation和Scale三部分組成。

圖2 SEnet結構圖

首先,Squeeze通過全局平均池化計算將每個參數(shù)中的數(shù)據(jù)壓縮為一個平均值,這些平均值能夠概括對應參數(shù)的重要性;其次,Excitation通過兩個全連接層提取數(shù)據(jù)特征,然后通過sigmoid函數(shù)給每個參數(shù)生成一個權重;最后,Scale將特征權重加入到原始特征中,實現(xiàn)特征重要性調整,提高網(wǎng)絡注意力。Squeeze計算過程如式(2)所示,Excitation計算過程如式(3)所示,Scale計算過程如式(4)所示。

(2)

S=σ[W2δ(W1Z)] ,

(3)

(4)

1.3 改進CNN原理

通常,CNN分為輸入層、隱藏層和輸出層,隱藏層則包括卷積層和池化層,卷積計算如式(5)所示,池化計算如式(6)所示。

(5)

(6)

在傳統(tǒng)CNN中一般使用Flatten層一維化卷積層輸出的特征,但這樣會增加網(wǎng)絡的計算量和計算時間,為了加快網(wǎng)絡的訓練速度,縮短計算時間,提高網(wǎng)絡的稀疏程度,將Flatten層更換為全局最大池化層,全局最大池化層的計算過程如式(7)所示。

(7)

式(7)中W為池化區(qū)域寬度;yi為上一層的輸出;max表示取池化區(qū)域內特征的最大值;E為全局最大池化計算后的輸出。

1.4 激活函數(shù)

使用tanh作為故障診斷模型的激活函數(shù)。tanh導數(shù)如式(8)所示[10]。

(8)

從式(8)中可以看出tanh導數(shù)的取值范圍在0到1之間,在一定程度上降低了梯度消失的問題,并且tanh的變化敏感區(qū)較寬,能夠延遲飽和期,同時tanh能夠更加全面地獲取數(shù)據(jù)特征,可以提高故障診斷的準確率。

1.5 改進SE-CNN風電機組故障診斷流程

故障診斷流程如圖3所示,主要步驟如下：

圖3 故障診斷流程圖

1)數(shù)據(jù)預處理：對各故障類別的數(shù)據(jù)進行標簽,刪除方差為0的參數(shù)和錯誤數(shù)據(jù);

2)樣本擴充：使用滑動窗口對預處理后的數(shù)據(jù)進行樣本擴充,然后進行數(shù)據(jù)的標準化;

3)模型的建立：構建改進的SEnet,使用樣本擴充后的數(shù)據(jù)作為改進SEnet的輸入,構建改進的CNN,將改進SEnet的輸出作為改進CNN的輸入,構建改進SE-CNN故障診斷模型;

2 實驗驗證

2.1 數(shù)據(jù)來源

實驗數(shù)據(jù)源自吉林省某風場的風電機組,利用SCADA系統(tǒng)收集各傳感器數(shù)據(jù),每隔10秒記錄一次。風電機組各傳感器參數(shù)如下：發(fā)電機轉速(P1)、電網(wǎng)電壓L1(P2)、風向1秒平均值(P3)……電網(wǎng)頻率(P45)、發(fā)電機功率1秒平均值(P46)和發(fā)電機轉速1秒平均值(P47),等47個參數(shù)。部分實驗數(shù)據(jù)屬性如表1所示。

表1 部分實驗數(shù)據(jù)屬性

本文所診斷的風電機組常見故障分別為：變槳系統(tǒng)故障、傳動系統(tǒng)故障、槳葉故障和液壓系統(tǒng)故障。將滑動窗口的窗口大小設置為60,為最大程度利用有限的數(shù)據(jù)集將滑動步長設置為1,然后對數(shù)據(jù)進行擴充并生成樣本。一共生成22 205個樣本,每個類別包括4 441個樣本,每個樣本則包括47個參數(shù),每個參數(shù)擁有60個數(shù)據(jù)。

2.2 激活函數(shù)的選擇

常見的激活函數(shù)有sigmoid、tanh、relu,當激活函數(shù)選擇不當時,模型的準確率會下降,甚至會出現(xiàn)梯度消失的現(xiàn)象。3個激活函數(shù)的比較如圖4所示,可以看出在使用sigmoid時模型的準確率為97.41%,是最低的,訓練時間為229 s,是最長的。在使用relu時,模型中部分神經元的參數(shù)無法更新,降低了模型的計算量,因此模型的訓練時間為111 s,訓練時間大幅度減小了,但這樣會導致模型學習不到足夠的故障特征,所以在使用relu時模型的故障診斷準確率為98.60%,仍然較低。在使用tanh時,模型的訓練時間最短為107 s,此時故障診斷準確率為98.67%,是最高的。分析其原因,這是因為tanh與relu和sigmoid相比能夠獲得更全面的故障特征。因此,本文選擇tanh作為改進SE-CNN模型的激活函數(shù)。

激活函數(shù)名稱圖4 不同激活函數(shù)的比較

2.3 優(yōu)化算法的選擇

常見的優(yōu)化算法有RMSprop、Adagrad、Adadelta和Adam等。當優(yōu)化算法選擇不當時,模型的準確率和訓練時間會在一定程度上受到影響。各優(yōu)化算法的比較如圖5所示,可以看出在使用Adadelta時模型的準確率為91.38%,優(yōu)化效果最差。在使用Adagrad時,模型的準確率為97.39%,顯然得到了大幅度提升,然而,Adagrad的訓練時間為232 s,是最長的,優(yōu)化效果仍不夠好。在使用Adam時,模型的訓練時間為107 s,是最短的,與此同時,故障診斷準確率為98.67%,也是最高的,很顯然,此時的故障診斷效果最好。因此,本文選擇Adam作為改進SE-CNN模型的優(yōu)化算法。

優(yōu)化算法名稱圖5 不同優(yōu)化算法的比較

2.4 隱藏層與神經元個數(shù)的討論

在神經網(wǎng)絡中,隱藏層數(shù)和神經元的設置也會影響故障診斷結果。當隱藏層和神經元太少時,很容易導致學習能力不足,而隱藏層和神經元過多時,網(wǎng)絡就會過擬合。本文采用網(wǎng)格搜索方法對這些超參數(shù)進行討論[11]。隱藏層的討論如圖6所示,可以看出當隱藏層為3時,模型的準確率為97.70%,隨著隱藏層的增加,模型的準確率也在增加。當隱藏層為5時模型的準確率達到了最高。之后,當隱藏層繼續(xù)增加時,模型出現(xiàn)了退化導致準確率降低。

隱藏層數(shù)/層圖6 不同隱藏層的比較

神經元的討論如圖7所示,可以看出當神經元為64時,模型的準確率為97.48%,隨著神經元個數(shù)的增加模型的準確率也隨之增加。

當神經元為128時模型的準確率達到了最高。當神經元繼續(xù)增加時,模型的準確率反而降低了。綜上,當改進SE-CNN的隱藏層數(shù)為5,神經元個數(shù)為128時,模型的準確率為98.67%,達到了最高。改進SE-CNN的詳細參數(shù)如表2所示。

表2 模型詳細參數(shù)

2.5 改進方法的對比

為了驗證SEnet的有效性,對使用SEnet前后的特征圖進行對比,原始特征圖如圖8所示。SEnet輸出的特征圖如圖9所示。在圖8和圖9中橫坐標表示參數(shù)的個數(shù),縱坐標表示數(shù)據(jù)的個數(shù)。對比圖8和圖9可以看出：原始特征經過SEnet后第10個參數(shù)的顏色明顯變淺了,第24個參數(shù)的顏色明顯加深了。這說明SEnet賦予第10個參數(shù)的權值較小,賦予第24個參數(shù)的權值較大。這證明了SEnet能夠自適應地調整不同參數(shù)的特征權重。

圖8 原始特征圖

圖9 SEnet輸出的特征圖

接下來,以CNN為基礎使用不同的改進方法來提高故障診斷的準確率。不同改進方法的準確率與訓練時間的比較如圖10所示,可以看出CNN的準確率為96.26%,訓練時間為160 s,其故障診斷效果最差。在CNN前加入SEnet構建SE-CNN后,模型的準確率提高到了97.95%,訓練時間減少到了115 s。將SEnet中的激活函數(shù)進行調整并與CNN結合構建SE(tanh)-CNN后,由于獲得的特征更加全面,模型的準確率提高到了98.33%,但訓練時間也增加到了211 s,故障診斷性能仍不夠好。在SE(tanh)-CNN中引入全局最大池化層構建改進SE-CNN后,模型的準確率提高到了98.67%,訓練時間被縮短到了107 s,模型的故障診斷效果變得更好了。不同改進方法loss曲線的比較如圖11所示,可以看出CNN的loss曲線最不穩(wěn)定,收斂速度最慢,改進SE-CNN的loss曲線最穩(wěn)定。綜上證明了本文所提出的改進SE-CNN模型的有效性。

模型名稱圖10 不同改進方法準確率和訓練時間的比較

迭代次數(shù)圖11 不同改進方法loss曲線的比較

2.6 實驗結果對比分析

分別建立主成分分析與多層感知機結合的模型(PCA-DNN)、循環(huán)神經網(wǎng)絡(RNN)、雙向長短期記憶網(wǎng)絡(BiLSTM)、與本文所提出的改進SE-CNN進行對比,以驗證模型故障診斷的有效性。如圖12所示為不同模型準確率與訓練時間的比較,可以看出RNN的訓練時間為4 100 s,準確率為93.83%,故障診斷效果最差。

模型名稱圖12 不同模型準確率和訓練時間的比較

PCA-DNN模型的訓練時間最短,準確率也相對較低,訓練時間和準確率分別106 s和96.92%。BiLSTM是RNN的改進模型,與PCA-DNN相比BiLSTM的故障診斷效果更優(yōu),但準確率為97.93%仍不夠高。在所有模型中改進SE-CNN的準確率為98.67%,是最高的,故障診斷效果最好。

如圖13所示為不同模型評價指標的比較,可以看出改進SE-CNN的precision、recall和f1-score分別為98.76%、98.67%和98.67%,優(yōu)于對比模型。如表3所示為不同模型評價指標比較的匯總,可以看出改進SE-CNN的故障診斷性能優(yōu)于其他對比模型。因此,改進SE-CNN具有良好的故障診斷效果。

表3 不同模型評價指標匯總

評價指標名稱圖13 不同模型評價指標的比較

2.7 模型泛化能力驗證

使用兩臺不同風電機組的數(shù)據(jù)來驗證模型的泛化能力。如圖14所示為上述各種對比方法在不同數(shù)據(jù)集上的準確率。

數(shù)據(jù)集名稱圖14 不同模型在不同數(shù)據(jù)集上故障診斷性能的比較

3號風機的數(shù)據(jù)量少于2號風機,因此各模型在3號風機上的故障診斷準確率都有所下降。在2號風機上改進SE-CNN模型的故障診斷準確率為98.67%,在所有對比模型中是最高的。對3號風機而言,改進SE-CNN模型的故障診斷準確率為95.86%,同樣是最高的。因此,改進SE-CNN模型在不同數(shù)據(jù)集上具有一定的泛化能力。

3 結 論

本文針對風電機組發(fā)生故障時難以有效地提取故障特征,故障診斷準確率不高等問題進行了深入研究,得到如下結論：

(1)構造了一個SEnet網(wǎng)絡以自適應地調整了各參數(shù)的重要性,有效解決了網(wǎng)絡注意力分散的問題。調整SEnet中的激活函數(shù)使網(wǎng)絡能夠學習到更多的故障特征,提高模型的故障診斷準確率;

(2)對CNN進行了改進,引入了全局最大池化層,縮短了模型的訓練時間并進一步提高了模型的故障診斷準確率;

(3)對改進SE-CNN中的超參數(shù)、優(yōu)化算法、激活函數(shù)進行討論,最后確定優(yōu)化算法為Adam,激活函數(shù)為tanh,隱藏層數(shù)為5,神經元個數(shù)為128,此時的故障診斷準確率為98.67%,高于其他模型;

(4) 對改進SE-CNN的泛化能力進行了驗證,在不同數(shù)據(jù)集上改進SE-CNN的準確率均高于對比模型,因此改進SE-CNN模型具有一定的泛化能力。