顏 麗,鄧芳明
(1.萍鄉(xiāng)學(xué)院 信息與計算機工程學(xué)院,江西 萍鄉(xiāng) 337055;2.華東交通大學(xué) 電氣與自動化工程學(xué)院 ,江西 南昌 330013)
輸電線路是電網(wǎng)運行的主要組成部分之一,也是輸電系統(tǒng)的終端設(shè)施,保障其正常運行是電網(wǎng)安全運營的前提[1]。我國輸電線路大多敷設(shè)于外界復(fù)雜環(huán)境中,易受自然或人為因素影響而產(chǎn)生故障,嚴(yán)重影響配電網(wǎng)的安全運營及正常供電。而絕緣子和金具等作為輸電線路上的關(guān)鍵部件,一旦出現(xiàn)故障將直接影響供電的連續(xù)性,嚴(yán)重危害電網(wǎng)的運營安全[2-3]。因此,如何采取有效的手段對輸電線路零部件進行監(jiān)測檢測具有重大的意義。傳統(tǒng)的配電線路上零部件的檢測主要依靠人工作業(yè),這種方式不僅費時費力、效率低下,而且容易對線路零部件結(jié)構(gòu)造成一定的破壞[4]。隨著無損檢測技術(shù)的飛速發(fā)展,人工巡檢逐漸轉(zhuǎn)變?yōu)榛趫D像處理的非接觸檢測方式,標(biāo)志著我國輸電線路關(guān)鍵設(shè)備缺陷檢測逐步走向智能化階段[5]。
基于深度學(xué)習(xí)的圖像處理技術(shù)由于其精確、高效等優(yōu)點,被廣泛應(yīng)用于輸電線路設(shè)備的缺陷檢測中[6]。文獻[7]利用不同的深度卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)提取了接觸網(wǎng)開口銷釘圖像的多種特征,同時構(gòu)建多個線性分類器通過綜合決策實現(xiàn)了開口銷釘?shù)娜毕輽z測。文獻[8]利用CNN對輸電線路絕緣子破損和銹蝕故障進行精準(zhǔn)分類。Titov等[9]采用深度學(xué)習(xí)YOLO算法檢測出電力線路不同設(shè)備的缺陷。文獻[10]提出了一種以目標(biāo)檢測Faster R-CNN+FPN為框架的網(wǎng)絡(luò)模型對架空線路防震錘、均壓環(huán)等部件缺陷進行分類。文獻[11-13]通過SSD CNN準(zhǔn)確定位檢測出輸電線路絕緣子缺陷位置。文獻[14]采用一種層級識別模型對線路桿塔小金具缺陷進行識別。Wei 等[15]提出了一種部分監(jiān)督卷積神經(jīng)網(wǎng)絡(luò),用于從輸電線路的現(xiàn)場檢查圖像中自動定位故障。以上大多數(shù)目標(biāo)檢測框架如Faster R-CNN,SSD等對于缺陷形態(tài)明顯、尺寸較大的部件具有良好的效果,但是對于小型設(shè)備的細微故障(裂紋、磨損等)模型的檢測精度大幅下降。因此傳統(tǒng)的深度學(xué)習(xí)模型具有極大的局限性,難以適應(yīng)輸電線路設(shè)備缺陷檢測任務(wù)的要求[16]。
由于輸電線路設(shè)備眾多,采集到的圖像數(shù)據(jù)通常包含大量噪聲,導(dǎo)致檢測模型產(chǎn)生定位偏差,檢測精度大幅下降。近年來,基于卡爾曼濾波的方法被廣泛應(yīng)用于各種研究中,能夠?qū)z測結(jié)果進行修正,獲得研究對象的估計值或修正值[17]。文獻[18]構(gòu)建了一種新的聯(lián)合擴展卡爾曼濾波的滑膜觀測器算法,在有效消除噪聲影響的同時對建模誤差也具有較強的魯棒性。Liu等[19]通過卡爾曼濾波器實現(xiàn)了懸鏈線幾何參數(shù)的修正,該方法能夠有效地提高模型的檢測精度。上述研究通過修正方法有效地提高了檢測結(jié)果的準(zhǔn)確性,但是我國輸電線路設(shè)備數(shù)據(jù)集通常不對外開放,即使是有限的圖像數(shù)據(jù)集也極為不平衡,檢測模型容易產(chǎn)生過擬合風(fēng)險。
綜上所述,本文提出了一種面向復(fù)雜環(huán)境下輸電線路關(guān)鍵設(shè)備缺陷檢測方案。首先,針對于小樣本環(huán)境本文采取數(shù)據(jù)增強的方式進行樣本擴充。其次,提出了一種改進的Faster R-CNN框架,采用MobileNet[20]、柔性非極大值抑制(soft Nonmaximum Suppression,soft-NMS)算法[21]和上下文感知感興趣區(qū)域(Context-Aware Region of Interest,CARoI)池化層[22]分別替換初始框架中的VGG-16基準(zhǔn)網(wǎng)絡(luò)、NMS算法及RoI池化層,實現(xiàn)了小尺度輸電線路零部件的缺陷識別。最后,針對圖像中的復(fù)雜噪聲環(huán)境,通過卡爾曼濾波對檢測結(jié)果進行修正,有效提高了本文模型的檢測精度以及魯棒性。
為解決目前輸電線路中細微零部件缺陷檢測難度高及環(huán)境復(fù)雜等問題,本文在原始的Faster R-CNN模型上對其網(wǎng)絡(luò)架構(gòu)進行了一定的優(yōu)化,并結(jié)合圖像樣本增強及定位結(jié)果二次修正方案得到最終的輸電線路設(shè)備缺陷檢測系統(tǒng)。系統(tǒng)整體框架如圖1所示。
圖1 輸電線路關(guān)鍵部件缺陷檢測系統(tǒng)框圖Fig.1 Block diagram of defect detection system for key components of transmission lines
整個檢測系統(tǒng)分為模型訓(xùn)練、模型測試及模型檢測結(jié)果修正3部分。將采集的輸電線路關(guān)鍵部件圖片通過圖像增強方法獲得足夠的訓(xùn)練樣本,按一定的比例劃分為訓(xùn)練集、驗證集及測試集。訓(xùn)練集和驗證集樣本用于訓(xùn)練并檢驗輸電線路零部件缺陷檢測模型,其中,模型通過改進傳統(tǒng)目標(biāo)檢測網(wǎng)絡(luò)結(jié)構(gòu)得到,以適應(yīng)小型零部件缺陷檢測。將訓(xùn)練好的優(yōu)化模型載入缺陷檢測系統(tǒng),同時從測試集樣本上選擇需要檢測的輸電線路零部件圖像輸入至此系統(tǒng)以獲得初步檢測結(jié)果。根據(jù)模型的缺陷定位效果,采用二次修正方案對缺陷預(yù)測位置進行優(yōu)化調(diào)整,進一步提升模型的定位精度及泛化性能,滿足輸電線路關(guān)鍵部件缺陷檢測需求。
改進模型的總體框架如圖2所示。為了區(qū)別于原始的Faster R-CNN,圖中紅框突出顯示了改進網(wǎng)絡(luò)的優(yōu)化模塊。首先,在原始Faster R-CNN框架中,采用MobileNet替代VGG-16來構(gòu)建基礎(chǔ)卷積層以降低網(wǎng)絡(luò)計算量。然后,在區(qū)域生成網(wǎng)絡(luò)(Region Proposal Network,RPN)中,采用soft-NMS算法解決目標(biāo)部件遮擋問題。最后,通過CARoI池化層取代初始RoI池化層,以維護小型缺陷部件的原始結(jié)構(gòu)。下面主要從3個模塊詳細介紹該優(yōu)化框架。
圖2 改進模型的整體框架Fig.2 Overall framework of the improved model
原始Faster R-CNN框架使用VGG-16作為基礎(chǔ)網(wǎng)絡(luò)[23]。但是實驗證明幾乎所有模型大約80%的時間都花費在基礎(chǔ)網(wǎng)絡(luò)上,因此使用更快的基準(zhǔn)網(wǎng)絡(luò)可以大大提高整個框架的速度。MobileNet架構(gòu)作為一種高效的網(wǎng)絡(luò),它將卷積分解為3×3深度卷積和1×1點態(tài)卷積,有效地降低了計算成本和參數(shù)的數(shù)量。表1所示為MobileNet和VGG-16在ImageNet上的比較。可以看出,MobileNet的精度接近VGG-16,但是比VGG-16小32倍,計算參數(shù)少27倍。因此本文以MobileNet架構(gòu)替代原始Faster R-CNN框架中的VGG-16作為基礎(chǔ)網(wǎng)絡(luò)。MobileNet引入了2個參數(shù),可以調(diào)整以適應(yīng)資源與精度的權(quán)衡,包括寬度乘數(shù)器和分辨率乘數(shù)器。寬度乘數(shù)器能夠精簡網(wǎng)絡(luò),而分辨率乘數(shù)器改變了圖像的輸入尺寸,從而減少了每一層的內(nèi)部表示。由于本文只使用了MobileNet架構(gòu)中的卷積層,因此不必固定輸入圖像的大小。
表1 MobileNet與VGG-16在ImageNet上的比較結(jié)果Tab.1 Results comparison of MobileNet and VGG-16 on ImageNet
深度可分離的卷積由2層組成:深度卷積和點態(tài)卷積。深度卷積用于對每個輸入通道應(yīng)用單個濾波器;點態(tài)卷積作為一個簡單的1×1卷積,用于創(chuàng)建深度層輸出的線性組合。MobileNet架構(gòu)對這2層都使用了批處理規(guī)范和ReLU非線性。計算成本的降低與輸出特征映射通道的數(shù)量和核大小的平方成正比。
RPN首先從基礎(chǔ)網(wǎng)絡(luò)生成的卷積特征圖生成一組錨框。錨位于滑動窗的中心,與比例和高寬比相關(guān)。對于召回和處理速度之間的權(quán)衡,在本文中,128,256和512三個錨框尺寸及1∶1,1∶2和2∶1三個錨框高寬比用于每個錨,在每個滑動位置產(chǎn)生9個錨。對于尺寸為14×14的卷積特征圖,總共有1 764個錨點。
然后,RPN獲取所有錨盒,為每個錨輸出2個不同的結(jié)果。第1個是客觀得分,意味著錨是目標(biāo)的概率。第2個是邊界框回歸來調(diào)整錨點以更好地適合目標(biāo)。由于錨點通常會重疊,因此同一目標(biāo)將不可避免地產(chǎn)生多個冗余包圍盒。采用NMS非極大值抑制可以消除多余的窗口,找到最佳檢測位置。在大多數(shù)先進的對象檢測中,包括Faster R-CNN,NMS算法被用于刪除冗余的候選框[24]。傳統(tǒng)的NMS將所有與其Intersection over Union (IoU)值超過預(yù)定義閾值的框直接刪除。但由于實際檢測環(huán)境復(fù)雜,NMS算法的閾值難以確定,可能意外地去除積極候選框。為了解決這一問題,本文采用了soft-NMS算法。在soft-NMS的作用下,一個成功候選框的鄰近框并沒有被完全壓制。相反,它們會根據(jù)鄰近窗口更新的客觀得分而被抑制,這些得分是根據(jù)鄰近框的重疊水平和獲勝候選框計算出來的。
在大多數(shù)2階段的目標(biāo)檢測算法中,如Fast R-CNN,F(xiàn)aster R-CNN等,使用RoI池化層將建議框尺寸調(diào)整到固定的大小[25],其原理如圖3所示。RoI池化層使用最大池化將任何有效感興趣區(qū)域內(nèi)的特征轉(zhuǎn)換為一個具有固定的h×w空間范圍的小特征圖。RoI最大池化工作方式是將h×w的建議框劃分為一個近似(h/H)×(w/W)尺寸的H×W子窗口網(wǎng)格,然后將每個子窗口中的值最大池化到相應(yīng)的輸出網(wǎng)格單元中。如果提案小于H×W,則通過添加復(fù)制值以填充新空間,將其擴大到H×W。RoI池化避免了重復(fù)計算這些體積層,所以可以顯著加快訓(xùn)練和測試速度。然而,在小建議框中添加復(fù)制值是不合適的,特別是對于小型目標(biāo),因為它可能會破壞微小缺陷目標(biāo)的原始結(jié)構(gòu)。此外,為小建議框添加復(fù)制值會導(dǎo)致正向傳播中的不準(zhǔn)確表示,以及在訓(xùn)練過程中反向傳播錯誤的積累。因此,檢測小尺寸缺陷目標(biāo)的性能將會降低。為了在不破壞微小缺陷目標(biāo)原始結(jié)構(gòu)的情況下調(diào)整建議框的尺寸,并提高該方法在細微故障檢測上的性能,本文使用CARoI池化。CARoI池化層原理如圖4所示。在CARoI池化過程中,如果建議框的尺寸大于輸出特征圖的固定大小,則使用最大池將建議框的尺寸縮小到固定大小,如果建議框的尺寸小于輸出特征圖的固定大小,則采用反卷積操作將建議框的尺寸擴大到固定大小,計算如下:
圖3 RoI池化原理Fig.3 RoI pooling principle
圖4 CARoI池化原理Fig.4 CARoI pooling principle
yk=Fk⊕hk,
(1)
式中,yk表示具有固定大小的輸出特征圖;Fk表示輸入建議框;hk是反卷積操作的核,核的大小等于輸出特征映射的大小與輸入提案的大小的比值。此外,當(dāng)建議框的寬度大于輸出特征圖的固定寬度,且高度小于輸出特征圖的固定高度時,采用式(1)中的反卷積運算來擴大建議框的高度,通過最大池化來減小建議框的寬度。使用CARoI池化層,建議框的大小已經(jīng)被調(diào)整為固定的大小,同時仍然可以提取來自小建議框的鑒別特征。
采用優(yōu)化的Faster R-CNN模型對輸電線路零部件進行檢測后,可以獲得缺陷定位結(jié)果。在此基礎(chǔ)上,對結(jié)果進行二次修正能夠進一步提升檢測效果。在統(tǒng)計與控制理論中,卡爾曼濾波作為一種遞推預(yù)測濾波算法,應(yīng)用廣泛且功能強大:它提供了一種高效可計算的方法來估計信號的過去和當(dāng)前狀態(tài),甚至能估計將來的狀態(tài),并能夠?qū)ΜF(xiàn)場采集的數(shù)據(jù)進行實時的更新和處理,比基于單個測量估計更加準(zhǔn)確,即使無法得知模型的確切性質(zhì)[26]。因此,本文采用卡爾曼濾波對模型的檢測結(jié)果進行修正??柭鼮V波器利用線性系統(tǒng)狀態(tài)方程,可以看作狀態(tài)變量在由觀測生成的線性空間上的射影。其原理公式如下:
(2)
卡爾曼濾波主要通過建模、時間更新和測量更新以及迭代3個步驟來實現(xiàn)。其中,建模如下:
xk=Axk-1+Buk+wk-1,
(3)
式中,uk表示控制信號,其值為0;wk-1為噪音函數(shù);xk為信號;A,B為矩陣系數(shù);k表示狀態(tài)下標(biāo)。
觀測量如下:
Zk=Hxk+Vk,
(4)
式中,Zk代表狀態(tài)k下的測量值;Vk為噪音函數(shù),通常服從高斯分布;H為系數(shù)矩陣。
時間更新和測量更新主要包含5個方程,時間更新階段的2個方程如下:
(5)
(6)
測量更新階段的3個方程如下:
(7)
(8)
(9)
本文的軟件及硬件環(huán)境如表2所示。實驗基于深度學(xué)習(xí)開源框架Tensorflow和Keras,采用Python語言進行編程。
表2 實驗環(huán)境Tab.2 Experimental environment
在實際應(yīng)用場景下,由于采集條件的限制,輸電線路零部件缺陷檢測中面臨著采集完備有缺陷樣本困難以及檢測精度低的問題,而深度學(xué)習(xí)算法又需要大量的數(shù)據(jù)集作為支撐。針對故障樣本數(shù)量不足的狀況,為訓(xùn)練性能良好的缺陷檢測模型,本文采用一種圖像增強方法。圖像增強的目的是為了提升模型對缺陷圖像的敏感性,獲得足夠的樣本以供模型深度訓(xùn)練,有效降低過擬合風(fēng)險,從而提高缺陷檢測模型的泛化能力。圖像增強方法對采集到的原始圖像進行變亮、加噪、平移和仿射等擴展處理。增強結(jié)果如圖5所示。
(a) 原圖
(b) 亮化
(c) 加噪
(d) 平移
(e) 仿射圖5 圖像增強結(jié)果Fig.5 Image enhancement results
為了測試本文所提算法的檢測效果,將現(xiàn)有的樣本通過上述圖像增強后進行數(shù)據(jù)標(biāo)注,然后將其按8∶1∶1的比例隨機劃分為訓(xùn)練集、測試集和驗證集。為加速模型訓(xùn)練和減少過擬合風(fēng)險,在訓(xùn)練過程中凍結(jié)預(yù)訓(xùn)練模型中的每一批歸一化層的權(quán)重,并將RPN和分類器輪流訓(xùn)練。采用Adam算法[27]來優(yōu)化邊界框回歸的損失函數(shù),損失函數(shù)中平衡參數(shù)λ設(shè)置為0.5,RPN和分類器的初始學(xué)習(xí)率設(shè)置為0.002,動量值設(shè)置為0.8,批次大小Batch_Size設(shè)為32。在迭代總數(shù)達到80%時將學(xué)習(xí)率調(diào)為0.000 2,共訓(xùn)練迭代2 000次。
為測試訓(xùn)練好的模型的檢測效果,本文通過P(Precision),R(Recall),mAP(mean Average Precision),IoU和T來評價其各方面性能。P和R的計算如式(10)和式(11)所示,式中,TP(True Positive)為正確樣本被識別為正樣本的數(shù)量;FP(False Positive)為負樣本被錯誤識別為正樣本的數(shù)量;FN為正樣本被錯誤識別為負樣本的數(shù)量。平均精度AP(Average Precision)是Precision-Recall(P-R)曲線所圍成的面積,AP值表示單個類別的識別準(zhǔn)確率,計算如式(12)所示。mAP表示所有類別總體識別準(zhǔn)確率,與AP值之間的關(guān)系如式(13)所示。IoU的計算如式(14)所示,式中,S交為預(yù)測框和實際框之間的重疊區(qū)域,S并為預(yù)測框和實際框所占有的總區(qū)域。T為網(wǎng)絡(luò)模型檢測一張圖片所需時間,用來評價算法的檢測速度。
(10)
(11)
(12)
(13)
(14)
本實驗采用提出的改進算法對輸電線路幾種關(guān)鍵部件進行初步檢測,并在此基礎(chǔ)上對檢測結(jié)果進行卡爾曼濾波修正。圖6所示為具有代表性的不同類型部件的缺陷檢測結(jié)果,其中,左側(cè)為經(jīng)過改進模型的初步檢測結(jié)果,右側(cè)為通過卡爾曼濾波修正后的缺陷定位結(jié)果。根據(jù)檢測結(jié)果可以明顯看出,針對尺寸較大部件的缺陷,改進的模型均能有效地定位與識別,但對于部分細微部件的缺陷檢測精度有所下降。經(jīng)過卡爾曼濾波后,對于細微部件的缺陷檢測也能達到與大尺寸缺陷相當(dāng)?shù)木取>C合分析以上實驗結(jié)果,本文設(shè)計的改進算法結(jié)合卡爾曼濾波修正對于輸電線路關(guān)鍵部件的缺陷圖像檢測效果良好。
(a) 絕緣子缺陷初步(左)檢測及修正后(右)檢測結(jié)果
(b) 線夾子缺陷初步(左)檢測及修正后(右)檢測結(jié)果
(c) 金具缺陷初步(左)檢測及修正后(右)檢測結(jié)果圖6 具有代表性的輸電線路不同部件缺陷檢測結(jié)果Fig.6 Representative defect detection results of different components of transmission lines
為了進一步驗證本文所提方法的優(yōu)越性,在相同的數(shù)據(jù)集上分別與YOLO,SSD,MS-CNN,原始Faster R-CNN及改進Faster R-CNN進行對比實驗。實驗中,使用mAP,IOU及檢測速度來評價各方法的性能,不同方法的檢測結(jié)果對比如表3所示。由表3可以看出,本文所提出的改進Faster R-CNN模型+卡爾曼濾波與原始Faster R-CNN及改進Faster R-CNN相比,精度分別提高了11.05%和4.94%。在檢測效率方面,該方法處理一張圖像需要0.12 s,相比于其他單階段的檢測算法速度略慢,而原始的Faster R-CNN框架需要2 s,MobileNet架構(gòu)顯著提高了該方法的處理速度。在所有比較方面都沒有具有主導(dǎo)性能的絕對贏家,MS-CNN檢測精度較高,然而其檢測時間較長。YOLO模型檢測單張圖片僅需0.04 s,但對比于其他方法精度較低。綜合分析表中6種方法在相同測試樣本下的對比結(jié)果,本文提出的改進Faster R-CNN+卡爾曼濾波綜合性能最佳,在缺陷檢測效果方面具有顯著優(yōu)勢,能夠滿足輸電線路缺陷檢測需求。
表3 不同檢測方法的性能比較Tab.3 Performance comparison of different detection methods
本文對輸電線路設(shè)備缺陷檢測問題進行深入研究,提出了一種基于深度卷積神經(jīng)網(wǎng)絡(luò)和卡爾曼濾波的故障檢測方法。為了提高在大規(guī)模變化、目標(biāo)遮擋等復(fù)雜環(huán)境中的檢測精度和模型魯棒性,本文首先采用輕量級MobileNet構(gòu)建Faster R-CNN框架的骨干網(wǎng)絡(luò),提高了模型檢測速度;其次,在RPN網(wǎng)絡(luò)后采用soft-NMS算法,解決冗余候選框的問題;最后,在不忽略重要上下文信息的前提下使用CARoI池化調(diào)整候選框到指定大小。此外,本文還提出一種卡爾曼濾波修正方案以進一步提升模型檢測精度。在同一數(shù)據(jù)集上將該方法與其他檢測算法進行評估比較,實驗結(jié)果表明,該方法在處理速度上略遜色于單階段檢測算法,但在檢測精度方面取得了良好的效果,綜合性能最佳。此外,該框架可以很容易地擴展和應(yīng)用于其他環(huán)境背景下的缺陷識別,具有一定的參考價值。