張紅民，李順遠(yuǎn)，周 豪

(重慶理工大學(xué) 電氣與電子工程學(xué)院，重慶 400054)

絕緣子正常工作對于電力系統(tǒng)的穩(wěn)定和安全運(yùn)行具有非常重要的作用。一般情況下，輸電線路中絕緣子所處的環(huán)境相對惡劣，因此對輸電線路中絕緣子的定期巡檢尤為重要。傳統(tǒng)的目標(biāo)檢測方法是對無人機(jī)傳回的輸電線路巡檢照片提取圖像特征，制作激勵模板，然后在圖像中滑動計算，最后根據(jù)激勵目標(biāo)分布確定絕緣子位置[1]。但這類方法性能一般，且耗時長、效率低、適應(yīng)性差，遠(yuǎn)不能滿足當(dāng)前的實際需求。

近年來，許多學(xué)者開始將深度學(xué)習(xí)的方法引入目標(biāo)檢測中。相比于傳統(tǒng)目標(biāo)檢測方法，深度學(xué)習(xí)算法識別速度更快、效率更高，已成為目標(biāo)檢測領(lǐng)域主流的方法[2-3]。目前，基于深度學(xué)習(xí)的算法主要分為二階算法(two stage)和一階算法(one stage)。2015年，Girshick等分別提出R-CNN[4]、Fast R-CNN[5]以及Faster R-CNN[6]等二階系列算法，該系列算法檢測精度有了較大的提升，但是普遍存在檢測速度較慢的問題。Redmond等[7]提出了YOLO (you look only once)一階檢測模型，將目標(biāo)檢測問題直接轉(zhuǎn)化為回歸問題，略去了二階檢測中候選框生成步驟，大大提升了檢測速度，但是犧牲了一定的檢測精度。隨后，Liu等[8]提出SSD多尺度一階檢測算法，有效地提高了一階模型檢測精度。Redmond等繼續(xù)以YOLO算法為基礎(chǔ)提出了YOLOv2[9]、YOLOv3[10]等改進(jìn)算法，使得目標(biāo)檢測算法在保證實時檢測的同時，檢測精度也有了大幅提升。

由于在絕緣子目標(biāo)檢測等實際工程應(yīng)用中，算法的準(zhǔn)確性是首要考慮因素。因此，通常選用YOLO系列中既能保證實時性又具有一定的準(zhǔn)確性，以算法體量相對較小且網(wǎng)絡(luò)復(fù)雜度相對較低的YOLOv3算法作為基礎(chǔ)算法。然后對其目標(biāo)檢測結(jié)構(gòu)進(jìn)行適當(dāng)?shù)馗倪M(jìn)以滿足實際應(yīng)用要求。文獻(xiàn)[11]針對巡檢圖像中絕緣子錯檢、漏檢問題，提出了一種分解聚合算法，對目標(biāo)進(jìn)行分解并單獨進(jìn)行檢測，提高了絕緣子檢測精度。文獻(xiàn)[12]利用Focal Loss損失函數(shù)對經(jīng)典網(wǎng)絡(luò)中的損失函數(shù)進(jìn)行改進(jìn)，并結(jié)合了多遷移學(xué)習(xí)策略進(jìn)行網(wǎng)絡(luò)訓(xùn)練，提高了絕緣子檢測精度。文獻(xiàn)[13]在經(jīng)典YOLOv3網(wǎng)絡(luò)中加入超分辨率卷積神經(jīng)網(wǎng)絡(luò)，對輸入的模糊圖像進(jìn)行處理，提高了巡檢圖像中絕緣子檢測精度。

但是，上述方法在目標(biāo)檢測精確度上均有待進(jìn)一步提高。本文受空洞卷積的啟發(fā)[14]，對經(jīng)典YOLOv3目標(biāo)檢測網(wǎng)絡(luò)的結(jié)構(gòu)進(jìn)行改進(jìn)，同時也采用了更符合絕緣子目標(biāo)特征的anchor框。改進(jìn)后的YOLOv3網(wǎng)絡(luò)結(jié)構(gòu)在召回率和目標(biāo)檢測精度2個主要指標(biāo)上都有一定的提升。

1 YOLOv3目標(biāo)檢測的基本原理

YOLOv3是一種端對端的算法，相比二階算法，它不需要利用RPN(region proposal network)網(wǎng)絡(luò)生成建議候選框[15]，而是利用檢測網(wǎng)絡(luò)將目標(biāo)的位置和類別信息直接回歸，因此算法目標(biāo)檢測更快[16]。

1.1 YOLOv3主干網(wǎng)絡(luò)

YOLOv3采用的是darknet-53框架，darknet-53代表結(jié)構(gòu)中包含52個卷積層以及1個全連接層共53層[17]，YOLOv3整體結(jié)構(gòu)如圖1所示。

圖1 YOLOv3整體結(jié)構(gòu)框圖

與CNN結(jié)構(gòu)相比，darknet-53沒有采用池化層和全連接層，而是利用步長為2的3×3卷積核降采樣操作進(jìn)行特征提取，最后通過張量拼接模塊實現(xiàn)維度擴(kuò)張。同時還借鑒了殘差網(wǎng)絡(luò)思想[18]，如圖2所示，通過殘差模塊的疊加，加深了神經(jīng)網(wǎng)絡(luò)的深度，有利于提高目標(biāo)檢測能力。并且，在每個DBL單元中加入了批歸一化層和激活函數(shù)層，有效地避免了網(wǎng)絡(luò)層數(shù)增加而帶來的梯度消失問題[19]。

圖2 YOLOv3殘差模塊結(jié)構(gòu)框圖

1.2 YOLOv3輸出網(wǎng)絡(luò)

YOLOv3網(wǎng)絡(luò)在輸出時，采用了FPN(Feature Pyramid Networks)網(wǎng)絡(luò)，其每層都是采用融合后的特征做獨立預(yù)測，加強(qiáng)了結(jié)構(gòu)內(nèi)部從下至上各個層對同一尺度圖片不同維度的特征表達(dá)。

例如當(dāng)輸入圖像尺寸為416×416×3時，經(jīng)過主干網(wǎng)絡(luò)的卷積操作后，輸出網(wǎng)絡(luò)分別對經(jīng)典圖像進(jìn)行32倍降采樣、16倍降采樣、8倍降采樣輸出判別，圖像尺寸變?yōu)?3×13、26×26、52×52。

同時，YOLOv3輸出網(wǎng)絡(luò)采用了3×3個anchor框，即3種尺度和3種比例。小尺寸anchor框用于大特征采樣圖，大尺寸anchor框用于小特征采樣圖。每個anchor框需要輸出4個位置信息以及目標(biāo)的置信度和判別種類。

2 改進(jìn)方法

經(jīng)典YOLOv3網(wǎng)絡(luò)都是針對公開數(shù)據(jù)集進(jìn)行測試，而本文的研究對象是電力巡檢圖片中的絕緣子。根據(jù)本文目標(biāo)檢測對象及其特點，主要進(jìn)行兩方面的改進(jìn)：一是將YOLOv3主干網(wǎng)絡(luò)中16倍下采樣網(wǎng)絡(luò)中卷積層替換成擴(kuò)張率為2的空洞卷積層，增大了卷積層的感受野，融合了更多的目標(biāo)信息。二是對k-means聚類算法中距離度量公式進(jìn)行改進(jìn)，得到了更適合絕緣子的anchor框的尺寸。

2.1 YOLOv3結(jié)構(gòu)的改進(jìn)

YOLOv3沒有使用池化層，而是使用步長為2的卷積進(jìn)行了5次下采樣。多次采樣操作會使得一些相對較小的目標(biāo)降低了空間分辨率，從而導(dǎo)致一些重要的目標(biāo)特征信息丟失。針對該問題一般是從增加圖像的分辨率，或者增大感受野的面積2個方面加以考慮[20]。受到空洞卷積的啟發(fā)，本文中將經(jīng)典YOLOv3主干網(wǎng)絡(luò)中16倍下采樣結(jié)構(gòu)中經(jīng)典卷積層替換成空洞卷積層，通過增大卷積層的感受野來聚合更多的特征信息，有效提高了較小絕緣子的識別準(zhǔn)確性。

空洞卷積與傳統(tǒng)卷積不同的是空洞卷積引入了1個稱為“擴(kuò)張率(dilation rate)”的參數(shù)。該數(shù)值定義了卷積核的空洞數(shù)，即處理圖像數(shù)據(jù)時各值的間距?？斩淳矸e如圖3所示。

圖3 空洞卷積示意圖

從圖3中可以看出：空洞卷積的卷積核始終保持3×3不變。當(dāng)空洞卷積中rate=1時，此時感受野大小為3×3，即為經(jīng)典卷積結(jié)構(gòu)；當(dāng)rate=2時，感受野大小變?yōu)?×7；當(dāng)rate=3時，感受野增大到了15×15。后續(xù)擴(kuò)張卷積始終滿足式(1)：

Fi+1=(2i+1-1)×(2i+2-1)

(1)

其中:Fi+1表示卷積層的感受野大小，i+1表示擴(kuò)張率。

空洞卷積最大優(yōu)點在于其在不做池化的情況下增大了感受野面積，且不改變輸出圖像尺寸。因此，改進(jìn)后的YOLOv3網(wǎng)絡(luò)是將主干網(wǎng)絡(luò)中16倍的下采樣結(jié)構(gòu)中3×3經(jīng)典卷積層用rate=2的空洞卷積層進(jìn)行替換，將感受野從3×3增大到7×7，有效融合了更多的目標(biāo)信息，提高了絕緣子的目標(biāo)檢測精度。

但在實際檢測實驗中發(fā)現(xiàn)：增大卷積層的感受野會導(dǎo)致計算量增大。為了彌補(bǔ)這個缺點，即在保證準(zhǔn)確率的情況下使檢測時間盡可能短，對殘差單元也進(jìn)行了一定的改進(jìn)，通過增加1×1單元，以減少參數(shù)計算量，同時有效融合上下層信息，其改進(jìn)結(jié)構(gòu)如圖4所示。

圖4 改進(jìn)YOLOv3主干網(wǎng)絡(luò)殘差單元結(jié)構(gòu)框圖

在YOLOv3檢測網(wǎng)絡(luò)中32倍降采樣適合用于較大目標(biāo)的檢測，8倍降采樣更適合檢測小目標(biāo)。由于絕緣子在電力巡檢圖像中占比相對其他物體一般都比較大，檢測的目的也是為下一步電力巡檢圖像中絕緣子故障診斷做準(zhǔn)備，太小的絕緣子對后續(xù)研究意義不大。綜合考慮了計算量和存儲量等因素，所以僅在主干網(wǎng)絡(luò)16倍降采樣結(jié)構(gòu)中采用空洞卷積，使改進(jìn)后的YOLOv3網(wǎng)絡(luò)精度提升且對檢測耗時影響較小。

2.2 目標(biāo)檢測框的聚類分析

YOLOv3網(wǎng)絡(luò)中初始anchor框的長寬比都是針對公開數(shù)據(jù)集，而絕緣子與公開數(shù)據(jù)集長寬比差別較大。若直接將初始anchor框用于絕緣子的檢測訓(xùn)練，將會影響網(wǎng)絡(luò)的檢測精度及損失函數(shù)收斂時間。

此外，在Faster R-CNN中anchor框均為手動設(shè)置，YOLOv3通過借鑒其思想并使用k-means聚類算法對anchor框進(jìn)行聚類分析。但k-means聚類算法中采用的歐式距離聚類[21]，易導(dǎo)致計算出的損失函數(shù)與實際值有較大的偏差。針對這一問題，在聚類過程中用式(2)代替歐式距離公式聚類計算[22]。

(2)

其中：d表示距離；IOU(boxi，Truthj)表示anchor框和標(biāo)注框的交并比；i表示anchor框序號；j表示標(biāo)注框序號。

在聚類過程中將聚類個數(shù)k值設(shè)置為9，當(dāng)目標(biāo)函數(shù)d為最優(yōu)時，此時聚類結(jié)果的平均IOU值最大，說明聚類anchor框與標(biāo)注框(ground truth框)越接近，聚類效果越好。最后通過聚類得出在絕緣子目標(biāo)中IOU值為76.51%，改進(jìn)算法后的聚類anchor框具體尺寸為275×80、278×116、267×178、83×54、256×51、159×84、82×24、27×144、120×36。改進(jìn)后的anchor框的長寬比數(shù)值更大，更符合絕緣子細(xì)長型的特點。

3 改進(jìn)網(wǎng)絡(luò)的實驗環(huán)境與訓(xùn)練過程

改進(jìn)網(wǎng)絡(luò)的實驗環(huán)境配置見表1。

表1 實驗環(huán)境

3.1 數(shù)據(jù)集制作

一般而言，深度學(xué)習(xí)訓(xùn)練過程需要的數(shù)據(jù)集中包含的樣本越多，訓(xùn)練出來的模型及參數(shù)更加準(zhǔn)確。但是目前并沒有專門針對絕緣子的數(shù)據(jù)集用于訓(xùn)練，通過對現(xiàn)有的750張不同背景、角度以及光照光強(qiáng)的絕緣子巡檢圖片，利用Retinex增強(qiáng)算法對原圖像進(jìn)行2倍增強(qiáng)并水平翻轉(zhuǎn)，將絕緣子數(shù)據(jù)集增加到1 500張得到1個自建的絕緣子數(shù)據(jù)集。

針對自建絕緣子數(shù)據(jù)集并用labelimg標(biāo)注軟件對1 500張絕緣子圖像手動標(biāo)注。數(shù)據(jù)集中絕緣子圖像分辨率為1 148×675、標(biāo)注的格式選為YOLO格式、檢測目標(biāo)命名為insulator、在訓(xùn)練過程中將數(shù)據(jù)集按照8∶2的比例分為訓(xùn)練集和驗證集。

3.2 訓(xùn)練過程

實驗部分相關(guān)參數(shù)如表2所示。由于目標(biāo)檢測種類僅為絕緣子，故迭代次數(shù)設(shè)置為5 000次。訓(xùn)練初始階段，學(xué)習(xí)效率設(shè)置為0.001，在迭代次數(shù)為1 500和2 500時學(xué)習(xí)參數(shù)分別變?yōu)?.000 1和0.000 01，有利于損失函數(shù)的加速收斂。

表2 實驗部分相關(guān)參數(shù)設(shè)置

在自建數(shù)據(jù)集上對經(jīng)典YOLOv3網(wǎng)絡(luò)和本文改進(jìn)網(wǎng)絡(luò)進(jìn)行測試，實驗結(jié)果分別如圖5、6所示。曲線圖的橫坐標(biāo)為迭代次數(shù)，縱坐標(biāo)為loss和AP值大小。圖中的loss函數(shù)值表示的是預(yù)測結(jié)果和實際結(jié)果之間的差值，根據(jù)loss值的大小，可以比較出網(wǎng)絡(luò)檢測性能的優(yōu)劣性。loss函數(shù)主要由預(yù)測中心坐標(biāo)、邊界框的寬高、類別，以及置信度誤差等幾部分組成。當(dāng)目標(biāo)函數(shù)取得最優(yōu)時，loss函數(shù)值即為損失函數(shù)值。

圖5 經(jīng)典YOLOv3網(wǎng)絡(luò)訓(xùn)練過程測試曲線

圖6 本文改進(jìn)網(wǎng)絡(luò)訓(xùn)練過程測試曲線

而圖中mAP(mean average precision)表示的是多個目標(biāo)平均精度，由于在本文中檢測的目標(biāo)僅為絕緣子，所以可以將其看作為二分類問題，mAP用AP值表示即可，AP值可在不同Recall數(shù)值下計算求得。其中TP(true positive)表示被模型預(yù)測為正的正樣本、TN(true negative)表示被模型預(yù)測為負(fù)的負(fù)樣本、FP(false positive)表示被模型預(yù)測為正的負(fù)樣本、FN(false negative)表示被模型預(yù)測為負(fù)的正樣本。AP值反映了模型對整個樣本的判定能力，即能準(zhǔn)確分類的樣本占總樣本的比重。

通過對比2個圖像中l(wèi)oss曲線可以發(fā)現(xiàn)：在訓(xùn)練前期兩者下降速度均較快，但改進(jìn)之后的結(jié)構(gòu)在迭代1 500次時趨于穩(wěn)定，而經(jīng)典YOLOv3網(wǎng)絡(luò)在迭代2 500次左右才開始趨于穩(wěn)定。改進(jìn)之后的loss函數(shù)值最終收斂于0.84直至訓(xùn)練結(jié)束，而經(jīng)典YOLOv3的檢測網(wǎng)絡(luò)最終的loss函數(shù)值為1.34，改進(jìn)之后的網(wǎng)絡(luò)loss函數(shù)值減小了0.5。

通過對比2種檢測結(jié)構(gòu)迭代穩(wěn)定之后的AP曲線圖可知：改進(jìn)之后的AP曲線達(dá)到平穩(wěn)的速度要快于經(jīng)典YOLOv3網(wǎng)絡(luò)，且改進(jìn)之后的AP曲線平穩(wěn)性及檢測精度均優(yōu)于經(jīng)典YOLOv3網(wǎng)絡(luò)，將精度由83.9%提升高至91.8%。

4 實驗結(jié)果與分析

在算法測試中，分別從Recall值、AP值和檢測速度3方面對改進(jìn)結(jié)構(gòu)進(jìn)行評估，并與經(jīng)典YOLOv3網(wǎng)絡(luò)進(jìn)行對比，實驗對比結(jié)果如表3所示。

由表3可知：單獨對主干網(wǎng)絡(luò)中16倍下采樣結(jié)構(gòu)中卷積層進(jìn)行改進(jìn)時，由于替換了感受野更大的卷積層，使模型檢測目標(biāo)時融合了更多的目標(biāo)信息；AP值相對于經(jīng)典YOLOv3網(wǎng)絡(luò)有了較大的提升，但是空洞卷積使得計算量增大，對殘差單元進(jìn)行優(yōu)化之后，檢測速度略有提升。單獨利用改進(jìn)的目標(biāo)檢測框進(jìn)行訓(xùn)練時，采用了更合適絕緣子的anchor框尺寸有利于加快函數(shù)收斂速度，提高檢測速度。

表3 實驗結(jié)果

改進(jìn)后的YOLOv3網(wǎng)絡(luò)結(jié)構(gòu)與經(jīng)典YOLOv3網(wǎng)絡(luò)結(jié)構(gòu)相比，在AP值方面提高了7.9%，達(dá)到了91.8%；在Recall值方面提高了8.8%，達(dá)到了89.1%；且檢測速度略有提升，能夠滿足實時性要求。

為了進(jìn)一步驗證本文算法的改進(jìn)效果，利用相同的數(shù)據(jù)集與常用的目標(biāo)檢測方法Mask R-CNN、RetinaNet、YOLOv3-tiny等進(jìn)行比較，計算結(jié)果如表4所示。

表4 不同檢測網(wǎng)絡(luò)計算結(jié)果

通過對比實驗數(shù)據(jù)可以發(fā)現(xiàn)：改進(jìn)之后的算法在AP值上高于其他幾種算法，在Recall值上與YOLOv3-tiny幾乎相當(dāng)，相對于Mask R-CNN、RetinaNet算法有較大的提升；在檢測速度方面優(yōu)于Mask R-CNN、RetinaNet算法，略低于YOLOv3-tiny。因此，本文的改進(jìn)方法能有效提升實際檢測精度。

圖7為改進(jìn)YOLOv3網(wǎng)絡(luò)結(jié)構(gòu)對電力巡檢絕緣子目標(biāo)檢測結(jié)果圖，圖中一些較小的絕緣子和相互重疊的絕緣子通過本文的檢測結(jié)構(gòu)都能被準(zhǔn)確檢測出來。需要說明的是：本文主要是為下一步電力巡檢圖像中絕緣子故障診斷提供研究基礎(chǔ)，圖像中一些極小和較模糊絕緣子無后續(xù)研究意義，所以并未對巡檢圖像中極小絕緣子或者被桿塔遮擋嚴(yán)重的絕緣子進(jìn)行檢測和相應(yīng)的處理，檢測效果可能較差。

圖7 絕緣子識別結(jié)果

5 結(jié)論

針對絕緣子識別精度不足的問題，提出的方法將經(jīng)典YOLOv3主干網(wǎng)絡(luò)中16倍下采樣的經(jīng)典卷積層替換成擴(kuò)張率為2的空洞卷積層。同時，在k-means聚類算法使用改進(jìn)的距離公式進(jìn)行聚類，得到了更適合絕緣子的anchor框尺寸。實驗結(jié)果表明：改進(jìn)后的YOLOv3檢測結(jié)構(gòu)在保證實時性的前提下，有效地提高了絕緣子目標(biāo)識別的準(zhǔn)確率，可為下一步的絕緣子故障診斷提供技術(shù)支持。