張秋雁，朱儻，肖書舟，楊忠，曾華榮，張馳，李國濤

1. 貴州電網(wǎng)責(zé)任有限公司 電力科學(xué)研究院，貴州 貴陽 550002

2. 南京航空航天大學(xué) 自動化學(xué)院，江蘇 南京 211106

在電能傳輸過程中保障輸電線路安全穩(wěn)定高效運(yùn)行具有重要意義[1]。近些年來，因?yàn)榉棚L(fēng)箏、氣球等人為活動導(dǎo)致產(chǎn)生輸電線路異物、進(jìn)而影響電力系統(tǒng)穩(wěn)定運(yùn)行的事件絡(luò)繹不絕，嚴(yán)重的甚至造成了跳閘事故，致使部分片區(qū)電力系統(tǒng)陷入癱瘓，因?yàn)檩旊娋€路懸掛的異物會使電力線發(fā)生短路，放電距離縮短[2]。因此，采取措施來發(fā)現(xiàn)并清除這些異物具有重要意義。輸電線路上懸掛的異物主要有風(fēng)箏、氣球、塑料薄膜類的垃圾以及鳥類在桿塔上搭建的巢穴。早期的清障任務(wù)由人工來完成，但有些異物位于比較偏遠(yuǎn)的地區(qū)，且多附著在高壓線上，人工來清除這些輸電線路異物存在極大的安全隱患，并且清除操作難度也很大。之后提出采用爬行機(jī)器人、無人機(jī)等方式清障。攜帶噴火裝置的無人機(jī)[3]清理異物對操作人員的技術(shù)是一項(xiàng)挑戰(zhàn)，突然急劇上升的溫度會加速線路的勞損，影響輸電效率。再后來提出用傳統(tǒng)的人工特征提取方法識別出異物后采用物理抓取來清障：文獻(xiàn)[4]通過檢測輸電導(dǎo)線外形輪廓判斷異物存在與否；文獻(xiàn)[5]通過梯度法獲取電力線邊緣，并選取霍夫變換累加器中局部極大值個(gè)數(shù)與最終檢測到的線路數(shù)量作為異物特征向量來檢測異物，檢測效果受復(fù)雜背景、噪聲等因素影響，精度較低。

近年來深度學(xué)習(xí)成為了熱點(diǎn)技術(shù)，擺脫了傳統(tǒng)機(jī)器學(xué)習(xí)帶來的一些弊端。神經(jīng)網(wǎng)絡(luò)不易受檢測目標(biāo)的幾何變換、形變、光照等因素影響，降低了異物附著在輸電線上產(chǎn)生的形變帶來的識別難度[6]；且它能自動生成檢測目標(biāo)所對應(yīng)的特征，避免了人工設(shè)計(jì)特征的煩瑣，相較于傳統(tǒng)目標(biāo)檢測算法具有顯著優(yōu)勢。基于深度學(xué)習(xí)的目標(biāo)檢測算法分為一階段和二階段2 類，二階段算法需要生成大量候選框，計(jì)算量極為龐大，檢測速度很慢，在實(shí)際工業(yè)應(yīng)用上完全無法達(dá)到實(shí)時(shí)檢測的程度，這類算法的代表是快速區(qū)域卷積神經(jīng)網(wǎng)絡(luò)（faster region-convolutional neural network，F(xiàn)aster RCNN）[7]。文獻(xiàn)[8]采用圖像合成技術(shù)擴(kuò)充數(shù)據(jù)集，并采用Faster R-CNN 實(shí)現(xiàn)輸電線異物識別，但是該方法生成的數(shù)據(jù)集質(zhì)量較差，模型訓(xùn)練效果不佳。沈茂東等[6]優(yōu)化了候選框，設(shè)計(jì)了一種名為TLFOD Net 的網(wǎng)絡(luò)結(jié)構(gòu)，提高了模型性能，但最終的模型運(yùn)算速度仍然很慢。而一階段算法則通過神經(jīng)網(wǎng)絡(luò)訓(xùn)練后不產(chǎn)生候選框，直接回歸目標(biāo)的類別置信度和位置坐標(biāo)，因此可獲得較快速度，這類算法的代表是一階段多框檢測（single shot multibox detector，SSD）[9]和YOLO[10?13]系列算法。文獻(xiàn)[14]改進(jìn)了YOLOv4 的特征金字塔和損失函數(shù)，改進(jìn)的YOLOv4 針對輸電線路異物檢測性能得到了提升。文獻(xiàn)[15]將Darknet-53 網(wǎng)絡(luò)插入了RepVGG 模塊并添加了多尺度檢測，提升了檢測性能，但精度和速度仍然有限。

YOLOv4 是目前的主流目標(biāo)檢測算法，具有較好的檢測效果。它在初步特征提取網(wǎng)絡(luò)采用CSPDarkNet53[16]作為骨干網(wǎng)絡(luò)，加強(qiáng)特征提取網(wǎng)絡(luò)加入了空間金字塔池化(spatial pyramid pooling， SPP)[17]模塊和路徑聚合網(wǎng)絡(luò) (path aggregation network，PAN)[18]模塊，進(jìn)一步提取有效特征。由于本文構(gòu)建的輸電線路異物數(shù)據(jù)集大部分為小目標(biāo)，且尺度上存在一定程度的扭曲，導(dǎo)致原先默認(rèn)規(guī)范的尺度框無法完全準(zhǔn)確標(biāo)定異物目標(biāo)，因此本文利用K-means 聚類生成新的錨點(diǎn)框，提升模型魯棒性；同時(shí)采用優(yōu)化的快的空間金字塔池化（spatial pyramid pooling-fast，SPPF）模塊替代原始的SPP 模塊，加快運(yùn)行檢測速度；最后引入在深層網(wǎng)絡(luò)中更具優(yōu)勢的SiLU 激活函數(shù)替換原始的全部激活函數(shù)，進(jìn)一步提升了模型性能。

1 輸電線異物數(shù)據(jù)集

1.1 數(shù)據(jù)集采集

由于針對高壓輸電線路的異物檢測沒有公開數(shù)據(jù)集，因此本文自建了該類檢測的數(shù)據(jù)集，主要通過網(wǎng)絡(luò)采集圖像、無人機(jī)拍攝、視頻逐幀分解以及Adobe Photoshop（PS）技術(shù)等方式生成相關(guān)圖像，圖像背景基本都是高壓輸電線路場景。圖1 為構(gòu)建數(shù)據(jù)集的流程。最終獲得數(shù)據(jù)集共包含4 579 張圖片，分為4 類，其中鳥巢2 541 張、氣球704 張、風(fēng)箏691 張、垃圾643 張。將數(shù)據(jù)集按照7∶2∶1 劃分為訓(xùn)練集、驗(yàn)證集和測試集。訓(xùn)練集用于模型擬合樣本；驗(yàn)證集用于驗(yàn)證模型擬合效果，從而調(diào)整超參數(shù)；測試集用于最終測試模型在該檢測任務(wù)中的泛化性。

圖1 構(gòu)建數(shù)據(jù)集流程

1.2 數(shù)據(jù)集標(biāo)注

本文數(shù)據(jù)集采用Labelimg 標(biāo)注，得到的XML 文件記錄了每張圖片中異物種類、矩形框坐標(biāo)，用于模型訓(xùn)練。

1.3 數(shù)據(jù)集在線增強(qiáng)

由于模型對于數(shù)據(jù)量的需求極大，越多的數(shù)據(jù)投入生成的模型可獲得的性能越好、泛化性越強(qiáng)。為了增大數(shù)據(jù)集規(guī)模，采用了多種數(shù)據(jù)增強(qiáng)方式，具體見表1?？紤]到部分圖片背景涉及到電線桿塔，故不采用隨機(jī)垂直翻轉(zhuǎn)。

表1 在線數(shù)據(jù)增強(qiáng)方法

2 改進(jìn)YOLOv4 異物檢測算法

2.1 網(wǎng)絡(luò)結(jié)構(gòu)

如圖2 所示，輸入尺寸大小416×416 的圖片，依次通過骨干網(wǎng)絡(luò)、加強(qiáng)特征提取網(wǎng)絡(luò)向檢測頭輸出13×13、26×26、52×52 這3 種不同尺度大小的特征層；參考CSPNet 改進(jìn)的CSPDarkNet53[19]作為其骨干網(wǎng)絡(luò)，使用ResNet 的殘差邊思想修改了殘差塊CSP-X，添加了一條大的殘差邊來保留淺層信息，其中X代表殘差組件的數(shù)量。在骨干網(wǎng)絡(luò)中使用Mish[20]激活函數(shù)替代Leaky ReLU 激活函數(shù)，頸部部分設(shè)計(jì)了SPP 空間金字塔池化模塊和路徑聚合網(wǎng)絡(luò)來對不同尺度的信息進(jìn)行提取和融合。最后通過探測頭進(jìn)行分類回歸，輸出檢測結(jié)果。

圖2 改進(jìn)YOLOv4 網(wǎng)絡(luò)結(jié)構(gòu)

2.2 訓(xùn)練技巧

2.2.1 Mosaic 數(shù)據(jù)增強(qiáng)

YOLOv4 算法的數(shù)據(jù)增強(qiáng)方法除了采用了常規(guī)的隨機(jī)水平翻轉(zhuǎn)、縮放、色域變換等操作，還根據(jù)Cutmix 的原理提出了一種Mosaic 數(shù)據(jù)增強(qiáng)方式。其具體實(shí)施方法是從數(shù)據(jù)集中隨機(jī)選取4 張圖片，將4 張圖片分別進(jìn)行縮放，放置于4 個(gè)不同方向?qū)?yīng)的角落，空白區(qū)域用灰色填充，最后將其拼接在一起構(gòu)成一張新圖片，如圖3 所示。生成的新圖片豐富了檢測背景，同時(shí)由于采用了不同程度的縮放，加強(qiáng)了對小目標(biāo)的檢測。而我們的數(shù)據(jù)集中主要標(biāo)注的為大目標(biāo)，小目標(biāo)樣本匱乏，因此采取Mosaic 數(shù)據(jù)增強(qiáng)十分必要，能使魯棒性更好，并且在批標(biāo)準(zhǔn)化的計(jì)算過程一次性計(jì)算4 張圖片，減輕了圖像處理單元（graphic processing unit，GPU）的負(fù)擔(dān)。

圖3 圖像縮放與圖像拼接

2.2.2 標(biāo)簽平滑

標(biāo)簽平滑采用懲罰機(jī)制。當(dāng)分類過于準(zhǔn)確時(shí)給予懲罰，避免模型過度自信，兩端極值往中間靠一點(diǎn)，避免出現(xiàn)過擬合。訓(xùn)練數(shù)據(jù)的過程中，一方面考慮到準(zhǔn)備的數(shù)據(jù)集并不算大，無法覆蓋實(shí)際生活中的所有情況；另一方面數(shù)據(jù)集規(guī)模越大，越難以保證標(biāo)注目標(biāo)均正確，一旦標(biāo)注錯誤，會對模型的訓(xùn)練帶來不利影響。因此，采用標(biāo)簽平滑技術(shù)訓(xùn)練出來的模型對于樣本量不足和少量標(biāo)注錯誤都具有一定的“容忍度”，提高了模型的泛化性。策略公式為

式中：y′為標(biāo)簽平滑后的類別真實(shí)值標(biāo)簽； ε為標(biāo)簽平滑因子，用于控制標(biāo)簽平滑的程度；y為類別真實(shí)值標(biāo)簽；c為總類別數(shù)。

采用標(biāo)簽平滑后，模型不僅要考慮訓(xùn)練樣本中正確分類標(biāo)簽的類別損失，還會添加一個(gè)錯誤類別標(biāo)簽的損失，導(dǎo)致最終的類別損失增大、訓(xùn)練難度提升；因此改進(jìn)模型要訓(xùn)練到原來模型的最低損失值，就需要學(xué)習(xí)訓(xùn)練得更好，加強(qiáng)模型的學(xué)習(xí)能力。為此設(shè)置了對比實(shí)驗(yàn)如表2 所示，采用YOLOv4 網(wǎng)絡(luò)，僅調(diào)整標(biāo)簽平滑因子 ε的取值，其他訓(xùn)練參數(shù)不變。其中平均精度均值（mean average precision，mAP）指標(biāo)越高代表網(wǎng)絡(luò)模型整體的檢測精度越高。由實(shí)驗(yàn)結(jié)果可知，標(biāo)簽平滑因子 ε取值為0.005 時(shí)最合適。

表2 標(biāo)簽平滑因子取值對比實(shí)驗(yàn)

2.2.3 余弦退火衰減

在文獻(xiàn)[21]中引入了余弦退火的學(xué)習(xí)率下降方式。在優(yōu)化過程中，為了找到全局最優(yōu)解，避免訓(xùn)練過程中梯度下降算法陷入局部最優(yōu)，通過余弦退火衰減算法（圖4）在學(xué)習(xí)率下降到一定程度后，通過重啟突然提高學(xué)習(xí)率跳出局部最優(yōu)，重新去尋找全局最優(yōu)解。給定一個(gè)較大的學(xué)習(xí)率后，學(xué)習(xí)率先緩慢下降然后加速下降，再緩慢下降，下降到一定程度后通過重啟操作，學(xué)習(xí)率重新回到一個(gè)較大的值，再重復(fù)之前的學(xué)習(xí)率衰減方式，這種下降模式配合學(xué)習(xí)率能產(chǎn)生較好學(xué)習(xí)效果。其實(shí)現(xiàn)方法為

圖4 余弦退火衰減

式中： ηt為學(xué)習(xí)率，ηmax和ηmin分別為最大和最小學(xué)習(xí)率，Tcur為當(dāng)前迭代次數(shù)，Ti為第i輪的迭代次數(shù)。當(dāng)Tcur=Ti時(shí)，表明已經(jīng)迭代到最后一輪，此時(shí)學(xué)習(xí)率為最小值ηt=ηmin；每次重啟后當(dāng)Tcur=0時(shí)，學(xué)習(xí)率為最大值ηt=ηmax。

2.3 K-means 聚類優(yōu)化目標(biāo)框

原模型采用的3 種尺寸的錨點(diǎn)框是由COCO 數(shù)據(jù)集中80 類目標(biāo)聚類得到，參數(shù)具有普適性。但是本文構(gòu)建的輸電線路異物數(shù)據(jù)集大部分均為小目標(biāo)，且尺度上存在一定程度的扭曲等情況，導(dǎo)致原先默認(rèn)的規(guī)范的尺度框無法完全準(zhǔn)確標(biāo)定異物目標(biāo)，因此采用K-means 聚類，對數(shù)據(jù)集不同尺寸大小目標(biāo)進(jìn)行聚類分析，通過生成的聚類來重新選擇更合適的寬高尺寸。傳統(tǒng)的Kmeans 聚類通過計(jì)算兩者之間的歐式距離來衡量2 個(gè)對象是否屬于同一簇，但這么做存在的問題是當(dāng)進(jìn)行錨點(diǎn)計(jì)算時(shí)會促使大的邊界框相應(yīng)產(chǎn)生大的誤差，因此本文通過采用計(jì)算聚類中心和異物目標(biāo)的IOU 值來衡量聚類結(jié)果：

式中：Bbox為聚類框，Ccentroid為簇中心框，IOU 代表兩者之間的交并比。最終通過聚類生成的錨點(diǎn)框如表3 所示，并給出了不同錨點(diǎn)框的mAP。

表3 不同大小錨點(diǎn)框

由于本文數(shù)據(jù)集大部分標(biāo)記框大小接近，尺寸比較集中，因此通過K-means 聚類算法產(chǎn)生的錨點(diǎn)框也較為集中，從大、中、小尺寸對應(yīng)的錨點(diǎn)框大小就可以看出來其相差并不大，而這也無法體現(xiàn)模型在多尺度輸出的優(yōu)勢。進(jìn)一步分析發(fā)現(xiàn)，數(shù)據(jù)集中標(biāo)注框尺寸也有較多比得到的錨點(diǎn)框尺寸要大，這樣在訓(xùn)練時(shí)對模型的要求也更高，那么最終得到的輸出也會因?yàn)檫@些誤差而使損失值更大。因此考慮到本文目標(biāo)多為小中尺寸，因此采用K-means 聚類后生成的小中尺寸的錨點(diǎn)框，保留原始大尺寸的錨點(diǎn)框，構(gòu)成最終的9 組錨點(diǎn)框。由表3 數(shù)據(jù)看到測精度得到明顯提升，證明了該方法的可行性。

2.4 優(yōu)化的SPPF 模塊

原始的SPP 是使用不同尺寸的池化核對卷積后的輸出進(jìn)行最大池化，從而產(chǎn)生不同尺度的更大的感受野，獲得的上下層特征更顯著，從而能提取出更豐富的圖像特征。輸入并行通過4 條支路，分別對應(yīng)于最大池化核1、3、9 和13，然后拼接在一起進(jìn)一步融合，能在一定程度上解決目標(biāo)多尺度問題。

如圖5 所示，本文設(shè)計(jì)了SPPF 模塊來代替原始的SPP 模塊。SPPF 模塊設(shè)置了1 條主線通道，將輸入串行通過多個(gè)5×5 池化核。第1 條支路直接連接到輸出，相當(dāng)于1 個(gè)1×1 大小的池化核；第2 條支路經(jīng)過了1 個(gè)5×5 的卷積核，再連接到輸出；第3 條支路通過2 個(gè)5×5 的池化核，再連接到輸出，其中2 個(gè)5×5 池化核可達(dá)到1 個(gè)9×9 池化核的效果；最后一條支路通過3 個(gè)5×5 的池化核，再連接到輸出，3 個(gè)5×5 的池化核可發(fā)揮1 個(gè)13×13 池化核的效果。最終將4 條支路的輸出堆疊起來，實(shí)際的池化效果與原先的SPP 模塊相同，但實(shí)現(xiàn)更高效。每當(dāng)需要進(jìn)入下一個(gè)最大池化核時(shí)，前一個(gè)池化核已經(jīng)提前完成了部分池化操作，因此可以節(jié)省時(shí)間。改進(jìn)后的SPPF 模塊在發(fā)揮同等作用的前提下實(shí)現(xiàn)了更高的效率，可以將運(yùn)算速度提高2 倍，加快模型的收斂。

圖5 SPP 模塊和SPPF 模塊

2.5 SiLU 激活函數(shù)

原模型在路徑聚合網(wǎng)絡(luò)和預(yù)測層部分采用的激活函數(shù)為Leaky ReLU，其公式如下：

原模型中當(dāng)x<0時(shí)，系數(shù)設(shè)置為0.1，而ReLU 激活函數(shù)在取值為負(fù)時(shí)梯度為0，Leaky ReLU 為了保證輸入信息小于0 時(shí)不會完全丟失，設(shè)置了一個(gè)較小的梯度，但是該函數(shù)曲線不夠平滑。而本文采用的Sigmoid 加權(quán)線性單元（Sigmoid weighted linear unit，SiLU)激活函數(shù)是Swish[22]激活函數(shù)的特例，表達(dá)式為

式（1）對應(yīng)的曲線如圖6 所示，可以看出曲線相當(dāng)平滑，無上界有下界，并且是非單調(diào)的，對性能可以發(fā)揮有利作用，效果相較Leaky ReLU 函數(shù)更好，特別是在深層網(wǎng)絡(luò)中優(yōu)勢更加明顯。

圖6 SiLU 激活函數(shù)

3 模型訓(xùn)練與結(jié)果分析

3.1 實(shí)驗(yàn)環(huán)境

本文實(shí)驗(yàn)平臺的配置如下。操作系統(tǒng)：Windows 10；中央處理器：Intel Core i7-8700K，3.6 GHz；內(nèi)存：32 GB；圖像處理器：NVIDIA GeForce Titan Xp，12 GB；圖像處理器加速庫：CUDA 11.1，cudnn 8.0；深度學(xué)習(xí)框架：Pytorch。

3.2 實(shí)驗(yàn)參數(shù)

輸入尺寸大小為416×416，批處理大小為8，初始學(xué)習(xí)率設(shè)置為0.001，之后采用余弦退火衰減算法階段性改變當(dāng)前學(xué)習(xí)率，平滑標(biāo)簽大小設(shè)置為0.005，迭代訓(xùn)練100 個(gè)世代。

3.3 損失函數(shù)及其變化曲線

本文在自建數(shù)據(jù)集的基礎(chǔ)上分別訓(xùn)練了原始YOLOv4 模型以及疊加了不同改進(jìn)后的YOLOv4模型，圖7 給出不同訓(xùn)練條件下的損失曲線。從圖7 中可以看出，改進(jìn)后的模型擁有更快的收斂速度和更好的魯棒性，同時(shí)最終的損失值更低。

圖7 模型不同訓(xùn)練條件下的損失曲線

3.4 實(shí)驗(yàn)結(jié)果及分析

3.4.1 消融實(shí)驗(yàn)

性能指標(biāo)以mAP、幀率和存儲空間為代表，最終結(jié)果如表4 所示。文中選擇的基準(zhǔn)模型為目前主流的目標(biāo)檢測模型YOLOv4，采用K-means聚類后模型獲得了更合適的錨點(diǎn)框，mAP 提高了0.72%，錨點(diǎn)框的改動不改變模型參數(shù)，因此模型速度保持不變；之后采用SPPF 模塊用于提升SPP 部分池化效率，增強(qiáng)模型特征提取能力，mAP 提升了0.4%，并且?guī)室蚕鄳?yīng)提高了0.3；最后通過改變路徑聚合網(wǎng)絡(luò)部分和預(yù)測層部分的激活函數(shù)，采用更先進(jìn)的SiLU 激活函數(shù)，在模型速度不變的情況下精度再次提升了0.11%。整個(gè)YOLOv4 模型改進(jìn)的過程中，可以發(fā)現(xiàn)模型在不增加參數(shù)量的情況下，精度得到了逐步地提升，且速度并沒有減慢，滿足實(shí)際工業(yè)場景中對于實(shí)時(shí)性的要求。

表4 改進(jìn)YOLOv4 的消融實(shí)驗(yàn)

3.4.2 對比實(shí)驗(yàn)

除了設(shè)置消融實(shí)驗(yàn)，本文還與該類算法同屬一個(gè)系列的YOLOv5 模型進(jìn)行對比實(shí)驗(yàn)，其中YOLOv5 選取的是精度最高的x 版本。精度對比如表5 所示，由表5 可知，原版YOLOv4 與YOLOv5在精度上都不如本文提出的模型，且YOLOv5 的幀率較低，不過YOLOv5 內(nèi)存占用相對較少。其中YOLOv4 在風(fēng)箏和垃圾2 類異物的檢測中平均精度（average precision，AP）相對較低，YOLOv5 在風(fēng)箏這類樣本的學(xué)習(xí)中AP 較差，而本文模型的改進(jìn)使得4 類目標(biāo)的檢測精度都得到了一定程度的提升，且速度和內(nèi)存占用不因精度提升而受到影響。

表5 不同算法對比實(shí)驗(yàn)

3.4.3 檢測效果對比

為了比較3 種算法實(shí)際檢測效果，隨機(jī)選取了2 張輸電線路纏繞異物的圖片進(jìn)行測試，檢測效果如圖8 所示。由圖8 可以看出，第1 個(gè)場景下原模型YOLOv4 算法存在漏檢，第2 個(gè)場景下原模型YOLOv4 算法檢測的置信度僅為0.57，YOLOv5-x 算法模型檢測出了異物且取得了不錯的效果，但文中改進(jìn)的YOLOv4 算法模型的檢測效果最佳，以極高的置信度框選出了輸電線路上的異物。一方面說明本模型提升了在復(fù)雜背景下的適應(yīng)性，另一方面說明改進(jìn)后的模型精度得到了顯著提升。

圖8 檢測效果對比

4 結(jié)論

本文針對輸電線路上的異物檢測，研究了基于改進(jìn)YOLOv4 算法的實(shí)時(shí)檢測模型。

1）為了提升模型的精度，改進(jìn)了針對自建數(shù)據(jù)集生成的錨點(diǎn)框，改進(jìn)了空間金字塔池化層，優(yōu)化了模型的激活函數(shù)。改進(jìn)后的模型在不增加模型原有參數(shù)量的條件下，檢測精度得到了提升，速度幾乎不變，可以滿足實(shí)時(shí)檢測的要求。

2）自建數(shù)據(jù)集用于模型的訓(xùn)練與驗(yàn)證，最終訓(xùn)練出的模型能較好地檢測出輸電線路上存在的各類異物，但由于異物種類和尺寸的特殊性以及圖片像素問題，仍存在一定的漏檢情況。之后可不斷擴(kuò)充數(shù)據(jù)集，增強(qiáng)模型泛化性，以適應(yīng)更多變的情況。

未來工作可以繼續(xù)細(xì)分異物數(shù)據(jù)集檢測的類別，以便于工作人員針對不同種類異物采用不同清障方法。