史建勛 金 昊 常 明 姜振衛(wèi) 李 俊 劉 爭(zhēng) 俞 淵
1國(guó)家電網(wǎng)浙江嘉善縣供電有限公司,浙江 嘉善,314100
電力系統(tǒng)在國(guó)民經(jīng)濟(jì)生活中的方方面面發(fā)揮著不可或缺的重要作用,輸電線路擔(dān)負(fù)著電力的輸送和分配,在電力系統(tǒng)中起著橋梁和紐帶的作用[1-3]。然而外界自然環(huán)境如雷電、冰雪、風(fēng)振及部分地質(zhì)災(zāi)害等常常造成輸電線路導(dǎo)線斷股,嚴(yán)重危害電力系統(tǒng)的正常運(yùn)行,給國(guó)民經(jīng)濟(jì)生活造成巨大損失。因此,及時(shí)精確快速查找識(shí)別輸電線斷股就顯得尤為重要。
傳統(tǒng)的輸電線路異常檢查可分兩類:一類是人工檢測(cè)法,主要依靠人力沿輸電線路目視檢測(cè),此方法費(fèi)事費(fèi)力,效率低下,且在山區(qū)丘陵等地形復(fù)雜區(qū)域難以開展工作;另一類是直升機(jī)檢測(cè)法,在直升機(jī)上搭載光學(xué)儀器,以紅外成像儀和三維激光掃描為主,通過人眼查找紅外圖像或者三維模型異常來檢測(cè)斷股故障,此方法依然離不開人工干預(yù),且儀器設(shè)備昂貴,維修養(yǎng)護(hù)價(jià)格不菲,不利于大范圍推廣應(yīng)用。
無人機(jī)(unmanned aerial vehicle,UAV)技術(shù)的快速發(fā)展為電力線路異常故障檢測(cè)帶來了一種新穎的解決方案[4-6]。無人機(jī)搭載相機(jī)沿電力線路巡檢逐漸取代傳統(tǒng)的人工檢測(cè)法和直升機(jī)檢測(cè)法,此方法降低了作業(yè)成本、提高了工作效率,改變了電力線路巡檢的作業(yè)模式。無人機(jī)可采集海量的電力線路圖像資料,若采用人工判讀檢測(cè)導(dǎo)線斷股缺陷,則會(huì)耗費(fèi)大量時(shí)間,且判讀結(jié)果具有一定的主觀性,不利于快速準(zhǔn)確檢測(cè)斷股缺陷,不利于發(fā)揮無人機(jī)電力線路巡檢的技術(shù)優(yōu)勢(shì)。
傳統(tǒng)基于圖像的輸電線斷股檢測(cè)技術(shù)主要分為3類:①基于目標(biāo)物邊緣的檢測(cè)技術(shù);②基于目標(biāo)物閾值的檢測(cè)技術(shù);③基于目標(biāo)物區(qū)域的檢測(cè)技術(shù)。在基于上述傳統(tǒng)圖像處理技術(shù)的斷股檢測(cè)方面,國(guó)內(nèi)學(xué)者進(jìn)行了相關(guān)研究。仝衛(wèi)國(guó)等[7]采用Canny算子,基于Freeman連碼和紋理分析相結(jié)合的方法實(shí)現(xiàn)了斷股識(shí)別;楊爍等[8]通過對(duì)圖像進(jìn)行去噪、閾值分割來獲取電線邊緣特征,基于邊緣異常實(shí)現(xiàn)斷股檢測(cè);齊國(guó)順等[9]采用已設(shè)定模板與目標(biāo)圖像進(jìn)行對(duì)比,利用相似度測(cè)量函數(shù)檢測(cè)斷股缺陷位置;李泊等[10]通過導(dǎo)線輪廓信息實(shí)現(xiàn)斷股檢測(cè),利用形變體檢測(cè)算法提高了斷股檢測(cè)的準(zhǔn)確度。盡管如此,上述斷股檢測(cè)算法在實(shí)際應(yīng)用中還存在一些不足之處:①?zèng)]有顧及圖像的空間信息,僅考慮某單一信息,因此合適的閾值選取困難;②對(duì)噪音較為敏感,容易出現(xiàn)邊界不連續(xù)及雙邊界的現(xiàn)象;③存在過度分割的問題。
近年來深度學(xué)習(xí)(deep learing)技術(shù)在計(jì)算機(jī)圖像處理領(lǐng)域發(fā)展迅速,取得了突破性進(jìn)展,國(guó)內(nèi)學(xué)者也將其引進(jìn)電力系統(tǒng)圖像處理領(lǐng)域,進(jìn)行了一些探索性研究。王萬(wàn)國(guó)等[11]利用RCNN(region convolutional neural network)深度學(xué)習(xí)算法實(shí)現(xiàn)了電力小部件的識(shí)別,分析了多種算法的性能與效果,驗(yàn)證了基于深度學(xué)習(xí)的電力小部件識(shí)別的可行性;付晶等[12]利用層次模型“與或圖”對(duì)目標(biāo)進(jìn)行分解表達(dá),建立部件間的約束機(jī)制,構(gòu)建多向判別的路徑方法,實(shí)現(xiàn)了電力線路設(shè)備缺陷的檢測(cè);劉云鵬等[13]利用區(qū)域建議網(wǎng)絡(luò)的Faster RCCN深度學(xué)習(xí)算法實(shí)現(xiàn)了輸變電設(shè)備紅外圖像發(fā)熱故障的識(shí)別與定位。上述這些研究實(shí)現(xiàn)了深度學(xué)習(xí)算法在電力設(shè)備缺陷檢測(cè)中的實(shí)際應(yīng)用,盡管部分算法有其一定的局限性,但其為高效快速、精準(zhǔn)智能地檢測(cè)電力設(shè)備缺陷提供了一種可行的解決思路與研究方向。
為此本文提出了一種基于深度學(xué)習(xí)的無人機(jī)巡檢圖像導(dǎo)線斷股檢測(cè)方法,收集整理無人機(jī)巡檢圖像數(shù)據(jù)樣本,采用深度學(xué)習(xí)理論體系中的全卷積網(wǎng)絡(luò)(fully convolution networks,F(xiàn)CN)算法,對(duì)模型進(jìn)行訓(xùn)練、優(yōu)化及驗(yàn)證,最終實(shí)現(xiàn)導(dǎo)線斷股智能檢測(cè)。
深度學(xué)習(xí)概念是由Hiton[14]在2006年提出,作為機(jī)器學(xué)習(xí)的一個(gè)分支,近十多年來一直是該領(lǐng)域的研究熱點(diǎn)和前沿。深度學(xué)習(xí)本質(zhì)是上一種將隱含在多層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中的高層次信息進(jìn)行建模的方法[15]。
基于深度學(xué)習(xí)的圖像識(shí)別與分類技術(shù)的主要特點(diǎn)是僅需要向網(wǎng)絡(luò)輸入大量的原始圖像,而不需要人為設(shè)定圖像特征,即不需要或者僅需少量的圖像進(jìn)行預(yù)處理,而由已設(shè)計(jì)好的深度網(wǎng)絡(luò)算法對(duì)圖像進(jìn)行處理,提取高層次的圖像抽象信息,從而輸出帶有像素類別或其他標(biāo)簽的且與原始圖像同分辨率的結(jié)果圖像。
全卷積網(wǎng)絡(luò)(FCN)算法是由Long等[16]在2017年提出,其核心思想是利用全卷積層代替卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network,CNN)中的全連接層。FCN網(wǎng)絡(luò)由下采樣和上采樣兩部分組成,下采樣包括卷積層和池化層,上采樣包括反卷積層和softmax分類層。CNN的局限性在于其全連接層只能接受固定大小的輸入圖像,而FCN可以接受任意大小的輸入圖像。FCN在最后一個(gè)卷積層利用反卷積對(duì)特征圖像進(jìn)行上采樣,在保留原始輸入圖像細(xì)節(jié)信息的同時(shí),對(duì)輸入圖像的每一個(gè)像素做出一個(gè)預(yù)測(cè),即每一個(gè)像素對(duì)應(yīng)一個(gè)訓(xùn)練樣本,從而使得輸出圖像的大小與輸入圖像保持一致,實(shí)現(xiàn)了語(yǔ)義級(jí)別的圖像檢測(cè)分割[17]。
由于斷股部分占整個(gè)原始圖像的比例相對(duì)較低,經(jīng)過FCN網(wǎng)絡(luò)多次池化之后會(huì)造成斷股信息細(xì)節(jié)損失,不利于提高識(shí)別精度。針對(duì)上述問題,本文提出了改進(jìn)方法,即在FCN網(wǎng)絡(luò)下采樣中利用部分卷積層代替池化層,如此可保留更多的斷股細(xì)節(jié)信息,從而提高FCN網(wǎng)絡(luò)對(duì)斷股的是識(shí)別精度,本文采用的FCN網(wǎng)絡(luò)構(gòu)架如圖1所示。
圖1 導(dǎo)線斷股檢測(cè)FCN構(gòu)架Fig.1 FCN Framework for Strand Broken Detection
2.2.1 數(shù)據(jù)集增強(qiáng)
為了提高網(wǎng)絡(luò)的泛化能力,同時(shí)避免過度擬合問題,本文采用剪切、翻轉(zhuǎn)、旋轉(zhuǎn)操作對(duì)圖像進(jìn)行增強(qiáng)處理,獲得盡可能多的圖像,以提高強(qiáng)網(wǎng)絡(luò)的旋轉(zhuǎn)不變性特性。其中剪切操作以導(dǎo)線斷股位置為中心,保留盡可能多的斷股細(xì)節(jié)信息。圖2為經(jīng)過增強(qiáng)處理后的圖像數(shù)據(jù)集。
圖2 數(shù)據(jù)集增強(qiáng)處理后的部分?jǐn)?shù)據(jù)Fig.2 A Part of Image Data After Data Set Enhancement Processing
2.2.2 網(wǎng)絡(luò)激活函數(shù)
當(dāng)前神經(jīng)網(wǎng)絡(luò)模型多選用修正線性單位(rectified linear unit,ReLU)作為激活函數(shù),其數(shù)學(xué)表達(dá)式為:
式中,若x≤0,則有y(x)=0;若x>0,則y(x)=x。其函數(shù)圖像如圖3所示。在實(shí)際應(yīng)用中,經(jīng)過卷積操作后的輸出值往往會(huì)產(chǎn)生大量的負(fù)值,以零值取代負(fù)值就會(huì)造成大量輸入信息的丟失,不利于網(wǎng)絡(luò)對(duì)特征信息的提取,最終導(dǎo)致網(wǎng)絡(luò)識(shí)別準(zhǔn)確率的下降。因此上述激活函數(shù)適用性有限。
圖3 ReLU激活函數(shù)Fig.3 ReLU Activation Function
雙邊修正線性單元(bilateral rectified linear unit,BReLU)有效地解決了ReLU函數(shù)由于梯度彌散而導(dǎo)致的信息丟失缺陷問題,其函數(shù)圖像如圖4所示,其數(shù)學(xué)表達(dá)式如下:
圖4 BReLU激活函數(shù)Fig.4 BReLU Activation Function
式中,y代表圖像輸入;f(y)代表輸出;tmin和tmax為BReLU激活函數(shù)的邊緣常量值,其中tmin<0,tmax>1,當(dāng)tmin=0并且tmax不存在時(shí),BReLU激活函數(shù)退化成ReLU激活函數(shù),本文選用BReLU作為網(wǎng)絡(luò)激活函數(shù)。
2.2.3 網(wǎng)絡(luò)損失函數(shù)
損失函數(shù)的值越小,則網(wǎng)絡(luò)的預(yù)測(cè)準(zhǔn)確度越高,網(wǎng)絡(luò)訓(xùn)練的目的就是最小化損失函數(shù)。本文利用softmax函數(shù)對(duì)特征圖層中的每一個(gè)像素點(diǎn)進(jìn)行深度方向上的計(jì)算,再和輸入的真實(shí)標(biāo)簽進(jìn)行交叉熵計(jì)算,作為網(wǎng)絡(luò)的損失函數(shù)。softmax函數(shù)的表達(dá)式為:
式中,softmaxj(x)為輸出結(jié)果中輸入類別為j的概率;x i為各種輸入;N為總類別數(shù)。
交叉熵函數(shù)表達(dá)式為:
式中,H(p,q)為交叉熵;p為期望輸出的概率分布;q為實(shí)際輸出的概率分布,兩個(gè)概率分布程度越接近,則交叉熵值越小。
2.2.4 網(wǎng)絡(luò)訓(xùn)練環(huán)境
操作系統(tǒng)選用64位Ubuntu16.04,Python選用Anaconda3 Python3.6,深度學(xué)習(xí)庫(kù)選用Tensor-Flow1.12.0,處 理 器 選 用Intel i5-6500 3.20Ghz,GPU選用NVIDIA GeForce GTX 1080Ti。
2.2.5 網(wǎng)絡(luò)訓(xùn)練結(jié)果
圖5為網(wǎng)絡(luò)訓(xùn)練曲線變化,其中紅色標(biāo)記為精度曲線,綠色標(biāo)記為損失曲線,經(jīng)過400次迭代訓(xùn)練之后,兩種曲線后期表現(xiàn)平滑,準(zhǔn)確率趨近于1,損失函數(shù)值趨近于0,此時(shí)網(wǎng)絡(luò)趨近于收斂狀態(tài)。
圖5 網(wǎng)絡(luò)精度曲線與損失曲線Fig.5 Network Accuracy Curve and Loss Curve
實(shí)驗(yàn)數(shù)據(jù)來自于某電網(wǎng)支路精細(xì)化巡檢工程,該工程采用無人機(jī)空中作業(yè)方式對(duì)電網(wǎng)支路導(dǎo)線進(jìn)行斷股檢測(cè)。無人機(jī)型號(hào)為大疆精靈4 Pro V 2.0,如圖6所示,自帶云臺(tái)相機(jī),其主要技術(shù)參數(shù)如表1所示,采集的原始圖像數(shù)據(jù)大小為5 472×3 078像素。
圖6 大疆精靈4 Pro V2.0Fig.6 DJI Wizard 4 Pro V 2.0
表1 大疆精靈4 Pro V2.0技術(shù)指標(biāo)Tab.1 DJI Genie 4 Pro V 2.0 Technical Indicators
對(duì)原始圖像集數(shù)據(jù)進(jìn)行數(shù)據(jù)集增強(qiáng)處理后,獲得新數(shù)據(jù)集共計(jì)1 000張圖像,每張圖像大小為150×150像素。實(shí)驗(yàn)將數(shù)據(jù)集分為兩部分,其中訓(xùn)練集800張圖像,測(cè)試集200張圖像。考慮到在較小尺寸圖像上訓(xùn)練出的網(wǎng)絡(luò)能夠掃描大于設(shè)計(jì)尺寸的圖像,故本文選取了較小的裁剪尺寸。數(shù)據(jù)集中包含了不同斷股程度的導(dǎo)線圖像,部分導(dǎo)線斷股現(xiàn)象非常明顯,呈分叉狀;部分導(dǎo)線斷股現(xiàn)象不明顯,僅其中一兩根斷開。多樣式的斷股特征保證訓(xùn)練的網(wǎng)絡(luò)高魯棒性和穩(wěn)健性,降低誤判和錯(cuò)判。數(shù)據(jù)樣本集示例如圖7所示。
圖7 數(shù)據(jù)集樣本Fig.7 Sample Data Set
首先利用訓(xùn)練集樣本對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,測(cè)試網(wǎng)絡(luò)的魯棒性和穩(wěn)健性;其次使用訓(xùn)練過后的網(wǎng)絡(luò)對(duì)測(cè)試集樣本進(jìn)行預(yù)測(cè)及標(biāo)記,同時(shí)對(duì)導(dǎo)線斷股圖像進(jìn)行分割,將其從背景圖像中分離出來,為后續(xù)的斷股程度分析提供依據(jù)。具體實(shí)驗(yàn)流程圖如8所示。
圖8 基于FCN模型的斷股檢測(cè)識(shí)別流程圖Fig.8 Flow Chart of Intelligent Strand Detection Based on FCN Model
圖9為基于FCN模型的斷股檢測(cè)分割結(jié)果,從中可以看出針對(duì)每一種不同程度的斷股現(xiàn)象,F(xiàn)CN模型都實(shí)現(xiàn)了斷股準(zhǔn)確檢測(cè),并將斷股與背景環(huán)境分割開來,這表明FCN模型具有較強(qiáng)的魯棒性和穩(wěn)健性,不僅能夠檢測(cè)識(shí)別非常明顯的斷股現(xiàn)象,而且一些細(xì)微的斷股也能夠識(shí)別,進(jìn)一步驗(yàn)證了FCN模型在導(dǎo)線斷股檢測(cè)分割應(yīng)用中的可行性和可操作性。
圖9 基于FCN模型的斷股檢測(cè)分割結(jié)果Fig.9 Segmentation Results of Broken Strands Detection Based on FCN Model
為了進(jìn)一步驗(yàn)證了FCN模型在實(shí)際應(yīng)用中的有效性和可行性,本文將FCN模型算法的檢測(cè)分割效果與傳統(tǒng)的檢測(cè)分割效果進(jìn)行了對(duì)比分析,結(jié)果如圖10所示。從圖10中可以看出,基于閾值的檢測(cè)分割算法和基于區(qū)域生長(zhǎng)的檢測(cè)分割算法效果欠佳,存在大量的誤分割現(xiàn)象;粒子群算法實(shí)現(xiàn)了斷股檢測(cè),但仍殘存部分背景噪音;遺傳算法較好地實(shí)現(xiàn)了斷股檢測(cè)分割,但依然有少數(shù)背景噪音無法剔除;基于FCN算法的檢測(cè)分割效果最優(yōu),得到了最精確的分割結(jié)果,幾乎完全去除了背景,為后續(xù)的斷股程度檢測(cè)分析提供了可靠依據(jù)。綜上分析,基于FCN模型在導(dǎo)線斷股檢測(cè)分割方面,相較于傳統(tǒng)的檢測(cè)分割算法,具有更高的檢測(cè)分割精度,在復(fù)雜背景噪聲下具有更好的適用性。
圖10 FCN算法與傳統(tǒng)算法的檢測(cè)分割效果對(duì)比Fig.10 Comparison of Detection Segmentation Performances Between FCN Algorithm and Traditional Algorithms
同時(shí)本文將FCN算法與常用的機(jī)器學(xué)習(xí)算法進(jìn)行了比較,重點(diǎn)分析了不同算法在導(dǎo)線斷股識(shí)別中的準(zhǔn)確率。表2為不同網(wǎng)絡(luò)算法識(shí)別準(zhǔn)確率統(tǒng)計(jì)結(jié)果,從中可以看出BP(black propagation)算法和SVM(support vector machine)算法識(shí)別準(zhǔn)確率相對(duì)較低,CNN算法和FCN算法識(shí)別準(zhǔn)確率相對(duì)較高,其中FCN算法識(shí)別準(zhǔn)確率達(dá)93.00%,遠(yuǎn)遠(yuǎn)高于其他算法,充分驗(yàn)證了本文提出的基于FCN算法的導(dǎo)線斷股智能識(shí)別方法的魯棒性和準(zhǔn)確性。
表2 不同網(wǎng)絡(luò)算法檢測(cè)準(zhǔn)確率Tab.2 Detection Accuracy of Different Network Algorithms
盡管實(shí)驗(yàn)表明,基于本文的算法識(shí)別率最高,但仍不可避免地出現(xiàn)了極少數(shù)誤判,分析認(rèn)為其原因可能與天氣及作業(yè)環(huán)境有關(guān),如強(qiáng)烈的光照、與配電線色度接近的背景環(huán)境等;另外一個(gè)可能的原因?yàn)橛糜谀P陀?xùn)練的樣本數(shù)量不是特別充足,對(duì)模型的穩(wěn)定性有一定程度的影響。
最后本文將原FCN算法與本文改進(jìn)后的FCN算法進(jìn)行比較,實(shí)驗(yàn)結(jié)果如表3所示,其中FCN-1為利用卷積層代替池化層后的FCN算法,F(xiàn)CN-2為采用BReLU激活函數(shù)的FCN算法。從表3可以看出,改進(jìn)后的FCN-1和FCN-2算法較原FCN算法識(shí)別準(zhǔn)確率有了大幅提高,分別為91.50%和92.05%,本文改進(jìn)后的FCN算法識(shí)別準(zhǔn)確率最高,達(dá)96.00%,這表明采用卷積層和BReLU函數(shù)在一定程度上保留了更多的特征信息,極大地提高了原FCN算法的識(shí)別準(zhǔn)確率。
表3 不同網(wǎng)絡(luò)算法檢測(cè)準(zhǔn)確率Tab.2 Detection Accuracy of Different Improvement Algorithms
利用無人機(jī)進(jìn)行配電導(dǎo)線路巡檢,具有快速、高效等優(yōu)點(diǎn),降低了作業(yè)對(duì)人工的依賴程度,節(jié)省了作業(yè)成本,同時(shí)提升了工作效率,逐步取代了傳統(tǒng)的人工力電力線路巡檢和直升機(jī)電力巡檢,為電力配電導(dǎo)線的日常巡檢提供了一種全新的可操作性強(qiáng)的作業(yè)模式。在此無人機(jī)獲取的圖像數(shù)據(jù)基礎(chǔ)上,本文采用深度學(xué)習(xí)FCN網(wǎng)絡(luò),實(shí)現(xiàn)了配電導(dǎo)線斷股智能化檢測(cè),改變了傳統(tǒng)的依靠人工肉眼判讀識(shí)別模式,大大提升了工作效率。最后以某電力配電導(dǎo)線巡檢項(xiàng)目的實(shí)測(cè)數(shù)據(jù)驗(yàn)證了所提出的算法,驗(yàn)證結(jié)果表明本文提出的算法具有較強(qiáng)的魯棒性和穩(wěn)健性,準(zhǔn)確識(shí)別率達(dá)93%,在實(shí)際應(yīng)用中取得了理想的效果,為配電導(dǎo)線斷股智能識(shí)別提供了一種全新的技術(shù)解決方案,具有重要的推廣應(yīng)用價(jià)值。