劉云鵬，張喆，裴少通，武建華，梁利輝，馬子儒

(1.華北電力大學(xué) 電力工程系，河北 保定 071003； 2.國(guó)網(wǎng)河北省電力有限公司檢修分公司，石家莊050000)

0 引 言

絕緣子是電力系統(tǒng)中使用范圍較廣、數(shù)量較大的重要電工原件，其能否正常運(yùn)行直接關(guān)系到電網(wǎng)能否穩(wěn)定運(yùn)行。然而，由于絕緣子本身的工藝缺陷和長(zhǎng)期處在復(fù)雜的環(huán)境條件中，長(zhǎng)此以往，絕緣子很容易出現(xiàn)劣化，劣化后的絕緣子則更容易成為零值絕緣子，零值絕緣子容易使絕緣子串發(fā)生閃絡(luò)或者掉串。一旦絕緣子串發(fā)生閃絡(luò)或者掉串，電網(wǎng)將出現(xiàn)大面積停電[1]。所以，對(duì)劣化絕緣子的檢測(cè)一直是電力檢修中重要的組成部分。

研究者提出多種絕緣子狀態(tài)檢測(cè)方法[2-5]，但在電網(wǎng)實(shí)際應(yīng)用中，絕緣子狀態(tài)檢測(cè)以火花間隙法、紅外成像法兩種手段為主[6]?；鸹ㄩg隙法需要人工登桿、逐片測(cè)量，檢測(cè)效率低、工作強(qiáng)度大、安全性差，易造成誤檢、漏檢[7]；紅外成像法可實(shí)現(xiàn)遠(yuǎn)程、非接觸檢測(cè)，且不受電磁干擾，安全、可靠，結(jié)合圖像處理技術(shù)，自動(dòng)定位故障，是絕緣子智能檢測(cè)的發(fā)展方向[8]。

目前的紅外圖像劣化絕緣子片分割算法思路主要如下：對(duì)紅外圖像進(jìn)行灰度化、雙邊濾波、OTSU二值分割等預(yù)處理；通過(guò)設(shè)計(jì)特定的邊緣檢測(cè)算法，提取絕緣子串的邊緣圖像；通過(guò)統(tǒng)計(jì)分析或擬合的方式確定劣化絕緣子的位置[9-11]。

綜合以上的研究成果不難發(fā)現(xiàn)，由于過(guò)于依賴圖像預(yù)處理中的閾值設(shè)定和人為設(shè)計(jì)特征提取器，當(dāng)前的劣化絕緣子片分割提取算法不足以涵蓋多發(fā)熱源、多拍攝角度、多阻值、多位置和復(fù)雜背景等多種情況下的劣化絕緣子片分割提取。隨著人工智能鄰域深度學(xué)習(xí)方法的不斷發(fā)展，文章引入了全卷積神經(jīng)網(wǎng)絡(luò)模型，首次實(shí)現(xiàn)了深度學(xué)習(xí)方法在紅外圖像劣化絕緣子片分割提取中的應(yīng)用。通過(guò)對(duì)紅外圖像大量的有監(jiān)督學(xué)習(xí)訓(xùn)練，自動(dòng)學(xué)習(xí)并提取劣化絕緣子片的形狀、紋理等特征，同時(shí)有效排除其他發(fā)熱點(diǎn)、復(fù)雜背景等干擾源，實(shí)現(xiàn)復(fù)雜場(chǎng)景下紅外圖像中劣化絕緣子的像素級(jí)分割。

1 構(gòu)建數(shù)據(jù)集

1.1 瓷質(zhì)劣化絕緣子發(fā)熱原理

紅外熱成像屬于非接觸式檢測(cè)方法，可以實(shí)現(xiàn)物體表面的溫度測(cè)量。正常的絕緣子絕緣性能良好，泄漏電流主要存在于絕緣子表層的污穢層中，當(dāng)正常絕緣子表面污穢度較高、濕度較大時(shí)，泄漏電流會(huì)在一定程度上增加。正常絕緣子的鋼帽和瓷件同時(shí)均勻發(fā)熱。而對(duì)于劣化絕緣子來(lái)說(shuō)，常常表現(xiàn)為瓷件裂紋、表面燒灼等特征，導(dǎo)致絕緣性能降低。因此劣化絕緣子的絕緣缺陷形成新的泄露電流通道，導(dǎo)致本應(yīng)流過(guò)瓷件污穢層表面的泄露電流從缺陷處分流，最終表征為瓷件表面不發(fā)熱或微弱發(fā)熱，而鋼帽處有異常發(fā)熱。根據(jù)絕緣子的不同發(fā)熱特征，可以通過(guò)對(duì)絕緣子的紅外檢測(cè)進(jìn)行判別[12]。

1.2 劣化絕緣子紅外檢測(cè)實(shí)驗(yàn)方法

為了獲得具有典型代表性的劣化絕緣子發(fā)熱紅外圖片，進(jìn)行了如下試驗(yàn)，選用現(xiàn)場(chǎng)撤換下來(lái)的三傘瓷質(zhì)劣化絕緣子為試品，其阻值分別為7.5 MΩ、19 MΩ及150 MΩ。所用紅外成像儀型號(hào)為Fluke Ti55(參數(shù)如表1所示)，發(fā)射率選擇0.9。試驗(yàn)平臺(tái)搭建示意圖如圖1所示。

表1 Fluke Ti55紅外成像儀主要參數(shù)

圖1 劣化絕緣子紅外檢測(cè)實(shí)驗(yàn)原理圖

試驗(yàn)在不同污穢等級(jí)，溫度范圍為7℃～25℃，相對(duì)濕度為20%～80%的環(huán)境下進(jìn)行。選取劣化絕緣子置于絕緣子串的2號(hào)、 5號(hào)和7號(hào)位置進(jìn)行試驗(yàn)，其余六片均為正常片。在高壓端對(duì)絕緣子串施加65.9 kV工頻電壓，實(shí)驗(yàn)進(jìn)行2 h，每隔0.5 h用紅外成像儀對(duì)其拍攝一次。實(shí)驗(yàn)結(jié)束待絕緣子完全冷卻，再更換剩余不同阻值的低值絕緣子并依次重復(fù)以上步驟，最終拍攝到一系列污穢、溫度、濕度、拍攝角度、劣化絕緣子位置等劣化程度不同情況下的絕緣子串紅外發(fā)熱圖像。

1.3 數(shù)據(jù)集整理及標(biāo)識(shí)

試驗(yàn)所收集的典型的劣化絕緣子紅外圖像如圖2所示?？梢园l(fā)現(xiàn)在紅外圖像數(shù)據(jù)集構(gòu)建中設(shè)置了多種拍攝角度及拍攝背景，且劣化絕緣子片的鋼冒部分有明顯的異常發(fā)熱。從所收集的共401張紅外圖像中，選取320張為訓(xùn)練集用來(lái)訓(xùn)練全卷積神經(jīng)網(wǎng)絡(luò)的模型參數(shù)，40張為驗(yàn)證集用來(lái)監(jiān)督訓(xùn)練過(guò)程，41張為測(cè)試集用來(lái)測(cè)試最終的模型效果。

圖2 訓(xùn)練數(shù)據(jù)集部分典型樣本

按照Sift-Flow數(shù)據(jù)樣本集的標(biāo)準(zhǔn)格式，對(duì)所得到的紅外圖像做像素級(jí)的人工標(biāo)記作為模型參數(shù)監(jiān)督訓(xùn)練的基礎(chǔ)事實(shí)(如圖3所示)。其中黑色區(qū)域?yàn)榱踊^緣子區(qū)域。

圖3 制作訓(xùn)練樣本庫(kù)示意圖

2 算法理論

2.1 全卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)自從2012年以來(lái)，在圖像的檢測(cè)以及圖像的分類等方面取得突破性的成果和越來(lái)越廣泛的應(yīng)用。卷積神經(jīng)網(wǎng)絡(luò)的強(qiáng)大之處在于它的多層結(jié)構(gòu)可以實(shí)現(xiàn)自主性多維度地學(xué)習(xí)圖像特征以更好地抵消圖像中背景噪聲的干擾，有助于分割識(shí)別性能的提高。

文獻(xiàn)[13]在2015年IEEE計(jì)算機(jī)視覺(jué)和模式識(shí)別會(huì)議中首次提出了全卷積神經(jīng)網(wǎng)絡(luò)用于圖像的語(yǔ)義分割，其從卷積神經(jīng)網(wǎng)絡(luò)特征圖中恢復(fù)出原始輸入圖像每個(gè)像素所屬的類別，從卷積神經(jīng)網(wǎng)路圖像類別的識(shí)別進(jìn)一步延展到對(duì)像素級(jí)別的分類。

實(shí)現(xiàn)了對(duì)輸入紅外圖像中對(duì)劣化絕緣子片和其他部分的像素級(jí)別的二分類。通過(guò)全卷積神經(jīng)網(wǎng)絡(luò)把卷積神經(jīng)網(wǎng)絡(luò)中的全連接層替換成卷積層，同時(shí)對(duì)最后一個(gè)卷積層特征圖進(jìn)行上采樣計(jì)算，使得該特征圖恢復(fù)到與輸入圖像同樣大小，在保留輸入原始圖像空間信息的前提下，也保留了對(duì)輸入的每個(gè)像素進(jìn)行分類輸出預(yù)測(cè)值，實(shí)現(xiàn)了對(duì)輸入紅外圖像中劣化絕緣子片的分割提取。全卷積神經(jīng)網(wǎng)絡(luò)整體結(jié)構(gòu)如圖4所示，以下詳細(xì)描述構(gòu)成全卷積神經(jīng)網(wǎng)絡(luò)的主要結(jié)構(gòu)層實(shí)現(xiàn)原理。

圖4 全卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

卷積層：為抽象特征提取層，如圖5所示每個(gè)卷積層中包含多個(gè)卷積神經(jīng)元，通過(guò)滑動(dòng)的卷積核實(shí)現(xiàn)對(duì)不同局部特征提取，一旦該局部特征被提取后，它與其他特征間的位置關(guān)系也隨之確定下來(lái)。每個(gè)輸出的特征圖包含與多個(gè)輸入特征圖的卷積。

圖5 卷積計(jì)算原理圖

(1)

池化層(Pooling Layer)：即為經(jīng)過(guò)二次取樣運(yùn)算得到的特征圖層。對(duì)于池化層來(lái)說(shuō)，輸入的特征圖與輸出的特征圖總數(shù)量相等。通過(guò)二次取樣運(yùn)算后，每個(gè)輸出的特征圖進(jìn)行降維：

(2)

式中down表示一個(gè)下采樣函數(shù)，二次取樣運(yùn)算使得輸出的圖像在維度上縮小了n倍，每個(gè)輸出特征圖都得回應(yīng)一個(gè)屬于自己的乘性偏置β和一個(gè)加性偏置b。所采用的下采樣的n=2，即經(jīng)過(guò)二次取樣運(yùn)算后的圖像維度縮小了2倍。

反卷積層：從某種意義來(lái)說(shuō)反卷積同樣可以叫做轉(zhuǎn)置卷積或者上采樣過(guò)程，由于卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)通過(guò)抽象提取縮小了特征圖尺寸，而在全卷積神經(jīng)網(wǎng)絡(luò)中我們需要輸出和輸入尺寸相同的分割圖片，因此需要上采樣反卷積的計(jì)算，主要通過(guò)將圖片轉(zhuǎn)為矩陣和調(diào)用GEMM計(jì)算兩個(gè)步驟實(shí)現(xiàn)。

2.2 多尺度特征融合

由于紅外成像儀保存下的圖片中包含劣化絕緣子的輪廓、特征、形狀等很多細(xì)節(jié)信息，如果將具有紅外劣化絕緣子的紅外圖像經(jīng)過(guò)全卷積層后直接進(jìn)行反卷積，由于經(jīng)過(guò)多層卷積計(jì)算的圖像降維，會(huì)丟失很多的細(xì)節(jié)特征，得到的結(jié)果較為粗糙。因此為了實(shí)現(xiàn)對(duì)劣化絕緣子片更好分割效果，實(shí)現(xiàn)經(jīng)典全卷積神經(jīng)網(wǎng)絡(luò)FCN-32s模型以外，結(jié)合更淺卷積層細(xì)節(jié)特征，實(shí)現(xiàn)多尺度融合FCN-16s、FCN-8s兩種網(wǎng)絡(luò)結(jié)構(gòu)模型，最終通過(guò)實(shí)驗(yàn)效果來(lái)確定最優(yōu)的全卷積網(wǎng)絡(luò)結(jié)構(gòu)模型。圖6為多尺度三種網(wǎng)絡(luò)模型結(jié)構(gòu)示意圖。

圖6 多尺度三種網(wǎng)絡(luò)模型結(jié)構(gòu)示意圖

綜上所述，全卷積神經(jīng)網(wǎng)絡(luò)的分割方法不需要人工設(shè)計(jì)特征提取器，而是由模型算法自身通過(guò)大量樣本的訓(xùn)練自主學(xué)習(xí)獲得，擺脫了傳統(tǒng)機(jī)器學(xué)習(xí)技術(shù)在處理原始形態(tài)的自然數(shù)據(jù)方面很大的局限性，為紅外圖像中劣化絕緣子的分割提取提供了新思路。

3 訓(xùn)練測(cè)試實(shí)驗(yàn)

分別將收集到的數(shù)據(jù)集在不同尺度特征細(xì)節(jié)融合的模型FCN-32s、FCN-16s和FCN-8s三種網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行模型訓(xùn)練，同時(shí)對(duì)測(cè)試集代入訓(xùn)練后形成的模型參數(shù)通過(guò)正向傳播計(jì)算測(cè)試，完整的訓(xùn)練及模型驗(yàn)證的流程如圖7所示。

圖7 模型實(shí)驗(yàn)流程圖

模型訓(xùn)練采用工作站作為模型的訓(xùn)練測(cè)試計(jì)算平臺(tái)，相關(guān)參數(shù)指標(biāo)如表2所示?？紤]到深度學(xué)習(xí)全卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練過(guò)程對(duì)GPU顯存及計(jì)算速度要求較高，所以采用具有11G顯存的英偉達(dá)GeForce1080Ti型號(hào)的顯卡，同時(shí)配置CUDA進(jìn)行計(jì)算加速。全卷積神經(jīng)網(wǎng)絡(luò)的主網(wǎng)絡(luò)模型為VGG-16，使用ImageNet圖片數(shù)據(jù)集上已經(jīng)訓(xùn)練結(jié)束的模型參數(shù)作為訓(xùn)練的初始化參數(shù)，選用隨機(jī)梯度下降算法將訓(xùn)練集的每一張圖像為一批次，進(jìn)行模型的正向傳播以及反向傳播實(shí)現(xiàn)模型訓(xùn)練及模型參數(shù)更新。表3為全卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練的訓(xùn)練參數(shù)，通過(guò)調(diào)節(jié)優(yōu)化訓(xùn)練參數(shù)，通過(guò)觀測(cè)模型訓(xùn)練過(guò)程正確率以及誤差率的訓(xùn)練曲線，實(shí)現(xiàn)對(duì)模型參數(shù)的優(yōu)化。所采用的訓(xùn)練步長(zhǎng)分別為1×10-8、1×10-10和1×10-12三種訓(xùn)練步長(zhǎng)，采用較為常用的固定步長(zhǎng)訓(xùn)練策略，對(duì)于訓(xùn)練過(guò)程分析將會(huì)在結(jié)果分析章節(jié)詳細(xì)描述。

表2 實(shí)驗(yàn)計(jì)算平臺(tái)參數(shù)

表3 全卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練參數(shù)

4 結(jié)果分析

4.1 劣化絕緣子分割識(shí)別結(jié)果

對(duì)比FCN-8s、FCN-16s、FCN-32s三種不同程度融合更多細(xì)節(jié)特征的FCN模型，通過(guò)訓(xùn)練結(jié)束的FCN模型參數(shù)對(duì)測(cè)試集中的紅外圖像進(jìn)行測(cè)試，圖8為測(cè)試集在三種FCN模型中的測(cè)試效果圖。同時(shí)將通過(guò)傳統(tǒng)的圖像處理方法分割得到結(jié)果一并加入對(duì)比。

圖8 紅外圖片中劣化絕緣子FCN分割效果圖

從圖8中不難發(fā)現(xiàn)：傳統(tǒng)分割方法無(wú)法剔除背景中其他干擾熱源的影響；不進(jìn)行細(xì)節(jié)特征融合的FCN-32s模型的分割結(jié)果較為粗略，只能定位出劣化絕緣子所在的位置，而對(duì)劣化絕緣子鋼冒和瓷片的細(xì)節(jié)輪廓分割不明顯，無(wú)法達(dá)到實(shí)際應(yīng)用的要求，所以FCN-32s模型不適合紅外圖像中劣化絕緣子的分割；融合了部分細(xì)節(jié)特征的FCN-16s模型的分割結(jié)果比較精細(xì)，能大致分割出鋼冒和瓷片的輪廓，但在鋼冒和瓷片的連接處的分割比較粗略，同樣不是紅外圖像中劣化絕緣子分割的最佳模型；融合更多細(xì)節(jié)特征的FCN-8s模型的分割結(jié)果對(duì)紅外劣化絕緣子紋理特征的分割更為細(xì)致，能準(zhǔn)確地分割出鋼冒和瓷片的細(xì)節(jié)輪廓，所以FCN-8s模型的分割效果要優(yōu)于FCN-16s和FCN-32s。綜上所述，F(xiàn)CN-8s為紅外圖像中劣化絕緣子片分割最優(yōu)模型。

4.2 模型訓(xùn)練過(guò)程分析

為進(jìn)一步優(yōu)化全卷積神經(jīng)網(wǎng)絡(luò)模型參數(shù)，實(shí)現(xiàn)紅外圖像劣化絕緣子片最優(yōu)的全卷積神經(jīng)網(wǎng)絡(luò)模型效果，在模型訓(xùn)練的過(guò)程中分別對(duì)FCN-32s、FCN-16s和FCN-8s三種融合不同底層細(xì)節(jié)的模型進(jìn)行10萬(wàn)次的迭代訓(xùn)練，并討論模型訓(xùn)練的基礎(chǔ)學(xué)習(xí)率參數(shù)對(duì)訓(xùn)練過(guò)程的影響。

均方誤差作為模型反向傳播計(jì)算的重要參數(shù)，其可以直觀反映模型在訓(xùn)練過(guò)程中的收斂速度與程度。由圖9知，學(xué)習(xí)率為1×10-8、1×10-10、1×10-12時(shí)，均方誤差隨著模型訓(xùn)練進(jìn)行最終均穩(wěn)定在較低的值域范圍內(nèi)。在較高的學(xué)習(xí)率1×10-8下，訓(xùn)練穩(wěn)定時(shí)均方誤差維持在一個(gè)比較高的水平，此時(shí)FCN模型的參數(shù)無(wú)法取到使均方誤差盡可能小的相對(duì)較優(yōu)值；在較低的學(xué)習(xí)率1×10-12下，隨著訓(xùn)練次數(shù)的增加均方誤差下降速度過(guò)于緩慢，因此在此學(xué)習(xí)率下訓(xùn)練模型需要耗費(fèi)大量的時(shí)間；而在訓(xùn)練速取值為1×10-10時(shí)，均方誤差能在較少的訓(xùn)練次數(shù)中迅速達(dá)到穩(wěn)定的低值，因此為最佳的學(xué)習(xí)率。

圖9 不同學(xué)習(xí)率下訓(xùn)練次數(shù)與均方誤差關(guān)系

由圖10知，在合理的學(xué)習(xí)率情況下，訓(xùn)練次數(shù)的增加與深度卷積神經(jīng)網(wǎng)絡(luò)正確率成正相關(guān)的關(guān)系。直觀可以發(fā)現(xiàn)當(dāng)訓(xùn)練次數(shù)達(dá)到10萬(wàn)次時(shí)，三種模型的平均分割準(zhǔn)確率已經(jīng)趨向穩(wěn)定。其中FCN-32s模型分割的平均準(zhǔn)確率穩(wěn)定在85.10%，F(xiàn)CN-16s模型分割的平均準(zhǔn)確率穩(wěn)定在87.01%，而FCN-8s模型分割的平均準(zhǔn)確率穩(wěn)定在89.23%。我們發(fā)現(xiàn)FCN-8s模型的像素集分割的準(zhǔn)確率最高，而這也從理論上佐證了FCN-8s是相較于前兩者更加精確的分割模型，可以達(dá)到更加精細(xì)的分割效果。

圖10 訓(xùn)練次數(shù)與準(zhǔn)確率關(guān)系

總之，一個(gè)相對(duì)合適的模型訓(xùn)練速率參數(shù)對(duì)于深度卷積神經(jīng)網(wǎng)絡(luò)的正確率來(lái)說(shuō)是非常重要的。圖9、圖10表明，在選擇合適訓(xùn)練速率的情況下，會(huì)提升全卷積神經(jīng)網(wǎng)絡(luò)模型對(duì)紅外劣化絕緣子分割提取的有效性。

5 結(jié)束語(yǔ)

(1)搭建實(shí)驗(yàn)平臺(tái)，用紅外成像儀采集拍攝220 kV陶瓷式絕緣子片紅外圖片，提出一種基于深度學(xué)習(xí)的劣化絕緣子片分割提取方法，利用全卷積神經(jīng)網(wǎng)絡(luò)模型學(xué)習(xí)劣化絕緣子的紋理、形狀等特征，并實(shí)現(xiàn)了對(duì)紅外圖譜中的劣化絕緣子片進(jìn)行自動(dòng)分割提取。FCN網(wǎng)絡(luò)模型避免了傳統(tǒng)分割模型復(fù)雜的特征選擇過(guò)程，提升了分割的魯棒性和泛化能力，實(shí)現(xiàn)了端到端的特征提取的自主化與智能化；

(2)采用多尺度特征的融合方法模型，實(shí)現(xiàn)了3種FCN模型對(duì)紅外圖像中劣化絕緣子的提取，通過(guò)進(jìn)行實(shí)驗(yàn)及相關(guān)分析選擇出了對(duì)紅外圖片中劣化絕緣子分割效果最優(yōu)的FCN-8s。該模型通過(guò)對(duì)底層細(xì)節(jié)信息的特征融合，取得了較好的分割識(shí)別效果。對(duì)于批量測(cè)試的紅外圖像數(shù)據(jù)集，最優(yōu)方法的平均整體正確率為89.23%，F(xiàn)CN對(duì)紅外圖像中劣化絕緣子的分割提取有較好的識(shí)別效果；

(3)方法識(shí)別速度較快，利用GPU中相關(guān)加速運(yùn)算資源，優(yōu)化提升了FCN全卷積模型的訓(xùn)練與識(shí)別速度和效率，運(yùn)行時(shí)間滿足工程化的需求；

(4)研究結(jié)果表明，所描述的方法從人工智能理論中的新方法去對(duì)紅外成像圖譜中的劣化絕緣子片進(jìn)行分割提取，為進(jìn)一步實(shí)現(xiàn)對(duì)其他高壓電氣設(shè)備的異常發(fā)熱區(qū)域的提取打下基礎(chǔ)，具有廣闊的應(yīng)用前景。