劉 冉, 于會(huì)群, 王國兵

(1.上海電力大學(xué), 上海 200090; 2.上海華建電力設(shè)備股份有限公司, 上海 200090)

在傳統(tǒng)配電站房進(jìn)行開關(guān)操作時(shí),為了防止開關(guān)動(dòng)作不到位或開關(guān)誤操作,需要人工檢查以確保開關(guān)動(dòng)作到位[1]。隨著工業(yè)4.0等概念的提出,單純依靠人工的監(jiān)測(cè)方式已無法滿足智能化、實(shí)時(shí)化的管控需求,基于機(jī)器視覺的檢測(cè)方法是實(shí)現(xiàn)智能監(jiān)控的有效途徑。現(xiàn)有的實(shí)時(shí)監(jiān)控方法大多基于傳統(tǒng)的機(jī)器學(xué)習(xí)理論,即首先將智能巡檢機(jī)器人采集的視頻分解成以幀為單位的圖像,經(jīng)過預(yù)處理操作后手動(dòng)提取圖像特征,然后使用分類器識(shí)別物體狀態(tài)[2]。

以開關(guān)設(shè)備識(shí)別監(jiān)測(cè)為例,其按照形態(tài)大致可分為“把手式開關(guān)”和“旋鈕式開關(guān)”。其中,兩相把手式開關(guān)設(shè)備的旋轉(zhuǎn)鈕是不對(duì)稱的,一邊代表指向,一邊是控制把手,此類設(shè)備應(yīng)用場(chǎng)景居多。國內(nèi)外學(xué)者對(duì)開關(guān)狀態(tài)識(shí)別做了眾多研究,但在檢測(cè)精度、速度或模型復(fù)雜度方面仍有提升的空間,研究提高兩相把手式開關(guān)識(shí)別效率和數(shù)據(jù)采集精度仍具有重要意義[3]。

因此,本文在配電站房的實(shí)際應(yīng)用研究背景下,將單激發(fā)多框探測(cè)器(Single Shot Multibox Detector,SSD)算法進(jìn)行優(yōu)化改進(jìn)并應(yīng)用于兩相把手式開關(guān)識(shí)別中。首先,選擇SSD圖像識(shí)別神經(jīng)網(wǎng)絡(luò)作為兩相把手式開關(guān)識(shí)別的基本算法,并將基于卷積塊的注意機(jī)制(Convolutional Block Attention Module,CBAM)引入到該算法結(jié)構(gòu)中,構(gòu)造了一種改進(jìn)SSD算法;然后,使用智能巡檢機(jī)器人收集開關(guān)設(shè)備的圖像并制作數(shù)據(jù)集;最后,通過對(duì)大量數(shù)據(jù)樣本進(jìn)行測(cè)試,驗(yàn)證了改進(jìn)SSD算法的有效性和準(zhǔn)確性。

1 SSD算法介紹

1.1 SSD模型

SSD目標(biāo)檢測(cè)技術(shù)的網(wǎng)絡(luò)結(jié)構(gòu)由基礎(chǔ)網(wǎng)絡(luò)、預(yù)測(cè)卷積層和輔助卷積層3部分組成。其結(jié)構(gòu)原理如圖1所示。

圖1 SSD模型結(jié)構(gòu)原理

其中,VGG16是VGG(Visual Geometry Group)模型的一個(gè)深化版本,包含了16個(gè)卷積層和全連接層;Conv指卷積操作,Conv m_n指網(wǎng)絡(luò)結(jié)構(gòu)中的第m個(gè)卷積層的第n個(gè)子層;Classes指對(duì)象檢測(cè)模型需要識(shí)別的不同類別的物體或目標(biāo)的數(shù)量;S1和S2分別表示步長為1和2。SSD針對(duì)Conv4_3、Conv7、Conv8_2、Conv9_2、Conv10_2和Conv11_2特征層的每個(gè)單元,按照不同長寬比分別提取4～6個(gè)先驗(yàn)框,最終獲取8 732個(gè)先驗(yàn)框。樣本的正負(fù)通過Iou的計(jì)算公式來判斷,當(dāng)計(jì)算值小于閾值時(shí)為負(fù)樣本,反之則為正樣本。Iou的計(jì)算公式如下:

(1)

式中:Gt,Dr——真實(shí)框、先驗(yàn)框的集合。

經(jīng)Iou算法判斷后產(chǎn)生的眾多重疊檢測(cè)需要使用非極大值來抑制。其思想為從列表集合中移除得分最多的檢測(cè)框,并將其添加到最后的檢測(cè)結(jié)果中,從而篩選冗余結(jié)果。

1.2 SSD損失函數(shù)

SSD損失函數(shù)L定義為位置誤差與置信度誤差的加權(quán)和,屬于多任務(wù)損失函數(shù)。其表達(dá)式為

(2)

c——類別置信度預(yù)測(cè)值;

l——預(yù)測(cè)框;

g——真實(shí)框;

N——先驗(yàn)框的正樣本數(shù)量,當(dāng)N=0時(shí),損失則為零;

Lconf——置信損失函數(shù);

α——置信度誤差和位置誤差的權(quán)重系數(shù),通常取1;

Lloc——位置損失函數(shù)。

置信損失函數(shù)Lconf表示預(yù)測(cè)框與真實(shí)框的差值,公式如下:

(3)

(4)

式中:Pos——正樣本先驗(yàn)框;

Neg——負(fù)樣本的先驗(yàn)框;

位置損失函數(shù)Lloc公式如下:

(5)

(6)

(7)

(8)

(9)

式中:m——邊框回歸損失;

cx,cy——先驗(yàn)框d的中心坐標(biāo)(cx,cy);

w,h——先驗(yàn)框d的寬和高;

SmoothL1——一種針對(duì)回歸任務(wù)的平滑的損失函數(shù),用于目標(biāo)檢測(cè)算法中的邊界框回歸任務(wù);

2 改進(jìn)SSD算法

2.1 CBAM注意力模塊

無論通道特征值含量多少,SSD算法對(duì)各個(gè)通道處理程度均一致,但這樣處理會(huì)浪費(fèi)計(jì)算資源。為解決這一問題,先計(jì)算出每個(gè)通道的特征值含量,再對(duì)計(jì)算資源進(jìn)行合理分配,這樣就能抑制無關(guān)信息,得到更多目標(biāo)特征,使檢測(cè)精度得到提高。

目前,CBAM已經(jīng)廣泛地應(yīng)用到了深度學(xué)習(xí)的每個(gè)領(lǐng)域。其原理是:模擬人的視覺機(jī)制,將圖像的關(guān)注重心放在輔助判斷的信息上,忽視無關(guān)信息。CBAM主要由通道注意力和空間注意力組成[4]。通道注意力模塊如圖2所示。其中,Sigmoid函數(shù)為神經(jīng)網(wǎng)絡(luò)的激活函數(shù),將變量映射到0和1之間。

圖2 通道注意力模塊

圖2中輸入特征圖記為F∈RC×H×W,W,H,C分別為輸入特征圖的寬、高和通道數(shù)。通道注意力模塊的工作原理為:通過對(duì)特征圖F進(jìn)行平均池化和最大池化操作,達(dá)到壓縮特征圖F的全局空間信息的目的[5],并生成兩個(gè)尺寸為1×1×C的特征圖S1和S2;然后通過由多層感知器和一個(gè)隱含層組成的共享網(wǎng)絡(luò)層,對(duì)每個(gè)特征應(yīng)用共享網(wǎng)絡(luò)之后,得到兩個(gè)一維特征圖,即平均池化特征和最大池化特征[6]。

將這兩個(gè)一維特征圖按通道進(jìn)行元素求和,并將合并的特征通過Sigmoid函數(shù)進(jìn)行歸一化,得到各通道的尺寸為1×1×C的權(quán)重統(tǒng)計(jì)值Mc[7]。通道注意力可以表示為

Mc(F)=φ[MLP(AvgPool(F))+MLP(MaxPool(F))]

(10)

式中:φ——Sigmoid激活函數(shù);

MLP——由全連接層FC1,FC2與ReLU非線性激活函數(shù)組成的多層感知器;

AvgPool——全局平均池化;

MaxPool——全局最大池化。

空間注意力模塊如圖3所示。

圖3 空間注意力模塊

空間注意力模塊的工作原理為:在經(jīng)過通道特征重標(biāo)定后會(huì)得到特征圖F′。將其作為輸入,并在通道維度上對(duì)特征圖F′進(jìn)行平均池化和最大池化操作,使特征圖在通道維度上進(jìn)行壓縮,得到特征圖P1∈R1×H×W和P2∈R1×H×W。通過通道級(jí)聯(lián)兩個(gè)特征圖,生成一個(gè)有效的特征圖P3∈R2×H×W。隨后經(jīng)過7×7的卷積層(用f7×7表示),對(duì)P3中不同位置的信息進(jìn)行編碼和融合。最后,通過Sigmoid函數(shù)操作得到空間加權(quán)信息Ms,可用于區(qū)分圖像不同空間位置的重要程度?？臻g注意力可以表示為

Ms(F)=φ{(diào)f7×7([AvgPool(F′);MaxPool(F′)])}

(11)

CBAM注意力模塊結(jié)構(gòu)如圖4所示。

圖4 CBAM注意力模塊結(jié)構(gòu)

將輸入特征圖F與各通道權(quán)重值Mc兩個(gè)矩陣的對(duì)應(yīng)元素相乘,對(duì)F進(jìn)行特征重標(biāo)定處理,得到能夠有效體現(xiàn)特征關(guān)鍵通道信息的特征映射F′?；谕ǖ兰訖?quán),串聯(lián)空間注意力機(jī)制,并自適應(yīng)加權(quán)空間特征信息。空間注意力模塊的輸入為F′,與空間權(quán)重系數(shù)Ms兩個(gè)矩陣的對(duì)應(yīng)元素相乘,獲得包含通道位置信息和空間位置信息的顯著特征圖F″,使輸入特征強(qiáng)的部分能夠得到更多的關(guān)注,提升其空間特征選擇能力。

其過程用公式表示為

(12)

式中:?——兩個(gè)矩陣對(duì)應(yīng)元素相乘。

2.2 嵌入CBAM注意力模塊的SSD網(wǎng)絡(luò)識(shí)別模型

為了進(jìn)一步提高模型的檢測(cè)精度,將CBAM注意力機(jī)制引入到SSD算法中,改進(jìn)后的網(wǎng)絡(luò)結(jié)構(gòu)如圖5所示。

圖5 引入CBAM注意力機(jī)制的SSD網(wǎng)絡(luò)結(jié)構(gòu)

圖5中,將注意力機(jī)制加入到conv3→conv4和conv7→conv8→conv9→conv10→conv11之間,在卷積層的最后一層檢測(cè)每一張?zhí)卣鲌D,并提取相應(yīng)的先驗(yàn)框,經(jīng)過各種運(yùn)算后將其發(fā)送到非極大值抑制進(jìn)行篩選,最終輸出檢測(cè)結(jié)果。由于注意力機(jī)制的存在,改進(jìn)SSD算法在前向訓(xùn)練過程中會(huì)更加注重兩相把手式開關(guān)位置的識(shí)別,從而提高其占據(jù)比例。具體來說,注意力機(jī)制會(huì)針對(duì)輸入圖像中每個(gè)像素進(jìn)行分類,判斷其是否為兩相把手式開關(guān)位置,從而使得算法更加準(zhǔn)確地識(shí)別出兩相把手式開關(guān)的位置。通過引入注意力機(jī)制,改進(jìn)SSD算法能夠提高對(duì)于兩相把手式開關(guān)位置的檢測(cè)精度,從而提高整個(gè)系統(tǒng)的工作效率。通過對(duì)權(quán)重系數(shù)不斷地調(diào)整,不僅能夠使兩相把手式開關(guān)提高必要特征提取的效率,還能在精確定位兩相把手式開關(guān)損失函數(shù)回歸時(shí),提高損失函數(shù)計(jì)算的準(zhǔn)確率。

2.3 嵌入CBAM注意力機(jī)制的優(yōu)勢(shì)

選擇嵌入CBAM機(jī)制來改進(jìn)SSD算法時(shí),主要考慮以下幾個(gè)方面的優(yōu)勢(shì)。

(1) 提高識(shí)別精度 SSD算法是一種基于卷積神經(jīng)網(wǎng)絡(luò)的目標(biāo)檢測(cè)算法。其對(duì)于目標(biāo)邊界的識(shí)別準(zhǔn)確度較高,但對(duì)于目標(biāo)的分割準(zhǔn)確度相對(duì)較低;而CBAM機(jī)制可以通過對(duì)卷積層的輸出進(jìn)行注意力加權(quán),從而使得網(wǎng)絡(luò)更加關(guān)注對(duì)于目標(biāo)識(shí)別重要的特征,減少對(duì)于無關(guān)特征的捕捉,從而提高識(shí)別精度[8]。

(2) 降低模型復(fù)雜度 SSD算法在目標(biāo)檢測(cè)過程中需要進(jìn)行多次卷積操作,從而使得模型的參數(shù)數(shù)量較大,計(jì)算復(fù)雜度較高[9];而CBAM機(jī)制可以通過注意力加權(quán)的方式,對(duì)卷積層的輸出進(jìn)行優(yōu)化,從而減少模型的參數(shù)數(shù)量和計(jì)算復(fù)雜度,提高模型的可訓(xùn)練性和泛化能力。

(3) 適應(yīng)不同任務(wù)需求 CBAM機(jī)制可以通過對(duì)卷積層的輸出進(jìn)行注意力加權(quán),從而使得網(wǎng)絡(luò)更加關(guān)注對(duì)于目標(biāo)識(shí)別重要的特征,對(duì)于不同類型的目標(biāo)檢測(cè)任務(wù)都適用;而 SSD 算法是一種較為通用的目標(biāo)檢測(cè)算法,可以應(yīng)用于不同類型的目標(biāo)檢測(cè)任務(wù),但針對(duì)不同的任務(wù)需求,可能需要對(duì)其進(jìn)行相應(yīng)的調(diào)整和優(yōu)化[10]。

綜上所述,選擇嵌入CBAM機(jī)制來改進(jìn)SSD算法可以顯著提高模型的識(shí)別精度,降低模型的參數(shù)數(shù)量和計(jì)算復(fù)雜度,并且可以適應(yīng)不同的目標(biāo)檢測(cè)任務(wù)需求。因此,這是一種較為有效和實(shí)用的算法改進(jìn)方法。

3 改進(jìn)SSD算法在實(shí)驗(yàn)中的應(yīng)用

3.1 數(shù)據(jù)集準(zhǔn)備

為了使經(jīng)過訓(xùn)練的SSD目標(biāo)識(shí)別網(wǎng)絡(luò)更方便地識(shí)別兩相把手式開關(guān)的狀態(tài),需要一定數(shù)量的對(duì)應(yīng)開關(guān)圖像作為訓(xùn)練集。本文的兩相把手式開關(guān)圖像數(shù)據(jù)集主要來自智能巡檢機(jī)器人的現(xiàn)場(chǎng)拍攝。對(duì)智能巡檢機(jī)器人所采集到的視頻進(jìn)行抽幀處理,生成樣本圖片,通過對(duì)亮度、對(duì)比度、鏡像翻轉(zhuǎn)的調(diào)整來擴(kuò)大數(shù)據(jù)集[11],最終建立起1 000張兩相把手式開關(guān)圖像的數(shù)據(jù)集。其中:包括300張橫向狀態(tài)開關(guān)圖片,300張縱向狀態(tài)開關(guān)圖片,400張橫縱混合開關(guān)圖片。標(biāo)記的標(biāo)準(zhǔn)為目標(biāo)完整度大于50%。使用三維標(biāo)注工具labelImg對(duì)數(shù)據(jù)集進(jìn)行標(biāo)注,“horizontal”為橫向狀態(tài)的標(biāo)注標(biāo)簽,“vertical”為縱向狀態(tài)的標(biāo)注標(biāo)簽,采用VOC2007數(shù)據(jù)集格式標(biāo)記,生成1 000份XML文件,XML文件中的信息包括圖像的路徑、名稱、大小[12]。

3.2 實(shí)驗(yàn)環(huán)境準(zhǔn)備

本文所進(jìn)行訓(xùn)練及測(cè)試的實(shí)驗(yàn)環(huán)境配置如表1所示。

表1 實(shí)驗(yàn)環(huán)境配置

3.3 實(shí)驗(yàn)結(jié)果與分析

為了對(duì)本文所提出的改進(jìn)SSD算法的性能進(jìn)行評(píng)價(jià),對(duì)檢測(cè)結(jié)果和評(píng)價(jià)參數(shù)進(jìn)行分析,樣本照片按照9∶1的比例隨機(jī)分配為訓(xùn)練集和測(cè)試集。圖6為改進(jìn)SSD算法測(cè)試結(jié)果的部分圖片。從圖6中可以看出,在背景雜亂的情況下,改進(jìn)SSD算法仍能準(zhǔn)確檢測(cè)識(shí)別兩相把手式開關(guān)的狀態(tài)。

圖6 改進(jìn)SSD算法測(cè)試結(jié)果的部分圖片

為了進(jìn)一步驗(yàn)證本文提出的改進(jìn)SSD算法,使用K-最近鄰(K-Nearest Neighbor,KNN)法、反向傳播神經(jīng)網(wǎng)絡(luò)(Back Propagation Neural Network,BPNN)兩種較為成熟的圖像識(shí)別應(yīng)用方法、傳統(tǒng)的SSD算法和本文所提改進(jìn)SSD算法,分別對(duì)測(cè)試集的1 000幅圖像進(jìn)行檢測(cè)。不同算法性能評(píng)估指標(biāo)對(duì)比如表2所示,識(shí)別結(jié)果對(duì)比如圖7所示。由表2可以看出:改進(jìn)SSD算法的平均精度(Average Precision,AP)在98.66%以上,說明開關(guān)檢測(cè)精確度非常高,單個(gè)目標(biāo)檢測(cè)效果非常好;改進(jìn)SSD算法模型的平均精度均值(meam Average Precision,mAP)達(dá)到了99.10%,證明網(wǎng)絡(luò)的檢測(cè)性能在準(zhǔn)確性上達(dá)到了較高水平。

表2 不同算法性能評(píng)估指標(biāo)對(duì)比

圖7 識(shí)別結(jié)果對(duì)比

根據(jù)表2給出的數(shù)據(jù),可以得到以下實(shí)驗(yàn)結(jié)果對(duì)比描述。

KNN算法是一種基于實(shí)例監(jiān)督學(xué)習(xí)的算法,其準(zhǔn)確率較高,但對(duì)于分類問題存在一定的誤分類率。在本文實(shí)驗(yàn)中,KNN算法的mAP值為79.25%,誤檢率較高,處理速度也較慢。

BPNN算法是一種基于神經(jīng)網(wǎng)絡(luò)的算法,具有較好的分類能力和魯棒性,但需要大量的參數(shù)調(diào)整。在本文實(shí)驗(yàn)中,BPNN算法的mAP值為90.74%,誤檢率較高,參數(shù)量較大,處理速度較慢。

SSD算法是一種基于卷積神經(jīng)網(wǎng)絡(luò)的算法,具有較高的準(zhǔn)確率和較低的誤檢率,但需要一定的參數(shù)調(diào)整。在本文實(shí)驗(yàn)中,SSD算法的mAP值為95.29%,其參數(shù)量較少,處理速度較快。

改進(jìn)SSD算法是在SSD算法的基礎(chǔ)上進(jìn)行了改進(jìn),提高了準(zhǔn)確率和降低了誤檢率。在本文實(shí)驗(yàn)中,改進(jìn)SSD算法的mAP值為99.10%,誤檢率最低,參數(shù)量幾乎為零,處理速度較快。

從圖7可以看出:在KNN算法、BPNN算法和傳統(tǒng)SSD算法中,由于周圍環(huán)境和開關(guān)布局的影響,存在漏檢的情況,并且對(duì)于兩相把手式開關(guān)檢測(cè)的準(zhǔn)確性比改進(jìn)SSD算法要低。

綜上所述,改進(jìn)SSD算法相對(duì)于KNN算法、BPNN算法和傳統(tǒng)SSD算法具有更高的準(zhǔn)確率和更低的誤檢率,且不需要過多的參數(shù)調(diào)整,具有較高的實(shí)用性和應(yīng)用價(jià)值。

4 結(jié) 語

本文提出改進(jìn)SSD目標(biāo)檢測(cè)算法,用于對(duì)配電站房的兩相把手式開關(guān)狀態(tài)的識(shí)別。該識(shí)別算法在特征提取模塊中嵌入CBAM注意力機(jī)制,增強(qiáng)有用特征并抑制無用特征響應(yīng),有效地提升了檢測(cè)的精度。實(shí)驗(yàn)結(jié)果表明,改進(jìn)SSD算法模型的mAP達(dá)到了99.10%。在智能巡檢機(jī)器人中運(yùn)用該算法不僅可以降低人工巡檢操作出現(xiàn)問題的可能性,還能提高兩相把手式開關(guān)狀態(tài)的識(shí)別效率,提高了配電站房的智能化水平。