楊學(xué)杰，宋 凱，曹付勇，王一夔，許榮浩

（1.國網(wǎng)山東省電力公司淄博供電公司，山東 淄博 255000；2.國網(wǎng)智能科技股份有限公司，山東 濟(jì)南 250101）

0 引言

當(dāng)前深度學(xué)習(xí)模型在輸變電巡檢中的應(yīng)用不斷深入，為適應(yīng)輸變電巡檢中巡檢目標(biāo)種類繁多、巡檢場景復(fù)雜的現(xiàn)狀，深度學(xué)習(xí)巡檢模型采用深網(wǎng)絡(luò)、大參數(shù)進(jìn)行訓(xùn)練。其最終模型體積大，對硬件資源占用大、推理速度慢、功耗高，過度依賴后端服務(wù)器，響應(yīng)不及時，不適用于移動設(shè)備和嵌入式設(shè)備［1］。

為解決此問題，針對輸電線路巡檢，方遠(yuǎn)征等［2］研究了無人機(jī)自動避障在輸電線路巡檢中的應(yīng)用，但無法使用無人機(jī)實(shí)現(xiàn)輸電線路自動巡檢；李寧等［3］提出了無人機(jī)巡檢數(shù)據(jù)智能管理平臺的方案，此方法需無人機(jī)將巡檢圖像回傳至后臺分析；陳嘉琛等［4］提出改進(jìn)的YOLOv3算法，需依賴高算力服務(wù)器，且識別速度無法滿足實(shí)時性要求；周仿榮等［5］提出的另一種YOLOv3 改進(jìn)方法，可在GTX 1080Ti 顯卡實(shí)現(xiàn)40 幀/s 的推理速度，但須回傳服務(wù)器；馮源等［6］提出了一種基于深度學(xué)習(xí)模型小型化技術(shù)的輸電線路智能巡檢方案，該方案主要將深度學(xué)習(xí)小型化模型應(yīng)用于輸電線路通道可視化監(jiān)拍中，其識別速度為0.5幀/s，無法滿足實(shí)時作業(yè)要求；針對變電站設(shè)備巡檢，林煒等［7］提出通過紅外圖像采集，實(shí)現(xiàn)變電設(shè)備的巡檢與缺陷檢測，但需將巡檢圖像回傳至服務(wù)器，實(shí)時性較低；尹子會等［8］提出融合邊緣計算和改進(jìn)Faster R-CNN 的變電站設(shè)備典型視覺缺陷檢測系統(tǒng)，將Faster R-CNN 模型移植進(jìn)入前端模塊，但其檢測速度低，實(shí)時性差；蘇華權(quán)等［9］提出基于邊緣計算的電網(wǎng)邊緣側(cè)設(shè)備缺陷智能識別模型，采用動態(tài)時間規(guī)整算法和樹突神經(jīng)元模型對設(shè)備缺陷進(jìn)行識別，但對在視野內(nèi)占比較小的缺陷識別率低。曾林等［10］研究了變電站機(jī)器人多維巡檢技術(shù)，結(jié)合空間區(qū)域融合濾波實(shí)現(xiàn)變電站視頻實(shí)時監(jiān)控跟蹤，但其識別模型部署于后臺服務(wù)器，實(shí)時性差；周博曦等［11］設(shè)計了基于人工神經(jīng)網(wǎng)絡(luò)與有限狀態(tài)機(jī)的變電站告警處理系統(tǒng)，對變電站告警信息進(jìn)行處理，但其拓?fù)浣Y(jié)構(gòu)復(fù)雜，網(wǎng)絡(luò)特征要求高，魯棒性較差。綜上所述，當(dāng)前在電力巡檢中，還未出現(xiàn)可同時滿足邊緣側(cè)部署、實(shí)時性高和識別精度高的巡檢模型或系統(tǒng)。

研究深度學(xué)習(xí)模型輕量化方法，提出層間合并、參數(shù)量化的模型壓縮方法，將深度學(xué)習(xí)模型體積壓縮為原模型的60%，降低模型內(nèi)存占用和推理顯存占用，模型推理效率提升10～20 倍；研究輕量化模型在電力巡檢邊端側(cè)的應(yīng)用方式，結(jié)合輸變電巡檢場景，設(shè)計電力巡檢圖像前端化目標(biāo)檢測系統(tǒng)，與輸電線路巡檢無人機(jī)及云端無人機(jī)管控系統(tǒng)結(jié)合，形成輸電線路無人機(jī)智能巡檢系統(tǒng)，與變電站巡檢機(jī)器人和變電站監(jiān)控設(shè)備結(jié)合及集控站服務(wù)器結(jié)合，對變電站巡檢設(shè)備進(jìn)行智能化升級，構(gòu)建輸變電“云-邊-端”協(xié)同運(yùn)檢體系，提升電力巡檢效率、降低了巡檢成本。

1 模型輕量化方法

針對模型輕量化要求模型體積小、推理速度快的特點(diǎn)，基本模型選擇目標(biāo)檢測經(jīng)典網(wǎng)絡(luò)YOLOv3［12］，YOLOv3 為單階段檢測方法，共107 層網(wǎng)絡(luò)，其中，0～74 層為卷積層和res 層；75～106 層為YOLO 網(wǎng)絡(luò)的特征交互層，具備檢測、分類和回歸功能［13］。其模型占用存儲空間最小為240MB，在移動設(shè)備對1 920×1 080 分辨率視頻最快推理速度為0.5 幀/s。為降低模型占用內(nèi)存，提高推理速度，須在保持模型精度的同時，減少模型網(wǎng)絡(luò)層數(shù)、權(quán)重參數(shù)個數(shù)及推理計算復(fù)雜度［14-17］，針對此問題提出層間合并、參數(shù)量化的模型輕量化方法，對模型網(wǎng)絡(luò)層進(jìn)行合并剪枝與參數(shù)復(fù)用合并，降低網(wǎng)絡(luò)層數(shù)和權(quán)重參數(shù)數(shù)量；對權(quán)重參數(shù)進(jìn)行低精度量化，減少模型推理計算過程的復(fù)雜度和計算量。層間合并剪枝，首先對豎直方向網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行整合，豎直方向同一結(jié)構(gòu)的網(wǎng)絡(luò)層合并為一個卷積層、偏置量和激活函數(shù)的合并層（Convolution Bias and Relu，CBR），然后將水平方向同結(jié)構(gòu)的CBR 層合并為一層，最后將cancat的輸入和input 合并，減少數(shù)據(jù)在網(wǎng)絡(luò)結(jié)構(gòu)的傳輸路徑，減少傳輸吞吐量，最終實(shí)現(xiàn)復(fù)雜網(wǎng)絡(luò)結(jié)構(gòu)的精簡。層間合并剪枝如圖1 所示。其中，conv 為卷積層；bias為偏置量；relu為激活函數(shù)；concat為網(wǎng)絡(luò)層連接計算；max pool 為最大池化層；input 為網(wǎng)絡(luò)層輸入；next input為下一層網(wǎng)絡(luò)輸入。

圖1 層間合并剪枝實(shí)現(xiàn)方案

權(quán)重參數(shù)整型量化，主要是通過減少表示每個權(quán)重所需的比特數(shù)來壓縮原始網(wǎng)絡(luò)［18］，主要方式包括二值化網(wǎng)絡(luò)［19］、三值化網(wǎng)絡(luò)［20］轉(zhuǎn)化及int8 量化等。因YOLOv3 模型每個層的權(quán)重參數(shù)范圍基本確定，且波動不大，故可以通過量化實(shí)現(xiàn)模型內(nèi)存占用的減少和計算量的降低。int8量化相比二值化網(wǎng)絡(luò)和三值化網(wǎng)絡(luò)，保留的權(quán)重特征更多，更容易通過微調(diào)實(shí)現(xiàn)精度的保留［21］，本文使用int8 對卷積計算過程中的float32類型數(shù)據(jù)進(jìn)行量化。

float32 量化為int8，首先準(zhǔn)備一個校準(zhǔn)數(shù)據(jù)集，并對模型的每一層收集激活值的直方圖，基于不同的閾值將激活值映射到±128 范圍內(nèi)，對校準(zhǔn)數(shù)據(jù)進(jìn)行推理，產(chǎn)生不同的量化分布，然后計算每個分布與原分布的相對熵，選擇相對熵最小的分布，作為最終的模型映射閾值。int8量化過程如圖2所示。

圖2 int8量化過程

經(jīng)層間合并、參數(shù)量化的模型輕量化方法對YOLOv3 模型進(jìn)行壓縮后，YOLOv3 模型性能比較如表1所示。

表1 YOLOv3模型輕量化前后性能

經(jīng)模型輕量化方法對YOLOv3 進(jìn)行輕量化壓縮后，其模型占用存儲空間降低為原模型的60%，顯存占用降低為原模型的40%，推理速度比原模型提升20倍。

2 電力巡檢圖像前端化目標(biāo)檢測系統(tǒng)設(shè)計

邊緣側(cè)設(shè)備可通過部署輕量化模型，形成電力巡檢圖像前端化目標(biāo)檢測系統(tǒng)，對終端執(zhí)行部件進(jìn)行智能控制，實(shí)現(xiàn)邊緣側(cè)執(zhí)行設(shè)備的智能作業(yè)。輕量化模型在邊緣側(cè)設(shè)備的部署內(nèi)容主要包括：輕量化模型的移植、視頻圖像等信息流的采集與預(yù)處理、信息流的推理及結(jié)果輸出和邊緣側(cè)設(shè)備與執(zhí)行設(shè)備的交互。電力巡檢圖像前端化目標(biāo)檢測系統(tǒng)整體設(shè)計架構(gòu)如圖3 所示。電力巡檢圖像前端化目標(biāo)檢測系統(tǒng)包括信息流處理接口模塊、處理器模塊、推理結(jié)果顯示接口模塊、交互通信接口模塊。其中，處理器模塊作為邊緣設(shè)備的中心模塊主要負(fù)責(zé)對信息流數(shù)據(jù)的分發(fā)和輕量化模型加載及對信息流的推理；信息流接收處理接口模塊負(fù)責(zé)由設(shè)備獲取視頻圖像等信息流，并對信息流進(jìn)行預(yù)處理，然后送入處理器模塊，有推理芯片對信息流進(jìn)行推理檢測，將檢測結(jié)果傳入推理結(jié)果顯示接口和交互通信接口；交互通信接口負(fù)責(zé)與終端執(zhí)行機(jī)構(gòu)的交互控制，根據(jù)處理器推理結(jié)果，控制執(zhí)行機(jī)構(gòu)進(jìn)行相應(yīng)的運(yùn)動；推理結(jié)果顯示接口負(fù)責(zé)將推理結(jié)果以可視化的方式呈現(xiàn)在顯示設(shè)備上。

圖3 電力巡檢圖像前端化目標(biāo)檢測系統(tǒng)整體設(shè)計架構(gòu)

電力巡檢圖像前端化目標(biāo)檢測系統(tǒng)的核心在于獲取視頻圖像等信息流，并對信息流進(jìn)行推理的過程，此過程直接對1 920×1 080 視頻流進(jìn)行推理最快只有10 幀/s，實(shí)時性不夠強(qiáng)，本文采用批處理的方式，可實(shí)現(xiàn)20 幀/s 的處理速度，具體實(shí)現(xiàn)方案為：以h264 格式的視頻流為例，首先獲取一批8 幀的h264視頻流進(jìn)行解碼，獲取完整的視頻流信息，將8 幀h264 數(shù)據(jù)流信息按順序合并為一幀視頻流信息，將視頻流信息送入推理芯片進(jìn)行推理，將推理結(jié)果重新解析為8 幀數(shù)據(jù)結(jié)果輸出。視頻流推理實(shí)現(xiàn)方案如圖4所示。

圖4 視頻流推理方案

3 電力巡檢圖像前端化目標(biāo)檢測系統(tǒng)在輸變電巡檢的應(yīng)用

電力巡檢圖像前端化目標(biāo)檢測系統(tǒng)在輸變電巡檢中的應(yīng)用，基于視覺反饋伺服控制策略，實(shí)現(xiàn)機(jī)器人相機(jī)視頻流推理，自動檢測識別輸變電設(shè)備缺陷在圖像中的位置，實(shí)時調(diào)整云臺保持目標(biāo)在視場中央，并控制相機(jī)自動變焦，對缺陷進(jìn)行自主采集。視覺反饋伺服控制策略實(shí)現(xiàn)方案如圖5所示。

圖5 視覺反饋伺服控制策略實(shí)現(xiàn)方案

3.1 電力巡檢圖像前端化目標(biāo)檢測系統(tǒng)在輸電線路巡檢無人機(jī)的應(yīng)用

將電力巡檢圖像前端化目標(biāo)檢測系統(tǒng)與輸電線路巡檢無人機(jī)及云端無人機(jī)管控系統(tǒng)結(jié)合，設(shè)計了輸電線路無人機(jī)智能巡檢系統(tǒng)，建立了輸電線路巡檢“云-邊-端”協(xié)同運(yùn)檢體系。其系統(tǒng)組成如圖6 所示，無人機(jī)管控系統(tǒng)作為云端，負(fù)責(zé)整體無人機(jī)作業(yè)管控規(guī)劃，無人機(jī)與電力巡檢圖像前端化目標(biāo)檢測系統(tǒng)構(gòu)成“邊-端”側(cè)，可實(shí)現(xiàn)大視場下小目標(biāo)的實(shí)時搜索定位與載荷平臺視覺反饋控制和巡檢過程中桿塔、絕緣子、金具等設(shè)備缺陷的實(shí)時自主辨識與自主采集。電力巡檢前端化目標(biāo)檢測系統(tǒng)由無人機(jī)云臺相機(jī)獲取視頻流，對視頻流進(jìn)行實(shí)時推理檢測，獲取缺陷設(shè)備在相機(jī)視場的位置，通過飛控系統(tǒng)，調(diào)整無人機(jī)飛行姿態(tài)和相機(jī)的云臺方向，將缺陷設(shè)備調(diào)整至視野中央，開啟自動采集功能，實(shí)現(xiàn)缺陷設(shè)備的現(xiàn)場實(shí)時自主識別和自動采集，同時將設(shè)備缺陷信息上傳至云端無人機(jī)管控系統(tǒng)，生成設(shè)備缺陷信息，下發(fā)至巡檢人員。

圖6 輸電線路無人機(jī)智能巡檢系統(tǒng)組成

輸電線路無人機(jī)智能巡檢系統(tǒng)與人工巡檢功能比較如表2所示。

表2 智能巡檢系統(tǒng)與人工巡檢比較

智能巡檢系統(tǒng)與人工巡檢相比，圖像分析方式由人工上傳后臺的非實(shí)時升級為實(shí)時分析，圖像分析效率為20 幀/s，可實(shí)現(xiàn)設(shè)備缺陷的全自主分析和自動采集，作業(yè)效率提升至原來的5倍。

3.2 電力巡檢圖像前端化目標(biāo)檢測系統(tǒng)在變電站巡檢機(jī)器人中的應(yīng)用

變電站巡檢機(jī)器人和變電站監(jiān)控終端搭載電力巡檢圖像前端化目標(biāo)檢測系統(tǒng)，與變電站邊端后臺及集控站云端大腦結(jié)合，構(gòu)建變電站“云-邊-端”協(xié)同運(yùn)檢體系，對變電站巡檢機(jī)器人和變電站監(jiān)控終端進(jìn)行智能升級，如圖7 所示。能夠?qū)崿F(xiàn)變電站設(shè)備缺陷的邊緣側(cè)智能識別與缺陷自主采集，并將結(jié)果上傳至集控站；集控站云端服務(wù)器開展樣本收集及模型訓(xùn)練，將更新后的模型推送至邊端設(shè)備，實(shí)現(xiàn)模型迭代更新。

圖7 變電站巡檢機(jī)器人和變電站監(jiān)控終端智能升級

將機(jī)器人巡檢相機(jī)、激光傳感器、雙目相機(jī)、雙自由云臺等多種模塊與電力巡檢前端化目標(biāo)檢測系統(tǒng)結(jié)合，對變電站巡檢機(jī)器人進(jìn)行智能化升級，架構(gòu)如圖8 所示，由雙目相機(jī)、激光雷達(dá)及GPS/慣性導(dǎo)航數(shù)據(jù)獲取導(dǎo)航數(shù)據(jù)，實(shí)現(xiàn)機(jī)器人導(dǎo)航自主規(guī)劃、并控制巡檢相機(jī)完成巡檢數(shù)據(jù)智能分析，同時控制云臺和機(jī)器人移動平臺對巡檢相機(jī)位姿進(jìn)行調(diào)整，實(shí)現(xiàn)變電站設(shè)備缺陷智能采集。

圖8 變電站巡檢機(jī)器人智能化升級架構(gòu)

變電站巡檢機(jī)器人升級前后功能及指標(biāo)對比如表3所示。

表3 變電站巡檢機(jī)器人升級前后功能及指標(biāo)對比

變電站巡檢機(jī)器人智能化升級后，圖像分析方式由后臺的非實(shí)時升級為實(shí)時分析，圖像分析效率為20 幀/s，可實(shí)現(xiàn)設(shè)備缺陷的全自主分析和自動采集，巡檢范圍可實(shí)現(xiàn)變電站自主覆蓋巡檢，巡檢時間由48 h提升至3 h，作業(yè)效率提升至原來的16倍。

4 結(jié)語

研究前端化目標(biāo)檢測技術(shù)，提出層間合并、參數(shù)量化的深度學(xué)習(xí)模型輕量化方法，模型體積壓縮為原模型的60%，模型推理效率提升10～20 倍，解決了深度學(xué)習(xí)模型網(wǎng)絡(luò)層數(shù)深、結(jié)構(gòu)復(fù)雜、存儲占用多、推理效率低的問題；將輕量化模型部署在邊緣側(cè)設(shè)備中，設(shè)計了電力巡檢圖像前端化目標(biāo)檢測系統(tǒng)，分別與無人機(jī)、變電站巡檢機(jī)器人和變電站監(jiān)控終端進(jìn)行了集成，實(shí)現(xiàn)輸電站巡檢無人機(jī)的全自主巡檢與缺陷自動采集和變電站巡檢機(jī)器人對變電站巡檢路徑自主規(guī)劃、巡檢數(shù)據(jù)智能分析和變電站缺陷的實(shí)時定位與智能采集，實(shí)現(xiàn)輸變電站機(jī)器人智能化升級，同時與后端服務(wù)器進(jìn)行協(xié)同交互，建立了“云-邊-端”協(xié)同運(yùn)檢體系，輸電線路巡檢效率提升至原來的5 倍，變電站巡檢機(jī)器人巡檢效率提升至原來的16倍。