亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        面向輕量化網(wǎng)絡(luò)的安全帽檢測算法

        2021-10-28 06:01:44蔣潤熙阿里甫庫爾班耿麗婷
        關(guān)鍵詞:結(jié)構(gòu)檢測模型

        蔣潤熙,阿里甫·庫爾班,耿麗婷

        新疆大學(xué) 軟件學(xué)院,烏魯木齊 830046

        近些年越來越多在人工智能上的研究被應(yīng)用到生活中。安全帽是工人在施工現(xiàn)場的重要防護(hù)工具,但許多工人因安全帽缺乏舒適感而選擇不佩戴,這將危及工人的生命安全[1]。因此實(shí)時(shí)監(jiān)控工人是否正確佩戴安全帽十分重要,但工地上作業(yè)環(huán)境危險(xiǎn),不適合用人力進(jìn)行實(shí)時(shí)監(jiān)控,所以考慮將機(jī)器視覺應(yīng)用其中,代替人力進(jìn)行安全帽佩戴檢測。這可以一定程度上預(yù)防安全事故的發(fā)生,保證工人的安全。

        安全帽檢測由于施工環(huán)境復(fù)雜、攝像頭拍攝角度、攝像頭距離目標(biāo)的距離遠(yuǎn)近等問題,國內(nèi)外許多學(xué)者對(duì)其進(jìn)行研究。劉曉慧等[2]利用膚色檢測定位人臉區(qū)域,將Hu矩作為圖像的特征向量,利用支持向量機(jī)(Support Vector Machine,SVM)作為分類器對(duì)安全帽進(jìn)行識(shí)別。馮國臣等[3]選取SIFT角點(diǎn)特征和顏色統(tǒng)計(jì)特征的方法進(jìn)行安全帽檢測。Park等[4]通過HOG特征提取來檢測人體,而后通過顏色直方圖識(shí)別安全帽。李琪瑞[5]提出研究如何定位頭部區(qū)域以及安全帽顏色特征的計(jì)算來檢測安全帽。雖然以上方法可以有較好的精度需求,但傳統(tǒng)檢測算法存在特征提取困難、泛化能力差等問題,還需進(jìn)一步的改進(jìn)。由于神經(jīng)網(wǎng)絡(luò)的發(fā)展,深度學(xué)習(xí)在目標(biāo)檢測領(lǐng)域已有很好的效果,許多研究者進(jìn)行研究[6]。

        基于深度學(xué)習(xí)的目標(biāo)檢測算法一般分為雙階段檢測和單階段檢測算法。雙階段檢測算法包括物體定位和圖像分類兩個(gè)步驟。主要的檢測算法包括RCNN[7]、SPP-net[8]、Fast-RCNN[9]、Faster-RCNN[10]、Mask R-CNN[11]。單階段檢測是基于回歸的檢測算法,主要使用YOLO[12]系列和SSD[13]算法。雙階段檢測算法的準(zhǔn)確度高,但所需檢測速度慢。與之相反單階段檢測雖然準(zhǔn)確率略遜,但在速度方面有較大的提升,符合本文需求。因此本文將使用單階段算法進(jìn)行檢測。由于SSD網(wǎng)絡(luò)層數(shù)不深,對(duì)特征提取不充分,所以本文使用YOLO作為檢測網(wǎng)絡(luò)[14]。許多學(xué)者也將深度學(xué)習(xí)方法應(yīng)用在安全帽檢測中。張明媛等[15]使用Faster-RCNN對(duì)安全帽進(jìn)行識(shí)別。王兵等[16]改進(jìn)GIoU計(jì)算方法并結(jié)合YOLOv3進(jìn)行安全帽檢測。施輝等[17]在YOLOv3中添加特征金字塔進(jìn)行多尺度的特征提取,獲得不同尺度的特征圖,以此實(shí)現(xiàn)安全帽的檢測。盡管上述使用的網(wǎng)絡(luò)可以實(shí)現(xiàn)對(duì)安全帽的自動(dòng)檢測,同時(shí)準(zhǔn)確率高,但以上網(wǎng)絡(luò)都是大型復(fù)雜網(wǎng)絡(luò),需要足夠的算力支持??紤]到在實(shí)際的檢測場景中,要求將算法部署在移動(dòng)端或者嵌入式設(shè)備上,而移動(dòng)端的計(jì)算能力遠(yuǎn)不如計(jì)算機(jī)等大型設(shè)備,不足以支撐大型神經(jīng)網(wǎng)絡(luò)所需的計(jì)算。

        因此為適應(yīng)其有限的計(jì)算能力,本文基于Inverted Resblock結(jié)構(gòu)重構(gòu)新的主干特征提取網(wǎng)絡(luò),跟大型網(wǎng)絡(luò)相比該網(wǎng)絡(luò)減少了參數(shù)量和浮點(diǎn)數(shù)計(jì)算,對(duì)算力的需求大大降低。同時(shí),大多數(shù)移動(dòng)端設(shè)備無法使用GPU來處理數(shù)據(jù),所以本文還考慮算法在CPU上的處理速度。這對(duì)網(wǎng)絡(luò)的輕量化要求更高,因此需進(jìn)一步壓縮模型。

        目前主要使用的模型壓縮方法包括:知識(shí)蒸餾、低秩分解、參數(shù)量化、參數(shù)剪枝等。知識(shí)蒸餾由Hinton等[18]提出,是將預(yù)訓(xùn)練好的大型網(wǎng)絡(luò)作為教師模型,并用其輸出作為網(wǎng)絡(luò)結(jié)構(gòu)較小的學(xué)生模型的輸入,可以使得學(xué)生模型具有和教師模型相當(dāng)?shù)奶幚砟芰Γ源诉M(jìn)行模型壓縮,但該方法訓(xùn)練起來復(fù)雜,并且用教師模型SoftMax層的輸出來指導(dǎo),只限于分類任務(wù),不適合本文的需求[19]。Denton等[20]提出低秩分解,通過奇異值分解技術(shù)來壓縮模型。雖然該方法將模型壓縮成原先的3倍,但只壓縮全連接層,沒有對(duì)卷積層進(jìn)行處理。參數(shù)量化[21]是將神經(jīng)網(wǎng)絡(luò)中使用的32位浮點(diǎn)數(shù)經(jīng)過線性變化轉(zhuǎn)化為8位整型數(shù)。雖然參數(shù)量化可以減少存儲(chǔ)空間,并加快網(wǎng)絡(luò)運(yùn)算速度。但需設(shè)計(jì)專門的系統(tǒng)框架,靈活度不高。相反參數(shù)剪枝[22]方法,不僅靈活度高,而且無需訓(xùn)練復(fù)雜網(wǎng)絡(luò),直接對(duì)訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行剪枝。因此本文將采用參數(shù)剪枝方法對(duì)網(wǎng)絡(luò)進(jìn)行壓縮。

        在實(shí)際工程需求中,不僅需要網(wǎng)絡(luò)有較好的精度,更重要的是網(wǎng)絡(luò)的推理速度與實(shí)時(shí)性還應(yīng)滿足需求。為提高推理速度,本文將卷積層和BatchNormalization(BN)層融合,更好地滿足實(shí)時(shí)檢測的需求。

        1 相關(guān)理論

        1.1 YOLOv5網(wǎng)絡(luò)

        YOLOv5是Ultralytics公司提出的目標(biāo)檢測網(wǎng)絡(luò),并有v5s、v5m、v5l、v5x四種不同大小的模型,v5s是其中網(wǎng)絡(luò)深度和寬度最小的模型,權(quán)重大小僅27 MB。對(duì)比YOLO系列中具有代表的YOLOv3[23]模型,其權(quán)重文件大小達(dá)到246 MB,是YOLOv5s的9.1倍,且在檢測640×640大小的圖像時(shí)參數(shù)量達(dá)到61.9×106、浮點(diǎn)運(yùn)算超過156×109,而越小的權(quán)重對(duì)移動(dòng)端的性能要求也越低,部署起來越方便[24],所以YOLOv5s比YOLOv3有更大的優(yōu)勢。YOLOv5s網(wǎng)絡(luò)主要使用BottleneckCSP結(jié)構(gòu),結(jié)構(gòu)如圖1所示。

        圖1 BottleneckCSP結(jié)構(gòu)Fig.1 BottleneckCSP structure

        BottleneckCSP結(jié)構(gòu)分為兩部分,第一部分進(jìn)行Bottleneck操作,其是一種經(jīng)典的殘差結(jié)構(gòu)[25],它經(jīng)過一次1×1和3×3的卷積操作后,將卷積結(jié)果與輸入相加。另一部分通過1×1卷積進(jìn)行降維,減少一半通道數(shù)。最后兩者合并輸出。YOLOv5系列中,將通過深度和寬度兩個(gè)參數(shù)來控制網(wǎng)絡(luò)結(jié)構(gòu)大小。在v5s中Bottleneck操作只做一次,而v5l的深度是v5s的三倍,所以將進(jìn)行三次Bottleneck操作。BottleneckCSP同理,也會(huì)受深度參數(shù)的影響。

        1.2 MobileNetv2網(wǎng)絡(luò)

        MobileNetv2[26]是兼并輕量化、速度和準(zhǔn)確率的一種專門針對(duì)移動(dòng)設(shè)備而提出的神經(jīng)網(wǎng)絡(luò)。主干由Inverted Resblock結(jié)構(gòu)塊構(gòu)成,結(jié)構(gòu)主干如圖2所示。

        圖2 Inverted Resblock結(jié)構(gòu)Fig.2 Inverted Resblock structure

        Inverted Resblock的提出是文獻(xiàn)[26]中發(fā)現(xiàn)Residual block使用的激活函數(shù)ReLU在低維時(shí)可用信息較少,容易造成信息丟失,而在高維度運(yùn)算時(shí),丟失的信息相對(duì)變少,因此構(gòu)造出該結(jié)構(gòu)。Inverted Resblock中先利用1×1卷積升維,再通過3×3的深度可分離卷積DWConv降低計(jì)算參數(shù)量,之后通過1×1卷積降維,最后將結(jié)果和輸入相接。

        1.3 模型壓縮

        通道剪枝是在已訓(xùn)練好的模型基礎(chǔ)上對(duì)網(wǎng)絡(luò)進(jìn)行稀疏訓(xùn)練;而后根據(jù)權(quán)值的絕對(duì)值進(jìn)行排序;最后設(shè)定適合的閾值或剪枝率,如果權(quán)值小于設(shè)定的范圍就會(huì)被剪枝。由于剪枝后模型會(huì)損失一定精度,還需要對(duì)剪枝后的網(wǎng)絡(luò)進(jìn)行微調(diào)來恢復(fù)網(wǎng)絡(luò)性能。模型壓縮步驟如圖3所示。

        圖3 模型壓縮步驟Fig.3 Model compression step

        1.3.1 稀疏訓(xùn)練

        稀疏訓(xùn)練通過對(duì)BN層進(jìn)行L1正則化訓(xùn)練,使BN層的權(quán)值盡可能趨向于0,被稀疏的權(quán)值將重新分配到網(wǎng)絡(luò)的其他有效層中。稀疏訓(xùn)練將直接影響剪枝后的模型是否滿足所需性能。稀疏訓(xùn)練的損失函數(shù)公式如下:

        其中,(x,y)是訓(xùn)練數(shù)據(jù)的輸入和輸出。第一項(xiàng)為卷積層訓(xùn)練的損失函數(shù)。后一項(xiàng)中,γ為BN層的縮放因子,通過改變?chǔ)玫某跏贾岛陀?xùn)練γ進(jìn)行網(wǎng)絡(luò)稀疏。g(γ)是縮放因子的損失函數(shù),來評(píng)估縮放是否合理。由于本文使用L1正則化進(jìn)行稀疏,因此g(γ)=|γ|。λ用于平衡前后兩項(xiàng)的損失。經(jīng)過稀疏訓(xùn)練后,網(wǎng)絡(luò)將變得更加密集,而后通過剪枝,得到更小的網(wǎng)絡(luò),與此同時(shí)網(wǎng)絡(luò)性能卻沒降低,甚至變得更好。Dettmers等[27]對(duì)該現(xiàn)象進(jìn)行了說明,表示稀疏網(wǎng)絡(luò)學(xué)習(xí)的是更一般、更大范圍的特征,有更好的泛化能力。

        1.3.2 剪枝與微調(diào)

        通過稀疏訓(xùn)練后,網(wǎng)絡(luò)的BN層中大部分通道數(shù)的權(quán)值都將趨近于0,此時(shí)這些層對(duì)網(wǎng)絡(luò)的貢獻(xiàn)隨之降低,剪枝后不會(huì)造成較大的性能損失。文獻(xiàn)[28]通過L1正則化對(duì)網(wǎng)絡(luò)進(jìn)行稀疏;然后對(duì)參數(shù)進(jìn)行排序;最后設(shè)定一定大小的剪枝率,將小于設(shè)定值的通道剪除。但如果網(wǎng)絡(luò)的一層中所有通道權(quán)重的絕對(duì)值都小于設(shè)定閾值,此時(shí)該層的所有通道都會(huì)被剪枝,這樣網(wǎng)絡(luò)結(jié)構(gòu)就被破壞。對(duì)于上述的情況本文選擇保留權(quán)重的絕對(duì)值最大的一層通道,以此來保證網(wǎng)絡(luò)結(jié)構(gòu)的完整。

        網(wǎng)絡(luò)在剪枝后,可以有效減少過擬合,但精度將存在一定程度的丟失,本文通過微調(diào)來恢復(fù)精度。微調(diào)的方式一般分兩種,一種是逐層剪枝,剪枝完后重新訓(xùn)練,重復(fù)多次進(jìn)行微調(diào),但此方法需要迭代多次,尤其在網(wǎng)絡(luò)結(jié)構(gòu)更深時(shí)需消耗大量的計(jì)算資源。因此本文選擇另一種方式,一次性對(duì)所有BN層進(jìn)行剪枝,然后重新訓(xùn)練來進(jìn)行微調(diào)恢復(fù)精度。

        1.4 融合卷積層和BN層

        BN層的存在可以使訓(xùn)練更穩(wěn)定,同時(shí)有效防止過擬合。因此本文的每層卷積層后面都添加了一層BN層。為加快網(wǎng)絡(luò)在CPU上的推理速度,本文考慮將卷積層和BN層融合[29]。對(duì)于Batch中的第i個(gè)樣本,令輸入樣本為x i,其經(jīng)過BN層后輸出為yi。BN層公式如下:

        其中,μ為Batch中輸入樣本的均值,σ2為Batch內(nèi)輸入樣本的標(biāo)準(zhǔn)差,ε為一個(gè)極小常數(shù),用來消除除零錯(cuò)誤。γ、β為訓(xùn)練參數(shù),通過損失函數(shù)來改變。在神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程時(shí)μ、σ2、γ、β都是變量,但在訓(xùn)練完成后這四個(gè)參數(shù)都被確定。因此在進(jìn)行推理時(shí),BN層的公式可以變?yōu)椋?/p>

        其中令:

        則:

        因此在網(wǎng)絡(luò)進(jìn)行推理時(shí),可以把BN層當(dāng)作線性操作。而對(duì)于卷積層的輸入輸出公式如下:

        其中,w和c分別表示卷積層的權(quán)重和偏置。由于式(6)、(7)都是線性表達(dá),因此本文得出可以將卷積層和BN層融合起來,公式如下:

        將卷積層與BN層相互融合,在降低參數(shù)量的同時(shí)減少推理時(shí)網(wǎng)絡(luò)的深度、加快模型推理速度。

        2 改進(jìn)后的YOLOv5網(wǎng)絡(luò)

        為解決在移動(dòng)端和嵌入式設(shè)備算力不足無法部署大型網(wǎng)絡(luò)的問題,本文從權(quán)重大小、計(jì)算量、檢測速度和精確度等方面考慮,提出HourGlass結(jié)構(gòu),并用該結(jié)構(gòu)替換YOLOv5s的主干網(wǎng)絡(luò)得到HourGlass-YOLO(HGYOLO)。同時(shí)為適應(yīng)移動(dòng)端有限的算力,對(duì)網(wǎng)絡(luò)使用通道剪枝進(jìn)一步進(jìn)行減少網(wǎng)絡(luò)參數(shù)量。融合卷積層和BN層提高檢測的速度,以便更好地滿足實(shí)時(shí)性的需求。

        2.1 HourGlass結(jié)構(gòu)

        Inverted Resblock結(jié)構(gòu)在輕量化網(wǎng)絡(luò)方面有較好的性能表現(xiàn),但Daquan等[30]解釋Inverted Resblock結(jié)構(gòu)存在梯度混淆的情況,同時(shí)1×1卷積會(huì)減少空間信息。因此根據(jù)Inverted Resblock結(jié)構(gòu)中存在的問題,本文重建新的主干網(wǎng)絡(luò)HourGlass結(jié)構(gòu),如圖4所示。

        圖4 HourGlass結(jié)構(gòu)Fig.4 HourGlass structure

        HourGlass結(jié)構(gòu)中先進(jìn)行3×3的DWconv,再利用1×1卷積降維,降維后進(jìn)行3×3的DWconv,然后用1×1卷積重新升維,最后將結(jié)果和輸入相接。因?yàn)镮nverted Resblock存在梯度混淆,所以本文重新使用Residual block。又使用1×1卷積會(huì)減少空間信息,因此在輸入后加入一個(gè)3×3的DWconv來獲取更多的空間信息。而針對(duì)Residual block存在的激活函數(shù)在低維時(shí)信息丟失的問題,本文將其設(shè)置在第一個(gè)DWconv和最后一個(gè)1×1卷積中來解決,以此構(gòu)建新的網(wǎng)絡(luò)HourGlass。該結(jié)構(gòu)的公式描述如下:

        其中,F(xiàn)表示輸入張量,G表示輸出張量,Φi,p、Φi,d分別表示第i次的1×1卷積和3×3深度可分離卷積。HourGlass這種設(shè)計(jì)結(jié)構(gòu)讓更多的空間信息傳入神經(jīng)網(wǎng)絡(luò),使深度可分離卷積可以進(jìn)行更豐富的特征提取。

        2.2 HourGlass-YOLO

        將YOLOv5s的主干網(wǎng)絡(luò)替換為HourGlass結(jié)構(gòu)。改進(jìn)后的HG-YOLO網(wǎng)絡(luò),如圖5所示。

        圖5 改進(jìn)后的網(wǎng)絡(luò)結(jié)構(gòu)Fig.5 Improved network structure

        網(wǎng)絡(luò)輸入為640×640大小的圖片,主干網(wǎng)絡(luò)除第一層為Conv層外,其余由HourGlass結(jié)構(gòu)構(gòu)成。其參數(shù)分別表示輸出通道數(shù)、步長和是否進(jìn)行升維。除第一個(gè)HourGlass,其余HourGlass結(jié)構(gòu)都進(jìn)行6倍的升維操作。網(wǎng)絡(luò)的輸出部分沿用YOLOv5s的輸出,通過特征融合[31]的方式對(duì)20×20、40×40、80×80三個(gè)不同尺度的圖片進(jìn)行預(yù)測。

        3 實(shí)驗(yàn)

        3.1 實(shí)驗(yàn)數(shù)據(jù)及環(huán)境

        本實(shí)驗(yàn)的運(yùn)行環(huán)境為Windows 10操作系統(tǒng),通過Pytorch深度學(xué)習(xí)框架實(shí)現(xiàn)HG-YOLO模型算法。硬件配置:Nvidia GeForce GTX1650 GPU、AMD Ryzen54600H CPU。本文所用的數(shù)據(jù)集是SafetyHelmetWearing,其中部分的人臉數(shù)據(jù)來自SCUT-HEAD數(shù)據(jù)集,并使用PASCAL VOC的標(biāo)記方式對(duì)數(shù)據(jù)進(jìn)行標(biāo)記并訓(xùn)練。根據(jù)實(shí)際場景,本文對(duì)未佩戴安全帽、佩戴安全帽和人進(jìn)行檢測,共7 577張圖片,其中訓(xùn)練集6 062張,測試集1 212張,驗(yàn)證集303張。由于施工環(huán)境的復(fù)雜,并且SCUT-HEAD數(shù)據(jù)集中的人臉數(shù)據(jù)絕大部分都是小目標(biāo)物體,導(dǎo)致檢測難度大大增加,樣式如圖6所示。

        圖6 SafetyHelmetWearing數(shù)據(jù)集Fig.6 SafetyHelmetWearing dataset

        3.2 模型壓縮訓(xùn)練

        對(duì)HG-YOLOv5進(jìn)行稀疏訓(xùn)練,盡可能將BN層的權(quán)值稀疏到0。但稀疏訓(xùn)練是一個(gè)追求平衡的過程,因?yàn)楸疚募认雽⒏郆N層稀疏到0,也想在剪枝微調(diào)后恢復(fù)足夠的精度。同時(shí)稀疏訓(xùn)練將直接影響最后的結(jié)果,如果網(wǎng)絡(luò)稀疏程度不夠,可能很多權(quán)值不為0的通道被剪除,丟失大量信息。但稀疏的太過密集,剪枝時(shí)會(huì)刪除過多通道,可能導(dǎo)致微調(diào)后無法恢復(fù)足夠的精度,所以尋找一個(gè)合適的稀疏率(sparse learning,sl)是其關(guān)鍵一步。本文選擇三個(gè)不同的稀疏率0.001、0.002、0.003進(jìn)行對(duì)比。稀疏過程中BN層的變化,如圖7所示。其中圖7(a)、(b)、(c)分別展示稀疏率0.001、0.002、0.003的BN層的變化過程,經(jīng)過100輪的迭代訓(xùn)練后,BN層的權(quán)重都被壓縮,逐漸靠近0。

        圖7 不同稀疏率下BN層的變化Fig.7 Changes of BN layer under different sparsity rates

        稀疏訓(xùn)練結(jié)束后,對(duì)模型進(jìn)行剪枝。剪枝前需設(shè)置剪枝率,通道權(quán)重的絕對(duì)值小于設(shè)定剪枝率對(duì)應(yīng)的閾值時(shí)則刪除,且與之相連的通道也將刪除。但如果一層中所有通道的權(quán)值都小于閾值,則保留該層權(quán)值最大的通道,以保證網(wǎng)絡(luò)結(jié)構(gòu)的完整性。剪枝完成后,再通過微調(diào)恢復(fù)精度。本文將評(píng)估原網(wǎng)絡(luò)HG-YOLOv5和網(wǎng)絡(luò)剪枝微調(diào)后的結(jié)果,評(píng)估指標(biāo)包括:精確度(P)、召回率(R)、平均精度(mAP)、稀疏后網(wǎng)絡(luò)對(duì)應(yīng)權(quán)值的最小值(Min)與最大值(Max)、閾值(threshold)、網(wǎng)絡(luò)參數(shù)量(parameters)和浮點(diǎn)數(shù)(GFLOPS),結(jié)果如表1所示。

        表1中,首先將MobileNetv2的主干結(jié)構(gòu)替換YOLOv5s的主干得到MobileNet-YOLOv5與改進(jìn)的新主干網(wǎng)絡(luò)HG-YOLOv5進(jìn)行對(duì)比,雖然兩者在各個(gè)指標(biāo)上沒有太多的差別。

        表1 原網(wǎng)絡(luò)和剪枝后的指標(biāo)對(duì)比Table 1 Comparison of original network and index after pruning

        但本文進(jìn)一步對(duì)比HG-YOLOv5在不同稀疏率、同一剪枝率下的指標(biāo)。當(dāng)稀疏率為0.001、剪枝率為10%時(shí),剪枝閾值被設(shè)定在0.286,雖然此時(shí)網(wǎng)絡(luò)的參數(shù)量和浮點(diǎn)數(shù)是三個(gè)稀疏率中減少最多的,但在50輪的微調(diào)后,mAP比原網(wǎng)絡(luò)HG-YOLOv5降低3.8個(gè)百分點(diǎn),說明網(wǎng)絡(luò)稀疏的程度還不夠,剪掉很多權(quán)值不為0的通道數(shù)。而在同一剪枝率下將稀疏率改為0.003,網(wǎng)絡(luò)參數(shù)降低了0.26×106,但精度和原網(wǎng)絡(luò)一致,說明此時(shí)有較好的稀疏效果。但反觀稀疏率為0.002時(shí)剪枝后的表現(xiàn),其參數(shù)量下降雖不如稀疏率為0.003時(shí),但微調(diào)后mAP反而比原網(wǎng)絡(luò)上升0.9個(gè)百分點(diǎn)。因此實(shí)驗(yàn)得出稀疏率為0.002、剪枝率為10%時(shí)HG-YOLOv5網(wǎng)絡(luò)的稀疏效果最好。

        所以又對(duì)比該稀疏率和剪枝率下MobileNet-YOLOv5的性能,實(shí)驗(yàn)得出HG-YOLOv5-sl0.002-0.1的mAP、參數(shù)量和浮點(diǎn)數(shù)都優(yōu)于MobileNet-YOLOv5-sl0.002-0.1。

        本文還對(duì)比不同剪枝率對(duì)HG-YOLOv5-sl0.002的性能影響。由于HG-YOLOv5的參數(shù)相比大型網(wǎng)絡(luò)已經(jīng)很少,所以剪枝率只設(shè)定在20%和30%。實(shí)驗(yàn)得出剪枝率為30%時(shí),參數(shù)量是所有網(wǎng)絡(luò)中減少最多的,比原網(wǎng)絡(luò)降低了0.94×106,浮點(diǎn)數(shù)也減少0.9 GFLOPS,mAP比HG-YOLOv5-sl0.001-0.1模型要高1.1個(gè)百分點(diǎn)。但相比HG-YOLOv5-sl0.002-0.1,mAP還是降低3.6個(gè)百分點(diǎn)。

        3.3 融合卷積層與BN層

        由于本文要求將算法部署在移動(dòng)端或嵌入式等算力不高的設(shè)備上,因此本文還要考慮算法在CPU上的處理速度。而CPU沒有GPU一樣的算力,無法很好地滿足檢測的速度需求,因此本文將融合卷積層與BN層,減小網(wǎng)絡(luò)層數(shù)和參數(shù)量,提高檢測速度。網(wǎng)絡(luò)融合后的指標(biāo)對(duì)比如表2所示。

        由表2可以看出,將卷積層和BN層融合后,雖然參數(shù)量和浮點(diǎn)數(shù)沒有降低很多,但每張圖片在CPU上的推理時(shí)間都相應(yīng)減少。在大型網(wǎng)絡(luò)YOLOv5中,平均推理時(shí)間減少了23 ms。在輕量化的網(wǎng)絡(luò)中,對(duì)于沒剪枝的HG-YOLOv5其平均推理時(shí)間減少了28.1 ms,在剪枝了10%和30%后的網(wǎng)絡(luò)中其平均推理時(shí)間分別減少了26.4 ms和19.8 ms。實(shí)驗(yàn)結(jié)果證明,融合卷積層和BN層在大型網(wǎng)絡(luò)和輕量化網(wǎng)絡(luò)中都可以有效地提高網(wǎng)絡(luò)的檢測速度,可以更好地滿足對(duì)檢測速度的需求。

        表2 網(wǎng)絡(luò)融合后的指標(biāo)對(duì)比Table 2 Comparison of indicators after network fuse

        3.4 對(duì)比實(shí)驗(yàn)

        實(shí)驗(yàn)將選擇Mobile SSDLite、Mobile YOLOv3、SSD、YOLOv5、Slim-HG-YOLOv5等算法進(jìn)行對(duì)比,其中Mobile SSDLite、Mobile YOLOv3都是輕量級(jí)網(wǎng)絡(luò),SSD是單階段檢測算法,YOLOv5是本文的特征提取所替代的原網(wǎng)絡(luò)、Slim-HG-YOLOv5為本文算法。對(duì)比結(jié)果如表3所示。

        表3 不同算法在本數(shù)據(jù)集上的對(duì)比Table 3 Comparison of different algorithms on dataset

        從表3可以得出,Slim-HG-YOLOv5雖然在GFLOPS上不如Mobile SSDLite,且mAP方面略遜YOLOv5,但相比Mobile SSDLite,本文算法在mAP方面比其提高52.6個(gè)百分點(diǎn),同時(shí)在評(píng)估網(wǎng)絡(luò)輕量級(jí)的指標(biāo)方面,如參數(shù)量、GFLOPS和權(quán)重大小分別是YOLOv5的9.2倍、6.9倍和7.63倍。在推理速度上,本文算法要比SSD快8.6倍,更好地滿足實(shí)時(shí)檢測的需求,可以應(yīng)用在安全帽檢測中。具體的檢測對(duì)比結(jié)果如圖8所示,圖8(a)為YOLOv5檢測結(jié)果,圖8(b)為本文算法檢測結(jié)果??梢钥闯?,本文算法因?yàn)榻?jīng)過稀疏訓(xùn)練從而得到更好的泛化能力,YOLOv5上出現(xiàn)的誤檢測,在本文的檢測結(jié)果中并沒出現(xiàn)。而本文算法為了追求更好的輕量化,對(duì)模型進(jìn)行剪枝,雖然在小目標(biāo)的檢測方面出現(xiàn)一些漏檢情況,但在中大目標(biāo)的檢測方面仍滿足良好性能。

        圖8 檢測對(duì)比結(jié)果Fig.8 Comparison results

        4 結(jié)束語

        針對(duì)實(shí)際安全帽檢測環(huán)境中,所部署的移動(dòng)端或嵌入式設(shè)備無法為大型網(wǎng)絡(luò)模型提供足夠算力的問題。本文提出了一種基于HourGlass模塊的輕量目標(biāo)檢測算法HG-YOLO,用于更好地將算法部署在低端設(shè)備。該模型將YOLOv5的特征提取網(wǎng)絡(luò)替換為HourGlass,并且在保證精度的情況下對(duì)模型進(jìn)行適當(dāng)?shù)貕嚎s,通過通道剪枝的方法降低模型的參數(shù)量、浮點(diǎn)數(shù)和權(quán)重文件大小。其次實(shí)際中部署可能會(huì)在CPU上進(jìn)行數(shù)據(jù)處理,因此為加快在CPU上的推理時(shí)間,本文在推理時(shí)將網(wǎng)絡(luò)的卷積層和BN層進(jìn)行融合,大幅減低推理時(shí)間。在對(duì)比實(shí)驗(yàn)中,本文的算法和其他算法相比具有一定優(yōu)勢,推理速度是所有算法中最快的,并且還有較好的精度。在后續(xù)研究中可以將算法部署在實(shí)際的移動(dòng)端和硬件平臺(tái),進(jìn)一步提高算法在CPU上的推理速度。

        猜你喜歡
        結(jié)構(gòu)檢測模型
        一半模型
        “不等式”檢測題
        “一元一次不等式”檢測題
        “一元一次不等式組”檢測題
        《形而上學(xué)》△卷的結(jié)構(gòu)和位置
        重要模型『一線三等角』
        重尾非線性自回歸模型自加權(quán)M-估計(jì)的漸近分布
        論結(jié)構(gòu)
        中華詩詞(2019年7期)2019-11-25 01:43:04
        論《日出》的結(jié)構(gòu)
        3D打印中的模型分割與打包
        国内精品久久久久久久久齐齐| 亚洲av乱码一区二区三区观影| 日韩亚洲在线观看视频| 女人18片毛片60分钟| 四虎影视4hu4虎成人| 国产欧美精品一区二区三区,| 久久精品av一区二区免费| 国产精品对白一区二区三区| 久久久久久久亚洲av无码| 制服丝袜中文字幕在线| 激情亚洲一区国产精品| 国产美女精品AⅤ在线老女人| 中文字幕午夜精品一区二区三区 | 色综久久综合桃花网国产精品| 亚洲av一区二区在线| 中文字幕日韩精品有码视频| 色欲av亚洲一区无码少妇| 久9热免费精品视频在线观看| 日本不卡不二三区在线看| 国产精品爽爽ⅴa在线观看| 精品香蕉久久久爽爽| 欧美亚洲国产丝袜在线| 亚洲毛片免费观看视频| √新版天堂资源在线资源| 国产免费资源高清小视频在线观看| AV无码最在线播放| 国产一极毛片| 超清无码AV丝袜片在线观看| 久久99国产综合精品女同| 好男人社区影院www| 国产又爽又黄的激情精品视频| 日本高清视频在线一区二区三区| 男女交射视频免费观看网站| 成人精品视频一区二区| 亚洲成av人最新无码| 高清亚洲成av人片乱码色午夜| 日本饥渴人妻欲求不满| 人妻无码一区二区不卡无码av| 无码国产精品一区二区免| 日本一本二本三本道久久久| 人妻中文字幕在线网站|