摘 要：智能電網(wǎng)的建設(shè)思路決定了遠(yuǎn)郊變電站異常入侵監(jiān)測(cè)的無人化趨勢(shì)，促進(jìn)了變電站異常入侵智能檢測(cè)方法的快速發(fā)展?，F(xiàn)階段尚未擁有該場(chǎng)景下異常入侵目標(biāo)數(shù)據(jù)集，且現(xiàn)有的目標(biāo)檢測(cè)方法也未針對(duì)變電站邊緣計(jì)算端進(jìn)行輕量化優(yōu)化設(shè)計(jì)，不適用于需要全天候?qū)崟r(shí)監(jiān)測(cè)的變電站邊緣設(shè)備。針對(duì)上述問題，從實(shí)際應(yīng)用需求出發(fā)，構(gòu)建變電站異常入侵目標(biāo)數(shù)據(jù)集（Ｄａｔａｓｅｔ ｆｏｒ Ａｎｏｍａｌｙ Ｉｎｖａｓｉｏｎ Ｔａｒｇｅｔｓ ｉｎ Ｓｕｂｓｔａｔｉｏｎｓ，ＳＡＩＴＤ），基于ＹＯＬＯｖ５ｓ 模型提出適用于變電站邊緣檢測(cè)設(shè)備的輕量化異常入侵目標(biāo)檢測(cè)網(wǎng)絡(luò)ＹＯＬＯｖ５-Ｓｕｂｓｔａｔｉｏｎ。添加微小尺度目標(biāo)特征提取層與上采樣輕量化算子ＣＡＲＡＦＥ，在擴(kuò)大感受野的同時(shí)，充分保留特征圖中多尺度目標(biāo)的語義信息，從架構(gòu)端提高原有模型的檢測(cè)精度?；谥R(shí)蒸餾模型，使用網(wǎng)絡(luò)剪枝（Ｎｅｔｗｏｒｋ-ｓｌｉｍｍｉｎｇ） 策略對(duì)原有模型進(jìn)行輕量化改進(jìn)，在保證原模型檢測(cè)精度的同時(shí)，加速模型推理。仿真實(shí)驗(yàn)表明，輕量化后的邊緣端計(jì)算模型精度相較于ＹＯＬＯｖ５ｓ 提高了３． ３％ ，推理速度提升了４１． ９％ ，可為智能電網(wǎng)的全速運(yùn)行提供強(qiáng)有力的數(shù)據(jù)基礎(chǔ)、技術(shù)支撐與安全保障。

關(guān)鍵詞：異常入侵目標(biāo)檢測(cè)；網(wǎng)絡(luò)剪枝；知識(shí)蒸餾；邊緣計(jì)算平臺(tái)；輕量化模型

中圖分類號(hào)：ＴＰ３９１． ４ 文獻(xiàn)標(biāo)志碼：Ａ 開放科學(xué)（資源服務(wù)）標(biāo)識(shí)碼（ＯＳＩＤ）：

文章編號(hào)：１００３－３１０６（２０２４）０６－１５８４－１１

０ 引言

我國(guó)“十四五”規(guī)劃明確提出建設(shè)智能電網(wǎng)［１］，無人值守變電站在構(gòu)建智能電網(wǎng)中起到了至關(guān)重要的作用。無人值守變電站多建于距離城市較遠(yuǎn)的野外環(huán)境中，因此常有各類動(dòng)物入侵變電站導(dǎo)致變電站設(shè)備嚴(yán)重故障甚至發(fā)生火災(zāi)，極大地影響了社會(huì)穩(wěn)定和經(jīng)濟(jì)發(fā)展。伴隨視覺監(jiān)控系統(tǒng)的廣泛應(yīng)用，利用變電站內(nèi)安裝的攝像頭，加載異常入侵目標(biāo)檢測(cè)算法，對(duì)其進(jìn)行全天候智能化監(jiān)測(cè)是大勢(shì)所趨［２］。然而，目前尚未擁有針對(duì)變電站場(chǎng)景下的完整異常入侵目標(biāo)數(shù)據(jù)庫，且現(xiàn)使用的目標(biāo)檢測(cè)算法模型也未針對(duì)此場(chǎng)景進(jìn)行輕量化改進(jìn)設(shè)計(jì)，并不適合部署在對(duì)檢測(cè)速度要求極高的變電站邊緣檢測(cè)設(shè)備上。

現(xiàn)階段的異常入侵目標(biāo)檢測(cè)方法可分為傳統(tǒng)檢測(cè)方法與基于深度學(xué)習(xí)的異常入侵目標(biāo)檢測(cè)方法。傳統(tǒng)的異常入侵目標(biāo)檢測(cè)方法一般采用背景模板與圖像對(duì)比來進(jìn)行異常目標(biāo)檢測(cè)。Ｓｔａｕｆｆｅｒ 等［３］提出了高斯混合模型來檢測(cè)前景目標(biāo)，但高斯分布并不能充分的概括表達(dá)背景特征，限制了該算法的使用場(chǎng)景和檢測(cè)精度。Ｌｉｎ 等［４］提出了一種基于特征匹配的局部運(yùn)動(dòng)穩(wěn)定算法減少檢測(cè)前景中由樹木和花草引起的誤報(bào)，但本質(zhì)上仍然依賴于手工設(shè)計(jì)的特征，在復(fù)雜環(huán)境下依然會(huì)存在較多誤檢。傳統(tǒng)檢測(cè)方法計(jì)算復(fù)雜度通常較低，檢測(cè)速度較快，無需大量先驗(yàn)信息和監(jiān)督，但易受光影變化、風(fēng)吹草動(dòng)等環(huán)境噪聲的干擾。遂開始研究基于深度學(xué)習(xí)的異常入侵目標(biāo)檢測(cè)方法。Ｌｉｍ 等［５］提出了一種基于多尺度編解碼網(wǎng)絡(luò)的ＦｇＳｅｇＮｅｔ 模型，但這種方法時(shí)常漏檢較小尺寸的異常入侵目標(biāo)。Ｂｒａｈａｍ 等［６］提出了一種基于背景補(bǔ)丁的訓(xùn)練方式，可以在同一段訓(xùn)練視頻數(shù)據(jù)中獲得良好的檢測(cè)效果，但由于數(shù)據(jù)高度冗余計(jì)算量過大，無法實(shí)時(shí)檢測(cè)異常入侵目標(biāo)。以上提及的基于機(jī)器學(xué)習(xí)的異常入侵目標(biāo)檢測(cè)方法和基于深度學(xué)習(xí)的檢測(cè)方法，在變電站這一特殊場(chǎng)景下均無法較好地兼顧模型輕量化與檢測(cè)準(zhǔn)確率。

目前常見的異常入侵目標(biāo)檢測(cè)與識(shí)別技術(shù)都集中在主機(jī)平臺(tái)上，伴隨著移動(dòng)互聯(lián)網(wǎng)的崛起和邊緣計(jì)算的發(fā)展，許多研究者結(jié)合邊緣計(jì)算，開始研究移動(dòng)設(shè)備上的目標(biāo)檢測(cè)技術(shù)。Ｃｈｅｎ 等［７］ 開發(fā)了Ｇｌｉｍｐｓｅ 系統(tǒng)通過卸載部分計(jì)算任務(wù)在手機(jī)上執(zhí)行目標(biāo)檢測(cè)任務(wù)。Ｌｉｕ 等［８］等在邊緣計(jì)算協(xié)助下為增強(qiáng)現(xiàn)實(shí)系統(tǒng)設(shè)計(jì)了目標(biāo)檢測(cè)系統(tǒng)。Ｒｅｎ 等［９］提出了一種分布式的邊緣計(jì)算場(chǎng)景下的目標(biāo)檢測(cè)解決方案。由于在移動(dòng)設(shè)備執(zhí)行高性能目標(biāo)檢測(cè)算法有著極為廣闊的發(fā)展前景，大量研究者投身于此。但是這些研究很少能在工業(yè)場(chǎng)景下實(shí)現(xiàn)落地，并且在變電站場(chǎng)景下的相關(guān)應(yīng)用更是稀缺，基本沒有利用邊緣計(jì)算平臺(tái)針對(duì)此應(yīng)用場(chǎng)景開展異常入侵目標(biāo)檢測(cè)與識(shí)別研究，因此這個(gè)領(lǐng)域整體仍處于研究的早期階段。

現(xiàn)有的異常入侵目標(biāo)數(shù)據(jù)集，大部分是針對(duì)公路、鐵路或軌道等場(chǎng)景建立異常入侵目標(biāo)數(shù)據(jù)集，例如王瑞等［１０］針對(duì)鐵路周界異常入侵目標(biāo)泥石流、落石等進(jìn)行研究。郭保青等［１１］細(xì)化鐵路異常入侵目標(biāo)分類，針對(duì)鐵路內(nèi)部的行人進(jìn)行研究。何文玉等［１２］將研究重心放在軌道上的異常入侵目標(biāo)，如塑料瓶、行人、自行車和汽車等。然而，通過實(shí)地考察，可能會(huì)對(duì)變電站產(chǎn)生安全隱患的異常入侵目標(biāo)主要是尺寸相差較大的鳥、貓、狗、人、蛇、鼠和松鼠等。不同的應(yīng)用場(chǎng)景、不同異常入侵目標(biāo)類別與不同于常見數(shù)據(jù)集的目標(biāo)尺度均無法對(duì)變電站場(chǎng)景下的異常入侵目標(biāo)檢測(cè)提供助力。

針對(duì)上述問題，本文以ＹＯＬＯｖ５ｓ 模型為基礎(chǔ)，首先引入微小尺度目標(biāo)特征提取層與上采樣輕量化算子ＣＡＲＡＦＥ，充分利用特征圖中多尺度目標(biāo)的語義信息，從架構(gòu)端提高原有模型的檢測(cè)精度；其次，使用網(wǎng)絡(luò)剪枝（Ｎｅｔｗｏｒｋｓｌｉｍｍｉｎｇ）策略和知識(shí)蒸餾對(duì)原有模型進(jìn)行輕量化改進(jìn)，在保證原模型檢測(cè)精度的同時(shí)加速模型推理，滿足變電站場(chǎng)景下異常入侵目標(biāo)實(shí)時(shí)檢測(cè)需求。

１ 基于ＹＯＬＯｖ５ｓ 改進(jìn)的多尺度異常入侵目標(biāo)輕量化檢測(cè)方法

ＹＯＬＯｖ５ 目標(biāo)檢測(cè)模型由于較高的檢測(cè)精度和強(qiáng)大的泛化能力，備受工業(yè)界青睞。根據(jù)應(yīng)用場(chǎng)景和應(yīng)用需求的不同，ＹＯＬＯｖ５ 共有５ 種不同大小的網(wǎng)絡(luò)模型供以選擇，從小到大分別是ＹＯＬＯｖ５ｎ、ＹＯＬＯｖ５ｓ、ＹＯＬＯｖ５ｍ、ＹＯＬＯｖ５Ｌ、ＹＯＬＯｖ５ＸＬ。每個(gè)版本的模型結(jié)構(gòu)均一致，唯一區(qū)別在于網(wǎng)絡(luò)的深度和寬度不盡相同。鑒于ＹＯＬＯｖ５ｓ 在模型檢測(cè)性能和模型計(jì)算量?jī)煞矫孑^為均衡，本文選擇ＹＯＬＯｖ５ｓ作為應(yīng)用于變電站場(chǎng)景下實(shí)時(shí)檢測(cè)的基礎(chǔ)模型。在此基礎(chǔ)上不斷優(yōu)化改進(jìn)，獲得輕量化的網(wǎng)絡(luò)模型，便于部署在邊緣計(jì)算平臺(tái)上進(jìn)行實(shí)時(shí)快速準(zhǔn)確檢測(cè)。

多尺度異常入侵目標(biāo)輕量化檢測(cè)方法框架如圖１ 所示。首先，在模型頸部添加１６０ ｐｉｘｅｌ ×１６０ ｐｉｘｅｌ 的特征提取層，增加的檢測(cè)頭用于檢測(cè)微小尺度異常入侵目標(biāo)，再結(jié)合ＹＯＬＯｖ５ｓ 原有大、中、?。?種尺度檢測(cè)頭，實(shí)現(xiàn)多尺度異常入侵目標(biāo)檢測(cè)；其次，引入ＣＡＲＡＦＥ 上采樣輕量化算子替換ＹＯＬＯｖ５ｓ中原有的最近鄰上采樣，在不引入過多參數(shù)量前提下，擴(kuò)大感受野，充分利用多尺度特征圖中原本被忽略的豐富語義信息；最后，使用Ｎｅｔｗｏｒｋ-ｓｌｉｍｍｉｎｇ 方法與知識(shí)蒸餾對(duì)改進(jìn)后的網(wǎng)絡(luò)模型進(jìn)行剪枝壓縮和蒸餾，對(duì)于多尺度異常入侵目標(biāo)，在保證了較高檢測(cè)精度的同時(shí)有效地降低了網(wǎng)絡(luò)參數(shù)量和計(jì)算量。

１． １ 多尺度特征提取層

ＹＯＬＯｖ５ｓ 網(wǎng)絡(luò)模型檢測(cè)頭部分本身涵蓋３ 個(gè)不同尺度的目標(biāo)檢測(cè)頭。假設(shè)圖片輸入尺寸為６４０ ｐｉｘｅｌ×６４０ ｐｉｘｅｌ，則頸部提取出的淺層特征圖尺寸為８０ ｐｉｘｅｌ×８０ ｐｉｘｅｌ，其包含比較多的淺層級(jí)信息，適用于檢測(cè)小目標(biāo)；尺寸為２０ ｐｉｘｅｌ×２０ ｐｉｘｅｌ 的深層特征圖，容納了更豐富的深層次信息，例如環(huán)境信息、外貌特征等，適用于檢測(cè)大目標(biāo)；而尺寸介于二者之間的４０ ｐｉｘｅｌ×４０ ｐｉｘｅｌ 特征圖，則適合用于檢測(cè)中等大小的目標(biāo)。由于變電站實(shí)際場(chǎng)景中常出現(xiàn)尺寸差異較大的異常入侵目標(biāo)，而目前已有的目標(biāo)檢測(cè)方法時(shí)常漏檢較小尺寸的目標(biāo)。因此，修改網(wǎng)絡(luò)中的特征提取層，在網(wǎng)絡(luò)模型的頸部連續(xù)３ 次下采樣，使得底層特征圖放大至１６０ ｐｉｘｅｌ×１６０ ｐｉｘｅｌ，含有更多且更豐富的底層特征信息。在添加小尺度特征提取層的同時(shí)，也在檢測(cè)頭部分添加對(duì)應(yīng)小尺寸檢測(cè)頭，如圖２ 所示。

新添加的小尺寸檢測(cè)頭對(duì)于微小目標(biāo)會(huì)更加敏感，需重新分配錨框來解決小尺度目標(biāo)漏檢問題。ＹＯＬＯｖ５ｓ 初始錨框大小的設(shè)置是基于ＭＳ ＣＯＣＯ 數(shù)據(jù)集目標(biāo)尺寸預(yù)設(shè)。在訓(xùn)練時(shí)，模型會(huì)基于初始錨框輸出預(yù)測(cè)框數(shù)值，再將其與真實(shí)框數(shù)值相減后，反向更新，以此不停迭代網(wǎng)絡(luò)參數(shù)。由于變電站異常入侵目標(biāo)與ＣＯＣＯ 數(shù)據(jù)集目標(biāo)尺寸差異較大，本算法將關(guān)閉ＹＯＬＯｖ５ｓ 的自動(dòng)計(jì)算錨框功能，采用Ｋ 均值（Ｋ-ｍｅａｎｓ）聚類方法重新獲取更加適配于變電站異常入侵目標(biāo)尺寸的錨框，使改進(jìn)后的網(wǎng)絡(luò)模型對(duì)于不同尺度的異常入侵目標(biāo)檢測(cè)效果更佳。錨框大小分配如表１ 所示。

１． ２ 輕量化上采樣算子ＣＡＲＡＦＥ

ＹＯＬＯｖ５ｓ 采用最直接的上采樣方法———最近鄰插值，也稱為零階插值，其核心思想是使得圖像變換后，某像素的灰度值與其距離最近的輸入像素灰度值相同。這種上采樣方法僅以像素點(diǎn)的空間位置作為決定上采樣核的唯一元素，完全忽略特征圖中豐富的語義信息，感受野也被嚴(yán)重限制在１×１ 的范圍內(nèi)。基于上述原因，引入Ｗａｎｇ 等［１３］提出的ＣＡ-ＲＡＦＥ 上采樣算子，在不引入過多參數(shù)量和計(jì)算量的前提下，帶來較大的感受野，同時(shí)充分利用各層次特征圖中的語義信息進(jìn)行上采樣。ＣＡＲＡＦＥ 由上采樣核預(yù)測(cè)模塊和特征重組模塊兩部分組成。假設(shè)給定上采樣倍率為σ（設(shè)σ 為整數(shù)），輸入特征圖χ 尺寸為Ｈ×Ｗ×Ｃ，ＣＡＲＡＦＥ 將產(chǎn)生尺寸為σＨ×σＷ×Ｃ 的新特征圖。對(duì)于χ′中的任何目標(biāo)位置ｌ′＝ （ｉ′，ｊ′），在輸入特征圖χ 中都有與其對(duì)應(yīng)的源位置ｌ ＝ （ｉ，ｊ），其中ｉ 與ｊ 的關(guān)系如式（１）和式（２）所示：

ｉ ＝ ｜ｉ′／ σ｜ ， （１）

ｊ ＝ ｜ｊ′／ σ ｜。（２）

Ｎ ＝ （χｌ，ｋ）表示在χ 中以ｌ 為中心的ｋ×ｋ 范圍的鄰域。

ＣＡＲＡＦＥ 上采樣算子示意如圖３ 所示。第一步，上采樣核預(yù)測(cè)模塊Ψ 基于χｌ 的鄰域?yàn)槊總€(gè)位置預(yù)測(cè)重組核ｗｌ′，如式（３）所示；第二步，特征重組模塊Φ 利用上一步預(yù)測(cè)出的核ｗｌ′ 重組特征，輸出特征圖χ′，如式（４）所示：

ｗｌ′ ＝ Ψ（Ｎ（χｌ，ｋｅｎｃｏｄｅｒ ））， （３）

χ′ｌ′ ＝ Φ（Ｎ（χｌ，ｋｕｐ ），ｗｌ′ ）， （４）

式中：ｋｕｐ 表示內(nèi)核的尺寸，ｋｅｎｃｏｄｅｒ 表示內(nèi)容編碼器中卷積層內(nèi)核的尺寸。

上采樣核預(yù)測(cè)模塊負(fù)責(zé)以內(nèi)容感知的方式生成重組內(nèi)核，主要由通道壓縮模塊、內(nèi)容編碼器和歸一化模塊３ 個(gè)子模塊組成。首先是通道壓縮模塊，為減少計(jì)算量，Ｈ×Ｗ×Ｃ 的特征圖會(huì)經(jīng)過通道壓縮變?yōu)椋取粒住粒茫?。其次是內(nèi)容編碼器將壓縮的特征圖作為輸入，使用內(nèi)核大小為ｋｅｎｃｏｄｅｒ 的卷積層在輸入特征的內(nèi)容基礎(chǔ)上預(yù)測(cè)新上采樣核。ｋｅｎｃｏｄｅｒ 的大小與感受野的大小呈正相關(guān)，越大的ｋｅｎｃｏｄｅｒ 可以利用越大范圍內(nèi)的上下文信息。但是，模型整體的計(jì)算復(fù)雜度也會(huì)伴隨ｋｅｎｃｏｄｅｒ 的增大而增加。經(jīng)過實(shí)驗(yàn)證明，當(dāng)ｋｕｐ ＝ ３，ｋｅｎｃｏｄｅｒ ＝ １ 時(shí)，模型在性能與計(jì)算量之間取得了一個(gè)較好的折衷。最后，將通道維在空間維展開，得到σＨ×σＷ ×ｋ２ｕｐ 的上采樣核然后利用歸一化指數(shù)函數(shù)將其進(jìn)行歸一化處理，使得卷積核權(quán)重和為１。在特征重組模塊中，將輸出特征圖中的每個(gè)像素都映射回初始輸入的特征圖中，取出以ｌ ＝（ｉ，ｊ）為中心點(diǎn)的對(duì)應(yīng)Ｎ ＝ （χｌ，ｋｕｐ ）區(qū)域，并與在上采樣核預(yù)測(cè)模塊中得到的預(yù)測(cè)該像素點(diǎn)的上采樣核ｗｌ′作點(diǎn)積操作，加強(qiáng)了特征圖的語義信息，如式（５）所示，最后得到輸出為σＨ ×σＷ ×Ｃ 的特征圖χ′。

將ＣＡＲＡＦＥ 上采樣算子替換原有的最近鄰上采樣算子后，網(wǎng)絡(luò)模型對(duì)于圖像特征提取和融合的能力得到了一定的提升，有效地保留了多尺度異常入侵目標(biāo)的特征信息，同時(shí)也并未引入過多的計(jì)算量，使融合后的多尺度特征具有了更為豐富的表達(dá)能力。整體優(yōu)化改進(jìn)后的網(wǎng)絡(luò)結(jié)構(gòu)如圖４ 所示。

１． ３ Ｎｅｔｗｏｒｋ-ｓｌｉｍｍｉｎｇ 策略

添加了新的特征提取層和ＣＡＲＡＦＥ 上采樣算子的網(wǎng)絡(luò)模型在訓(xùn)練好后，仍然存在大量冗余的參數(shù)，因此無法移植部署至邊緣計(jì)算平臺(tái)上，實(shí)現(xiàn)實(shí)時(shí)檢測(cè)異常入侵目標(biāo)的功能，如何對(duì)改進(jìn)后的模型剪枝是輕量化模型的關(guān)鍵所在。本算法采用Ｎｅｔｗｏｒｋ-ｓｌｉｍｍｉｎｇ 策略［１４］實(shí)施剪枝，由于每個(gè)尺度參數(shù)與卷積通道是一一映射的，因此，批歸一化（Ｂａｔｃｈ Ｎｏｒ-ｍａｌｉｚａｔｉｏｎ，ＢＮ）使用比例因子對(duì)歸一化后的特征通道進(jìn)行整體縮放，而縮放范圍在一定程度上反映了通道的重要性，可以根據(jù)比例因子的絕對(duì)值對(duì)通道重要性進(jìn)行評(píng)估，將重要性相對(duì)較低的通道進(jìn)行剪枝，從而減少網(wǎng)絡(luò)參數(shù)量，獲得一個(gè)更加緊湊的網(wǎng)絡(luò)模型，圖５ 展示了模型參數(shù)剪枝策略的基本流程。設(shè)ｚｉｎ 與ｚｏｕｔ 分別表示ＢＮ 層的輸入和輸出，Ｂ 表示當(dāng)前的最小批，ＢＮ 層將執(zhí)行以下變換：

式中：μＢ 和σＢ 表示Ｂ 的平均值和標(biāo)準(zhǔn)偏差值，γ 表示每個(gè)通道的比例因子，β 表示可訓(xùn)練的仿射變換參數(shù)。通過式（７）可以看出每個(gè)通道的ｚｏｕｔ 與比例因子γ 呈正相關(guān)。

在網(wǎng)絡(luò)中ＢＮ 層的比例因子都具備一定的絕對(duì)值大小，這意味著每個(gè)通道都具有不可忽略的重要性，因此在稀疏訓(xùn)練中對(duì)尺度參數(shù)添加Ｌ１ 正則化，稀疏化部分通道。因此，剪枝流程整體為首先使用每個(gè)通道的比例因子γ 乘以該通道的輸出；其次，聯(lián)合訓(xùn)練網(wǎng)絡(luò)權(quán)重，并為通道添加稀疏正則化；最后，剪去比例因子較小的，貢獻(xiàn)較少，并微調(diào)剪枝后的網(wǎng)絡(luò)，損失函數(shù)由下式給出：

式中：（ｘ，ｙ）表示訓(xùn)練輸入和執(zhí)行目標(biāo)，Ｗ 表示可訓(xùn)練的權(quán)重，第一個(gè)求和項(xiàng)表示卷積網(wǎng)絡(luò)的正常訓(xùn)練損失，ｇ（·）表示計(jì)算Ｌ１ 范數(shù)對(duì)比例因子的損失。

本文采用Ｆａｎｇ 等［１５］提出的Ｔｏｒｃｈ-Ｐｒｕｎｉｎｇ 工具，一種通用的結(jié)構(gòu)化剪枝庫，可快速實(shí)現(xiàn)Ｎｅｔｗｏｒｋ-ｓｌｉｍｍｉｎｇ 策略，降低模型推理成本。當(dāng)網(wǎng)絡(luò)模型通過一次完整的稀疏化訓(xùn)練、剪枝、微調(diào)后，還可以多次遍歷重復(fù)該流程，如圖６ 所示，以此獲得更為緊湊的模型，運(yùn)行占用內(nèi)存和計(jì)算操作也會(huì)相應(yīng)地大大減少。

１． ４ 知識(shí)蒸餾微調(diào)

經(jīng)過剪枝后的模型雖然網(wǎng)絡(luò)參數(shù)量和計(jì)算量都大大減少，但是檢測(cè)精度劣化是一個(gè)難以避免的情況。為了克服此困難，本小節(jié)將知識(shí)蒸餾（Ｋｎｏｗｌｅｄｇｅｄｉｓｔｉｌｌａｔｉｏｎ）［１６］與模型微調(diào)有機(jī)充分結(jié)合，盡可能消除網(wǎng)絡(luò)模型剪枝后所帶來的負(fù)面影響。知識(shí)蒸餾使用教師－學(xué)生訓(xùn)練模式，由完成預(yù)訓(xùn)練的大型教師模型對(duì)小型學(xué)生模型進(jìn)行知識(shí)蒸餾，以輕微的性能損失為代價(jià)，將非常復(fù)雜的教師模型中的知識(shí)完全遷移到學(xué)生模型中，不但學(xué)習(xí)了教師模型的泛化能力，也獲得了近似于教師模型的性能。其中，蒸餾損失函數(shù)式（９）將計(jì)算教師模型與學(xué)生模型預(yù)測(cè)結(jié)果的差異：

Ｌ ＝ δＬｈａｒｄ ＋ （１ － δ）Ｌｓｏｆｔ， （９）

式中：Ｌｈａｒｄ 為使用真實(shí)值訓(xùn)練輸出的硬樣本損失函數(shù)，Ｌｓｏｆｔ 為教師模型預(yù)測(cè)的軟樣本損失函數(shù)，δ 為平衡軟、硬樣本二者損失函數(shù)的參數(shù)。

圖７ 全面展示了本文網(wǎng)絡(luò)模型知識(shí)蒸餾過程。教師模型采ＹＯＬＯｖ５ＸＬ 網(wǎng)絡(luò)，是ＹＯＬＯｖ５ 系列中性能最好、模型參數(shù)最大的網(wǎng)絡(luò)，學(xué)生模型則使用改進(jìn)并剪枝后的ＹＯＬＯｖ５ｓ 模型。

２ 實(shí)驗(yàn)數(shù)據(jù)集及評(píng)估指標(biāo)

２． １ 變電站異常入侵目標(biāo)數(shù)據(jù)集

現(xiàn)有的異常入侵目標(biāo)數(shù)據(jù)集，均不適用于變電站場(chǎng)景下的訓(xùn)練與測(cè)試，理由有以下３ 點(diǎn)：

（１）獨(dú)特應(yīng)用場(chǎng)景

具有實(shí)際應(yīng)用場(chǎng)景的數(shù)據(jù)集是網(wǎng)絡(luò)模型訓(xùn)練測(cè)試的關(guān)鍵，而目前現(xiàn)有的異常入侵目標(biāo)數(shù)據(jù)集并沒有針對(duì)變電站這一特殊場(chǎng)景建立。

（２）獨(dú)特異常入侵目標(biāo)

常見異常入侵目標(biāo)數(shù)據(jù)集多數(shù)針對(duì)鐵路或軌道中的泥石流、落石、行人、汽車和自行車等異常入侵目標(biāo)建立。然而本文所提出的數(shù)據(jù)庫是針對(duì)變電站場(chǎng)景下專有的異常入侵目標(biāo)：鳥、貓、狗、人、松鼠、鼠和蛇，與現(xiàn)有的異常入侵?jǐn)?shù)據(jù)集中的類別并無關(guān)聯(lián)。

（３）獨(dú)特異常入侵目標(biāo)尺度

經(jīng)過實(shí)地勘探發(fā)現(xiàn)，變電站異常入侵目標(biāo)的尺寸相較于鐵路場(chǎng)景下的入侵目標(biāo)尺寸差距較大，如圖８ 所示。

由于變電站場(chǎng)景下的異常入侵檢測(cè)目標(biāo)類別和尺寸均與普通異常入侵目標(biāo)差異較大，并且檢測(cè)場(chǎng)景也完全不同，因此，現(xiàn)有的異常入侵目標(biāo)數(shù)據(jù)集不能用于變電站的異常入侵檢測(cè)。本文在變電站實(shí)際場(chǎng)景下收集數(shù)據(jù)建立了一個(gè)變電站異常入侵目標(biāo)數(shù)據(jù)集（Ｄａｔａｓｅｔ ｆｏｒ Ａｎｏｍａｌｙ Ｉｎｖａｓｉｏｎ Ｔａｒｇｅｔｓ ｉｎ Ｓｕｂｓｔａ-ｔｉｏｎｓ，ＳＡＩＴＤ），以保證后續(xù)實(shí)驗(yàn)研究結(jié)果具有較高的可靠性。

ＳＡＩＴＤ 通過在變電站實(shí)際場(chǎng)景下安裝攝像頭拍攝的真實(shí)視頻，通過Ｐｏｔｐｌａｙｅｒ 軟件跳幀剪成共２ ３１０ 張圖片，每張圖片尺寸為６４０ ｐｉｘｅｌ×６４０ ｐｉｘｅｌ，共涵蓋７ 類目標(biāo)，分別為鳥（ｂｉｒｄ）、狗（ｄｏｇ）、貓（ｃａｔ）、人（ｐｅｒｓｏｎ）、蛇（ｓｎａｋｅ）、松鼠（ｓｑｕｉｒｒｅｌ）和鼠（ｍｏｕｓｅ）。異常入侵目標(biāo)類別及對(duì)應(yīng)數(shù)量如表２所示。

按照８ ∶ １ ∶ １ 的比例將ＳＡＩＴＤ 劃分為訓(xùn)練集、驗(yàn)證集和測(cè)試集。

２． ２ 性能評(píng)價(jià)指標(biāo)

由于改進(jìn)后的算法可根據(jù)需要實(shí)地部署在變電站場(chǎng)景中，應(yīng)從檢測(cè)準(zhǔn)確度、模型復(fù)雜度、計(jì)算量和檢測(cè)實(shí)時(shí)性等方面評(píng)估算法性能。因此，本實(shí)驗(yàn)采用交并比閾值為０． ５ 的平均精度均值（ｍｅａｎＡｖｅｒａｇｅ Ｐｒｅｃｉｓｉｏｎ，ｍＡＰ）、單張圖片推理時(shí)間、模型計(jì)算量（ＧＦＬＯＰｓ）和模型參數(shù)量（Ｐａｒａｍｅｔｅｒｓ）等性能評(píng)價(jià)指標(biāo)從多維度評(píng)估算法。

３ 實(shí)驗(yàn)及結(jié)果分析

３． １ 實(shí)驗(yàn)環(huán)境

本算法在服務(wù)器上運(yùn)行訓(xùn)練，在英偉達(dá)ＪｅｓｔｏｎＮａｎｏ 開發(fā)板上部署測(cè)試，具體如圖９ 所示。英偉達(dá)Ｊｅｓｔｏｎ Ｎａｎｏ 操作系統(tǒng)為Ｕｂｕｎｔｕ ２０． ０４，ＧＰＵ 為Ｍａｘ-ｗｅｌｌ２． ０，網(wǎng)絡(luò)模型是基于ＰｙＴｏｒｃｈ１． １１． ０ 版本深度學(xué)習(xí)框架進(jìn)行搭建，ＣＵＤＡ 版本為１１． ６，Ｐｙｔｈｏｎ 語言版本為３． ７。

３． ２ 模塊對(duì)比實(shí)驗(yàn)分析

為了驗(yàn)證改進(jìn)模型算法的可行性和有效性，針對(duì)改進(jìn)模塊和知識(shí)蒸餾進(jìn)行橫向?qū)Ρ葘?shí)驗(yàn)，在保持模型其余部分不變的基礎(chǔ)之上，對(duì)相同位置不同改進(jìn)點(diǎn)或不同教師模型進(jìn)行對(duì)比實(shí)驗(yàn)。所有實(shí)驗(yàn)均在ＹＯＬＯｖ５-６． ０ 版本基礎(chǔ)上進(jìn)行改進(jìn)，迭代次數(shù)為３００。

３． ２． １ ＣＡＲＡＦＥ 中ｋｕｐ 與ｋｅｎｃｏｄｅｒ 取值對(duì)比

由于內(nèi)容編碼器需要較大的ｋｅｎｃｏｄｅｒ ×ｋｅｎｃｏｄｅｒ 感受野來利用更大范圍內(nèi)的上下文信息預(yù)測(cè)上采樣核ｗｌ′，所以ｋｕｐ 的大小需要對(duì)應(yīng)增加。但是，模型整體的計(jì)算復(fù)雜度也會(huì)伴隨ｋｅｎｃｏｄｅｒ 的增大而增加。

為了使得模型能夠兼顧更快的檢測(cè)速度和較高的檢測(cè)精度，針對(duì)ｋｅｎｃｏｄｅｒ 和ｋｕｐ 的不同取值進(jìn)行模型性能對(duì)比。設(shè)定一般場(chǎng)景下：ｋｅｎｃｏｄｅｒ ＝ ｋｕｐ －２。實(shí)驗(yàn)結(jié)果如表３ 所示，模型計(jì)算量和參數(shù)量隨著ｋｅｎｃｏｄｅｒ 的增大而逐漸增加，當(dāng)ｋｅｎｃｏｄｅｒ ＝ １，ｋｕｐ ＝ ３ 時(shí)，模型能在保證較高ｍＡＰ 的情況下，獲得較少的參數(shù)量和計(jì)算量開銷，更有利于輕量化模型的構(gòu)建和部署。

３． ２． ２ 不同上采樣算子對(duì)比分析

將ＣＡＲＡＦＥ 上采樣算子替代模型原有的最近鄰插值法，并同時(shí)與雙線性插值法（Ｂｉｌｉｎｅａｒ Ｉｎｔｅｒｐｏｌａ-ｔｉｏｎ）轉(zhuǎn)置卷積法（ｃｏｎｖＴｒａｎｓｐｏｓｅ２ｄ）這２ 種上采樣方法進(jìn)行對(duì)比，實(shí)驗(yàn)結(jié)果如表４ 所示?？梢钥闯?，ＣＡ-ＲＡＦＥ 上采樣算子相較于其余上采樣方法對(duì)于改進(jìn)后的模型貢獻(xiàn)更大，在計(jì)算量與參數(shù)量增加不多的前提下，檢測(cè)精度提升最多。引入的ＣＡＲＡＦＥ 上采樣算子可以充分利用不同尺寸特征圖中的語義信息，擴(kuò)大感受野，使小尺寸異常入侵目標(biāo)的特征更為明顯，位置信息更加清晰，能夠更好地融合多尺度特征。

３． ２． ３ 知識(shí)蒸餾對(duì)比分析

為了驗(yàn)證使用ＹＯＬＯｖ５ＸＬ 模型作為教師模型的有效性，針對(duì)知識(shí)蒸餾微調(diào)模型中使用不同的教師模型進(jìn)行實(shí)驗(yàn)對(duì)比分析。分別使用ＹＯＬＯｖ５Ｌ、ＹＯＬＯｖ７ 兩種中大型網(wǎng)絡(luò)模型作為知識(shí)蒸餾中的教師模型，實(shí)驗(yàn)結(jié)果如圖１０ 所示。使用ＹＯＬＯｖ５ＸＬ作為教師模型對(duì)改進(jìn)且剪枝后的網(wǎng)絡(luò)模型進(jìn)行蒸餾，模型計(jì)算量下降了３２． ０８％ ，檢測(cè)精度提升了１． ８％ ，證明該教師模型可使學(xué)生模型在保障模型復(fù)雜度較低的前提下，獲得更好的檢測(cè)性能。

３． ３ 消融實(shí)驗(yàn)分析

為了驗(yàn)證模型改進(jìn)的有效性，本節(jié)對(duì)模型改進(jìn)處在ＳＡＩＴＤ 上進(jìn)行消融實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果如表５ 所示，ＹＯＬＯｖ５ｓ 加入新的特征提取層后，對(duì)于小尺度異常入侵目標(biāo)漏檢的情況有明顯改善，相較于基準(zhǔn)模型平均檢測(cè)精度提升了１． ３７％ ，相應(yīng)的參數(shù)量和計(jì)算量都有一定的增加。在此基礎(chǔ)上引入了ＣＡＲＡＦＥ 算子后，模型參數(shù)量明顯增多，檢測(cè)精度提升了２． ２％ 。使用Ｎｅｔｗｏｒｋ-ｓｌｉｍｍｉｎｇ 策略對(duì)改進(jìn)后的模型進(jìn)行剪枝，由圖１１ 可說明，參數(shù)量直線下降了約４９． ２％ ，證明剪枝策略效果較好，但會(huì)損失一定的檢測(cè)精度作為剪枝壓縮模型的代價(jià)。使用知識(shí)蒸餾微調(diào)模型后，不但保持了較低的參數(shù)量和計(jì)算量，還恢復(fù)了一定的檢測(cè)精度。實(shí)驗(yàn)證明，所提改進(jìn)模塊在ＳＡＩＴＤ 上展示的性能均有一定幅度的提升，ＹＯＬＯｖ５-Ｓｕｂｓｔａｔｉｏｎ 在保證較高檢測(cè)準(zhǔn)確度時(shí)，也具有較快的檢測(cè)速度，實(shí)現(xiàn)了輕量化實(shí)時(shí)檢測(cè)異常入侵目標(biāo)的功能。

３． ４ 模型對(duì)比實(shí)驗(yàn)分析

使用ＹＯＬＯｖ５ｎ、ＹＯＬＯｖ７［１７］等５ 款主流模型與ＹＯＬＯｖ５-Ｓｕｂｓｔａｔｉｏｎ 在ＳＡＩＴＤ 上進(jìn)行對(duì)比實(shí)驗(yàn)。分別從ｍＡＰ、模型計(jì)算量、模型參數(shù)量和單張圖片推理時(shí)間４ 個(gè)維度來評(píng)估６ 個(gè)模型的性能。實(shí)驗(yàn)數(shù)據(jù)結(jié)果如表６ 和圖１２ 所示，可視化結(jié)果如圖１３ 所示。ＹＯＬＯｖ５ｎ 雖然是６ 種網(wǎng)絡(luò)模型中最輕量、推理時(shí)間最快的模型，但是檢測(cè)精度卻非常不理想，出現(xiàn)漏檢場(chǎng)景里出現(xiàn)的小尺寸異常入侵目標(biāo)的情況。ＹＯＬＯｖ５Ｌ、ＹＯＬＯｖ５ＸＬ、ＹＯＬＯｖ７ 作為中大型模型，相比于輕量化模型，中大型模型的檢測(cè)精度展示出了較高標(biāo)準(zhǔn)，但由于模型整體計(jì)算開銷和占用內(nèi)存較大，并不適合部署于邊緣計(jì)算平臺(tái)上。改進(jìn)后的ＹＯＬＯｖ５Ｓｕｂｓｔａｔｉｏｎ 極大地改善了其余模型漏檢較小尺寸異常入侵目標(biāo)的情況，相比于ＹＯＬＯｖ５ｓ，有效提高了多尺度目標(biāo)檢測(cè)精度，減少了近２６％ 計(jì)算開銷，擁有了更為輕量化的模型參數(shù)，能夠滿足無人值守變電站下實(shí)時(shí)檢測(cè)的需求。

４ 結(jié)束語

本文針對(duì)無人值守變電站場(chǎng)景下異常入侵目標(biāo)檢測(cè)方法無法兼顧檢測(cè)精度與實(shí)時(shí)性能的問題，從實(shí)際應(yīng)用需求出發(fā)，基于ＹＯＬＯｖ５ｓ 模型提出適用于變電站邊緣檢測(cè)設(shè)備的輕量化異常目標(biāo)檢測(cè)網(wǎng)絡(luò)ＹＯＬＯｖ５-Ｓｕｂｓｔａｔｉｏｎ。有效緩解了小尺度目標(biāo)漏檢問題，在保證模型對(duì)于多尺度目標(biāo)較高檢測(cè)精度的同時(shí)，加速模型推理，使得輕量化后的邊緣端計(jì)算模型推理速度相較于原有ＹＯＬＯｖ５ｓ 提升了４１． ９％ ，ＳＡＩＴＤ 的建立也為后續(xù)研究變電站異常入侵目標(biāo)提供了強(qiáng)有力的數(shù)據(jù)支撐，為智能電網(wǎng)的建設(shè)提供了切實(shí)可行的方法。

參考文獻(xiàn)

［１］ 新華社． 中華人民共和國(guó)國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十四個(gè)五年規(guī)劃和２０３５ 年遠(yuǎn)景目標(biāo)綱要［ＥＢ ／ ＯＬ ］．（２０２１－０３－１３）［２０２３－０８－２７］． ｈｔｔｐｓ：∥ｗｗｗ． ｇｏｖ． ｃｎ ／ｘｉｎｗｅｎ ／ ２０２１－０３ ／ １３ ／ ｃｏｎｔｅｎｔ＿５５９２６８１． ｈｔｍ．

［２］ ＴＡＮＧ Ｗ Ｊ，ＣＨＥＮ Ｈ Ｇ． Ｒｅｓｅａｒｃｈ ｏｎ ＩｎｔｅｌｌｉｇｅｎｔＳｕｂｓｔａｔｉｏｎ Ｍｏｎｉｔｏｒｉｎｇ ｂｙ Ｉｍａｇｅ Ｒｅｃｏｇｎｉｔｉｏｎ Ｍｅｔｈｏｄ［Ｊ］．Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｊｏｕｒｎａｌ ｏｆ Ｅｍｅｒｇｉｎｇ Ｅｌｅｃｔｒｉｃ Ｐｏｗｅｒ Ｓｙｓｔｅｍｓ，２０２１，２２（１）：１－７．

［３］ ＳＴＡＵＦＦＥＲ Ｃ，ＧＲＩＭＳＯＮ Ｗ Ｅ Ｌ． Ａｄａｐｔｉｖｅ ＢａｃｋｇｒｏｕｎｄＭｉｘｔｕｒｅ Ｍｏｄｅｌｓ ｆｏｒ Ｒｅａｌｔｉｍｅ Ｔｒａｃｋｉｎｇ［Ｃ］∥１９９９ ＩＥＥＥＣｏｍｐｕｔｅｒ Ｓｏｃｉｅｔｙ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｐｕｔｅｒ Ｖｉｓｉｏｎ ａｎｄＰａｔｔｅｒｎ Ｒｅｃｏｇｎｉｔｉｏｎ． Ｆｏｒｔ Ｃｏｌｌｉｎｓ：ＩＥＥＥ，１９９９：２４６－２５２．

［４］ ＬＩＮ Ｙ Ｗ，ＴＯＮＧ Ｙ，ＣＡＯ Ｙ，ｅｔ ａｌ． ＶｉｓｕａｌａｔｔｅｎｔｉｏｎｂａｓｅｄＢａｃｋｇｒｏｕｎｄ Ｍｏｄｅｌｉｎｇ ｆｏｒ Ｄｅｔｅｃｔｉｎｇ Ｉｎｆｒｅｑｕｅｎｔｌｙ ＭｏｖｉｎｇＯｂｊｅｃｔｓ［Ｊ］． ＩＥＥＥ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｃｉｒｃｕｉｔｓ ａｎｄ Ｓｙｓｔｅｍｓｆｏｒ Ｖｉｄｅｏ Ｔｅｃｈｎｏｌｏｇｙ，２０１７，２７（６）：１２０８－１２２１．

［５］ ＬＩＭ Ｌ Ａ，ＫＥＬＥＳ Ｈ Ｙ． Ｆｏｒｅｇｒｏｕｎｄ Ｓｅｇｍｅｎｔａｔｉｏｎ Ｕｓｉｎｇ ａＴｒｉｐｌｅｔ Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ ｆｏｒ Ｍｕｌｔｉｓｃａｌｅ Ｆｅａｔｕｒｅ Ｅｎｃｏｄｉｎｇ ［ＥＢ ／ ＯＬ］． （２０１８ － ０１ － ０７）［２０２３ － ０８ －２７］． ｈｔｔｐｓ：∥ａｒｘｉｖ． ｏｒｇ ／ ａｂｓ ／ １８０１． ０２２２５．

［６］ ＢＲＡＨＡＭ Ｍ，ＤＲＯＯＧＥＮＢＲＯＥＣＫ Ｍ Ｖ． Ｄｅｅｐ ＢａｃｋｇｒｏｕｎｄＳｕｂｔｒａｃｔｉｏｎ ｗｉｔｈ Ｓｃｅｎｅｓｐｅｃｉｆｉｃ Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ［Ｃ］∥２０１６ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｓｙｓｔｅｍｓ，Ｓｉｇｎａｌｓ ａｎｄ Ｉｍａｇｅ Ｐｒｏｃｅｓｓｉｎｇ． Ｂｒａｔｉｓｌａｖａ：ＩＥＥＥ，２０１６：１－４．

［７］ ＣＨＥＮ Ｔ Ｙ Ｈ，ＲＡＶＩＮＤＲＡＮＡＴＨ Ｌ，ＤＥＮＧ Ｓ，ｅｔ ａｌ．ＧＬＩＭＰＳＥ：Ｃｏｎｔｉｎｕｏｕｓ，Ｒｅａｌｔｉｍｅ Ｏｂｊｅｃｔ Ｒｅｃｏｇｎｉｔｉｏｎ ｏｎＭｏｂｉｌｅ Ｄｅｖｉｃｅｓ ［Ｃ ］ ∥ １３ｔｈ ＡＣＭ Ｃｏｎｆｅｒｅｎｃｅ ｏｎＥｍｂｅｄｄｅｄ Ｎｅｔｗｏｒｋｅｄ Ｓｅｎｓｏｒ Ｓｙｓｔｅｍｓ． Ｓｅｏｕｌ：ＡＣＭ，２０１５：１５５－１６８．

［８］ ＬＩＵ Ｌ Ｙ，ＬＩ Ｈ Ｙ，ＧＲＵＴＥＳＥＲ Ｍ． Ｅｄｇｅ Ａｓｓｉｓｔｅｄ Ｒｅａｌｔｉｍｅ Ｏｂｊｅｃｔ Ｄｅｔｅｃｔｉｏｎ ｆｏｒ Ｍｏｂｉｌｅ Ａｕｇｍｅｎｔｅｄ Ｒｅａｌｉｔｙ［Ｃ］∥Ｔｈｅ ２５ｔｈ Ａｎｎｕａｌ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｍｏｂｉｌｅ Ｃｏｍｐｕｔｉｎｇ ａｎｄ Ｎｅｔｗｏｒｋｉｎｇ． Ｌｏｓ Ｃａｂｏｓ：ＡＣＭ，２０１９：１－１６．

［９］ ＲＥＮ Ｊ，ＧＵＯ Ｙ Ｄ，ＺＨＡＮＧ Ｄ Ｙ，ｅｔ ａｌ． Ｄｉｓｔｒｉｂｕｔｅｄ ａｎｄ Ｅｆｆｉｃｉｅｎｔ Ｏｂｊｅｃｔ ｉｎ Ｅｄｇｅ Ｃｏｍｐｕｔｉｎｇ：Ｃｈａｌｌｅｎｇｅｓ ａｎｄＳｏｌｕｔｉｏｎｓ［Ｊ］． ＩＥＥＥ Ｎｅｔｗｏｒｋ，２０１８，３２（６）：１３７－１４３．

［１０］ 王瑞，李霄峰，史天運(yùn)，等． 基于視頻深度學(xué)習(xí)的鐵路周界入侵檢測(cè)算法研究［Ｊ］． 交通運(yùn)輸系統(tǒng)工程與信息，２０２０，２０（２）：６１－６８．

［１１］ 郭保青，王寧． 基于改進(jìn)深度卷積網(wǎng)絡(luò)的鐵路入侵行人分類算法［Ｊ ］． 光學(xué)精密工程，２０１８，２６ （１２ ）：３０４０－３０５０．

［１２］ 何文玉，楊杰，張?zhí)炻叮?基于深度學(xué)習(xí)的軌道異物入侵檢測(cè)算法［Ｊ］． 計(jì)算機(jī)工程與設(shè)計(jì)，２０２０，４１ （１２ ）：３３７６－３３８３．

［１３］ ＷＡＮＧ Ｊ Ｑ，ＣＨＥＮ Ｋ，ＸＵ Ｒ，ｅｔ ａｌ． ＣＡＲＡＦＥ：Ｃｏｎｔｅｎｔａｗａｒｅ Ｒｅａｓｓｅｍｂｌｙ ｏｆ Ｆｅａｔｕｒｅｓ［Ｃ］∥２０１９ ＩＥＥＥ ／ ＣＶＦ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｐｕｔｅｒ Ｖｉｓｉｏｎ． Ｓｅｏｕｌ：ＩＥＥＥ，２０１９：３００７－３０１６．

［１４］ ＬＩＵ Ｚ，ＬＩ Ｊ Ｇ，ＳＨＥＮ Ｚ Ｑ，ｅｔ ａｌ． Ｌｅａｒｎｉｎｇ Ｅｆｆｉｃｉｅｎｔ Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｔｗｏｒｋｓ ｔｈｒｏｕｇｈ Ｎｅｔｗｏｒｋ Ｓｌｉｍｍｉｎｇ［Ｃ］∥ ２０１７ＩＥＥＥ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｐｕｔｅｒ Ｖｉｓｉｏｎ （ＩＣＣＶ）． Ｖｅｎｉｃｅ：ＩＥＥＥ，２０１７：２７５５－２７６３．

［１５］ ＦＡＮＧ Ｇ Ｆ，ＭＡ Ｘ Ｙ，ＳＯＮＧ Ｍ Ｌ，ｅｔ ａｌ． Ｄｅｐ Ｇｒａｐｈ：Ｔｏｗａｒｄｓ Ａｎｙ Ｓｔｒｕｃｔｕｒａｌ Ｐｒｕｎｉｎｇ［Ｃ］∥ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅＩＥＥＥ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｐｕｔｅｒ Ｖｉｓｉｏｎ ａｎｄ Ｐａｔｔｅｒｎ Ｒｅｃｏｇｎｉｔｉｏｎ． Ｖａｎｃｏｕｖｅｒ：ＩＥＥＥ，２０２３：１６０９１－１６１０１．

［１６］ ＨＩＮＴＯＮ Ｇ，ＶＩＮＹＡＬＳ Ｏ，ＤＥＡＮ Ｊ． Ｄｉｓｔｉｌｌｉｎｇ ｔｈｅＫｎｏｗｌｅｄｇｅ ｉｎ ａ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ ［ＥＢ ／ ＯＬ］． （２０１５ － ０３ －０９）［２０２３－０８－２７］． ｈｔｔｐｓ：∥ａｒｘｉｖ． ｏｒｇ ／ ａｂｓ ／ １５０３．

［１７］ ＷＡＮＧ Ｃ Ｙ，ＢＯＣＨＫＯＶＳＫＩＹ Ａ，ＬＩＡＯ Ｈ Ｙ Ｍ． ＹＯＬＯｖ７：Ｔｒａｉｎａｂｌｅ Ｂａｇｏｆｆｒｅｅｂｉｅｓ Ｓｅｔｓ Ｎｅｗ Ｓｔａｔｅｏｆｔｈｅａｒｔ ｆｏｒＲｅａｌｔｉｍｅ Ｏｂｊｅｃｔ Ｄｅｔｅｃｔｏｒｓ ［Ｃ ］∥ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅＩＥＥＥ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｐｕｔｅｒ Ｖｉｓｉｏｎ ａｎｄ Ｐａｔｔｅｒｎ Ｒｅｃｏｇｎｉｔｉｏｎ． Ｖａｎｃｏｕｖｅｒ：ＩＥＥＥ，２０２３：７４６４－７４７５．

作者簡(jiǎn)介

潘 磊 男，（１９８２—），博士，副教授，碩士生導(dǎo)師。主要研究方向：智慧民航、計(jì)算機(jī)視覺和情感計(jì)算等。

（*通信作者）趙枳晴 女，（１９９７—），碩士研究生。主要研究方向：運(yùn)動(dòng)目標(biāo)檢測(cè)、小目標(biāo)檢測(cè)。

傅 強(qiáng) 男，（１９６９—），碩士，研究員，碩士生導(dǎo)師。主要研究方向：計(jì)算機(jī)技術(shù)與民航行業(yè)應(yīng)用。

鄭 遠(yuǎn) 男，（１９９３—），博士，講師。主要研究方向：計(jì)算機(jī)視覺、軌跡規(guī)劃等。

田 俊 男，（１９９８—），碩士研究生。主要研究方向：圖像增強(qiáng)、目標(biāo)檢測(cè)。

基金項(xiàng)目：中國(guó)民用航空飛行學(xué)院智慧民航專項(xiàng)（ＺＨＭＭ２０２２－００５）；民航飛行技術(shù)與飛行安全重點(diǎn)實(shí)驗(yàn)室開放基金（ＦＺ２０２２ＫＦ１０）；民航飛行技術(shù)與飛行安全重點(diǎn)實(shí)驗(yàn)室自主研究項(xiàng)目（ＦＺ２０２２ＺＺ０６）；中國(guó)民用航空飛行學(xué)院重點(diǎn)面上項(xiàng)目（ＺＪ２０２１－１１）；中國(guó)民用航空飛行學(xué)院２０２３ 研究生創(chuàng)新項(xiàng)目（Ｘ２０２３－２９）