簡(jiǎn)獻(xiàn)忠，賴左略

(上海理工大學(xué) 光電信息與計(jì)算機(jī)工程學(xué)院，上海 200090)

1 引 言

隨著越來(lái)越多的電子設(shè)備在日常生活中的廣泛應(yīng)用，公共電網(wǎng)中產(chǎn)生了大量的電能質(zhì)量擾動(dòng)信號(hào)[1]，包括暫升、中斷、閃爍和尖峰等.這些大量的信號(hào)不僅影響到工業(yè)生產(chǎn)和生活中正常用電，甚至對(duì)電網(wǎng)的安全運(yùn)行產(chǎn)生了威脅.因此，為了提高電能質(zhì)量，對(duì)電能質(zhì)量擾動(dòng)信號(hào)進(jìn)行準(zhǔn)確識(shí)別至關(guān)重要[2].

電能質(zhì)量擾動(dòng)信號(hào)分類(lèi)方法分為特征提取和分類(lèi)決策兩部分.針對(duì)特征提取的問(wèn)題，深度學(xué)習(xí)中常使用的卷積操作已被證明具有優(yōu)越性[3]，并且在圖像分割[4]，圖像分類(lèi)[5]，信號(hào)分類(lèi)[6]中被廣泛使用，有效的避免了維數(shù)災(zāi)難并且提高了分類(lèi)的準(zhǔn)確度.文獻(xiàn)[7]提出了一種利用維格納-維爾分布將一維信號(hào)轉(zhuǎn)換為二維圖像再通過(guò)卷積神經(jīng)網(wǎng)絡(luò)(CNN)實(shí)現(xiàn)信號(hào)分類(lèi)的模型.文獻(xiàn)[8]，與文獻(xiàn)[7]相似，提出了一種利用相空間重構(gòu)將一維信號(hào)轉(zhuǎn)換為二維圖像再通過(guò)CNN實(shí)現(xiàn)信號(hào)分類(lèi)的模型.文獻(xiàn)[7，8]將一維信號(hào)轉(zhuǎn)換為二維圖像的過(guò)程中人為添加了冗余信息，給CNN提取信號(hào)特征增加了難度同時(shí)增添了不必要的網(wǎng)絡(luò)參數(shù).針對(duì)分類(lèi)決策問(wèn)題，循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)可以挖掘信號(hào)中的時(shí)序信息作為分類(lèi)策略實(shí)現(xiàn)信號(hào)分類(lèi)[9，10]，但是在長(zhǎng)序列訓(xùn)練的過(guò)程中容易出現(xiàn)梯度消失和梯度爆炸的問(wèn)題.長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)(LSTM)通過(guò)引入細(xì)胞狀態(tài)并且更新細(xì)胞隱藏層的輸出[11，12]，有效的解決了RNN在訓(xùn)練過(guò)程中可能出現(xiàn)的問(wèn)題并且具有更強(qiáng)的泛化能力但也使得網(wǎng)絡(luò)模型更加復(fù)雜，參數(shù)更多.總的來(lái)說(shuō)，文獻(xiàn)[7-12]對(duì)以往方法都有改進(jìn)，提高了電能質(zhì)量擾動(dòng)信號(hào)分類(lèi)的準(zhǔn)確率，但為了提取到更加深層次的信號(hào)特征以及設(shè)計(jì)更合理的分類(lèi)策略，整個(gè)電能質(zhì)量擾動(dòng)信號(hào)分類(lèi)網(wǎng)絡(luò)模型變得越來(lái)越復(fù)雜，所需要的參數(shù)越來(lái)越多.因此，在網(wǎng)絡(luò)模型設(shè)計(jì)上還有提高的空間.

為了減少神經(jīng)網(wǎng)絡(luò)模型的冗余參數(shù)并且有效的提取樣本中的時(shí)序特征，Mathias Lechner和Thomas A.Henziger等人受到線蟲(chóng)等小型生物大腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的啟發(fā)，設(shè)計(jì)了一種輕量級(jí)神經(jīng)回路決策(NCP)[13]神經(jīng)網(wǎng)絡(luò)模型.目前，NCP已經(jīng)在自動(dòng)駕駛領(lǐng)域?qū)ΧS圖像的實(shí)時(shí)處理能力取得了不錯(cuò)的結(jié)果[13].但是，在一維信號(hào)分類(lèi)上沒(méi)有相應(yīng)的研究.為了減少電能質(zhì)量擾動(dòng)信號(hào)分類(lèi)模型的復(fù)雜性，本文提出了一種基于NCP的信號(hào)分類(lèi)模型(CNCP)，實(shí)現(xiàn)了NCP在電能質(zhì)量擾動(dòng)信號(hào)分類(lèi)問(wèn)題上的首次探索.該模型由特征提取，預(yù)分類(lèi)和分類(lèi)優(yōu)化3個(gè)模塊構(gòu)成.特征提取模塊引入一維卷積代替二維卷積來(lái)更有效的提取信號(hào)的時(shí)序特征.預(yù)分類(lèi)模塊中優(yōu)化了NCP中各層的神經(jīng)元數(shù)量，優(yōu)化后的NCP網(wǎng)絡(luò)具有參數(shù)少，分類(lèi)決策能力更強(qiáng)等優(yōu)勢(shì)，減少了在特征處理過(guò)程中信息的損失，更加直觀的反應(yīng)分類(lèi)結(jié)果.分類(lèi)優(yōu)化模塊，由全連接層組成，防止訓(xùn)練過(guò)擬合，提高模型的泛化能力.通過(guò)使用IEEE-1159電能質(zhì)量擾動(dòng)信號(hào)數(shù)據(jù)集進(jìn)行驗(yàn)證，CNCP的準(zhǔn)確率為98.6%，模型參數(shù)為14188個(gè)，表明本文提出的模型具有較高的分類(lèi)準(zhǔn)確性及輕量化，更適合在嵌入式設(shè)備上實(shí)現(xiàn)部署.

2 NCP算法原理

NCP的網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示，圖中的神經(jīng)元之間的粗線表示處于激活狀態(tài)的突觸，細(xì)線表示處于抑制狀態(tài)的突觸.感知層的作用是接受信息，對(duì)輸入進(jìn)行預(yù)處理，實(shí)現(xiàn)數(shù)據(jù)標(biāo)準(zhǔn)化，加快網(wǎng)絡(luò)的收斂速度.連接層位于決策層和感知層之間，它的作用是對(duì)輸入信息進(jìn)行過(guò)濾，提取有效特征，避免無(wú)效特征對(duì)結(jié)果進(jìn)行干擾，同時(shí)減少模型參數(shù).決策層被設(shè)計(jì)成一種特殊的RNN網(wǎng)絡(luò)模型，特別的是，這一層中各個(gè)神經(jīng)元之間具有突觸連接.它的作用是將表層特征提取成有利于最終決策的深層特征.執(zhí)行層將深層特征進(jìn)行整合，轉(zhuǎn)化為最終任務(wù)的結(jié)果.同時(shí)神經(jīng)元之間的連接突觸采用激活機(jī)制，處于抑制狀態(tài)的突觸將會(huì)失效，不會(huì)傳遞任何數(shù)據(jù).為了構(gòu)建NCP網(wǎng)絡(luò)結(jié)構(gòu)，總結(jié)出4項(xiàng)基本原則：

圖1 NCP網(wǎng)絡(luò)架構(gòu)

1)NCP的網(wǎng)絡(luò)結(jié)構(gòu)可以分為感知層，連接層，決策層和執(zhí)行層.

2)前一層的神經(jīng)元與后一層的神經(jīng)元之間以二項(xiàng)分布Bin～(n，p1)的方式隨機(jī)連接，形成突觸.突觸的極性隨機(jī)分為興奮和抑制，其分布滿足伯努利分布Ber～(p2).

4)決策層的每一個(gè)神經(jīng)元，以二項(xiàng)分布Bin～(n，p4)的方式隨機(jī)連接，形成的突觸極性滿足伯努利分布Ber～(p2).

p1，p2，p3，p4是對(duì)應(yīng)分布的概率，n是后一層神經(jīng)元的數(shù)量.

3 CNCP模型

CNCP整個(gè)網(wǎng)絡(luò)架構(gòu)分為特征提取，預(yù)分類(lèi)，分類(lèi)優(yōu)化3個(gè)部分，如圖2所示.

圖2 CNCP模型整體架構(gòu)

1)特征提取，由卷積神經(jīng)網(wǎng)絡(luò)構(gòu)成.其作用是從原始電能質(zhì)量擾動(dòng)信號(hào)中提取出最具有代表性的局部特征，從而實(shí)現(xiàn)特征降維和避免維數(shù)災(zāi)難.由于電能質(zhì)量擾動(dòng)信號(hào)是一維的，針對(duì)這類(lèi)具有時(shí)序特征的樣本數(shù)據(jù)，常采用一維卷積網(wǎng)絡(luò)代替二維卷積網(wǎng)絡(luò)來(lái)更好的提取潛在的時(shí)序特征，提高分類(lèi)準(zhǔn)確率.并且信號(hào)處理以及自然語(yǔ)言處理中得到了廣泛的應(yīng)用[14].在一維卷積網(wǎng)絡(luò)模型如圖3所示.一維卷積與二維卷積的大小一樣也可以是二維的，但是只能向一個(gè)方向移動(dòng)，然后對(duì)該行或者列計(jì)算點(diǎn)乘求和.

2)預(yù)分類(lèi)模塊，由改進(jìn)后的NCP組成.其作用是可以根據(jù)改進(jìn)后的NCP的分類(lèi)策略對(duì)提取到的信號(hào)特征實(shí)現(xiàn)預(yù)分類(lèi).改進(jìn)后的NCP網(wǎng)絡(luò)如圖3所示.圖中的神經(jīng)元之間的粗線表示處于激活狀態(tài)的突觸，細(xì)線表示處于抑制狀態(tài)的突觸.感知層，連接層，決策層，執(zhí)行層分別用圓形，正方形，菱形，三角形.實(shí)現(xiàn)表示處于抑制狀態(tài)的突觸，虛線表示處于興奮狀態(tài)的突觸.為了使改進(jìn)后的NCP能夠針對(duì)電能質(zhì)量擾動(dòng)信號(hào)實(shí)現(xiàn)多分類(lèi)任務(wù)，將執(zhí)行層的神經(jīng)元優(yōu)化為信號(hào)的總類(lèi)別數(shù)，使得預(yù)分類(lèi)結(jié)果能夠初步反映各種信號(hào)分類(lèi)可能性，而不是一個(gè)簡(jiǎn)單的標(biāo)量直接來(lái)直接反應(yīng)樣本類(lèi)別，增加了信息維度有利于提高分類(lèi)準(zhǔn)確率.同時(shí)為了防止中間層和決策層特征處理過(guò)程中的信息損失，將中間層和決策層的神經(jīng)元都優(yōu)化為執(zhí)行層神經(jīng)元數(shù)量.

圖3 改進(jìn)后的NCP網(wǎng)絡(luò)架構(gòu)

3)分類(lèi)優(yōu)化模塊，由一層全連接層組成，其作用是將預(yù)分類(lèi)結(jié)果進(jìn)行優(yōu)化，同時(shí)提升模型的泛化能力和魯棒性.優(yōu)化分類(lèi)結(jié)果通過(guò)softmax激活函數(shù)輸出模型預(yù)測(cè)到各類(lèi)別的概率softmax計(jì)算方式如公式(1)所示：

(1)

xi表示未經(jīng)過(guò)softmax前得到的該類(lèi)的預(yù)測(cè)值，outi表示進(jìn)過(guò)softmax激活函數(shù)后的輸出概率，softmax的作用就是將網(wǎng)絡(luò)的預(yù)測(cè)值轉(zhuǎn)化為該類(lèi)別預(yù)測(cè)值的指數(shù)與所有類(lèi)別預(yù)測(cè)值的指數(shù)和的比值，得到每個(gè)分類(lèi)被取到的概率.保證了每一個(gè)類(lèi)別的預(yù)測(cè)概率處于0-1之間，所有類(lèi)別的的預(yù)測(cè)概率和為1. 在多分類(lèi)問(wèn)題中，softmax常與交叉熵?fù)p失函數(shù)搭配，交叉熵能夠衡量同一個(gè)隨機(jī)變量中的兩個(gè)不同概率分布的差異程度，在深度學(xué)習(xí)中就表示為真實(shí)概率分布與預(yù)測(cè)概率分布之間的差異.交叉熵的值越小，模型預(yù)測(cè)效果就越好.具有求導(dǎo)更快，加速網(wǎng)絡(luò)收斂的優(yōu)勢(shì).因此選用交叉熵作為模型訓(xùn)練損失函數(shù)，計(jì)算如公式(2)所示：

(2)

m代表樣本數(shù)，k代表類(lèi)別數(shù)，p(xij)代表第m個(gè)樣本的第k類(lèi)的真實(shí)分類(lèi)標(biāo)簽，q(xij)代表第m個(gè)樣本的第k類(lèi)的預(yù)測(cè)分類(lèi)結(jié)果.通過(guò)交叉熵?fù)p失函數(shù)訓(xùn)練CNCP后，本文輸入驗(yàn)證集并通過(guò)softmax獲得每個(gè)類(lèi)別的概率，將概率的最大值作為最終分類(lèi)結(jié)果.

4 實(shí)驗(yàn)結(jié)果分析

4.1 數(shù)據(jù)集

根據(jù)IEEE-1159[15]制作暫升(S0)，尖峰(S1)，暫降(S2)，周期缺口(S3)，振蕩(S4)，中斷(S5)，中斷與諧波(S6)，正弦波(S7)，諧波(S8)和閃變(S9)共10類(lèi)電能質(zhì)量擾動(dòng)信號(hào).表1中詳細(xì)的注明了不同信號(hào)的制作方法.然后對(duì)信號(hào)進(jìn)行采樣，頻率為6.4KHz，每個(gè)樣本總共采集到1280個(gè)采樣點(diǎn)作為樣本特征，結(jié)果如圖6所示.每一種類(lèi)型信號(hào)取1000個(gè)訓(xùn)練集，200個(gè)測(cè)試集，200個(gè)驗(yàn)證集，共14000個(gè)樣本，同時(shí)為了驗(yàn)證CNCP的抗噪性，制作了信噪比由30dB至50dB的電能質(zhì)量擾動(dòng)信號(hào)，制作好的數(shù)據(jù)集如表2所示.

表1 電能質(zhì)量擾動(dòng)信號(hào)的數(shù)學(xué)模型

表2 數(shù)據(jù)集

4.2 訓(xùn)練網(wǎng)絡(luò)以及評(píng)價(jià)指標(biāo)

CNCP的網(wǎng)絡(luò)結(jié)構(gòu)如表3所示，包含了每一層的名稱，輸出的形狀和參數(shù).第1-7層是卷積神經(jīng)網(wǎng)絡(luò)，用于特征提取，由一維卷積層和最大池化層組成.第8層是改進(jìn)后的NCP，用于預(yù)分類(lèi).第9層是全連接層，用于分類(lèi)優(yōu)化.參數(shù)共計(jì)14188個(gè).

表3 CNCP網(wǎng)絡(luò)模型

為了評(píng)估CNCP在電能質(zhì)量擾動(dòng)信號(hào)分類(lèi)問(wèn)題上的性能，本文根據(jù)表2中的數(shù)據(jù)對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，圖4顯示了網(wǎng)絡(luò)訓(xùn)練過(guò)程中損失和性能的變化.

圖4 訓(xùn)練過(guò)程圖

如圖4(a)所示，在訓(xùn)練輪次進(jìn)行到50次時(shí)，CNCP基本達(dá)到收斂，訓(xùn)練損失約為0.327.而此時(shí)的準(zhǔn)確率如圖4(b)所示達(dá)到了97%，同時(shí)訓(xùn)練集與測(cè)試集的準(zhǔn)確率曲線基本吻合，說(shuō)明不存在過(guò)擬合現(xiàn)象.證明了CNCP具有較強(qiáng)的泛化能力.網(wǎng)絡(luò)模型訓(xùn)練達(dá)到收斂之后，需要對(duì)模型進(jìn)行評(píng)價(jià)，因此利用訓(xùn)練好的模型對(duì)驗(yàn)證集里的2000個(gè)樣本進(jìn)行分類(lèi)，根據(jù)分類(lèi)結(jié)果和真實(shí)標(biāo)簽計(jì)算召回率和準(zhǔn)確率，計(jì)算公式如式(3)和式(4)所示，TP表示樣本真實(shí)標(biāo)簽和預(yù)測(cè)標(biāo)簽都是正例的情況，F(xiàn)P表示真實(shí)標(biāo)簽是反例，預(yù)測(cè)結(jié)果是正例的情況，F(xiàn)N表示真實(shí)標(biāo)簽是正例，預(yù)測(cè)結(jié)果是反例的情況.

(3)

(4)

4.3 分類(lèi)正確率比較

為了驗(yàn)證CNCP在電能質(zhì)量擾動(dòng)信號(hào)分類(lèi)的可行性，我們以召回率和準(zhǔn)確率作為評(píng)價(jià)指標(biāo)，將CNCP與其他電能質(zhì)量擾動(dòng)信號(hào)分類(lèi)算法進(jìn)行統(tǒng)一比較.結(jié)果如表4所示.小波變換和k最鄰相結(jié)合的傳統(tǒng)分類(lèi)算法的準(zhǔn)確率最低，只有93.1%，低于所有的深度學(xué)習(xí)分類(lèi)模型.這是因?yàn)樯疃葘W(xué)習(xí)對(duì)信號(hào)的特征提取以及分類(lèi)策略都要優(yōu)于傳統(tǒng)方法.CNN的特征提取能力比傳統(tǒng)算法更強(qiáng)，因此準(zhǔn)確率更高.RNN和LSTM都針對(duì)分類(lèi)策略進(jìn)行了改進(jìn)，因此準(zhǔn)確率都高于CNN.CNCP進(jìn)一步優(yōu)化了RNN網(wǎng)絡(luò)結(jié)構(gòu)，結(jié)果顯示其分類(lèi)準(zhǔn)確率要略微高于其他深度學(xué)習(xí)分類(lèi)模型.證明了CNCP相較于其他電能質(zhì)量擾動(dòng)信號(hào)分類(lèi)方法在分類(lèi)準(zhǔn)確率上優(yōu)越性.

表4 電能質(zhì)量擾動(dòng)信號(hào)分類(lèi)方法的正確率比較(單位：%)

4.4 模型大小及參數(shù)對(duì)比

為了驗(yàn)證CNCP的模型輕量化程度，我們比較了所用到的網(wǎng)絡(luò)模型的存儲(chǔ)空間，參數(shù)，RNN神經(jīng)元的數(shù)量和RNN參數(shù).結(jié)果如表5所示.CNN所需的參數(shù)數(shù)量和模型存儲(chǔ)空間較多.這是因?yàn)镃NN的結(jié)構(gòu)相對(duì)簡(jiǎn)單，為了實(shí)現(xiàn)電能質(zhì)量擾動(dòng)信號(hào)的精確分類(lèi)，必須要加深網(wǎng)絡(luò)深度，同時(shí)CNN中不存在循環(huán)網(wǎng)絡(luò)結(jié)構(gòu)，因此不統(tǒng)計(jì)其RNN核數(shù)和RNN參數(shù).CNCP與LSTM都是特殊的RNN網(wǎng)絡(luò)模型，CNCP模型所需總參數(shù)相比RNN減少了大約70%，相比LSTM減少了大約90%.CNCP主要在改進(jìn)后的NCP網(wǎng)絡(luò)進(jìn)行參數(shù)優(yōu)化，因此我們?cè)赗NN核數(shù)進(jìn)行比較發(fā)現(xiàn)了CNCP相比RNN和LSTM減少了85%.在RNN參數(shù)上進(jìn)行比較發(fā)現(xiàn)了CNCP與RNN相比減少了約82%，與LSTM相比減少了95%.由此證明CNCP是一種輕量級(jí)電能質(zhì)量擾動(dòng)信號(hào)分類(lèi)網(wǎng)絡(luò).

表5 不同網(wǎng)絡(luò)之間模型大小比較

4.5 抗噪性測(cè)試

在實(shí)際工作中電能質(zhì)量擾動(dòng)信號(hào)多數(shù)是包含噪聲的，這將會(huì)影響分類(lèi)方法的準(zhǔn)確性，因此對(duì)信號(hào)分類(lèi)方法設(shè)計(jì)了的抗噪性實(shí)驗(yàn).首先根據(jù)表2得到信噪比分別為30dB，35dB，40dB，45dB，50dB的電能質(zhì)量擾動(dòng)信號(hào)各2000個(gè)，信噪比為30dB的電能質(zhì)量擾動(dòng)信號(hào)如圖8所示.然后通過(guò)不同的分類(lèi)方法進(jìn)行分類(lèi)準(zhǔn)確性比較.得到的抗噪性實(shí)驗(yàn)比較結(jié)果如表6所示.從表中可以看出CNN和RNN受到噪聲影響較大，對(duì)信噪比為30dB的信號(hào)進(jìn)行分類(lèi)時(shí)準(zhǔn)確率都低于90%.小波變換和k最鄰相結(jié)合的傳統(tǒng)分類(lèi)算法基本不受噪聲影響，但是算法本身的分類(lèi)準(zhǔn)確率低.深度學(xué)習(xí)方法中LSTM和CNCP在信噪比降至30dB時(shí)，準(zhǔn)確率都能夠保持在96%以上，呈現(xiàn)出極強(qiáng)的抗噪性，但是LSTM網(wǎng)絡(luò)模型所需參數(shù)遠(yuǎn)多于CNCP.由此可見(jiàn)CNCP相較于其他電能質(zhì)量擾動(dòng)信號(hào)分類(lèi)方法具有較強(qiáng)的抗噪性.

表6 PQD分類(lèi)方法的抗噪性比較

4.6 特征分析

波形偏離對(duì)稱正弦形成的，因此第1個(gè)主成分(PC0)反應(yīng)了信號(hào)的整體結(jié)構(gòu)，其余的主成分(PC1-PC9)反應(yīng)了由于擾動(dòng)因素而產(chǎn)生的各類(lèi)電能質(zhì)量擾動(dòng)信號(hào)在細(xì)微處的差異.不同網(wǎng)絡(luò)模型最高主成分貢獻(xiàn)度比較如表7所示.從表中可以看出，通過(guò)CNN得到的信號(hào)特征的最高主成分重要度最高，CNCP最低.這表明CNN提取到的信號(hào)特征更多的表示信號(hào)整體結(jié)構(gòu)，而CNCP更多的表示在信號(hào)細(xì)微處的差異.因此CNCP比CNN，RNN和LSTM在電能質(zhì)量擾動(dòng)信號(hào)上分類(lèi)準(zhǔn)確率高.

表7 不同網(wǎng)絡(luò)之間最高主成分貢獻(xiàn)度比較

[16]

圖5 不同網(wǎng)絡(luò)之間各個(gè)主成分貢獻(xiàn)度比較

5 總 結(jié)

本文設(shè)計(jì)了一種基于NCP的輕量級(jí)電能質(zhì)量擾動(dòng)信號(hào)分類(lèi)模型CNCP，實(shí)現(xiàn)了NCP在分類(lèi)問(wèn)題上的首次探索.實(shí)驗(yàn)結(jié)果表明：1)CNCP比wavelet+knn算法分類(lèi)準(zhǔn)確率要高大約5%，比CNN，RNN，LSTM準(zhǔn)確率要高大約1%；2)CNCP相比CNN，RNN，LSTM所需要的模型參數(shù)和存儲(chǔ)空間要少大約65%-90%；3)CNCP在電能質(zhì)量擾動(dòng)信號(hào)信噪比不低于30dB時(shí)，分類(lèi)準(zhǔn)確率能夠一直維持了96%以上；4)CNCP提取到的信號(hào)特征最高貢獻(xiàn)度要低于CNN，RNN，LSTM，表明了CNCP更多的關(guān)注在信號(hào)細(xì)微處的差異，解釋了CNCP分類(lèi)準(zhǔn)確性高于其他分類(lèi)方法的原因.

與其他常用的電能質(zhì)量擾動(dòng)信號(hào)分類(lèi)模型相比，本文提出的CNCP模型能夠在模型參數(shù)較少的情況下具有較高的分類(lèi)準(zhǔn)確度，更加適合在嵌入式設(shè)備上部署，為公共電網(wǎng)中電能質(zhì)量擾動(dòng)信號(hào)的識(shí)別問(wèn)題提供了一種思路.下一步工作將以CNCP為基礎(chǔ)，嘗試使用ResNet殘差網(wǎng)絡(luò)作為特征提取模塊加速模型擬合，從而使用更少的網(wǎng)絡(luò)層和訓(xùn)練參數(shù)，使得模型更加輕量化.