劉維華

(中共陜西省委黨校陜西行政學(xué)院 文化與科技教研部， 陜西 西安 710000)

0 引言

視覺神經(jīng)網(wǎng)絡(luò)算法的基本原理是以收集圖像數(shù)據(jù)為基礎(chǔ),對(duì)外界圖像進(jìn)行處理，并通過GPRS無線系統(tǒng)將圖像的信息單元以沖脈電流方式對(duì)神經(jīng)網(wǎng)絡(luò)組織進(jìn)行適當(dāng)?shù)母泄俳佑|，起到視覺神經(jīng)興奮的作用，在一定的電流刺激過程中可以使人的視覺感官對(duì)眼前的事物有基本的識(shí)別能力[1-2]。盡管國內(nèi)外研究學(xué)者在視覺網(wǎng)絡(luò)辨別中取了很多的研究成果，但是受到信號(hào)交互、電極硬件設(shè)備和結(jié)構(gòu)部件通訊等技術(shù)因素制約，可以實(shí)現(xiàn)視覺感官刺激的電流模塊非常少。本研究以DretionNet模型和ReaqiueNet模型為基礎(chǔ)，通過神經(jīng)網(wǎng)絡(luò)算法進(jìn)行優(yōu)化，得到基于FPGA的高效算法的神經(jīng)網(wǎng)絡(luò)模型，對(duì)其多條分支的組織結(jié)構(gòu)進(jìn)行優(yōu)化[3-5]。根據(jù)DretionNet模型和ReaqiueNet模型的評(píng)價(jià)分析，得到兩種模型針對(duì)神經(jīng)網(wǎng)絡(luò)算法的改進(jìn)點(diǎn)，并以設(shè)備性能提升為依據(jù)，結(jié)合神經(jīng)網(wǎng)絡(luò)適應(yīng)的優(yōu)化設(shè)備，對(duì)原有的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行改進(jìn)，根據(jù)優(yōu)化后的神經(jīng)網(wǎng)路模型和FPGA為基礎(chǔ)的高速網(wǎng)絡(luò)算法，提出多分支的深度卷積算法，根據(jù)設(shè)備中的卷積算法,運(yùn)用電流脈沖和數(shù)據(jù)采集系統(tǒng)，更好地提升算法效率。

1 神經(jīng)網(wǎng)絡(luò)模型

1.1 DretionNet模型

DretionNet模型相對(duì)于其他模型有更好地兼容性和可塑性，由于DretionNet模型是根據(jù)原有模型的基礎(chǔ)改良而成，因此其參數(shù)和結(jié)構(gòu)是可以結(jié)合實(shí)際情況進(jìn)行改變[6]。針對(duì)模型的不同敏感參數(shù)，結(jié)合參數(shù)的變化程度可以隨時(shí)調(diào)整，這樣類似的改變可以有效控制研究模型被修改，導(dǎo)致因參數(shù)變化引起模型精準(zhǔn)度降低的結(jié)果，此類模型特征改變?cè)谝曈X神經(jīng)網(wǎng)絡(luò)算法中起到非常重要的作用[7-8]。在實(shí)際工作過程中，由于工程應(yīng)用需要滿足圖像清晰度、像素種類識(shí)別和工程中的精準(zhǔn)度要求，對(duì)原有的視覺神經(jīng)網(wǎng)絡(luò)按照劃定的規(guī)格進(jìn)行校對(duì)。DretionNet模型不僅滿足模型修改過程中的兼容性，而且可以使開發(fā)者獲得視覺神經(jīng)網(wǎng)絡(luò)的對(duì)應(yīng)模型，DretionNet模型是可以改變的，提高了模型的構(gòu)建效率和開發(fā)模式，根據(jù)DretionNet模型原始參數(shù)標(biāo)準(zhǔn)，模型參數(shù)結(jié)構(gòu),如表1所示。

1.2 ReaqiueNet模型

ReaqiueNet模型的主要架構(gòu)是以視覺神經(jīng)網(wǎng)絡(luò)局部算法的最優(yōu)解決方式進(jìn)行卷積網(wǎng)絡(luò)的模型結(jié)構(gòu)實(shí)現(xiàn)，如圖1所示。

表1 DretionNet模型參數(shù)

圖1 ReaqiueNet結(jié)構(gòu)

根據(jù)ReaqiueNet模型的疊加效果，其結(jié)構(gòu)模型在輸出結(jié)果方面一定會(huì)發(fā)生變化，在結(jié)構(gòu)優(yōu)化方面，模型的最高層會(huì)捕捉其形態(tài)特征，但模型的空間密集度會(huì)降低，這意味著指標(biāo)層會(huì)轉(zhuǎn)移到較高層次，視覺神經(jīng)系統(tǒng)中的其他層次結(jié)構(gòu)隨之增加[9-10]。ReaqiueNet模型在Cliet V1、Cliet V2結(jié)構(gòu)中可以繼續(xù)使用等比例層次的卷積模式，盡管在模型構(gòu)建過程中可以為結(jié)構(gòu)層次進(jìn)行替換，但ReaqiueNet模型在其他多分支結(jié)構(gòu)數(shù)量中的比例沒有發(fā)生變化，仍然可以保持已形成的模型數(shù)量。

2 基于FPGA視覺神經(jīng)網(wǎng)絡(luò)

2.1 網(wǎng)絡(luò)模型多層次分支

DretionNet模型和ReaqiueNet模型在視覺神經(jīng)網(wǎng)絡(luò)計(jì)算過程中可以降低模型參數(shù)的使用量和運(yùn)算過程，緩解了建模壓力，從而有效提高了FPGA在大數(shù)據(jù)平臺(tái)的計(jì)算能力。但是此類算法在模型構(gòu)建的過程中顯示出不完全的適應(yīng)性，導(dǎo)致網(wǎng)絡(luò)模型在工程實(shí)際過程中運(yùn)算效率被降低，實(shí)驗(yàn)結(jié)果因此會(huì)受到影響，無法滿足在實(shí)際應(yīng)用中的計(jì)算步驟。結(jié)合中外學(xué)者的研究成果，以基礎(chǔ)模型構(gòu)建為基礎(chǔ)，總結(jié)在不同網(wǎng)絡(luò)模型中的計(jì)算缺陷，研究基于FPGA神經(jīng)網(wǎng)絡(luò)的多分支同步算法。

由于構(gòu)建的參數(shù)模型對(duì)計(jì)算機(jī)硬件平臺(tái)的運(yùn)算條件具有很高的要求，根據(jù)DretionNet模型和ReaqiueNet模型的構(gòu)建機(jī)理，以改善計(jì)算機(jī)硬件平臺(tái)為出發(fā)點(diǎn)，結(jié)合模型多分支結(jié)構(gòu)分布特點(diǎn)，通過對(duì)DretionNet模型和ReaqiueNet模型多層次分支結(jié)構(gòu)的數(shù)據(jù)進(jìn)行分布統(tǒng)計(jì)，并根據(jù)數(shù)據(jù)統(tǒng)計(jì)結(jié)果重新分流調(diào)整，確保計(jì)算精度的前提下，減緩各個(gè)分支計(jì)算路徑的延遲效果。在分散的結(jié)構(gòu)模型中，通過減少卷積模型數(shù)據(jù)通道的輸入量，降低后期模型構(gòu)建過程中運(yùn)算量激增的問題，可以較好地提升計(jì)算機(jī)的硬件平臺(tái)的運(yùn)算效率，并降低了數(shù)據(jù)導(dǎo)入時(shí)間。設(shè)定第i層的圖像輸入量為ci×si×zi，按照卷積模型從上至下的運(yùn)算順序，則DretionNet模型和ReaqiueNet模型的參數(shù)計(jì)算量,如式(1)。

ei=ci×si×zi

(1)

若降低卷積模型的運(yùn)算維度，提高數(shù)據(jù)模型的計(jì)算精度，則模型的計(jì)算參數(shù),如式(2)。

ei,s+ei,e=ci×m+m×si×zi

(2)

式中，模型參數(shù)m不應(yīng)大于公式中的其他單元參量，這樣可以保證構(gòu)建模型在運(yùn)算過程中降低參數(shù)的數(shù)量，減少模型的體量，提升參數(shù)的運(yùn)算效率。

2.2 基于FPGA結(jié)構(gòu)折疊

基于FPGA神經(jīng)網(wǎng)絡(luò)的深度卷積算法中，采用深度卷積分割法對(duì)構(gòu)建的模型進(jìn)行分步計(jì)算，對(duì)照構(gòu)建的標(biāo)準(zhǔn)模型，將一個(gè)深度卷積算法分割為1×1，3×3，5×5……(2n-1)×(2n-1)單層次的模型分量，運(yùn)用FPGA將獨(dú)立的卷積模量插入在每個(gè)模型的運(yùn)算通道上，并按照單一的卷積模量進(jìn)行重新輸出，一個(gè)合理的卷積模型不僅可以滿足數(shù)據(jù)的輸入，還可以在新的計(jì)算過程中輸出一組新的組合計(jì)算量。FPGA在深度卷積計(jì)算過程中可以把構(gòu)建的模型分割為兩個(gè)部分，其中一部分是將通道數(shù)據(jù)進(jìn)行卷積量化，另一部分將量化的數(shù)據(jù)重新組合。

標(biāo)準(zhǔn)卷積模型參數(shù)量化并重新輸出的計(jì)算方式,如式(3)。

Gi,s,n=∑i,j,mKi,j,m,n×Fi+j-1

(3)

深度卷積在模型分割為單層次結(jié)構(gòu)進(jìn)行重新輸出的計(jì)算,如式(4)。

P=Fn×M×N×K×Di×Dj

(4)

按照標(biāo)準(zhǔn)模型卷積項(xiàng)M×N×K產(chǎn)生的特征值G，并重新輸出產(chǎn)生GM×GN×GK的特征圖，圖像的特征寬度和高度滿足深度卷積的計(jì)算要求，M是數(shù)據(jù)輸入通道的容積量，N是數(shù)據(jù)輸出通道的容積量，D是特征圖像的尺寸大小。

3 結(jié)果分析

按照深度卷積模型的計(jì)算標(biāo)準(zhǔn)，基于FPGA的多分支同步算法的輸出結(jié)果呈現(xiàn)出對(duì)稱性且互不干擾，根據(jù)DretionNet模型和ReaqiueNet模型的層次結(jié)構(gòu)，從模型的頂端到底部呈現(xiàn)相互疊加的形式，模型后一層的容積量是前一層容積量的2倍。ReaqiueNet模型運(yùn)用了常見的5×5結(jié)構(gòu)尺寸，并以兩個(gè)結(jié)構(gòu)單元為標(biāo)準(zhǔn)作為深度卷積模型的滑動(dòng)窗口，構(gòu)建模型的過程中采用了結(jié)構(gòu)交叉方案，因此對(duì)模型邊緣的數(shù)值做歸一化處理不會(huì)影響結(jié)構(gòu)尺寸。改良后的結(jié)構(gòu)尺寸,如表2所示。

表2 改良的Inception體系結(jié)構(gòu)尺寸

在5條支路模型的輸入量為13×13×3，深度卷積核的數(shù)量為46組，以FPGA作為ReaqiueNet模型的優(yōu)化標(biāo)準(zhǔn)，運(yùn)算結(jié)束后5條支路的輸出量為5×5×3，深度卷積核的數(shù)量保持不變。

DretionNet模型和ReaqiueNet模型的準(zhǔn)確率隨著修改次數(shù)的改變而變化，如圖2所示。

圖2 模型修改次數(shù)與準(zhǔn)確率比較

當(dāng)修改次數(shù)低于3，模型的準(zhǔn)確率會(huì)有較大幅度的提升，當(dāng)修改次數(shù)介于3和14之間時(shí)，模型準(zhǔn)確率在70%至75%之間震蕩，修改次數(shù)大于15時(shí)，模型準(zhǔn)確率增長速率較快，最高值可達(dá)90%。模型深度卷積次數(shù)由5×5轉(zhuǎn)換為5×1/1×5，不僅提高了運(yùn)算速率的準(zhǔn)確性，而且可以保證模型結(jié)構(gòu)的完整性。

不同網(wǎng)絡(luò)模型的誤差率也存在差異，構(gòu)建模型不同誤差率的區(qū)別,如表3所示。

表3 不同模型數(shù)據(jù)準(zhǔn)確率比較

由表3中統(tǒng)計(jì)數(shù)據(jù)可以看出，DEP模型的誤差率為13.69%，MIN模型的誤差率為10.41%，改良前模型平均誤差率為11.78%，基于FPGA改良模型的誤差率僅為6.06%，模型誤差率顯著下降，但改良后的模型與深度卷積模型的結(jié)構(gòu)樣式保持不變。

4 總結(jié)

本研究針對(duì)DretionNet模型和ReaqiueNet模型的優(yōu)化改進(jìn)，結(jié)合傳統(tǒng)模型的在一般硬件設(shè)備中存在的問題，提出以FPGA為基礎(chǔ)的高效網(wǎng)絡(luò)模型算法，運(yùn)用FPGA將獨(dú)立的卷積模量插入在每個(gè)模型的運(yùn)算通道上，并按照單一的卷積模量進(jìn)行重新輸出，當(dāng)修改次數(shù)介于4與13之間時(shí)，模型的準(zhǔn)確率會(huì)有較大幅度的提升，以FPGA為硬件改良模型的誤差率僅為6.06%，顯著提高了神經(jīng)網(wǎng)絡(luò)算法的識(shí)別精準(zhǔn)度。