張 勇，馬亞州，侯益明，王紫薇

(山西農(nóng)業(yè)大學(xué) 信息科學(xué)與工程學(xué)院，山西 太谷 030801)

目前，隨著社會經(jīng)濟的迅速發(fā)展，紙幣流通量開始日益增大，給紙幣分離、清點工作帶來困擾。因此，通過機器手段解放人力和解決清點前的紙幣分類問題變得越來越重要。國內(nèi)有通過X射線掃描紙幣扎帶上照影劑成像的條紋數(shù)目來確定紙幣的把數(shù)[1]，但是只適用于數(shù)額過大并且已經(jīng)捆成一把的紙幣，而且對紙幣上的條紋要求過高，適用性差。

為提高紙幣分類和點鈔效率以及準(zhǔn)確率，本研究使用卷積神經(jīng)網(wǎng)絡(luò)技術(shù)對紙幣面值進行了準(zhǔn)確識別，適用性強，運行速度快，準(zhǔn)確率高，為進一步應(yīng)用提供了理論指導(dǎo)。

1 圖像準(zhǔn)備與預(yù)處理

1.1 圖像準(zhǔn)備

準(zhǔn)備面值為0.5元、1元、5元、10元、20元、50元、100元的紙幣共420張(見表1)，各類紙幣在新舊程度上均不相同。拍攝紙幣多個角度的照片，保證多樣性。

表1 樣本數(shù)量表

1.2 圖像預(yù)處理

(1)收集的圖像大小不一定全部相同，因此，需要對收集到的圖像進行處理，將圖像就行壓縮至150×150(通道為3)，使其具有相同大小。

(2)在生成圖片的路徑和標(biāo)簽之后，需要將所有的圖片路徑和標(biāo)簽分別做打亂處理，可以保證在訓(xùn)練模型時不會造成同一個batch反復(fù)出現(xiàn)，若不做打亂處理，會使得神經(jīng)網(wǎng)絡(luò)“記住”這些樣本，影響泛化能力，造成過擬合[2]。

(3)由于搜集到的圖像類型可能不是完全相同的，可能會有jpg，png等類型，為了預(yù)防對訓(xùn)練模型產(chǎn)生影響，需要將圖像解碼，然后將圖像的類型轉(zhuǎn)化成一致的，只能是jpg或只能是png格式。

(4)對圖像進行旋轉(zhuǎn)、縮放，歸一化操作，在搜集到的圖像當(dāng)中可能會存在物體顛倒的情況，需要進行圖像的旋轉(zhuǎn)，使得訓(xùn)練出來的模型更加健壯。

2 紙幣分類模型

2.1 CNN特征提取

卷積神經(jīng)網(wǎng)絡(luò)是深度學(xué)習(xí)算法在圖像處理領(lǐng)域的一個應(yīng)用，是多層感知機(Multi-Layer Perceptron，MLP)的變種，本質(zhì)是一個多層感知機，減少了權(quán)重的數(shù)量，使得網(wǎng)絡(luò)易于優(yōu)化，也降低了模型的復(fù)雜度，降低了過擬合的風(fēng)險[3]。

2.1.1 卷積層

卷積層是卷積神經(jīng)網(wǎng)絡(luò)的核心，使用卷積核進行特征的提取和特征的映射，卷積核對預(yù)處理后的圖像進行相應(yīng)運算，最終提取出圖像中的特征。卷積層的個數(shù)會對提取到的特征有一定影響，如果卷積層個數(shù)少，可能會使得訓(xùn)練的模型不好、精確度不高，但如果卷積層個數(shù)多，可能會使得訓(xùn)練的模型過于貼合訓(xùn)練數(shù)據(jù)，造成過擬合[4]。在該模型中，經(jīng)過多次實驗，最終確定為兩個卷積層。

2.1.2 池化層

池化層也稱欠采樣或下采樣，主要用于特征降維、壓縮數(shù)據(jù)和參數(shù)的數(shù)量。主要有最大池化法(Max Pooling)、平均池化法(Average Pooling)以及隨機池化法(Stochastic Pooling)，在模型中采用最大池化方法，相較于平均池化法、隨機池化法，最大池化法更像是做了特征的選擇，選出了分類辨識度更好的特征，提供了非線性[5]。通過池化可以減小過擬合，提高模型的容錯性。

2.1.3 全連接層

池化層沒有參數(shù)，而在全連接層，全連接層的全連接方式帶來了更多的參數(shù)。在CNN的尾部進行重新擬合，減少特征信息的損失。在模型中采用了兩層全連接層，可以最大限度地減少特征信息的損失，全連接層的輸出矩陣用于softmax層的輸入進行分類，得到分類結(jié)果。

2.2 紙幣分類模型

紙幣分類模型一共有7層模型，包括兩層卷積層、兩層池化層、兩層全連接層和一層softmax層[5]。為了減少卷積的計算量，在進行卷積之前將圖像壓縮至150×150。使用到的卷積層的卷積核分別為64個3×3的卷積核以及16個3×3的卷積核。使用兩層卷積層可以從不同的視野提取到特征。

為了能夠保證取到圖像邊緣的特征和公平起見，將卷積運算模式設(shè)置為填充模式，兩層卷積層都設(shè)置padding為“SAME”，既可以使得卷積后的圖像與原圖的尺寸保持一致，又可以保證取得邊緣的特征。在每層的卷積層之后，還設(shè)置了池化層，每層池化層都采取max pooling的方法，選取3×3的最大池化層(max pooling)，第一個池化層設(shè)置步長為2，第二個池化層設(shè)置步長為1。

模型采用線性整流函數(shù)(relu)作為激活函數(shù)，造成了網(wǎng)絡(luò)的稀疏性，可以削弱參數(shù)的相互依存關(guān)系，緩解過擬合問題的發(fā)生。最后的兩層為全連接層，在第一個全連接層和第二個全連接層都設(shè)置了128個神經(jīng)元，最后一層利用softmax函數(shù)做出多分類的預(yù)測。模型的設(shè)計結(jié)構(gòu)如圖1所示。

圖1 模型的設(shè)計結(jié)構(gòu)

2.3 模型訓(xùn)練原理

本研究所用模型的訓(xùn)練采用正向傳播的過程來逐步提取圖像的特征。在每層的卷積層中，卷積核在給定輸入的矩陣上滑動，將3×3的卷積核與輸入矩陣采用內(nèi)積計算方式進行計算，得到的內(nèi)積結(jié)果加上偏執(zhí)量(bias)得到輸出卷積矩陣的一個元素，輸出矩陣所有元素都是通過卷積核在給定輸入矩陣上進行滑動作運算得到的。并且在滑動窗口滑動前，設(shè)置好步長，如果想要獲得更多的特征，可以盡量使步長小一點。通過卷積層之后得到的圖像特征的大小為：

D2=K

(1)

式(1)中，H1表示圖像的高，W1表示圖像寬，K表示通道數(shù)，H2表示卷積之后的圖像的高，W2表示卷積之后的圖像寬，D2表示卷積之后的通道數(shù)，F(xiàn)表示Filter大小，P表示邊界填充(padding)，S表示步長。通過此公式就可以計算出經(jīng)過卷積層得到的特征圖的大小。

選用一個大小為3×3的最大池化層(max-pooling)，本研究沒有選擇average-pooling，因為相較于average-pooling，最大池化層更像是做了特征的選擇，選出了分類辨識度更好的特征，提供了非線性[6]。經(jīng)過最大池化層后，將一個n×n的矩陣劃分成多個小區(qū)域，再從小區(qū)域中選擇出最大的值作為這個區(qū)域的特征。池化之后，再執(zhí)行“l(fā)rn()”操作，使得局部響應(yīng)歸一化，有助于快速收斂，也可以使得響應(yīng)比較大的值變得更大，并抑制其他反饋較小的神經(jīng)元，增強了模型的泛化能力。

通過卷積層、池化層后得到的是一個“立體”的特征圖，但是后面要進行分類，在全連接層需要進行矩陣的運算，因此，需要將這個“立體”的特征圖進行“拉長”操作，讓這個特征圖進行reshape變成一個一維向量，再進行全連接的操作。在最后連接一個歸一化指數(shù)函數(shù)(softmax函數(shù))，進行預(yù)測結(jié)果[7]。將預(yù)測結(jié)果映射到[0，1]的區(qū)間，比較預(yù)測結(jié)果與真實結(jié)果的擬合效果，并且通過dropout來調(diào)整參數(shù)，減小損失值(loss)，使得訓(xùn)練模型的分類效果更好。全連接層計算的過程如圖2所示。

圖2全連接層計算示意圖

(2)

式(2)是通過全連接層后得到的矩陣，得到矩陣后通過softmax函數(shù)計算就可以得到分類的結(jié)果。

2.4 實驗過程

在訓(xùn)練模型時，卷積層的個數(shù)越多，訓(xùn)練出來的模型越好，但是訓(xùn)練好模型之后進行數(shù)據(jù)測試，發(fā)現(xiàn)訓(xùn)練出來的模型產(chǎn)生了過擬合的現(xiàn)象，對于新收集到的數(shù)據(jù)進行分類的效果不是很好，甚至出現(xiàn)了錯誤。因此，需要減少卷積層的數(shù)目，經(jīng)過不斷實驗，最終發(fā)現(xiàn)當(dāng)模型中的卷積層的個數(shù)為2、池化層的個數(shù)為2時，得到的模型能夠達(dá)到最好的效果。

在確定完卷積層、池化層、全連接層個數(shù)后進行訓(xùn)練，發(fā)現(xiàn)損失值很大，訓(xùn)練效率很低，對此，調(diào)整了訓(xùn)練的次數(shù)，使得次數(shù)以5的步長增大，可以發(fā)現(xiàn)當(dāng)次數(shù)為130的時候，能夠保證訓(xùn)練出來的模型的損失值最小，訓(xùn)練效率最高。為了使模型更好，可以改變學(xué)習(xí)率(learning rate)來調(diào)整損失值的大小[8]，使得損失值盡可能小。在訓(xùn)練損失值，使得損失值盡可能小的時候，采用的是自適應(yīng)距估計(Adam算法)的方法，因為每次迭代參數(shù)的變化都有一定的范圍，不會因為梯度很大而導(dǎo)致學(xué)習(xí)率(步長)也變得很大，參數(shù)的值相對比較穩(wěn)定。經(jīng)過不斷的實驗，最終發(fā)現(xiàn)當(dāng)學(xué)習(xí)率為0.000 1的時候，能夠達(dá)到最優(yōu)的效果。

輸入圖像以150×150×3輸入，經(jīng)過第一層卷積層之后以150×150×64大小輸出,之后經(jīng)過第一層池化層(3×3)，池化層選擇的是最大池化層，以75×75×64的大小輸出；然后經(jīng)過第二層卷積層、池化層得到75×75×16大小的三維數(shù)組。之后要連接全連接層，因此，需要將這個三維數(shù)組進行reshape操作，使其變成一個一維的向量，再連接兩個全連接層，在卷積層和全連接層都采用線性整流函數(shù)(relu函數(shù))進行激活操作，以保證梯度不會越來越小至梯度消失。最后一層為softmax層，得到的數(shù)值映射到[0，1]區(qū)間，從而轉(zhuǎn)化為每個類別的概率[9]。

隨著訓(xùn)練輪次不斷增加，損失值也在不斷地減小，可以觀察到當(dāng)選取輪次為130的時候，得到的損失值最小，之后輪次再增加，損失值會有小幅度的增大，如圖3所示。

圖3 損失值變化情況

隨著輪次的增大，訓(xùn)練效率也在不斷地增大，當(dāng)輪次為120的時候，得到的訓(xùn)練效率為100%。在此選擇輪次為130時的模型，此時訓(xùn)練出來的模型效果最好，如圖4所示。

圖4 訓(xùn)練效率

3 紙幣分類與點鈔結(jié)果分析

在進行點鈔測試時，一次性輸入多張圖片，模型依次讀取每張圖片，并且對其進行分類，再將分類結(jié)果相加，即為最終錢幣金額，實現(xiàn)點鈔功能。測試次數(shù)為150次，成功求得金額146次，準(zhǔn)確率97.33%。紙幣分類結(jié)果如表2所示。

4 結(jié)語

實驗表明，紙幣識別準(zhǔn)確率達(dá)97.78%，點鈔測試準(zhǔn)確率達(dá)97.33%，進一步證明了基于卷積神經(jīng)網(wǎng)絡(luò)進行紙幣分類、計數(shù)的可行性。該方法具有簡單實現(xiàn)、運行速度快的優(yōu)點，進一步為金融部門等工作人員解決了困難，具有巨大的研究價值。

表2 各類別的識別準(zhǔn)確率