陳思哲

摘 要 作為機(jī)器學(xué)習(xí)算法當(dāng)中具有極高復(fù)雜程度的算法之一，深度學(xué)習(xí)算法具有強(qiáng)大的分析和學(xué)習(xí)能力，帶有強(qiáng)烈的智能化色彩。而通過將其與卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行充分融合，可以有效增強(qiáng)多層感知器的數(shù)據(jù)分析、圖像處理等能力，對(duì)人們分析處理各種數(shù)據(jù)具有十分重要的幫助作用。因此，本文將在簡單介紹卷積神經(jīng)網(wǎng)絡(luò)下的深度學(xué)習(xí)算法基礎(chǔ)之上，對(duì)其實(shí)際應(yīng)用進(jìn)行簡要分析研究。

關(guān)鍵詞 卷積神經(jīng)網(wǎng)絡(luò)；深度學(xué)習(xí)算法；模式識(shí)別

中圖分類號(hào) TP3 文獻(xiàn)標(biāo)識(shí)碼 A 文章編號(hào) 1674-6708（2017）195-0059-02

經(jīng)過長期的發(fā)展，機(jī)器學(xué)習(xí)已經(jīng)拓展至了深度學(xué)習(xí)這一全新的領(lǐng)域。深度學(xué)習(xí)通過堆疊眾多層，并將每一層的輸出作為下一層的輸入，可以有效實(shí)現(xiàn)分級(jí)表達(dá)輸入信息的目的，進(jìn)而大大方便人們對(duì)信息數(shù)據(jù)的識(shí)別和分析處理。而在卷積神經(jīng)網(wǎng)絡(luò)基礎(chǔ)下，深度學(xué)習(xí)算法可以使得卷積層對(duì)輸入的圖像進(jìn)行卷積的基礎(chǔ)之上完成特征信息的分級(jí)表達(dá)，從而使得模式識(shí)別更加簡易、

精確。

基于此，本文將著重圍繞卷積神經(jīng)網(wǎng)絡(luò)基礎(chǔ)下的深度學(xué)習(xí)算法及應(yīng)用進(jìn)行探究。

1 卷積神經(jīng)網(wǎng)絡(luò)下的深度學(xué)習(xí)算法

1.1 卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)雖然歸屬于神經(jīng)網(wǎng)絡(luò)范疇，但其具有多層監(jiān)督學(xué)習(xí)的特性，并且主要由特征采樣層和特征提取層，也就是卷積層共同組合

而成。

其中每一層都由若干二維平面構(gòu)成，而每一個(gè)二維平面都由若干獨(dú)立神經(jīng)元組成。特征采樣層在完成樣本局部特征提取之后，明確局部特征的具體位置以及彼此之間的關(guān)系，此后由卷積層采用梯度下降法控制損失函數(shù)，使之降至最小，而后通過利用網(wǎng)絡(luò)權(quán)重參數(shù)，對(duì)卷積神經(jīng)網(wǎng)絡(luò)當(dāng)中的每一層進(jìn)行反向調(diào)節(jié)。在反復(fù)迭代訓(xùn)練之下，有效保障卷積神經(jīng)網(wǎng)絡(luò)的高精

確度[1]。

1.2 深度學(xué)習(xí)算法

假設(shè)在L系統(tǒng)當(dāng)中總共擁有n層，第一層為L1、第二層為L2，以此類推直至第n層Ln。輸入和輸出分別為I與O，則。在輸出與輸入即I和O相等的條件下，系統(tǒng)L在輸入L的整個(gè)過程中信息完好無損，則表示在系統(tǒng)L中的任何一層當(dāng)中，輸入I都存在另一種表示，則此時(shí)我們將自動(dòng)獲得與輸入I相對(duì)應(yīng)的各種層次特征。簡單來說，深度學(xué)習(xí)就是通過借鑒機(jī)器學(xué)習(xí)的算法，利用多層堆疊的方式使得這一層輸出可以作為下一層的輸入，從而分級(jí)表達(dá)輸入的

信息。

1.3 稀疏連接

與其他神經(jīng)網(wǎng)絡(luò)不同的是，在卷積神經(jīng)網(wǎng)絡(luò)當(dāng)中相鄰兩層之間的所有神經(jīng)元節(jié)點(diǎn)并非相互連接。在充分利用卷積層之間的局部空間之后，層與層之間的神經(jīng)元節(jié)點(diǎn)將形成局部連接的情況。而此時(shí)如果將m-1層設(shè)置為輸入層，則在卷積神經(jīng)網(wǎng)絡(luò)當(dāng)中，m層神經(jīng)元節(jié)點(diǎn)和與之相鄰的其他節(jié)點(diǎn)（通常為3個(gè)）之間可以形成有效連接，此時(shí)神經(jīng)網(wǎng)絡(luò)架構(gòu)的參數(shù)規(guī)模將得到有效

控制。

1.4 權(quán)重共享

處于卷積神經(jīng)網(wǎng)絡(luò)當(dāng)中的每一種卷積濾波器，都會(huì)在卷積層當(dāng)中重復(fù)作用與感受，也就是實(shí)時(shí)卷積輸入的圖像和數(shù)據(jù)信息，并由此自動(dòng)生成卷積結(jié)果，得到與輸入圖像相對(duì)應(yīng)的特征圖。此時(shí)卷積神經(jīng)網(wǎng)絡(luò)中的特征提取層將逐一提取特征，而相同的參數(shù)則會(huì)通過卷積濾波器進(jìn)行共享。一般在m層特征圖像當(dāng)中國會(huì)有3個(gè)神經(jīng)元，負(fù)責(zé)共享各連接線間的權(quán)重

參數(shù)[2]。

2 卷積神經(jīng)網(wǎng)絡(luò)基礎(chǔ)下深度學(xué)習(xí)算法的實(shí)際應(yīng)用

2.1 處理自然語言

卷積神經(jīng)網(wǎng)絡(luò)基礎(chǔ)下的深度學(xué)習(xí)算法目前已經(jīng)被廣泛運(yùn)用在處理自然語言方面。在該算法尚未出現(xiàn)之前，處理自然語言一直使用的是統(tǒng)計(jì)模型，該模型雖然能夠基本完成自然語言的處理，但其處理效率和處理精確性一直處于較低的水準(zhǔn)。隨著人們對(duì)神經(jīng)網(wǎng)絡(luò)研究的不斷深入，在卷積神經(jīng)網(wǎng)絡(luò)出現(xiàn)后，人們發(fā)現(xiàn)其在處理自然語言方面具有較大的優(yōu)勢(shì)作用。美國的NEC研究院作為世界上最早研究卷積神經(jīng)網(wǎng)絡(luò)下的深度學(xué)習(xí)算法的機(jī)構(gòu)，在十年前首次嘗試運(yùn)用深度學(xué)習(xí)算法處理自然語言。其通過利用卷積神經(jīng)網(wǎng)絡(luò)的多層一維卷積結(jié)構(gòu)，在一維矢量空間當(dāng)中實(shí)現(xiàn)詞匯的一一映射，能夠有效完成包括標(biāo)注詞性和語義角色等在內(nèi)的眾多自然語言問題，同時(shí)在算法的運(yùn)用之下，原本一長串的字符字串被分成若干短小的詞匯，從而有效提高的自然語言的處理精

確性。

2.2 圖像識(shí)別

卷積神經(jīng)網(wǎng)絡(luò)作為深度神經(jīng)網(wǎng)絡(luò)模型的一種，其通過不斷訓(xùn)練下形成的兩個(gè)非線性卷積層和牢牢固定的兩個(gè)子采樣層構(gòu)成的卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)，模擬出位于動(dòng)物視覺皮層當(dāng)中或復(fù)雜或簡單的細(xì)胞，從而完成圖像識(shí)別的讀取。但由于自然圖像往往存在像素較大的情況，因此卷積神經(jīng)網(wǎng)絡(luò)很難在短時(shí)間內(nèi)充分理解自然圖像的內(nèi)容，進(jìn)而影響導(dǎo)致最終的圖像識(shí)別

效果。

隨后研究人員通過改變卷積神經(jīng)網(wǎng)絡(luò)的算法，在網(wǎng)絡(luò)架構(gòu)的基礎(chǔ)之上運(yùn)用深度學(xué)習(xí)算法并建立起深度神經(jīng)網(wǎng)絡(luò)，并將權(quán)重衰減的理念運(yùn)用在網(wǎng)絡(luò)訓(xùn)練中，以有效減小權(quán)重幅度。配合現(xiàn)代化的電子計(jì)算機(jī)，使得樣本的擬合速度得到明顯提升，圖像特征數(shù)據(jù)的提取和識(shí)別也變得越來越

高效。

目前在支付寶當(dāng)中推出的人臉識(shí)別付款功能便是運(yùn)用了卷積神經(jīng)網(wǎng)絡(luò)下的深度學(xué)習(xí)算法，此外該算法還在車輛監(jiān)控等方面得到廣泛運(yùn)用，工作人員通過運(yùn)用算法識(shí)別不同圖像中的車輛特征如位置、狀態(tài)等可以有效監(jiān)控車輛

行蹤[3]。

2.3 語音識(shí)別

現(xiàn)階段百度公司已經(jīng)成功將卷積神經(jīng)網(wǎng)絡(luò)下的深度學(xué)習(xí)算法運(yùn)用在了語音識(shí)別當(dāng)中。該公司搭建起的九層深度神經(jīng)網(wǎng)絡(luò)架構(gòu)，在深度學(xué)習(xí)算法下可以分級(jí)描述出每一層特征狀態(tài)空間的分布，工作人員通過調(diào)整輸入和輸出使之保持相等，即可有效明確特征的具體位置，以此相互之間的相關(guān)性。在輸入原始的語音樣本之后，直接運(yùn)用卷積神經(jīng)網(wǎng)絡(luò)基礎(chǔ)下的深度學(xué)習(xí)算法，構(gòu)建起深度神經(jīng)網(wǎng)絡(luò)架構(gòu)，將反復(fù)對(duì)語音樣本進(jìn)行網(wǎng)絡(luò)訓(xùn)練，此時(shí)其將根據(jù)提取的語音樣本特征對(duì)目標(biāo)語音進(jìn)行識(shí)別判斷，這對(duì)于從大量的語料數(shù)據(jù)中迅速、精準(zhǔn)地提取有效信息具有十分重要的幫助

作用。

3 結(jié)論

總而言之，深度學(xué)習(xí)算法通過對(duì)機(jī)器學(xué)習(xí)進(jìn)行進(jìn)一步發(fā)展，使得計(jì)算機(jī)可以在海量的信息數(shù)據(jù)中深度學(xué)習(xí)具有潛在特征與規(guī)律的信息，進(jìn)而有效完成模式和樣本的智能

識(shí)別。

在卷積神經(jīng)網(wǎng)絡(luò)基礎(chǔ)下，深度學(xué)習(xí)算法目前已經(jīng)被廣泛應(yīng)用在了自然語言的處理以及圖像、語音的識(shí)別等眾多領(lǐng)域當(dāng)中，且已經(jīng)取得了一定的應(yīng)用效果。相信隨著人們對(duì)深度學(xué)習(xí)算法研究的不斷深入，未來其應(yīng)用范圍還將得到進(jìn)一步拓寬，可以被靈活運(yùn)用至各個(gè)領(lǐng)域當(dāng)中，更好地幫助人們完成信息數(shù)據(jù)的識(shí)別和分析處理

工作。

參考文獻(xiàn)

[1]盧宏濤，張秦川.深度卷積神經(jīng)網(wǎng)絡(luò)在計(jì)算機(jī)視覺中的應(yīng)用研究綜述[J].數(shù)據(jù)采集與處理，2016，31（1）：1-17.

[2]騫宇澄，劉昭策.深度學(xué)習(xí)的實(shí)現(xiàn)與發(fā)展——從神經(jīng)網(wǎng)絡(luò)到機(jī)器學(xué)習(xí)[J].電子技術(shù)與軟件工程，2017（11）：

30-31.

[3]何克磊，史穎歡，高陽，等.一種基于原型學(xué)習(xí)的多示例卷積神經(jīng)網(wǎng)絡(luò)[J].計(jì)算機(jī)學(xué)報(bào)，2017，40（6）：1265-1274.endprint