張振華，陸金桂

(南京工業(yè)大學(xué)機(jī)械與動力工程學(xué)院，江蘇 南京 211816)

1 引言

混凝土橋梁在長期服役中，由于車輛超重，環(huán)境等因素影響，多數(shù)都存在裂縫[1]，根據(jù)相關(guān)數(shù)據(jù)，裂縫是混凝土橋梁損壞的主要因素[2-3]。依靠人眼觀察的傳統(tǒng)檢測方式效率低精度差。隨著科學(xué)技術(shù)的發(fā)展，研究人員將圖像采集與分析設(shè)備安置于橋檢車上即為智能化橋檢車[4-6]，此方法檢測效率高、成本低。

為了更好的對橋梁進(jìn)行檢測，對裂縫檢測的算法開發(fā)刻不容緩。Xu[7]通過研究提取裂縫圖像的4個統(tǒng)計特征，以BP神經(jīng)網(wǎng)絡(luò)進(jìn)行裂縫的識別。丁愛玲[8]等根據(jù)圖像特征數(shù)據(jù)，以支持向量機(jī)檢測破損路面。上述方法通常需要復(fù)雜的預(yù)處理手段，而卷積神經(jīng)網(wǎng)絡(luò)可以直接對圖像進(jìn)行學(xué)習(xí)，不需要復(fù)雜的預(yù)處理過程，且具有較好的平移、縮放和旋轉(zhuǎn)不變性[9-10]。Lecun首先運(yùn)用CNN完成了對數(shù)字的識別[11]，Lawrence等將CNN用于人臉識別上并取得較好的識別效果[12]，S.Ji等以CNN實(shí)現(xiàn)了人體動作的識別[13]，劉欣等人將CNN用于軌道零部件檢測[14]，姚明海等人將CNN用于鐵氧體磁片缺陷檢測中[15]。

由于卷積神經(jīng)網(wǎng)絡(luò)的特性[16]，對于不同的識別目標(biāo)往往需要采用不同的網(wǎng)絡(luò)結(jié)構(gòu)。通過對橋梁裂縫圖片的分析和對卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的研究，本文采用雙通道多種尺寸卷積核對橋梁裂縫圖片進(jìn)行卷積和特征提取，并配以改進(jìn)的激活函數(shù)作為傳遞函數(shù)，使用支持向量機(jī)(SVM)替代Softmax分類器，提高識別精度和效率。利用該方法對橋梁裂縫圖像進(jìn)行識實(shí)驗，統(tǒng)計其識別率，并與傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)方法進(jìn)行對比。

2 基于熵閾值法法的圖像預(yù)處理

由于在橋梁表面存在干擾物，或由于圖像采集問題導(dǎo)致圖片質(zhì)量問題等因素，采用熵閾值法對圖像進(jìn)行簡單的預(yù)處理，突出裂縫與背景的對比，有效提高識別精度。

熵往往用來表示系統(tǒng)混亂的程度，熵閾值法通過尋找閾值對圖像進(jìn)行分割，先設(shè)定閾值對圖像進(jìn)行分割，分割后計算圖像目標(biāo)和背景的熵總值，若某一閾值使分割后圖像的熵總值達(dá)到最大，則認(rèn)為該閾值使圖像最佳分割閾值，熵閾值法表達(dá)式如下：

假設(shè)設(shè)原圖像的灰度級為K，當(dāng)前設(shè)定的閾值為L，圖像目標(biāo)為T，圖像背景為B，圖像中灰度級為i的像素為p(i)，則目標(biāo)像素的累計PT(L)如式(1)所示，背景像素的累計PB(L)如式(2)所示

(1)

(2)

則根據(jù)上式結(jié)果可得目標(biāo)熵HT(L)和背景熵HB(L)分別為

(3)

(4)

而總熵即為兩熵之和

Hs(L)=HT(L)+HB(L)

(5)

以使總熵達(dá)到最大的閾值L對橋梁裂縫圖像進(jìn)行簡單的預(yù)處理，效果如圖1所示。

圖1 混凝土橋梁裂縫處理效果圖

3 改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)

在橋梁表面往往會有拼接縫、劃痕、標(biāo)線等一些類似于裂縫形態(tài)的物體，這些物體在一定程度上影響了對于裂縫識別的準(zhǔn)確率，通常將其歸類是偽裂縫，如圖2所示。

圖2 混凝土橋梁常見的偽裂縫

偽裂縫的存在是目前影響橋梁裂縫檢測準(zhǔn)確率的最大因素，但是相比于真實(shí)的裂縫這些偽裂縫在特征上還是有區(qū)別的，如何采用卷積神經(jīng)網(wǎng)絡(luò)提取真實(shí)裂縫和偽裂縫的不同特征即為研究重點(diǎn)。同時橋梁裂縫一般有線狀裂縫和網(wǎng)狀裂縫，如何設(shè)計卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)使其能充分提取圖像特征完成裂縫的識別是研究關(guān)鍵。

3.1 傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

卷積神經(jīng)網(wǎng)絡(luò)主要由卷積層、激活函數(shù)、池化層、全連接層組成，卷積層主要是通過不同的卷積核對圖像的特征進(jìn)行提取。

激活函數(shù)即為神經(jīng)元之間輸入和輸出之間映射關(guān)系的表達(dá)。池化層的即將相近的特征進(jìn)行合并。全連接層的神經(jīng)元與之前一層的每個神經(jīng)元相連。卷積神經(jīng)網(wǎng)絡(luò)基本結(jié)構(gòu)如圖3所示。

圖3 卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

3.2 改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

由于橋梁的裂縫和偽裂縫具有不同層次的特征，傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)會限制提取的特征的來源和層次，為了改善這種缺陷，往往采用添加卷積層的方法來提高獲取特征的層次，但若一味的添加卷積層會導(dǎo)致網(wǎng)絡(luò)層數(shù)過高，最后全連接層得到的信息較少，導(dǎo)致識別性能下降。由于橋梁裂縫識別中干擾物的存在和偽裂縫的影響，且微裂縫與真實(shí)裂縫相似度非常高，根據(jù)采用不同結(jié)構(gòu)的卷積神經(jīng)網(wǎng)絡(luò)對橋梁裂縫的識別測試，設(shè)計了雙通道多尺寸卷積核對橋梁裂縫圖像進(jìn)行卷積處理，并最終將得到的信息在全連接層進(jìn)行匯總，從而對橋梁裂縫進(jìn)行識別。改進(jìn)后的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖4所示。

圖4 改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

從圖4中可以看出，本文模型由兩個相對獨(dú)立的子卷積神經(jīng)網(wǎng)絡(luò)構(gòu)成，這樣不會有過多的卷積層導(dǎo)致全連接層得到信息過少的問題，且可以充分提取輸入圖像的特征。最終將兩個子網(wǎng)絡(luò)的信息在全連接層匯總處理。本文采用輸入圖片統(tǒng)一大小為128*128的分辨率，包含4個卷積層(C1，C2，C3，C4，)，4個池化層(P1，P2，P3，P4)，池化層以均值池化的方法得到池化結(jié)果，1個全連接層，最后以SVM代替softmax分類器來進(jìn)行識別分類。

C1層由16個7*7的卷積核與輸入圖像進(jìn)行卷積，得到16個不同的特征圖，特征圖的大小為122*122，后由池化層P1對卷積層C1以2*2的單元進(jìn)行池化操作，P1層由16個61*61的特征圖構(gòu)成。再以32個10*10的卷積核對P1進(jìn)行卷積，得到卷積層C2，其由32個52*52大小的特征圖組成，再以2*2的單元對C2進(jìn)行池化操作，得到池化層P2，其由32個26*26大小的特征圖組成。

C3層由16個13*13的卷積核與輸入圖像進(jìn)行卷積，得到16個不同的特征圖，特征圖的大小為116*116，后由池化層P3對卷積層C3以2*2的單元進(jìn)行池化操作，P3層由16個58*58的特征圖構(gòu)成。再以32個15*15的卷積核對P3進(jìn)行卷積，得到卷積層C4其由32個44*44大小的特征圖組成，再以2*2的單元對C2進(jìn)行池化操作，得到池化層P2，其由32個22*22大小的特征圖組成。

全連接層F的輸入來自兩個子卷積神經(jīng)網(wǎng)絡(luò)的最終池化層P3，P6，公式如下，F(xiàn)采用全連接的方法。

(6)

3.3 改進(jìn)激活函數(shù)

常用的激活函數(shù)有sigmoid函數(shù)、Tanh函數(shù)、Relu函數(shù)等。但這些函數(shù)或多或少都有些缺陷，sigmoid函數(shù)和Tanh函數(shù)易出現(xiàn)梯度彌散的問題，而Relu函數(shù)是分段的線性非飽和函數(shù)，相比sigmoid函數(shù)和Tanh函數(shù)有了很大的進(jìn)步，但是其在運(yùn)行時會將一部分神經(jīng)元的輸出設(shè)為0，會造成神經(jīng)網(wǎng)絡(luò)稀疏特征。本文對橋梁裂縫圖像進(jìn)行識別，由于橋梁干擾物和偽裂縫的存在，且和真實(shí)裂縫非常相似，需要對圖像特征的映射更加精確。

Softplus函數(shù)也是非飽和線性函數(shù)，其數(shù)學(xué)表達(dá)式如式(7)所示，與Relu函數(shù)相比稀疏性較差，收斂速度比Relu函數(shù)慢，但Relu函數(shù)過分的強(qiáng)制稀疏往往會導(dǎo)致模型錯誤率的增高，其數(shù)學(xué)表達(dá)式如式(8)所示。本文采取兩個函數(shù)各自的優(yōu)點(diǎn)，構(gòu)造一個非飽和線性的激活函數(shù)用于神經(jīng)網(wǎng)絡(luò)的輸入輸出映射，以期提高識別率。

f(x)=loge(1+ex)

(7)

(8)

在進(jìn)行輸入輸出的映射時，由于Relu函數(shù)將小于0的部分都強(qiáng)制輸出為0，使小于0的神經(jīng)元處于都處于非激活狀態(tài)，導(dǎo)致網(wǎng)絡(luò)學(xué)習(xí)受阻。本文引入Softplus函數(shù)，對小于0的部分使用Softplus函數(shù)來進(jìn)行處理。當(dāng)x=0時，Softplus函數(shù)的取值為loge2，為了保證組合函數(shù)的連貫性將Softplus函數(shù)減去loge2，使函數(shù)連貫。對于大于0的部分依舊采用Relu函數(shù)進(jìn)行處理，以此方法改進(jìn)Relu函數(shù)會造成神經(jīng)網(wǎng)絡(luò)過度稀疏、模型欠擬合問題，綜合得到的改進(jìn)激活函數(shù)如下式

(9)

以此操作保留了Relu函數(shù)收斂較快，不易丟失有用特征的優(yōu)點(diǎn)，同時通過使用Softplus函數(shù)保留了小于0部分神經(jīng)元的特征信息，提高了信息的獲取量，避免模型欠擬合。

圖5 改進(jìn)的激活函數(shù)圖像

3.4 使用支持向量機(jī)(SVM)替代Softmax分類器

卷積神經(jīng)網(wǎng)絡(luò)具有較好的特征提取能力，但其分類效果一般，卷積神經(jīng)網(wǎng)絡(luò)通常采用Softmax分類器。支持向量機(jī)最初來自于線性分類器，它建立在VC維度理論和結(jié)構(gòu)風(fēng)險最小化原則之上。支持向量機(jī)具有較好的泛化性能，它可以在學(xué)習(xí)能力與模型復(fù)雜度之間取得最佳平衡。支持向量機(jī)能較好解決機(jī)器學(xué)習(xí)算法經(jīng)常遇到的小樣本、過學(xué)習(xí)、局部極值、高維數(shù)問題。

Softmax分類器在對目標(biāo)樣本分類時，若目標(biāo)樣本的分類概率大于0.9時即認(rèn)為分類正確，但此時損失函數(shù)仍然繼續(xù)計算，僅在分類概率接近1時才會終止計算，這種情況下運(yùn)行時間會更長；而SVM的側(cè)重點(diǎn)在于被錯誤分類的目標(biāo)樣本，對分類正確的目標(biāo)樣本不再計算，因此使用SVM分類器的卷積神經(jīng)網(wǎng)絡(luò)可以提高計算效率，縮短訓(xùn)練時間，識別效果也更好。

4 基于改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)橋梁裂縫識別實(shí)驗

4.1 實(shí)驗參數(shù)和樣本選取

實(shí)驗采用單核CPU:3.30GHz，內(nèi)存4GB，GPU為NVIDIA GTX960，操作系統(tǒng)為64位win7系統(tǒng)，使用matlab2016a編寫算法。采用1013張橋梁采集的裂縫和偽裂縫圖片作為數(shù)據(jù)庫。實(shí)驗數(shù)據(jù)詳情如表1所示。

表1 實(shí)驗數(shù)據(jù)集

再對驗證集分別進(jìn)行旋轉(zhuǎn)操作，旋轉(zhuǎn)角度分別為旋轉(zhuǎn)45°,90°,135°和180°，進(jìn)行一共5組識別對比實(shí)驗。先對其以熵閾值法進(jìn)行簡單地預(yù)處理，效果圖如前文第2節(jié)圖1所示。

參與實(shí)驗的各卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如表2所示。

表2 實(shí)驗的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和激活函數(shù)

4.2 實(shí)驗結(jié)果與分析

通過上節(jié)所提方法對橋梁表面裂縫圖像進(jìn)行識別，3種卷積神經(jīng)網(wǎng)絡(luò)通過5組實(shí)驗所得實(shí)驗結(jié)果如圖7所示，第一組實(shí)驗本文方法均方誤差與迭代次數(shù)關(guān)系圖如圖6所示，總迭代次數(shù)為1200次。

圖6 均方誤差變化圖

圖7 不同模型分類準(zhǔn)確率

表3 不同模型平均分類準(zhǔn)確率對比

表4 不同模型訓(xùn)練時間對比

從實(shí)驗結(jié)果中可看出改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)對橋梁真實(shí)裂縫的識別率有了明顯的提高，無論是將圖像做了多少度的旋轉(zhuǎn)，本文方法始終保持較高的識別率，且識別率波動不大，說明本文算法對旋轉(zhuǎn)、平移有較好的魯棒性。綜合來看5組試驗平均96.26%的識別率證明該方法在識別橋梁裂縫方面的可行性。

對比本文方法和CNN1可以發(fā)現(xiàn)，本文通過設(shè)計雙通道模型，使用Softplus函數(shù)改進(jìn)Relu函數(shù)，并且使用SVM代替Softmax分類器構(gòu)建新的CNN模型，其分類準(zhǔn)確率、訓(xùn)練時間較傳統(tǒng)的CNN模型均有顯著改善，平均分類準(zhǔn)確率提高了10.34%，訓(xùn)練時間縮短了15s，充分驗證了改進(jìn)的CNN模型對橋梁裂縫檢測的適用性。對比本文方法和CNN2，在使用相同雙通道結(jié)構(gòu)，相同激活函數(shù)的前提條件下，使用SVM分類器替代Softmax分類器的CNN模型，訓(xùn)練時間縮短了10s。驗證了本文改進(jìn)分類器策略的有效性。

5 結(jié)論

1)本文以基于卷積神經(jīng)網(wǎng)絡(luò)設(shè)計了用于混凝土橋梁裂縫檢測的方法，通過對橋梁裂縫圖像進(jìn)行簡單地預(yù)處理，將處理后的圖像輸入改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練學(xué)習(xí)，并最終完成對橋梁裂縫的識別檢測。

2)橋梁裂縫圖像存在大量的干擾物，且偽裂縫和真實(shí)裂縫高度相似，直接識別會造成特征提取困難且容易混淆。以熵閾值法對橋梁裂縫圖像進(jìn)行預(yù)處理。以該方法很好地完成了橋梁裂縫圖像處理過程。

3)設(shè)計雙通道多種卷積核方式提取的圖像特征并在全連接層匯總；為充分提取圖像特征，進(jìn)一步提高識別精度，以Relu函數(shù)和Softplus函數(shù)取優(yōu)，構(gòu)建了改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)激活函數(shù)，用于映射輸入和輸出之間的關(guān)系；為了提高計算效率，縮短模型的訓(xùn)練時間，以SVM分類器替代Softmax分類器進(jìn)行識別分類。最終以1013幅橋梁裂縫圖像對網(wǎng)絡(luò)進(jìn)行訓(xùn)練學(xué)習(xí)和識別測試，通過與其它2種卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行對比，本文所提卷積神經(jīng)網(wǎng)絡(luò)在橋梁裂縫的識別率上有了明顯的提高，高達(dá)96.26%。證明該方法在橋梁裂縫識別中的優(yōu)越性和可行性。