覃 科 劉曉剛 丁立新

(1.桂林航天工業(yè)學(xué)院 廣西高校機(jī)器人與焊接技術(shù)重點(diǎn)實(shí)驗(yàn)室培育基地，廣西 桂林 541004；2.武漢大學(xué) 軟件工程國家重點(diǎn)實(shí)驗(yàn)室，武漢 430072)

?

基于卷積神經(jīng)網(wǎng)絡(luò)的CO2焊接熔池圖像狀態(tài)識(shí)別方法

覃 科1劉曉剛1丁立新2

(1.桂林航天工業(yè)學(xué)院 廣西高校機(jī)器人與焊接技術(shù)重點(diǎn)實(shí)驗(yàn)室培育基地，廣西 桂林 541004；2.武漢大學(xué) 軟件工程國家重點(diǎn)實(shí)驗(yàn)室，武漢 430072)

為了通過熔池圖像對(duì)焊接狀態(tài)進(jìn)行判斷，將卷積神經(jīng)網(wǎng)絡(luò)引入到CO2焊接熔池圖像狀態(tài)識(shí)別中，提出了一種CO2焊接熔池狀態(tài)識(shí)別卷積神經(jīng)網(wǎng)絡(luò)CNN-M。該網(wǎng)絡(luò)使用簡單預(yù)處理的熔池圖像作為輸入向量，避免了人工提取圖像特征的主觀性對(duì)識(shí)別率的不良影響。同時(shí)，CNN-M采用了ReLU激活函數(shù)、隨機(jī)Dropout及SVM分類器來降低樣本集稀少可能導(dǎo)致的網(wǎng)絡(luò)過擬合現(xiàn)象。試驗(yàn)結(jié)果表明，和人工提取熔池特征狀態(tài)作為輸入向量的BP神經(jīng)網(wǎng)絡(luò)相比，CNN-M在識(shí)別率及識(shí)別速度方面均體現(xiàn)出了更好的性能，其良好的泛化能力能夠滿足在線熔池狀態(tài)監(jiān)控的要求。

焊接熔池 卷積神經(jīng)網(wǎng)絡(luò) 狀態(tài)識(shí)別

0 序 言

在機(jī)器人焊接過程中，焊接熔池的狀態(tài)信息能夠直接反映焊接工藝的科學(xué)性和焊接質(zhì)量的可靠性，因此通過熔池圖像特征來判斷焊接質(zhì)量的好壞一直是焊接工藝的研究熱點(diǎn)。由于焊接過程是一個(gè)多參數(shù)耦合的隨機(jī)時(shí)變過程，因此有學(xué)者使用基于神經(jīng)網(wǎng)絡(luò)的方法研究焊接熔池形態(tài)并取得了一定的成果。文獻(xiàn)[1]使用基于遺傳算法改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)來建立焊接外觀與激光焊接熔池陰影特征之間的關(guān)系模型，提供了一種有效的方法，來預(yù)測焊接外觀和實(shí)時(shí)評(píng)估焊接質(zhì)量。文獻(xiàn)[2]通過觀測熔池形態(tài)，使用BP神經(jīng)網(wǎng)絡(luò)和RBF神經(jīng)網(wǎng)絡(luò)預(yù)測焊縫寬度，為實(shí)現(xiàn)焊接質(zhì)量在線監(jiān)控提供了基礎(chǔ)。文獻(xiàn)[3]從熔池圖像中提取熔池面積、熔池熔寬及熔池半長，利用ICA-BP神經(jīng)網(wǎng)絡(luò)建立特征參數(shù)與熔透狀態(tài)的關(guān)系模型，對(duì)不同條件下的熔透狀態(tài)進(jìn)行預(yù)測。

目前，大多數(shù)研究均使用BP神經(jīng)網(wǎng)絡(luò)或改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)，從熔池圖像中提取熔池特征參數(shù)，將特征參數(shù)作為神經(jīng)網(wǎng)絡(luò)的輸入向量，來對(duì)焊接狀態(tài)進(jìn)行識(shí)別。然而，作為輸入向量的熔池特征參數(shù)提取依賴于熔池圖像的預(yù)處理及人的經(jīng)驗(yàn)和主觀意識(shí)，若提取的特征參數(shù)出現(xiàn)偏差，整個(gè)神經(jīng)網(wǎng)絡(luò)的性能及預(yù)測精度都會(huì)受到嚴(yán)重影響。

卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network，簡稱CNN)是一種層與層之間局部連接的深度神經(jīng)網(wǎng)絡(luò)，直接將圖像作為輸入向量，把特征提取作為一個(gè)自適應(yīng)、自學(xué)習(xí)的過程，從而避免了傳統(tǒng)識(shí)別算法中復(fù)雜的特征提取和數(shù)據(jù)重建過程[4]。卷積神經(jīng)網(wǎng)絡(luò)中的特征提取和模式分類同時(shí)進(jìn)行，對(duì)圖像的位移、縮放、傾斜及其它形式的扭曲變形都具有良好的魯棒性，已經(jīng)成為當(dāng)前圖像識(shí)別領(lǐng)域的研究熱點(diǎn)[5]?；诰矸e神經(jīng)網(wǎng)絡(luò)在圖像處理方面的優(yōu)秀性能，文中使用CO2焊接熔池圖像作為卷積神經(jīng)網(wǎng)絡(luò)的輸入向量，利用卷積神經(jīng)網(wǎng)絡(luò)對(duì)CO2焊接熔池圖像狀態(tài)進(jìn)行識(shí)別，并將其性能與人工提取熔池特征參數(shù)作為輸入向量的BP神經(jīng)網(wǎng)絡(luò)性能進(jìn)行對(duì)比。試驗(yàn)表明，文中提出的方法在識(shí)別率及識(shí)別速度方面均體現(xiàn)出了更好的性能，能夠較好滿足在線熔池狀態(tài)監(jiān)控的要求。

1 圖像的獲取與預(yù)處理

1.1 圖像的獲取

由于CO2焊接具有生產(chǎn)效率高且質(zhì)量穩(wěn)定的特點(diǎn)，在國內(nèi)外的企業(yè)生產(chǎn)中得到廣泛應(yīng)用[6]。但由于CO2氣體本身具有較強(qiáng)的氧化性，在焊接過程中會(huì)引起合金元素?zé)龘p，從而引起較強(qiáng)的飛濺，這使得通過電荷耦合元件(Charge-coupled Device，簡稱CCD)采集到的熔池圖像會(huì)受到飛濺、弧光及電磁場等隨機(jī)因素的強(qiáng)烈干擾[7]。

試驗(yàn)觀察表明：CO2焊接在短路階段，電弧熄滅且很少產(chǎn)生飛濺，此時(shí)熔池受到的電弧和煙塵干擾最??；并且熔池表面溫度下降，熔池圖像灰度分布相對(duì)較穩(wěn)定，有利于熔池狀態(tài)的判定[8]。因此，在焊接短路階段采集熔池圖像信息是最為理想的時(shí)刻。在文中所使用的焊接熔池圖像獲取方案中，利用CO2焊接短路周期與焊接電流變化的對(duì)應(yīng)關(guān)系，通過電流傳感器的轉(zhuǎn)換得到與焊機(jī)工作電流相同變化頻率的矩形脈沖波形，在熔滴短路階段電流脈沖波形的下降沿產(chǎn)生觸發(fā)，由觸發(fā)器來控制高速工業(yè)相機(jī)的拍攝時(shí)刻，得到短路時(shí)刻的焊接熔池圖像。高速工業(yè)相機(jī)配備窄帶光學(xué)濾光片進(jìn)一步抑制弧光干擾、提高圖像信噪比。

1.2 圖像預(yù)處理

在CO2焊接的短路階段獲取的熔池圖像信息雖然能夠剔除大多數(shù)的弧光、飛濺和噪聲干擾，但仍然存在著小部分的飛濺和煙塵噪聲。通過對(duì)比多幅帶有飛濺噪聲的圖像后發(fā)現(xiàn)，每幅圖像中飛濺的位置均不相同。若在焊接過程中熔池的成像位置相對(duì)不變，考慮使用高速工業(yè)相機(jī)能夠使得圖像的兩次獲得間隔時(shí)間Δt足夠短，利用機(jī)器人學(xué)的微分運(yùn)動(dòng)理論，將兩幅圖像的公共區(qū)域進(jìn)行與運(yùn)算，則能夠去除飛濺噪聲，保留有用的熔池圖像[9]。

為了加快熔池圖像處理的速度，將圖像中的熔池區(qū)域和背景區(qū)域進(jìn)行閾值分割。由于圖像中熔池區(qū)域和背景區(qū)域所占據(jù)的灰度級(jí)范圍有較大差異，因此使用Otsu方法動(dòng)態(tài)選取閾值。對(duì)于大小為M×N的圖像I(x,y)有：

g=ω1×ω2×(μ1-μ2)2

(1)

式中：g為熔池區(qū)域和背景區(qū)域的類間方差；ω1為熔池區(qū)域的像素點(diǎn)數(shù)占整幅圖像的比例；μ1為熔池區(qū)域像素的平均灰度；ω2為背景區(qū)域的像素點(diǎn)數(shù)占整幅圖像的比例；μ2為背景區(qū)域像素的平均灰度。

采用遍歷方法得到使類間方差g最大的閾值T，T即為熔池圖像熔池區(qū)域與背景區(qū)域的分割閾值。

2 卷積神經(jīng)網(wǎng)絡(luò)識(shí)別熔池狀態(tài)

2.1 網(wǎng)絡(luò)結(jié)構(gòu)

卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)主要包括輸入層、卷積層、采樣層及輸出層。多個(gè)交疊的卷積層和采樣層負(fù)責(zé)提取輸入層圖像特征。輸出層使用一層或兩層全連接神經(jīng)網(wǎng)絡(luò)，根據(jù)提取的特征向量進(jìn)行分類[10]。

考慮到獲取的熔池圖像經(jīng)過前期處理后特征相對(duì)明顯、熔池形狀相對(duì)簡單，并且樣本數(shù)據(jù)比較稀少的情況，文中采取的熔池圖像狀態(tài)識(shí)別的卷積神經(jīng)網(wǎng)絡(luò)CNN-M結(jié)構(gòu)如圖1所示。

圖1 熔池狀態(tài)識(shí)別的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

CNN-M使用了C1,C3共2個(gè)卷積層及S2,S4共2個(gè)池化層對(duì)熔池圖像進(jìn)行特征提取，使用F5層進(jìn)行特征向量分類。前一層的特征圖與自學(xué)習(xí)的卷積核進(jìn)行卷積計(jì)算，計(jì)算結(jié)果經(jīng)過激活函數(shù)輸出，從而形成卷積層的特征圖。卷積層的計(jì)算公式為

(2)

式中,l為卷積層的層數(shù)；f為激活函數(shù)；Mj為上一層的一個(gè)輸入特征圖；b為偏置；k為卷積核即共享權(quán)重，此處取5×5大小的模板。k與b初始化為隨機(jī)值，通過網(wǎng)絡(luò)訓(xùn)練調(diào)整至最佳。

池化層對(duì)卷積層獲取到的圖像特征進(jìn)行下采樣，在保留圖像有效信息的同時(shí)減少計(jì)算量。池化層的計(jì)算公式為

(3)

式中,l為池化層的層數(shù)；f為激活函數(shù)；down(·)為下采樣函數(shù)；β為下采樣系數(shù)；b為偏置。β和b通過網(wǎng)絡(luò)訓(xùn)練調(diào)整至最佳。

全連接層的計(jì)算公式如下：

xl=f(Wlxl-1+bl)

(4)

式中,l為當(dāng)前層；W為權(quán)值；b為偏置。

考慮到樣本數(shù)據(jù)相對(duì)稀少，為了防止過擬合并減少計(jì)算量，f使用ReLU(RectifiedLinearUnits)函數(shù)，即f(x)=max(0,x)，池化均采用maxpooling方式。

輸入層圖像經(jīng)過歸一化處理后，以32×32大小輸入網(wǎng)絡(luò)。C1層為第一個(gè)卷積層，由4個(gè)特征圖組成，每個(gè)神經(jīng)元與輸入層圖像的5×5鄰域相連，每個(gè)特征圖大小為28×28。S2層為第一個(gè)池化層，由4個(gè)大小為14×14的特征圖組成，特征圖的每個(gè)神經(jīng)元與C1層中相應(yīng)特征圖的2×2鄰域相連進(jìn)行下采樣。C3為第二個(gè)卷積層，由11個(gè)大小為10×10的特征圖組成，特征圖的每個(gè)神經(jīng)元按照表1的方式與S2層中若干個(gè)特征圖的5×5鄰域相連，表1中×代表選中。

表1 S2層與C3層特征圖的連接方式

S4層為第二個(gè)池化層，在C3層的基礎(chǔ)上進(jìn)行下采樣，由11個(gè)大小為5×5的特征圖組成。F5層由275個(gè)特征值組成，實(shí)際上F5層也是一個(gè)卷積層，每個(gè)特征值與S4層的全部11個(gè)特征圖的5×5鄰域相連，從而構(gòu)成了F5與S4之間的全連接。

考慮到通過試驗(yàn)采集到的樣本集狀態(tài)，輸出層設(shè)置3個(gè)神經(jīng)元，分別對(duì)應(yīng)焊接正常、焊偏及焊穿這三種常見的CO2短路過渡焊接狀態(tài)。輸出層的每個(gè)神經(jīng)元與F5層進(jìn)行全連接，采用SVM分類器進(jìn)行分類回歸。SVM通過尋求結(jié)構(gòu)化風(fēng)險(xiǎn)最小來提高學(xué)習(xí)機(jī)泛化能力，實(shí)現(xiàn)經(jīng)驗(yàn)風(fēng)險(xiǎn)和置信范圍的最小化，從而能夠在樣本量較少的情況下獲得良好的統(tǒng)計(jì)規(guī)律[11]。

為了進(jìn)一步減少樣本數(shù)量稀少而導(dǎo)致過擬合情況出現(xiàn)的可能，在F5和輸出層的全連接中使用隨機(jī)Dropout方法，如圖2所示。Dropout在網(wǎng)絡(luò)訓(xùn)練過程中隨機(jī)讓某些隱含層的神經(jīng)元不工作，保留其值并將其當(dāng)前輸出設(shè)置為0。在下次訓(xùn)練過程中恢復(fù)這些神經(jīng)元的值參與網(wǎng)絡(luò)訓(xùn)練，并再次選擇部分神經(jīng)元重復(fù)此過程[12]。Dropout使得網(wǎng)絡(luò)在訓(xùn)練過程中，每次用于輸入網(wǎng)絡(luò)的訓(xùn)練樣本在權(quán)值更新時(shí)不再依賴于有固定關(guān)系隱含節(jié)點(diǎn)的共同作用，防止出現(xiàn)某些特征僅僅在其它特定特征下才有效的情況，從而避免網(wǎng)絡(luò)對(duì)某種局部特征的過擬合[13]。

圖2 使用Dropout的全連接層

2.2 網(wǎng)絡(luò)訓(xùn)練

CNN-M采用殘差后向傳播進(jìn)行網(wǎng)絡(luò)訓(xùn)練，使用隨機(jī)梯度下降對(duì)公式(2)中的卷積核k及偏置b、公式(3)中的下采樣系數(shù)β及偏置b、公式(4)中的權(quán)值W及偏置b進(jìn)行更新，直至滿足預(yù)設(shè)條件或達(dá)到迭代次數(shù)。

代價(jià)函數(shù)使用平方誤差，則包含有N個(gè)訓(xùn)練樣本的c類問題代價(jià)函數(shù)為：

(5)

對(duì)于全連接層l，其殘差為：

δl=(Wl+1)Tδl+1Of′(ul)

(6)式中,ul=Wlxl-1+bl；O表示每個(gè)元素相乘的運(yùn)算。

對(duì)于卷積層l，其殘差為：

(7)

對(duì)于池化層l，其殘差為：

(8)

得到各層的殘差表達(dá)式后，即可求得每層的梯度，從而對(duì)參數(shù)值進(jìn)行調(diào)整[14]。

3 試驗(yàn)結(jié)果與分析

3.1 試驗(yàn)數(shù)據(jù)

采集熔池圖像的試驗(yàn)平臺(tái)如圖3所示，焊槍與CCD相機(jī)固定相連，使得CCD相機(jī)鏡頭位置與焊槍的運(yùn)動(dòng)路線保持一致，從而保證在焊接過程中熔池的成像位置相對(duì)不變，以便于對(duì)熔池狀態(tài)的跟蹤和判定。

圖3 CO2焊接熔池圖像采集平臺(tái)

通過CO2焊接試驗(yàn)，共采集到焊接正常狀態(tài)、焊偏狀態(tài)、焊穿狀態(tài)的熔池圖像各300張。網(wǎng)絡(luò)訓(xùn)練過程中使用的樣本集圖片占圖片總數(shù)的65%，并且從三種焊接狀態(tài)圖像中以平均分布的方式選取。測試集及驗(yàn)證集圖片分別占圖片總數(shù)的25%及 15%。為了進(jìn)一步解決訓(xùn)練樣本數(shù)量相對(duì)稀少所導(dǎo)致的過擬合問題，選取樣本集中50%的圖片進(jìn)行角度的旋轉(zhuǎn)和亮度、對(duì)比度的調(diào)節(jié)，從而生成新的訓(xùn)練樣本，來模擬在不同情況下的多態(tài)模式以訓(xùn)練網(wǎng)絡(luò)，增強(qiáng)網(wǎng)絡(luò)的泛化能力。圖4為樣本集中的部分樣本圖片，其中，圖4a為焊接正常狀態(tài)部分樣本圖片，圖4b為焊偏狀態(tài)部分樣本圖片，圖4c為焊穿狀態(tài)部分樣本圖片。

圖4 樣本集部分樣本圖片

3.2 試驗(yàn)結(jié)果及分析

采用文中所提出的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行熔池狀態(tài)識(shí)別。輸入層為32×32大小的BMP格式灰度圖像，下采樣系數(shù)β取常量0.25，網(wǎng)絡(luò)學(xué)習(xí)率設(shè)置為0.01，Dropout隨機(jī)設(shè)置F5層中10%～30%的神經(jīng)元輸出為0。網(wǎng)絡(luò)訓(xùn)練方式采用批處理隨機(jī)梯度下降法，每輸入50個(gè)樣本處理一次殘差后向傳播，對(duì)參數(shù)權(quán)值進(jìn)行調(diào)整。試驗(yàn)環(huán)境為Window10(64bit)操作系統(tǒng)，CPU采用Inteli7-5960X八核3.0GHZ，32GB內(nèi)存，MATLAB2014a軟件平臺(tái)。

為了檢測CNN-M的性能，文中使用BP神經(jīng)網(wǎng)絡(luò)與之進(jìn)行識(shí)別率及識(shí)別速度的比較。BP神經(jīng)網(wǎng)絡(luò)采用常用的三層結(jié)構(gòu)，隱含層取400個(gè)神經(jīng)元節(jié)點(diǎn)，網(wǎng)絡(luò)學(xué)習(xí)率設(shè)置為0.01。使用Candy算子提取預(yù)處理后熔池圖像的邊緣信息，利用熔池的邊緣信息計(jì)算熔池的長寬比、面積及復(fù)雜度，將這三個(gè)特征值作為BP神經(jīng)網(wǎng)絡(luò)的輸入向量。熔池的復(fù)雜度定義為熔池周長平方與熔池面積的比值，比值越大，意味著熔池輪廓形狀越復(fù)雜。

圖5為CNN-M及BP神經(jīng)網(wǎng)絡(luò)在網(wǎng)絡(luò)訓(xùn)練過程中的識(shí)別率曲線圖。從圖5中可以看到，CNN-M在網(wǎng)絡(luò)訓(xùn)練過程中的識(shí)別率和收斂速度均要優(yōu)于BP神經(jīng)網(wǎng)絡(luò)。在迭代300次以后，CNN-M的識(shí)別率能夠達(dá)到99.2%，而BP神經(jīng)網(wǎng)絡(luò)的最高識(shí)別率為94.5%。圖6為CNN-M及BP神經(jīng)網(wǎng)絡(luò)在網(wǎng)絡(luò)檢測過程中的識(shí)別率曲線圖。從圖6中可以看到，CNN-M的識(shí)別率要遠(yuǎn)高于BP神經(jīng)網(wǎng)絡(luò)。迭代300次以后，CNN-M的識(shí)別率能達(dá)到95.8%，而BP神經(jīng)網(wǎng)絡(luò)的最高識(shí)別率為83.1%。這是因?yàn)樵贑O2焊接過程中，焊偏狀態(tài)及焊穿狀態(tài)的熔池圖像均為非規(guī)則形狀，熔池邊緣的提取偏差較大，會(huì)直接影響到熔池圖像特征狀態(tài)提取的準(zhǔn)確性。而CNN-M直接將熔池圖像作為輸入向量，避免了特征提取的主觀性及復(fù)雜計(jì)算，對(duì)于熔池狀態(tài)的識(shí)別具有更高的準(zhǔn)確率。從圖5和圖6可以看到，CNN-M中使用的ReLU激活函數(shù)、隨機(jī)Dropout及SVM分類器有效抑制了樣本集稀少可能導(dǎo)致的網(wǎng)絡(luò)過擬合現(xiàn)象，使得CNN-M具有更好的泛化能力。

圖5 網(wǎng)絡(luò)訓(xùn)練過程中的識(shí)別率

圖6 網(wǎng)絡(luò)檢測過程中的識(shí)別率

表2為CNN-M及BP神經(jīng)網(wǎng)絡(luò)對(duì)于圖像識(shí)別速度的對(duì)比，識(shí)別速度以識(shí)別100張熔池圖片狀態(tài)所需時(shí)間來衡量。CNN-M的識(shí)別速度明顯優(yōu)于BP神經(jīng)網(wǎng)絡(luò)，并且識(shí)別100張熔池圖片狀態(tài)僅用時(shí)0.183s，能夠滿足CO2焊接熔池狀態(tài)的在線實(shí)時(shí)監(jiān)控要求。

表2 100張熔池圖像狀態(tài)識(shí)別時(shí)間

4 結(jié) 論

(1)提出了一種利用卷積神經(jīng)網(wǎng)絡(luò)CNN-M對(duì)形態(tài)復(fù)雜的CO2焊接熔池形態(tài)進(jìn)行識(shí)別的方法。該方法將熔池圖像經(jīng)過簡單的預(yù)處理后，直接作為輸入向量，從而避免了對(duì)熔池圖像特征提取的復(fù)雜計(jì)算和特征提取的主觀性對(duì)網(wǎng)絡(luò)識(shí)別率產(chǎn)生的不良影響。

(2)試驗(yàn)表明，CNN-M在網(wǎng)絡(luò)的訓(xùn)練過程和檢測過程中的識(shí)別率均要優(yōu)于BP神經(jīng)網(wǎng)絡(luò)，在樣本集稀少的情況下仍能夠達(dá)到較高識(shí)別率和較快識(shí)別速度。

(3)進(jìn)一步的研究工作如下:①對(duì)CNN-M的結(jié)構(gòu)與識(shí)別率之間的關(guān)系進(jìn)行進(jìn)一步研究，對(duì)不同數(shù)量的卷積層及全連接層的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行試驗(yàn)，驗(yàn)證是否存在性能更好的CO2焊接熔池形態(tài)識(shí)別的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu);②獲取狀態(tài)更豐富、分類更詳細(xì)的CO2焊接熔池圖像，擴(kuò)展樣本集及驗(yàn)證集熔池圖片數(shù)量，以期能夠通過設(shè)置更多的CNN-M輸出層神經(jīng)元對(duì)熔池狀態(tài)進(jìn)行更豐富的分類識(shí)別，并建立起熔池狀態(tài)與焊接參數(shù)之間的關(guān)系。

[1] Zhang Y，Gao X，Katayama S. Weld appearance prediction with BP neural network improved by genetic algorithm during disk laser welding[J]. Journal of Manufacturing Systems，2015，34: 53-59.

[2] Gao Xiangdong，Zhang Yanxi. Prediction model of weld width during high-power disk laser welding of 304 austenitic stainless steel[J]. International Journal of Precision，Engineering and Manufacturing，2014，15(3): 399-405.

[3] 林 俊. 電弧焊熔透狀態(tài)視覺檢測模型研究[D].廣州:廣東工業(yè)大學(xué)碩士學(xué)位論文,2015.

[4] 劉建偉，劉 媛，羅雄麟. 深度學(xué)習(xí)研究進(jìn)展[J]. 計(jì)算機(jī)應(yīng)用研究，2014，31(7): 1921-1942.

[5] Krizhevsky A，Sutskever I，Hinton GE. ImageNet classification with deep convolutional neural networks[C]. Advances in Neural Information Processing Systems， Curran Associates RedHook，NY，USA ，2012: 1097-1105.

[6] 夏勝全，區(qū)智明，孫曉明. 一種降低CO2氣體保護(hù)焊接能量輸入的方法[J]. 焊接，2012(3): 32-35.

[7] 向遠(yuǎn)鵬，曹 彪. 熔滴短路過渡頻率對(duì)CO2焊接過程穩(wěn)定性的影響[J]. 焊接，2010(12): 33-37.

[8] 齊志龍，李 科，孫佳男，等. CO2氣體保護(hù)焊短路過渡熔滴尺寸的研究[J]. 焊接，2016(11): 34-37.

[9] 劉曉剛，謝存禧，張昌年，等. 基于弧光反射的焊縫圖像獲取及圖像處理[J]. 焊接學(xué)報(bào)，2008，29(4): 73-76.

[10] 楊 釗，陶大鵬，張樹業(yè)，等. 大數(shù)據(jù)下的基于深度神經(jīng)網(wǎng)的相似漢字識(shí)別[J]. 通信學(xué)報(bào)，2014，9(35): 184-189.

[11] Khemchandani R， Pal A. Multi-category laplacian least squares twin support vector machine[J]. Applied Intelligence，2016: 1-17.

[12] Hinton G E，Srivastava N，Krizhevsky A，et al. Improving neural networks by preventing co-adaptation of feature detectors[J]. Computer Science，2012，3(4): 212-223.

[13] Mendenhall J，Meiler J. Improving quantitative structure-activity relationship models using Artificial Neural Networks trained with dropout[J]. Journal of computer-aided molecular design，2016，30: 1-13.

[14] Bouvrie J. Notes on convolution neural networks[R]. MIT CBCL，2006.

2017-01-21

廣西自然科學(xué)基金資助項(xiàng)目(2014GXNSFAA1183105，2016 GXNSFAA380226)

TG409

覃 科，1979年出生，碩士，講師。主要從事圖像處理、智能計(jì)算及其理論方面的科研和教學(xué)工作，發(fā)表論文10余篇。