高昶霖，宋燕利，2，3，左洪洲，章誠(chéng)

(1.武漢理工大學(xué)，現(xiàn)代汽車零部件技術(shù)湖北省重點(diǎn)實(shí)驗(yàn)室，武漢，430070；2.武漢理工大學(xué)，汽車零部件技術(shù)湖北省協(xié)同創(chuàng)新中心，武漢，430070；3.武漢理工大學(xué)，湖北省材料綠色精密成形工程技術(shù)研究中心，武漢，430070；4.湖北省齊星汽車車身股份有限公司，隨州，441300)

0 序言

為適應(yīng)高性能智能化制造國(guó)際發(fā)展趨勢(shì)與國(guó)家重大需求，焊接缺陷智能診斷技術(shù)成為新興的前沿制造方向.焊接缺陷產(chǎn)生的原因分析歷來(lái)是焊接領(lǐng)域的難點(diǎn)，由于缺陷種類形態(tài)多樣，缺陷形成原因復(fù)雜，因而缺陷成因診斷過(guò)于依賴人工經(jīng)驗(yàn)，導(dǎo)致效率和可靠性極低.為解決此問(wèn)題，具有智能診斷功能的焊接專家系統(tǒng)逐漸得到應(yīng)用[1-2].

目前，應(yīng)用于專家系統(tǒng)的智能算法有隨機(jī)森林、決策樹(shù)、神經(jīng)網(wǎng)絡(luò)等.其中隨機(jī)森林、決策樹(shù)是基于一定的規(guī)則條件，無(wú)法準(zhǔn)確反映缺陷特征、工藝參數(shù)與焊接缺陷成因之間復(fù)雜的非線性關(guān)系，診斷準(zhǔn)確率較低.神經(jīng)網(wǎng)絡(luò)算法具有大規(guī)模并行處理、學(xué)習(xí)能力強(qiáng)、非線性度高等特點(diǎn)，利用神經(jīng)網(wǎng)絡(luò)的連接機(jī)制代替?zhèn)鹘y(tǒng)專家系統(tǒng)的規(guī)則表示，更適合于焊接熱源建模、焊接工藝優(yōu)化和缺陷診斷識(shí)別這類非線性、多分類問(wèn)題[3-5].

雖然神經(jīng)網(wǎng)絡(luò)有許多優(yōu)點(diǎn)，但其缺點(diǎn)也很明顯，即容易陷入局部極小值，需要長(zhǎng)期學(xué)習(xí)，收斂速度慢等[6]，因而需要將其它方法與神經(jīng)網(wǎng)絡(luò)進(jìn)行結(jié)合.劉占軍等人[7]提出神經(jīng)網(wǎng)絡(luò)缺陷診斷專家系統(tǒng)，對(duì)鋁合金焊接氣孔缺陷成因進(jìn)行診斷，借助補(bǔ)償模糊控制使其診斷誤差最小化，提高診斷精度及置信度.姜洪權(quán)等人[8]提出將隨機(jī)森林與卷積神經(jīng)網(wǎng)絡(luò)相結(jié)合的強(qiáng)化特征選擇方法對(duì)汽輪機(jī)的焊接缺陷診斷，通過(guò)提高特征選擇能力，使得所提方法比傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)方法具有更高的缺陷識(shí)別率.Ravi 等人[9]采用圖像金字塔及圖像重構(gòu)技術(shù)與卷積神經(jīng)網(wǎng)絡(luò)結(jié)合，對(duì)AA1100 鋁合金的裂紋、凹坑等焊接缺陷進(jìn)行分類，給出了焊道表面橫截面中各類缺陷的密度，有助于焊接參數(shù)監(jiān)測(cè)系統(tǒng)的搭建.Bacioiu 等人[10]使用高動(dòng)態(tài)范圍成像與神經(jīng)網(wǎng)絡(luò)相結(jié)合，對(duì)5083 鋁合金的燒穿、未熔合等焊接缺陷進(jìn)行分類，但未給出缺陷成因.

目前焊接缺陷診斷主要集中在缺陷種類識(shí)別，對(duì)缺陷成因的智能推理研究較少，且均簡(jiǎn)單地采用神經(jīng)網(wǎng)絡(luò)與其它方法聯(lián)合以提高識(shí)別能力，缺少對(duì)模型內(nèi)部結(jié)構(gòu)自適應(yīng)調(diào)整算法的探討.基于此，提出粒子群-反向傳播(particle swarm optimization-back propagation，PSO-BP)神經(jīng)網(wǎng)絡(luò)數(shù)學(xué)描述方法，構(gòu)建具有內(nèi)部結(jié)構(gòu)自適應(yīng)調(diào)整功能的焊接缺陷成因診斷神經(jīng)網(wǎng)絡(luò)模型.該模型能夠有效提升焊接缺陷成因診斷的效率和精度，為焊接工藝優(yōu)化提供可靠依據(jù).

1 基于動(dòng)態(tài)權(quán)重的自適應(yīng)PSO-BP 神經(jīng)網(wǎng)絡(luò)算法

1.1 PSO 優(yōu)化算法

PSO 算法的主要思想是通過(guò)種群中個(gè)體之間的協(xié)作和信息共享尋找最優(yōu)解[11].系統(tǒng)初始化為一組隨機(jī)解，通過(guò)迭代搜尋最優(yōu)值.在PSO 算法中，每個(gè)粒子代表這個(gè)優(yōu)化問(wèn)題的一個(gè)潛在解.在模型運(yùn)行時(shí)，首先初始化一群隨機(jī)粒子(隨機(jī)解)，然后每個(gè)粒子都對(duì)應(yīng)一個(gè)由被優(yōu)化函數(shù)所決定的適應(yīng)度，在不斷的迭代中，每個(gè)粒子通過(guò)跟蹤個(gè)體極值(粒子本身所找到的最優(yōu)解)和全局極值(整個(gè)種群當(dāng)前找到的最優(yōu)解)更新直到找到最優(yōu)解[12-13].

設(shè)共有M個(gè)粒子，其中，第i個(gè)粒子的位置在D維解空間的位置表示為Xi=(xi1，xi2，···，xiD)，速度表示為Vi=(vi1，vi2，···，viD)，其中i=1，2，···，M. 將位置Xi帶入適應(yīng)度函數(shù)可計(jì)算出該粒子當(dāng)前位置所對(duì)應(yīng)的適應(yīng)度.第i個(gè)粒子所經(jīng)過(guò)的歷史最佳位置向量記為Pi=(pi1，pi2，···，piD)，整個(gè)粒子群所經(jīng)歷過(guò)的歷史最佳位置向量記為Pg=(pg1，pg2，···，pgD).整個(gè)粒子群通過(guò)更新自身的速度和位置來(lái)搜索整個(gè)狀態(tài)空間.

式中：n=1，2，···，D，表示粒子對(duì)應(yīng)的維度；t為當(dāng)前迭代次數(shù)；vin(t)，xin(t)，pin(t)分別表示第i個(gè)粒子在迭代t次后第n個(gè)維度的速度、位置、歷史最佳位置；xgn(t)，pgn(t)分別表示整個(gè)粒子群在迭代t次后第n個(gè)維度的位置、歷史最佳位置；ω為慣性權(quán)重；c1，c2為 學(xué)習(xí)因子；r1和r2為每次迭代生成的[0，1]內(nèi)的隨機(jī)數(shù).

1.2 傳統(tǒng)PSO-BP 神經(jīng)網(wǎng)絡(luò)算法

PSO-BP 神經(jīng)網(wǎng)絡(luò)的基本原理就是利用 BP 神經(jīng)網(wǎng)絡(luò)建立焊接缺陷特征及工藝參數(shù)和缺陷形成原因之間的拓?fù)潢P(guān)系，使用PSO 算法來(lái)代替BP 模型中的初始化方法確定神經(jīng)網(wǎng)絡(luò)的初始網(wǎng)絡(luò)參數(shù).

在PSO-BP 神經(jīng)網(wǎng)絡(luò)中，神經(jīng)元之間所有的網(wǎng)絡(luò)參數(shù)對(duì)應(yīng)粒子群中一個(gè)粒子在當(dāng)前迭代次數(shù)的位置，BP 神經(jīng)網(wǎng)絡(luò)每進(jìn)行一次網(wǎng)絡(luò)參數(shù)的更新則視作粒子位置的改變.設(shè)BP 神經(jīng)網(wǎng)絡(luò)輸入層、隱藏層、輸出層個(gè)數(shù)為ni，nh，no，則第i個(gè)粒子的位置可表示為

式中：wpq(p=1，2，···，ni；q=1，2，···，nh) 表示輸入層到隱藏層的連接權(quán)值；uqr(q=1，2，···，nh；r=1，2，···，no)表示隱藏層到輸出層的連接權(quán)值；αq，βr分別為隱藏層和輸出層各神經(jīng)元對(duì)應(yīng)的偏置項(xiàng).D的值等于wpq，uqr，αq，βr4 類參數(shù)的個(gè)數(shù)總和.

損失函數(shù)是用來(lái)評(píng)價(jià)模型預(yù)測(cè)值與真實(shí)值不同程度的指標(biāo)，損失函數(shù)值越小，表明預(yù)測(cè)值與實(shí)際值越接近，因而模型的性能越好.由于BP 神經(jīng)網(wǎng)絡(luò)損失函數(shù)采用交叉熵作為損失函數(shù)，故PSO 算法中粒子的適應(yīng)度函數(shù)fi如式(4)所示.

式中：n為樣本個(gè)數(shù)；Yj，k為第j個(gè)樣本的第k個(gè)實(shí)際輸出值，yj，k為第j個(gè)樣本的第k個(gè)預(yù)測(cè)輸出值.

在模型訓(xùn)練時(shí)，神經(jīng)網(wǎng)絡(luò)參數(shù)就對(duì)應(yīng)了PSO 算法中的粒子位置.將神經(jīng)網(wǎng)絡(luò)模型初始化后的神經(jīng)網(wǎng)絡(luò)參數(shù)拉伸成一維，輸入給PSO 算法，即得到PSO 算法中粒子的位置.通過(guò)PSO 算法優(yōu)化后的參數(shù)再帶入神經(jīng)網(wǎng)絡(luò)中，再采用梯度下降算法，進(jìn)行網(wǎng)絡(luò)參數(shù)的更新，最終輸出最優(yōu)的網(wǎng)絡(luò)模型.

1.3 基于動(dòng)態(tài)權(quán)重的自適應(yīng)PSO-BP 神經(jīng)網(wǎng)絡(luò)算法

在傳統(tǒng)PSO-BP 神經(jīng)網(wǎng)絡(luò)算法的基礎(chǔ)上，對(duì)網(wǎng)絡(luò)參數(shù)的更新方式進(jìn)行了改進(jìn).

1.3.1 慣性權(quán)重

在PSO 算法初始化神經(jīng)網(wǎng)絡(luò)參數(shù)時(shí)，選取一個(gè)合適的慣性權(quán)重值 ω 可以平衡粒子全局搜索能力和局部搜索能力，增強(qiáng)粒子群的尋優(yōu)性能.傳統(tǒng)PSO 算法中，慣性權(quán)重是一個(gè)定值，不能隨著迭代次數(shù)進(jìn)行變化，使得模型的靈活性和泛化能力不足.基于此提出了一種自適應(yīng)慣性權(quán)重 ω.

在初始搜索階段，此時(shí)粒子的適應(yīng)度較大，慣性權(quán)重采用初始值較小的線性變化，以削弱這些粒子在粒子更新中所起的作用，使得算法在此階段具有更強(qiáng)的全局搜索能力，并能盡快進(jìn)入局部搜索；而在尋優(yōu)后期，粒子適應(yīng)度較小時(shí)，采用非線性的慣性權(quán)重，增大單個(gè)粒子在更新中的作用，使得算法能夠快速收斂.設(shè)計(jì)的慣性權(quán)重如式(5)所示.

式中：ωmax與 ωmin分別為慣性權(quán)重 ω 的最大值和最小值；l1(t) 為非線性函數(shù)；l2(t) 為線性函數(shù)；fi為當(dāng)前粒子的適應(yīng)度；fmin為粒子最小適應(yīng)度.

式中：t為模型當(dāng)前迭代次數(shù)；tmax為模型最大迭代次數(shù).

1.3.2 學(xué)習(xí)因子

在PSO 算法中，除了慣性權(quán)重這一重要參數(shù)外，學(xué)習(xí)因子c1，c2也起到了至關(guān)重要的作用，c1表示單個(gè)粒子的更新速率，c2表示整個(gè)粒子群的更新速率.合適的學(xué)習(xí)因子可以加快粒子的搜索速度，減少算法陷入局部最優(yōu)的可能性.在算法的初期，采取較大學(xué)習(xí)因子c1和較小學(xué)習(xí)因子c2，每個(gè)粒子都要注意自身的歷史信息，以保證各粒子狀態(tài)變化的多樣性.但是，在搜索后期，c1減少，而c2增加，使得粒子更加關(guān)注群體的社會(huì)信息，保持快速收斂.

設(shè)計(jì)的慣性權(quán)重如式(7)所示.

式中：cmax與cmin分別為學(xué)習(xí)因子c的最大值和最小值.

1.3.3 動(dòng)態(tài)權(quán)重因子

傳統(tǒng)的梯度下降法如式(8)所示.在BP 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中，網(wǎng)絡(luò)參數(shù)的更新方式保留了原本BP 網(wǎng)絡(luò)的梯度下降算法，引入動(dòng)態(tài)權(quán)重因子η，將PSO 算法與梯度下降法結(jié)合，如式(9)所示.

式中：x為 神經(jīng)網(wǎng)絡(luò)參數(shù)；η為權(quán)重因子，代表更新參數(shù)時(shí)PSO 算法所占比重，取值為(0，1)；?x為神經(jīng)網(wǎng)絡(luò)參數(shù)在該方向的梯度；c為神經(jīng)網(wǎng)絡(luò)中的學(xué)習(xí)率；xPSO為由PSO 算法確定的神經(jīng)網(wǎng)絡(luò)參數(shù).

動(dòng)態(tài)權(quán)重因子η 由式(10)確定.

在參數(shù)更新時(shí)，采用動(dòng)態(tài)權(quán)重匹配，在更新初始階段，動(dòng)態(tài)權(quán)重接近于1，使得算法的更新以PSO 算法為主，此時(shí)算法能更好地進(jìn)行全局搜索.當(dāng)模型迭代不斷進(jìn)行時(shí)，動(dòng)態(tài)權(quán)重系數(shù)開(kāi)始線性下降，在此階段，采用PSO 與梯度下降法相結(jié)合的算法，使得算法訓(xùn)練速度和效率加快，能夠穩(wěn)定地找到最優(yōu)的神經(jīng)網(wǎng)絡(luò)參數(shù).

圖1 顯示了傳統(tǒng)PSO-BP 算法流程與改進(jìn)的PSO-BP 算法流程.

圖1 不同算法流程Fig.1 Different algorithms flow.(a) traditional PSO-BP algorithm；(b) adaptive PSO-BP algorithm based on dynamic weighting

2 焊接缺陷成因推理機(jī)制

焊接缺陷成因診斷采用數(shù)據(jù)驅(qū)動(dòng)的正向推理策略，將缺陷特征及焊接工藝參數(shù)輸入到網(wǎng)絡(luò)的輸入層神經(jīng)元，求出隱藏層神經(jīng)元的輸出作為輸出層的輸入，最終得到輸出層神經(jīng)元的輸出.采用由閾值函數(shù)判定輸出層神經(jīng)元的最終輸出結(jié)果.取閾值為 φ，則將yj≥φ(j為缺陷成因種類數(shù)，取值為1，2，···，11)的結(jié)果進(jìn)行輸出，其余的結(jié)果進(jìn)行歸零處理.取φ 為第三大值，則輸出結(jié)果表示3 種最有可能造成缺陷的原因及其置信度.具體算法流程圖如圖2 所示.

圖2 焊接缺陷成因智能診斷算法流程Fig.2 Intelligent diagnosis algorithm process for welding defect causes

改進(jìn)的PSO-BP 神經(jīng)網(wǎng)絡(luò)混合算法的流程如下.

(1)初始化BP 網(wǎng)絡(luò)結(jié)構(gòu)，包括設(shè)定網(wǎng)絡(luò)的輸入層、隱藏層、輸出層的神經(jīng)元個(gè)數(shù)，損失函數(shù)和學(xué)習(xí)率等.初始化粒子群規(guī)模，包括粒子的初始位置、速度、慣性權(quán)重最大值 ωmax、慣性權(quán)重最小值 ωmin、學(xué)習(xí)因子cmax，cmin、最大迭代次數(shù)tmax、每個(gè)粒子歷史最佳位置Pi和粒子群歷史最佳位置Pg等.

(2)根據(jù)專家系統(tǒng)知識(shí)庫(kù)建立神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)，將神經(jīng)元之間所有的連接權(quán)值和偏置編碼成一維實(shí)數(shù)數(shù)組，每一個(gè)一維實(shí)數(shù)數(shù)組對(duì)應(yīng)一個(gè)粒子在當(dāng)前神經(jīng)網(wǎng)絡(luò)中迭代次數(shù)的初始位置.對(duì)每一個(gè)樣本而言，都可以按式(4)計(jì)算出粒子的適應(yīng)度f(wàn)i，并與該粒子的最小適應(yīng)度f(wàn)min進(jìn) 行比較，若fi＜fmin，則將粒子的最小適應(yīng)度f(wàn)min取 值為fi，fi對(duì)應(yīng)的位置就是最佳位置Pi，并將慣性權(quán)重按式(5)進(jìn)行非線性調(diào)整；若fi≥fmin，則將慣性權(quán)重按式(5)進(jìn)行線性調(diào)整，最小適應(yīng)度f(wàn)min及 最佳位置Pi保持不變.

(3)利用式(1)更新粒子的速度vin與Vi.利用式(2)更新粒子的位置xin與Xi.

(4)計(jì)算粒子群的全局最小適應(yīng)度f(wàn)g=min{f1，f2，···，fM}，若當(dāng)前迭代次數(shù)達(dá)到最大迭代次數(shù)，則迭代停止；否則轉(zhuǎn)到第2 步繼續(xù)更新.

(5)輸出整個(gè)粒子群所確定的神經(jīng)網(wǎng)絡(luò)參數(shù)Pg=(pg1，pg2，···，pgD)作為神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的初值.再結(jié)合BP 神經(jīng)網(wǎng)絡(luò)反向傳播梯度下降算法，利用式(9)對(duì)神經(jīng)網(wǎng)絡(luò)權(quán)值和偏置進(jìn)一步更新.輸出改進(jìn)后的PSO-BP 算法所確定的神經(jīng)網(wǎng)絡(luò)權(quán)值和偏置，并建立最優(yōu)的模型.

(6)利用建立好的模型對(duì)焊接缺陷形成原因進(jìn)行診斷，輸出缺陷產(chǎn)生的原因，算法結(jié)束.

3 變量篩選及模型建立

3.1 基于平均影響值的變量篩選

以5083 鋁合金中厚板脈沖焊接為例，采用焊接試驗(yàn)及仿真方式獲取試驗(yàn)數(shù)據(jù)，利用X 射線進(jìn)行無(wú)損探傷，利用圖像處理方法得到缺陷特征，并給出缺陷形成原因.通過(guò)隨機(jī)設(shè)置不同的焊接工藝參數(shù)，共得到180 組有效數(shù)據(jù).

在實(shí)際焊接缺陷成因診斷時(shí)，涉及到的焊接參數(shù)眾多，獨(dú)立性較差，使得神經(jīng)網(wǎng)絡(luò)輸入特征難以確定，很容易將一些不重要的特征引入進(jìn)來(lái)，造成模型的精度下降，因此選擇合理且重要的特征變量是十分有意義的.參考Li 等人[14]的研究，采用平均影響值(mean impact value，MIV)與BP 神經(jīng)網(wǎng)絡(luò)相結(jié)合，來(lái)篩選對(duì)缺陷成因影響靈敏度高的焊接參數(shù)進(jìn)行建模.MIV 的主要原理是通過(guò)控制不同參數(shù)的變化來(lái)確定參數(shù)與預(yù)測(cè)結(jié)果的重要性.其具體計(jì)算過(guò)程為：首先基于完整訓(xùn)練集訓(xùn)練模型；再通過(guò)添加/減去每個(gè)特征向量值的10%的比例，生成新的輸入值(X1，X2)，與其它特征向量構(gòu)成新的輸入；使用新輸入運(yùn)行訓(xùn)練模型，計(jì)算新輸出(Y1，Y2)之間的差值為影響值(IV)，最后將IV 按觀測(cè)例數(shù)平均得出該自變量對(duì)應(yīng)變量MIV.MIV 的絕對(duì)值大小代表焊接參數(shù)相對(duì)于焊接缺陷成因影響的靈敏程度，正負(fù)值則代表相關(guān)的方向.此時(shí)，可將 MIV 絕對(duì)值較大的參數(shù)挑選出來(lái)進(jìn)行建模，從而實(shí)現(xiàn)對(duì)焊接參數(shù)的篩選.對(duì)焊接試驗(yàn)涉及的10 個(gè)焊接參數(shù)進(jìn)行基于MIV 的變量篩選，結(jié)果如表1 所示.由表1 可知，焊接缺陷成因的影響因素主要是缺陷種類、缺陷長(zhǎng)寬比、焊接電流、焊接電壓、焊接速度、送絲速度和氣體流量這7 個(gè)變量，其MIV 值所占比例之和達(dá)到了94.216%.故將這7 個(gè)變量作為BP 神經(jīng)網(wǎng)絡(luò)的輸入，將缺陷形成原因作為輸出，以此構(gòu)建神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu).

表1 基于MIV 的焊接成因診斷輸入特征變量靈敏度分析Table 1 Sensitivity analysis of input characteristic variables for welding cause diagnosis based on MIV

3.2 BP 神經(jīng)網(wǎng)絡(luò)模型的建立

理論證明，對(duì)于任何在閉區(qū)間內(nèi)的一個(gè)連續(xù)函數(shù)都可以用一層隱藏層的BP 神經(jīng)網(wǎng)絡(luò)來(lái)逼近，因而一個(gè)單隱藏層的BP 網(wǎng)絡(luò)可以完成任意的n維到m維的映射[15].可以用圖3 所示的一個(gè)單隱藏層神經(jīng)網(wǎng)絡(luò)來(lái)搭建焊接缺陷分析模型.

圖3 BP 神經(jīng)網(wǎng)絡(luò)焊接缺陷分析模型Fig.3 BP neural network model for welding defect analysis

對(duì)于如何確定隱藏層神經(jīng)元的數(shù)目，目前還沒(méi)有明確而廣泛的結(jié)論.根據(jù)Sheela 等人[16]綜述中提到的經(jīng)驗(yàn)公式初步確定隱藏層神經(jīng)元個(gè)數(shù)nh.

式中：i nt()為 向下取整函數(shù)；ni，no分別為輸入層、輸出層神經(jīng)元個(gè)數(shù).由上述隱藏層節(jié)點(diǎn)公式，初步確定隱藏層神經(jīng)元個(gè)數(shù)為14.

4 缺陷成因診斷試驗(yàn)方案

4.1 缺陷成因診斷試驗(yàn)方案

試驗(yàn)硬件采用Intel Core i5-9300H 處理器和Nvidia GeForce GTX 1660Ti 獨(dú)立顯卡.軟件環(huán)境采用Windows10 操作系統(tǒng)，深度學(xué)習(xí)框架Tensor flow-gpu-2.1.0.在得到試驗(yàn)數(shù)據(jù)之后，對(duì)試驗(yàn)數(shù)據(jù)進(jìn)行預(yù)處理，進(jìn)行歸一化、標(biāo)準(zhǔn)化處理，將各個(gè)特征處于同一數(shù)量級(jí)，從而消除奇異樣本數(shù)據(jù)導(dǎo)致的不良影響.將收集到的試驗(yàn)數(shù)據(jù)隨機(jī)分為4∶1∶1 作為訓(xùn)練集、驗(yàn)證集和測(cè)試集(測(cè)試集不用于神經(jīng)網(wǎng)絡(luò)訓(xùn)練，僅作為試驗(yàn)最后的驗(yàn)證).采用改進(jìn)的單隱藏層PSO-BP 神經(jīng)網(wǎng)絡(luò)，在使用BP 算法的前向傳播計(jì)算時(shí)，使用tanh()函數(shù)作為第一層的激活函數(shù)，使用sigmoid()函數(shù)作為第二層的激活函數(shù).采用交叉熵作為損失函數(shù).為了緩解過(guò)擬合現(xiàn)象，采用Adam 正則化.設(shè)置學(xué)習(xí)率為0.4，迭代2 000 次.使用PSO 算法時(shí)，慣性權(quán)重最小值 ωmin=0.4，最大值 ωmax=1，學(xué)習(xí)因子最小值cmin=0.6，學(xué)習(xí)因子最大值cmax=1.5，粒子初始化的位置在(-1，1)之間，粒子的最大速度為0.5.

4.2 網(wǎng)絡(luò)模型結(jié)構(gòu)參數(shù)選擇

試驗(yàn)用網(wǎng)絡(luò)結(jié)構(gòu)隱藏層神經(jīng)元個(gè)數(shù)初定為14，設(shè)置學(xué)習(xí)率為0.4，再采用網(wǎng)格搜索法，在一定的取值范圍內(nèi)取多組參數(shù)值(隱藏層神經(jīng)元個(gè)數(shù))建立BP 神經(jīng)網(wǎng)絡(luò)，并利用獲得的有效樣本數(shù)據(jù)進(jìn)行訓(xùn)練，迭代2 000 次，測(cè)試結(jié)果如圖4 所示.從圖4 可以看出，隱藏層神經(jīng)元個(gè)數(shù)為14 時(shí)，網(wǎng)絡(luò)迭代2 000次的損失函數(shù)值最低；神經(jīng)元個(gè)數(shù)為16 時(shí)，準(zhǔn)確率達(dá)到93.33%，且此時(shí)的損失函數(shù)值與損失函數(shù)值最低值接近.考慮到準(zhǔn)確率與損失函數(shù)值帶來(lái)的影響，最終選擇隱藏層神經(jīng)元個(gè)數(shù)為16 的單隱藏層神經(jīng)網(wǎng)絡(luò)進(jìn)行模型的訓(xùn)練.

圖4 網(wǎng)格搜索法確定隱藏層神經(jīng)元個(gè)數(shù)Fig.4 Grid search to determine the number of neurons in the hidden layer

4.3 缺陷成因診斷試驗(yàn)結(jié)果

4.3.1 改進(jìn)的PSO-BP 算法訓(xùn)練結(jié)果

將經(jīng)過(guò)MIV 變量篩選后的數(shù)據(jù)放入搭建好的基于動(dòng)態(tài)權(quán)重的自適應(yīng)PSO-BP 神經(jīng)網(wǎng)絡(luò)模型中，模型在訓(xùn)練集、驗(yàn)證集上的表現(xiàn)如圖5 所示.從圖5可以看出，訓(xùn)練集與驗(yàn)證集的損失函數(shù)值均降至0.5 以下.經(jīng)過(guò)該網(wǎng)絡(luò)訓(xùn)練后的模型，可以很好的對(duì)鋁合金不同類型的焊接缺陷形成原因的進(jìn)行診斷，滿足焊接缺陷分析要求.

圖5 損失函數(shù)曲線Fig.5 Loss function curve

4.3.2 不同算法的對(duì)比試驗(yàn)

為了驗(yàn)證基于動(dòng)態(tài)權(quán)重的PSO-BP 神經(jīng)網(wǎng)絡(luò)的優(yōu)越性，設(shè)置BP 神經(jīng)網(wǎng)絡(luò)和傳統(tǒng)PSO-BP 神經(jīng)網(wǎng)絡(luò)進(jìn)行對(duì)照，在傳統(tǒng)PSO-BP 神經(jīng)網(wǎng)絡(luò)中，參數(shù)設(shè)置參考王東風(fēng)等人[17]的研究，設(shè)置學(xué)習(xí)因子c1為2.043 4，c2為 0.948 7，慣性權(quán)重 ω為0.729 8，其它設(shè)置與基于動(dòng)態(tài)權(quán)重的自適應(yīng)PSO-BP 神經(jīng)網(wǎng)絡(luò)保持一致.試驗(yàn)結(jié)果如圖6 所示.從圖6 可以看出，以損失函數(shù)值降至0.5 以下為參考標(biāo)準(zhǔn)，BP 神經(jīng)網(wǎng)絡(luò)所需的迭代次數(shù)為1 000，傳統(tǒng)PSO-BP 神經(jīng)網(wǎng)絡(luò)需要610 次，而改進(jìn)后的PSO-BP 神經(jīng)網(wǎng)絡(luò)則只需要530 次就能將損失函數(shù)值降至0.5 以下，減少了13.1%.因此，改進(jìn)后的PSO-BP 神經(jīng)網(wǎng)絡(luò)對(duì)模型訓(xùn)練效率有了明顯的提升.

圖6 不同算法神經(jīng)網(wǎng)絡(luò)損失函數(shù)曲線Fig.6 Loss function curve of neural networks with different algorithms

4.3.3 不同算法的預(yù)測(cè)試驗(yàn)

混淆矩陣也稱誤差矩陣，是表示精度評(píng)價(jià)的一種標(biāo)準(zhǔn)格式，用n行n列的矩陣形式來(lái)表示.混淆矩陣的每一列代表了預(yù)測(cè)類別，每一列的總數(shù)表示預(yù)測(cè)為該類別的數(shù)據(jù)的數(shù)目；每一行代表了數(shù)據(jù)的真實(shí)歸屬類別，每一行的數(shù)據(jù)總數(shù)表示該類別的數(shù)據(jù)實(shí)例的數(shù)目.

將測(cè)試集30 組數(shù)據(jù)作為驗(yàn)證，利用訓(xùn)練好的改進(jìn)的PSO-BP 神經(jīng)網(wǎng)絡(luò)模型、傳統(tǒng)PSO-BP 神經(jīng)網(wǎng)絡(luò)模型和BP 神經(jīng)網(wǎng)絡(luò)模型對(duì)缺陷進(jìn)行診斷，缺陷形成原因混淆矩陣如圖7 所示.

圖7 中縱坐標(biāo)為真實(shí)缺陷形成原因標(biāo)簽，橫坐標(biāo)為預(yù)測(cè)缺陷形成原因標(biāo)簽，共10 類不同的缺陷成因分別對(duì)應(yīng)數(shù)字1～10，1 類非工藝參數(shù)原因?qū)?yīng)數(shù)字0；右側(cè)灰色條狀圖表示缺陷形成原因樣本量的多少，樣本量越多，顏色越深，與圖中方格內(nèi)數(shù)字對(duì)應(yīng).每個(gè)網(wǎng)格對(duì)應(yīng)了一組真實(shí)值和預(yù)測(cè)值，例如(5，5)表示預(yù)測(cè)缺陷形成原因?yàn)榈? 類(焊接速度過(guò)大)，真實(shí)缺陷形成原因也為第5 類(焊接速度過(guò)大)，網(wǎng)格方格中的數(shù)字4 表示試驗(yàn)共有4 組數(shù)據(jù)為(5，5).

圖7 缺陷形成原因混淆矩陣對(duì)比Fig.7 Comparison of confusion matrix of defect causes.(a) adaptive PSO-BP algorithm based on dynamic weighting；(b) traditional PSO-BP algorithm；(c) BP neural network

從圖7 可以看出，改進(jìn)的PSO-BP 神經(jīng)網(wǎng)絡(luò)只有1 組診斷錯(cuò)誤，剩余29 組診斷結(jié)果均與真實(shí)缺陷成因相符，準(zhǔn)確率為96.67%；傳統(tǒng)PSO-BP 神經(jīng)網(wǎng)絡(luò)有2 組診斷錯(cuò)誤，準(zhǔn)確率為93.33%；BP 神經(jīng)網(wǎng)絡(luò)有3 組診斷錯(cuò)誤，準(zhǔn)確率為90.00%.

對(duì)于二分類問(wèn)題常用的評(píng)價(jià)指標(biāo)是精確率和召回率.通常以關(guān)注的類為正類，其它類為負(fù)類，分類器在數(shù)據(jù)集上的預(yù)測(cè)有4 種情況：TP表示正類預(yù)測(cè)為正類；FP表示負(fù)類預(yù)測(cè)為正類；TN表示負(fù)類預(yù)測(cè)為負(fù)類；FN表示正類預(yù)測(cè)為負(fù)類.

將二分類的分類指標(biāo)引入多分類問(wèn)題中，考慮到樣本不均衡對(duì)結(jié)果可能帶來(lái)的影響，評(píng)價(jià)指標(biāo)引入加權(quán)平均，以精確率Pweighted為例.

式中：K為類別數(shù)；下標(biāo)i表示其屬于哪一類；λi表示該類在總樣本數(shù)中的占比；Pi表示某類別的精確率.

表2 為基于不同算法的缺陷成因診斷準(zhǔn)確程度.從分類的各評(píng)價(jià)指標(biāo)可以發(fā)現(xiàn)，在加權(quán)平均準(zhǔn)確率方面，改進(jìn)的PSO-BP 神經(jīng)網(wǎng)絡(luò)為96.7%，優(yōu)于傳統(tǒng)PSO-BP 神經(jīng)網(wǎng)絡(luò)的93.3%；在加權(quán)平均精確率方面，改進(jìn)的PSO-BP 神經(jīng)網(wǎng)絡(luò)為98.3%，優(yōu)于傳統(tǒng)PSO-BP 神經(jīng)網(wǎng)絡(luò)的91.3%；在表示模型綜合能力指標(biāo)的F1值上，改進(jìn)的PSO-BP 算法為96.9%，優(yōu)于傳統(tǒng)PSO-BP 算法的91.7%.

表2 基于不同算法的焊接缺陷成因診斷結(jié)果Table 2 Diagnosis results of welding defects based on different algorithms

4.4 實(shí)際診斷試驗(yàn)

為了驗(yàn)證實(shí)際生產(chǎn)中該模型的應(yīng)用效果，隨機(jī)在罐體生產(chǎn)中選擇5 條測(cè)試樣本，測(cè)試樣本的輸入特征如表3 所示.缺陷成因真實(shí)值及網(wǎng)絡(luò)輸出結(jié)果如表4 所示.

表3 測(cè)試樣本的輸入特征Table 3 Input features of the test samples

表4 缺陷成因真實(shí)值及網(wǎng)絡(luò)輸出結(jié)果Table 4 Real value of defect causes and network output results

以氣孔缺陷(樣本1)診斷為例進(jìn)行分析，可以看出，經(jīng)過(guò)改進(jìn)的神經(jīng)網(wǎng)絡(luò)模型的診斷，輸入的氣孔缺陷有99.51%的可能性是由焊接速度過(guò)大造成，有0.38%的可能性是由氣體流量過(guò)大造成，有0.11%的可能性是由氣體流量過(guò)小造成.

圖8 為參數(shù)調(diào)整前后的焊縫形貌.圖8a 顯示了樣本1 優(yōu)化調(diào)整前焊縫的成形情況，焊縫處存在氣孔缺陷，利用改進(jìn)的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行診斷，得出缺陷成因可能為焊接速度過(guò)大.使用調(diào)整后的參數(shù)進(jìn)行焊接，最終得到如圖8b 中成形質(zhì)量良好的焊縫，從而證明了模型在實(shí)際生產(chǎn)應(yīng)用中的價(jià)值.

圖8 參數(shù)調(diào)整前后焊縫形貌Fig.8 Weld morphology before and after parameter adjustment.(a) before parameter adjustment；(b)after parameter adjustment

5 結(jié)論

(1)針對(duì)焊接缺陷多種形成原因，結(jié)合BP 神經(jīng)網(wǎng)絡(luò)，提出了基于動(dòng)態(tài)權(quán)重的自適應(yīng)PSO-BP 神經(jīng)網(wǎng)絡(luò)的焊接缺陷成因智能診斷方法，為焊接缺陷多影響因素分析及智能專家系統(tǒng)研發(fā)提供了新的推理思路.

(2)與傳統(tǒng)PSO-BP 算法相比，改進(jìn)后的PSOBP 算法將損失函數(shù)值降至0.5 以下所需的迭代次數(shù)減少了13.1%，模型準(zhǔn)確率由93.3%提高至96.7%，精確率由91.3%提高至98.3%，綜合能力指標(biāo)由91.7%提高至96.9%.改進(jìn)后的PSO-BP 神經(jīng)網(wǎng)絡(luò)算法能有效提高缺陷形成原因診斷的效率與精度，具有良好的工程應(yīng)用價(jià)值.