田 凱,孫永泰,高 慧,傅忠堯
(中石化勝利石油工程有限公司鉆井工藝研究院,山東 東營 257017)
貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)缺陷量化研究
田 凱,孫永泰,高 慧,傅忠堯
(中石化勝利石油工程有限公司鉆井工藝研究院,山東 東營 257017)
為克服傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)中網(wǎng)絡(luò)訓(xùn)練速度慢、量化精度低、數(shù)據(jù)過度擬合、容易陷入局部極小點等缺點,該文將貝葉斯算法引入BP神經(jīng)網(wǎng)絡(luò)用于基于漏磁檢測的缺陷量化,有效地控制網(wǎng)絡(luò)模型的復(fù)雜度,利用不同尺寸的缺陷特征量訓(xùn)練網(wǎng)絡(luò),從而實現(xiàn)對缺陷長度、寬度、深度的量化,節(jié)約網(wǎng)絡(luò)的訓(xùn)練時間,提高量化精度。
漏磁檢測;缺陷量化;貝葉斯算法;BP神經(jīng)網(wǎng)絡(luò)
隨著石油與天然氣市場的飛速發(fā)展,油氣輸送管道的安全受到了越來越多的重視,對管道內(nèi)部缺陷的精準定位與實時監(jiān)測對于降低管道事故的發(fā)生率起著非常重要的作用[1]。漏磁檢測技術(shù)是目前對油氣管道內(nèi)部缺陷進行檢測的主要方法,而對管道內(nèi)部缺陷的定量分析是制約漏磁檢測技術(shù)發(fā)展的瓶頸[2]。
如今,神經(jīng)網(wǎng)絡(luò)技術(shù)的應(yīng)用已經(jīng)滲透到各個領(lǐng)域并廣泛應(yīng)用于信號處理以及非線性優(yōu)化,這為基于漏磁檢測技術(shù)的缺陷量化奠定了基礎(chǔ)[3]。目前,神經(jīng)網(wǎng)絡(luò)方法已被學(xué)者們用于漏磁檢測技術(shù)下的缺陷量化,應(yīng)用最為廣泛的是BP神經(jīng)網(wǎng)絡(luò),然而該網(wǎng)絡(luò)具有訓(xùn)練速度慢、識別精度低、數(shù)據(jù)過擬合、容易進入局部極小點等缺點[4]。Tariq Khan等在2008年提出了用貝葉斯算法對缺陷進行重構(gòu),并證明了其可行性,據(jù)此,本文采用了將貝葉斯算法與神經(jīng)網(wǎng)絡(luò)相結(jié)合的方式。盡管基于貝葉斯算法的BP網(wǎng)絡(luò)在理論上已經(jīng)得到論證,但將其引入缺陷量化的研究很少[5],本文采用基于貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)對管道內(nèi)
部缺陷進行量化,利用神經(jīng)網(wǎng)絡(luò)的基本原理,并通過貝葉斯推理來克服過度擬合,減少模型中的不確定性,提高網(wǎng)絡(luò)的收斂速度以及缺陷量化的精度,在一定程度上改良了BP神經(jīng)網(wǎng)絡(luò)對缺陷進行量化的性能。
1.1 貝葉斯算法
基于貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)是基于貝葉斯定理而發(fā)展出來的用于解決統(tǒng)計問題的方法,即任意一個待求量都可以看作是一個隨機變量,因此可以通過概率分布來對待求量進行描述,這個概率是在抽樣前就有的關(guān)于待求量的先驗概率分布。貝葉斯理論正是在沒有樣本信息時,只根據(jù)先驗概率分布來求解待求量。而在有樣本后,則可根據(jù)總體、樣本和先驗信息的聯(lián)合分布來對未知量進行判斷。
貝葉斯定理的公式為
式中:θ——隨機變量的未知量;
x——樣本;
π(θ|x)——后驗信息分布;
后驗分布π(θ|x)是反映人們在抽樣后對隨機變量θ的認識,其與先驗分布即樣本x的差異是由于樣本出現(xiàn)后人們對θ的調(diào)整,即后驗分布π(θ|x)為抽樣信息對先驗分布π(θ)調(diào)整的結(jié)果[6]。
1.2 貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)
基于貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)是一種以神經(jīng)網(wǎng)絡(luò)基本原理為構(gòu)架,通過引入貝葉斯推理有效地控制網(wǎng)絡(luò)模型的復(fù)雜度,進而更好地解決非線性問題及其不確定性[7]。
在BP神經(jīng)網(wǎng)絡(luò)中,訓(xùn)練樣本集為D(xm,Om),xm為輸入信號,Om為輸出節(jié)點,在一定的網(wǎng)絡(luò)結(jié)構(gòu)A與網(wǎng)絡(luò)參數(shù)W下,可以得到網(wǎng)絡(luò)的輸出由網(wǎng)絡(luò)的輸入D唯一的確定。網(wǎng)絡(luò)訓(xùn)練的目標函數(shù)為誤差函數(shù)ED(D|W,A),則有:
網(wǎng)絡(luò)的訓(xùn)練目標是找到使誤差函數(shù)ED(D|W,A)最小的網(wǎng)絡(luò)參數(shù)W,在訓(xùn)練的擬合過程中,常給誤差函數(shù)加上衰減項EW(W|A),其中:
則最終目標函數(shù)為
其中α,β為超參數(shù),用于控制其他參數(shù)的分布。
當網(wǎng)絡(luò)結(jié)構(gòu)A、網(wǎng)絡(luò)參數(shù)W、輸入x給定時,網(wǎng)絡(luò)誤差函數(shù)預(yù)測概率分布為
其中,ZM(β),Zw(α),ZM(α,β)——歸一化因子。
在以上框架下最小化目標函數(shù)M(W),得到最可能的網(wǎng)絡(luò)參數(shù)W1。
超參數(shù)的后驗分布概率P(α,β|D,A)為
來進行評價[8]。
采用貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)步驟如下:
(1)確定網(wǎng)絡(luò)結(jié)構(gòu)A,初始化超參數(shù)α,β,對網(wǎng)絡(luò)參數(shù)W進行賦值。
(2)以最終目標函數(shù)為M(W)最小為原則,對BP神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練,尋找最優(yōu)可能網(wǎng)絡(luò)參數(shù)W。
(3)尋找最優(yōu)可能參數(shù)α,β。
(4)采用不同初始網(wǎng)絡(luò)參數(shù)尋找最優(yōu)網(wǎng)絡(luò)參數(shù)。
(5)對不同網(wǎng)絡(luò)結(jié)構(gòu)A,尋找最優(yōu)網(wǎng)絡(luò)參數(shù)。
2.1 訓(xùn)練樣本與測試樣本
在對管道進行磁化的過程中,最常用的方法是沿管道軸向進行磁化,提取缺陷處沿軸向變化的漏磁場與沿周向變化的漏磁場,缺陷的長度信息主要由沿軸向變化漏磁場反應(yīng),缺陷的寬度信息主要由沿周向變化的漏磁場反應(yīng),而缺陷的深度信息則是由這兩個量共同反應(yīng)[9]。
本文采用實驗的方法獲取網(wǎng)絡(luò)所需樣本,這里以對陡壁缺陷的分析為例,研究貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)對陡壁缺陷量化的有效性。分別制作缺陷長度為3,3.5,4,4.5,5,5.5倍管道壁厚,寬度為0.5,1,1.5,2倍管道壁厚,深度為0.1,0.15,0.2,0.25倍管道壁厚,共得到96組測量結(jié)果,取其中80個缺陷特征作為網(wǎng)絡(luò)的訓(xùn)練樣本,剩余的16個缺陷特征作為測試樣本。
圖1 基于貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)與基本BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程比較
2.2 長度的量化
采用統(tǒng)計分析的方法選取與缺陷長度關(guān)系密切的特征量作為神經(jīng)網(wǎng)絡(luò)的輸入信號,將缺陷長度作為網(wǎng)絡(luò)的輸出信號來對網(wǎng)絡(luò)進行訓(xùn)練[10]。所選取主要特征有漏磁場軸向分量的靜態(tài)閾值截取長度、一階微分信號極小值的位置與周向變化漏磁場動態(tài)閾值截取長度。分別對基本的BP神經(jīng)網(wǎng)絡(luò)與貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練,當均方誤差小于10-3時停止訓(xùn)練,得到兩種網(wǎng)絡(luò)的訓(xùn)練與學(xué)習過程如圖1所示。
比較兩種算法訓(xùn)練過程可以看出貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)總共進行了331次訓(xùn)練,而基本的BP神經(jīng)網(wǎng)絡(luò)總共進行了1789次訓(xùn)練,可見貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)的收斂速率更快。
用16組測試數(shù)據(jù)對兩種網(wǎng)絡(luò)長度的量化誤差進行比較,得到量化后缺陷最大相對誤差與最小相對誤差如表1所示,對應(yīng)貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)量化的缺陷如表2所示。
表1 缺陷長度量化方法比較
表2 貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)對應(yīng)缺陷
從表2中可以看出,采用貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)量化得到的缺陷長度與設(shè)計值的誤差明顯小于基本的BP神經(jīng)網(wǎng)絡(luò),最大相對誤差僅為0.05%。
2.3 寬度的量化
與缺陷長度的量化相似,采用統(tǒng)計分析的方法選取與缺陷寬度關(guān)系密切的特征量作為神經(jīng)網(wǎng)絡(luò)的輸入信號,將缺陷寬度作為網(wǎng)絡(luò)的輸出信號來對網(wǎng)絡(luò)進行訓(xùn)練。所選取主要特征有軸向變化漏磁場峰谷值、周向變化漏磁場波形面積、波形能量、靜態(tài)閾值截取長度。分別對基本的BP神經(jīng)網(wǎng)絡(luò)與貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練,當均方誤差小于10-3時停止訓(xùn)練,得到兩種網(wǎng)絡(luò)的訓(xùn)練與學(xué)習過程如圖2所示。
比較兩種算法訓(xùn)練過程可以看出貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)總共進行了269次訓(xùn)練,而基本的BP神經(jīng)網(wǎng)絡(luò)總共進行了2248次訓(xùn)練,可見引入貝葉斯算法后的BP神經(jīng)網(wǎng)絡(luò)的收斂速率大幅提升。
圖2 基于貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)與基本BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程比較
表3 缺陷寬度量化方法比較
表4 貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)對應(yīng)缺陷
與之前相同,用16組測試數(shù)據(jù)對兩種網(wǎng)絡(luò)寬度的量化誤差進行比較,得到量化后缺陷誤差如表3所示,貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)量化達到誤差的缺陷見表4。
在對缺陷寬度進行量化的過程中,盡管量化得到的最大相對誤差仍較大,采用貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)量化得到的缺陷寬度與設(shè)計值的誤差明顯小于基本的BP神經(jīng)網(wǎng)絡(luò)。
2.4 深度的量化
在對缺陷的深度進行量化時,采用統(tǒng)計分析的方法選取了缺陷的長度、寬度以及軸向變化漏磁場的兩個峰谷值、波形面積、周向變化漏磁場峰值、峰谷值作為神經(jīng)網(wǎng)絡(luò)的輸入信號,將缺陷深度作為網(wǎng)絡(luò)的輸出信號來對網(wǎng)絡(luò)進行訓(xùn)練。對基本的BP神經(jīng)網(wǎng)絡(luò)與貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練,得到兩種網(wǎng)絡(luò)的訓(xùn)練與學(xué)習過程如圖3所示。
貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)總共進行了4152次訓(xùn)練,基本的BP神經(jīng)網(wǎng)絡(luò)總共進行了8763次訓(xùn)練,盡管引入貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程仍舊較長,但比基本BP神經(jīng)網(wǎng)絡(luò)的收斂速率有所提升。
圖3 基于貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)與基本BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程比較
表5 缺陷深度量化方法比較
表6 貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)對應(yīng)缺陷
用16組測試數(shù)據(jù)對兩種網(wǎng)絡(luò)深度的量化誤差進行比較,得到量化后缺陷誤差如表5所示,貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)量化達到誤差的缺陷見表6。
從對缺陷深度量化結(jié)果可以看出,采用貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)對缺陷深度進行量化,得到的缺陷深度與設(shè)計值的誤差小于基本的BP神經(jīng)網(wǎng)絡(luò)。
本文為克服傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)中訓(xùn)練速度慢、識別精度較低、數(shù)據(jù)過擬合、容易進入局部極小點等缺點,將貝葉斯算法引入BP神經(jīng)網(wǎng)絡(luò),通過貝葉斯推理有效地控制網(wǎng)絡(luò)的復(fù)雜度,在一定程度上改善了BP神經(jīng)網(wǎng)絡(luò)對缺陷進行量化的性能,實現(xiàn)了對缺陷長度、寬度、深度的量化。
[1]戚愛華.我國油氣管道運輸發(fā)展現(xiàn)狀及問題分析[J].國際石油經(jīng)濟,2009,17(12):57-59,84.
[2]吳欣怡,趙偉,黃松嶺.基于漏磁檢測的缺陷量化方法[J].電測與儀表,2008(5):20-22,37.
[3]潘海飛,王武華,陳新寧.高速鋼軌缺陷的漏磁檢測及反演[J].中國測試,2013,39(1):22-24,42.
[4]崔偉,黃松嶺,趙偉.基于RBF網(wǎng)絡(luò)的漏磁檢測缺陷定量分析方法[J].清華大學(xué)學(xué)報:自然科學(xué)版,2006(7):1216-1218,1222.
[5]楊莉,杜成超,翟紫陽,等.基于貝葉斯神經(jīng)網(wǎng)絡(luò)的焊縫跟蹤方法[J].熱加工工藝,2011(23):168-170.
[6]樊春玲,孫四通,金志華.貝葉斯神經(jīng)網(wǎng)絡(luò)建模預(yù)測方法及其應(yīng)用[J].中國慣性技術(shù)學(xué)報,2009(1):85-88.
[7]田志偉.貝葉斯神經(jīng)網(wǎng)絡(luò)在股票預(yù)測中的應(yīng)用[D].無錫:江南大學(xué),2011.
[8]楊莉,杜成超,翟紫陽,等.基于貝葉斯神經(jīng)網(wǎng)絡(luò)的焊縫跟蹤方法[J].熱加工工藝,2011(23):168-170.
[9]蔣奇.管道缺陷漏磁檢測量化技術(shù)及其應(yīng)用研究[D].天津:天津大學(xué)機械工程學(xué)院,2002.
[10]崔偉.油氣長輸管道腐蝕缺陷漏磁檢測量化方法研究[D].北京:清華大學(xué)電機工程與應(yīng)用電子技術(shù)系,2006.
Quantification of slowly varying defect using BP neural network based on Bayesian algorithm
TIAN Kai,SUN Yong-tai,GAO Hui,F(xiàn)U Zhong-yao
(Sinopec Shengli Petroleum Engineering Company Drilling Research Institute,Dongying 257017,China)
In order to overcome the disadvantages of traditional BP neural network such as slow training speed,low quantitative accuracy,data over fitting,easy to fall into local minima,this paper introduces the Bayesian algorithm to the BP neural network to quantify the defect through testing magnetic flux leakage.The BP neural network model is built to quantify the defect on the basisof the Bayesian algorithm.Bayesian reasoning isintroduced to effectively controlthe complexity of the network model.And the defect features were used to train the network,so as to achieve the quantification of the length,width,depth of the defects.With this model,the training time of the network can be saved and the quantization accuracy can be improved as well.
magnetic flux leakage testing;quantification of defect;Bayesian algorithm;BP neural network
O212.8;TP183;TN911.7;TP301.6
:A
:1674-5124(2014)03-0093-05
10.11857/j.issn.1674-5124.2014.03.025
2013-11-14;
:2013-12-28
國家863計劃項目(2011AA090301)國家重大科學(xué)儀器設(shè)備開發(fā)專項(2013YQ140505)
田 凱(1979-),男,山東成武縣人,工程師,主要從事海洋平臺設(shè)計和海底管道檢測技術(shù)的研究。