張立峰, 常恩健
(華北電力大學 自動化系,河北 保定 071003)
電容層析成像(electrical capacitance tomography, ECT)是一種無損檢測技術[1],可以非侵入性地顯示管道內(nèi)部介質(zhì)的分布。具有結(jié)構簡單、成本低、安全無輻射、響應快等優(yōu)點,在工業(yè)過程的測量和監(jiān)測中具有廣泛的應用前景[2]。實驗測得的電容值數(shù)量遠少于管道內(nèi)剖分網(wǎng)格數(shù),因此ECT圖像重建是1個病態(tài)問題的求解過程[3]。通常采用非迭代算法(LBP[4]、Tikhonov[5]等)及迭代算法[6](Landweber[7]、共軛梯度法[8]等)來計算介電常數(shù)分布。由于兩相流系統(tǒng)的復雜性,導致重建圖像產(chǎn)生偽影或失真。隨后,智能算法如模擬退火算法、果蠅優(yōu)化算法等圖像重建算法不斷被提出,它們具有更好的圖像重建質(zhì)量,但其計算量大,難以滿足某些ECT應用的在線成像要求[9]。
機器學習領域的深度學習算法可直接反映電容向量和物體介電常數(shù)分布之間的復雜非線性映射關系,能有效解決 ECT 系統(tǒng)的軟場問題[10],逐漸被用于ECT圖像重建問題。馬敏[11]等提出了基于深度信念網(wǎng)絡的電容層析成像圖像重建算法,并在參數(shù)微調(diào)階段利用擬牛頓法來減少訓練時間;彭黎輝等[12]提出了一種有監(jiān)督的自動編碼器來解決ECT的圖像重建問題;朱海[13]等提出了一種神經(jīng)網(wǎng)絡,可以重建物體形狀并預測介電常數(shù)值;李毅等[14]將ECT的重建問題視為1個圖像分割問題,并提出了一種基于卷積神經(jīng)網(wǎng)絡(CNN)的U型網(wǎng)絡結(jié)構;張立峰等[15]基于測量電容的數(shù)據(jù)結(jié)構,提出一種一維卷積神經(jīng)網(wǎng)絡結(jié)構進行ECT圖像重建,取得了良好的效果。文獻[10~15]中使用的網(wǎng)絡大多為淺層網(wǎng)絡,對于深層網(wǎng)絡應用在ECT圖像重建領域的研究較少,而深層網(wǎng)絡具有較大的感受野和較強的語義信息表示能力。李峰[16]等提出了一種全連接深度網(wǎng)絡(full Connection deep network,FCDN)圖像重建算法,可較好地反應圖像重建問題的非線性本質(zhì)。殘差網(wǎng)絡也是一種深層網(wǎng)絡,其特點是能夠通過殘差塊的堆疊實現(xiàn)網(wǎng)絡深度的不斷增加,同時可利用其內(nèi)部殘差塊之間的跳躍連接來緩解因深度增加而帶來的梯度消失問題。
本文提出了一種基于改進ResNet-18的電容層析成像圖像重建方法。改進后的結(jié)構具有卷積層、池化層、展平層和全連接層。仿真及靜態(tài)實驗表明,該方法重建圖像精度得到明顯提高。
ECT 系統(tǒng)主要由3部分組成:陣列電極傳感器、數(shù)據(jù)采集系統(tǒng)和計算機圖像重建系統(tǒng)。系統(tǒng)結(jié)構仿真模型如圖1所示。
圖1 ECT系統(tǒng)結(jié)構仿真模型示意圖Fig...1 Schematic diagram of simulation model of ECT system structure
ECT 系統(tǒng)工作流程為:首先對電極按照一定順序依次施加激勵電壓,然后測量激勵電極與不同檢測電極之間的電容值,最后數(shù)據(jù)采集系統(tǒng)將測量信號轉(zhuǎn)變?yōu)閿?shù)字信號并傳輸給計算機,計算機根據(jù)接收的信號結(jié)合圖像重建算法得到管內(nèi)介質(zhì)介電常數(shù)的分布圖像。
ECT系統(tǒng)中敏感場模型表示如下:
[ε(x,y)E(x,y)]=0
(1)
式中:ε(x,y)為管內(nèi)介電常數(shù)分布函數(shù);E(x,y)為電場強度分布函數(shù)。
對式(1)離散化歸一化后得到的近似線性方程:
SG=C
(2)
式中:S為n×m的歸一化靈敏度系數(shù)矩陣;G為m×1的歸一化介電常數(shù)矩陣;C為n×1的歸一化電容值矩陣,n為測量電容值的個數(shù),m為剖分網(wǎng)格個數(shù)。
定義殘差塊:
y=F(xi,{Wi})+x
(3)
式中:x和y分別為層的輸入和輸出;函數(shù)F(xi,{Wi})為殘差映射。
在堆疊層上采取殘差學習算法。1個殘差塊如圖2所示。
圖2 殘差塊結(jié)構圖Fig.2 Residual blocks structure diagram
圖2中包含2層殘差映射,F=W2σ(Wix)+b,其中σ代表ReLU,b為偏置項。F(x)+x操作由1個跳躍連接和元素級的加法來表示。在加法之后再執(zhí)行另1個非線性操作。
圖像重建網(wǎng)絡通常使用卷積神經(jīng)網(wǎng)絡通過分層采樣來提取目標的特征。本文提出的改進ResNet-18網(wǎng)絡主要由卷積層、批規(guī)范化(Batch Normalization,BN)層、池化層、展平層和全連接層組成,如圖3所示。
圖3 改進ResNet-18網(wǎng)絡結(jié)構Fig.3 Improve ResNet-18 network structure
模型中每一層的描述如下:
1) 輸入層。通常圖像重建神經(jīng)網(wǎng)絡輸入為一維電容值或一維真實介電常數(shù)分布值。首先將66×1的電容值歸一化,然后填充0后,整型為9×9的二維數(shù)據(jù)矩陣來滿足網(wǎng)絡的輸入要求。由于在網(wǎng)絡中需要使用池化層進行降維,而在ECT 圖像重建中輸入維度遠小于輸出,因此采用最近鄰上采樣和填充的方法使數(shù)據(jù)擴充為24×24作為網(wǎng)絡輸入。
2) 特征提取層。ResNet-18網(wǎng)絡對輸入數(shù)據(jù)進行特征提取。將原ResNet-18網(wǎng)絡第1層的卷積核大小改為3,以適應求解圖像重建問題。其余每層含有2個具有跳躍連接的殘差塊,每個殘差塊中有兩層卷積,卷積核大小均為3×3,除第1層殘差塊中的最大池化層步長為1,其余殘差塊中的最大池化層步長均為2。特征提取層中激活函數(shù)均為ReLU。
3)輸出層。輸出層先經(jīng)過展平層將多維輸入一維化,然后通過全連接輸出1 728×1維圖像灰度值進行圖像重建。全連接層激活函數(shù)為Sigmoid函數(shù)。
選用適應性矩估計(adaptive moment estimation,Adam)優(yōu)化器訓練網(wǎng)絡,這種優(yōu)化算法依靠梯度一階矩估計與二階矩估計調(diào)整網(wǎng)絡參數(shù)學習率。初始學習率設置為0.01,同時使用keras庫中的回調(diào)函數(shù)使得當模型的驗證集損失不再下降時,將初始學習率乘以0.3以避免訓練過程產(chǎn)生過擬合。為配合Sigmoid激活函數(shù),采用二值交叉熵損失函數(shù):
(4)
采用MATLAB有限元仿真軟件包來獲取樣本。仿真時,將管道內(nèi)油相和氣相混合作為兩相流檢測的對象,油/氣的相對介電常數(shù)分別設置為 3 和 1。電容傳感器設置有12電極,相應可得 66個電容值作為網(wǎng)絡的輸入。管道內(nèi)半徑 62.5 mm,管道外半徑 75 mm,屏蔽層半徑85 mm,將管道內(nèi)部剖分為1 728個三角形網(wǎng)格,如圖4所示。
圖4 管道剖分示意圖Fig.4 Pipe sectioning diagram
電容值和與之對應的介電常數(shù)可以通過對正問題的求解獲取。仿真的6種流型如圖5所示。
圖5 6種典型流型Fig.5 Six typical flow types
流型1到流型6分別為單泡、兩泡、三泡、環(huán)流、層流和層流單泡6種油/氣兩相分布模型。模型樣本采用隨機的方法生成,如泡狀分布的圓心和半徑均為隨機生成。6種分布模型各設5 000個樣本,總計30 000個樣本。每種流型樣本中隨機選取500個,共3 000個樣本作為網(wǎng)絡的測試集。而剩余的27 000作為訓練集。其中隨機選取10%訓練樣本作為驗證集。
將電容值和介電常數(shù)數(shù)據(jù)歸一化到區(qū)間[0,1]消除量綱用于網(wǎng)絡訓練,使改進ResNet-18模型能夠更好地訓練從而加快收斂速度。
使用PC配置為Inter(R)Core(TM)i7-10870H@ 2.20GHz 16G RAM,Windows10的64位操作系統(tǒng)對基于Tensorflow2框架的改進ResNet-18網(wǎng)絡模型進行訓練,訓練過程中損失函數(shù)隨迭代次數(shù)的變化如圖6所示。
圖6 損失函數(shù)Fig.6 Loss function
從圖6中可以看出,在進行到第12次迭代時學習率發(fā)生衰減。迭代到23次時,損失率接近于0,損失函數(shù)收斂。
為定量分析LBP、Landweber 迭代算法及改進的ResNet-18算法的重建圖像質(zhì)量,引入圖像相對誤差(relative image error,RE)Er及相關系數(shù)(correlation coefficient,CC)Cc兩項評價指標。
圖像相對誤差(RE)是對比重建圖像與實際圖像像素值之間的相對誤差,其數(shù)學表達式為:
(5)
圖像相對誤差越小,重建圖像灰度值越接近實際圖像灰度值,即重建圖像的質(zhì)量越好。
圖像相關系數(shù)(CC)是計算重建圖像與實際圖像的像素值線性相關的程度,其數(shù)學表達式為:
(6)
網(wǎng)絡訓練完畢后,隨機選取測試集中的6種流型,分別采用LBP、Landweber和改進ResNet-18三種算法進行圖像重建,重建結(jié)果如圖7所示。
圖7 不同算法的圖像重建結(jié)果Fig.7 Image reconstruction results of different algorithms
由圖7可得出以下結(jié)論: LBP算法對6種流型的成像效果極差,不僅不能正確顯示流型的形狀和大小,而且在多個氣泡存在時,有明顯的粘連現(xiàn)象。對貼近管壁的流型成像模糊,不能正確顯示流型的形狀。Landweber迭代算法雖然比LBP算法有所提升,但對流型1僅能確定流型位置不能準確顯示其大小;對于流型2和流型3這些多個氣泡的流型,氣泡與氣泡之間存在粘連現(xiàn)象,氣泡與液體交界模糊;對流型 6的重建結(jié)果與原始流型嚴重不符。
改進ResNet-18算法的重建結(jié)果明顯優(yōu)于前兩種算法,對于流型1成像結(jié)果邊緣清晰且無偽影,形狀保真度高。對于流型2和流型3多氣泡存在于管內(nèi)時,能夠清晰的區(qū)分不同氣泡且?guī)缀鯚o偽影。對流型4和流型5的重建結(jié)果都比較好。對于流型6在小氣泡與液體的交界成像有少量偽影,但氣泡的形狀位置信息均可呈現(xiàn)出來。 圖7中流型的評價指標如表1所示。
表1 評價指標Tab.1 Evaluation index
由表1可見,LBP算法成像結(jié)果的RE較高,CC較低;Landweber迭代算法次之;改進ResNet-18算法RE最低,CC最高,與圖7直觀觀察結(jié)果一致。
本文使用Windows10平臺對LBP,Landweber,ResNet-18算法和改進ResNet-18算法的重建時間進行比較,結(jié)果如表2所示。表2中Landweber迭代算法的迭代次數(shù)為100次。
表2 重建時間Tab.2 Reconstruction time s
由表2可知,LBP算法的重建時間最短,改進ResNet-18算法次之,Landweber算法重建時間最長。因此改進ResNet-18算法滿足實時成像的要求。
為驗證改進ResNet-18算法的泛化能力,選取了4種未參與訓練的流型作為測試樣本,其重建結(jié)果如圖8所示,評價指標如表3所示。
圖8 測試圖像重建結(jié)果Fig.8 Test image reconstruction results
由圖8可知,LBP算法重建精度差,流型3和流型4的重建結(jié)果失真嚴重;Landweber迭代算法成像效果較好,但對于4種流型均存在偽影及粘連的現(xiàn)象。ResNet-18算法對前3種流型成像效果較好,對流型4粘連現(xiàn)象嚴重。改進ResNet-18算法無論在重建精度及形狀保真度方面都優(yōu)于前3種算法,可準確反映管道內(nèi)物體的位置信息,但對于尖銳物體無法準確重建出物體形狀。對于多氣泡流型氣泡距離較近的情況,會出現(xiàn)氣泡粘連的現(xiàn)象。
從表3的評價指標可以看出,改進ResNet-18算法的RE值最低,CC值最高。圖8和表3的結(jié)果表明,改進ResNet-18算法具有一定的泛化能力。
表3 評價指標Tab.3 Evaluation index
為驗證算法有效性,采用華北電力大學先進測量實驗室的 ECT 系統(tǒng)進行靜態(tài)實驗,ECT實驗系統(tǒng)如圖9所示。
圖9 靜態(tài)實驗ECT系統(tǒng)Fig.9 Static Experimental ECT System
傳感器采用 12 電極,測量管道的內(nèi)徑為100 mm,使用直徑為15 mm 的塑料棒模擬泡狀流;使用塑料顆粒模擬層流模型;使用內(nèi)徑30 mm, 厚度2 mm的空心塑料棒和塑料顆粒模擬環(huán)狀流模型,靜態(tài)實驗的圖像重建結(jié)果如圖10所示。
由圖10可知,LBP算法對6種流型重建效果差;Landweber迭代算法對流型1至流型4的重建效果較好,但精度不高并且含有偽影,對流型6的重建結(jié)果極差,無法正確顯示環(huán)流大小;未改進的ResNet-18算法除對流型6的重建圖像精度較好外,流型1、流型2和流型4均無法準確顯示大小,對流型3無法正確顯示其流型,對流型5的重建效果較差。改進ResNet-18算法對測試流型的重建圖像精度最高,形狀還原效果最好。
本文提出了一種基于改進ResNet-18網(wǎng)絡的圖像重建算法。由于ResNet-18較深的網(wǎng)絡結(jié)構,其非線性表示能力更強,實驗結(jié)果表明:與LBP算法、Landweber算法和未改進ResNet-18算法相比,改進ResNet-18算法的成像效果更好,重建圖像中物體分布無粘連、偽影少;在重建時間上,改進ResNet-18算法運行時間短,能滿足在線成像要求。同時,該方法仍存在對尖銳物體和多氣泡流型圖像重建精度不高的問題。未來將研究如何添加注意力機制到神經(jīng)網(wǎng)絡中來改善這一問題。