馬 敏, 吳 環(huán)

(中國民航大學 電子信息與自動化學院，天津 300300)

1 引 言

電容層析成像(electrical capacitance tomography, ECT)技術是一種無損多相流可視化測量技術[1]。ECT可以根據(jù)所測量的電容值數(shù)據(jù)反演出管道中介質物體的介電常數(shù)橫截面分布,進而通過圖像重構算法得到介質在截面中的可視化分布圖像[2]。它具有高時間分辨率、易于維護、無輻射、非侵入性測量和測量范圍廣等優(yōu)點[3]。近十年來,該測量方式在能源、航空等諸多應用領域中得到普遍認可[4]。

電容層析成像中圖像重建算法的成像質量是制約該技術成功應用的重要因素之一[5]。減小重建圖像與真實圖像之間的誤差,一直是學者們研究的重要問題[6]。傳統(tǒng)的圖像重建有非迭代法和迭代法,前者成像速度快,但圖像質量差,如線性反投影[7](linear backprojection,LBP)。與非迭代算法相比,Landweber迭代算法[8]在成像精度上有了明顯提高,但由于沒有利用成像目標的先驗知識和固有的半收斂特性,重建結果難以滿足實際需要[9]。

近些年,深度學習在許多涉及非線性函數(shù)映射的領域中給出了合適的解[10]。Wang等提出一種用于ECT圖像重建的最小二乘支持向量機和菌落趨化算法[11]。馬敏等利用深度信念網(wǎng)絡的深層次非線性網(wǎng)絡結構來實現(xiàn)電容值與重建圖像灰度值之間的非線性關系,并實現(xiàn)了高精度的重建效果[12]。張立峰等研究了基于一維卷積神經(jīng)網(wǎng)絡的電容層析成像圖像重建算法,在圖像質量、泛化能力以及實時性方面均取得了不錯的效果[13]。但是以上學者所提出的算法仍存在重建圖像邊緣丟失和圖像偽影明顯的問題。

本文設計了一種并聯(lián)自適應殘差網(wǎng)絡與卷積注意力機制(parallel adaptive residual network with convolutional attention mechanism,PARCN)的網(wǎng)絡模型,捕捉電容特征的長距離依賴,緩解了梯度消失,并通過提取不同深度的特征信息來提高特征的豐富程度。在并聯(lián)網(wǎng)絡的雙通道結構中分別引入自適應殘差網(wǎng)絡,提高輸出特征信息的完備性,優(yōu)化網(wǎng)絡性能。加入壓縮激勵網(wǎng)絡(squeeze and excitation network,SENet),給不同特征通道分配相應的權重,過濾冗余信息,并加強有效特征。將卷積注意力(convolutional attention mechanism, CBAM)模塊與并聯(lián)多殘差網(wǎng)絡結合,輸入的特征張量通過CBAM模塊進行自適應特征提取優(yōu)化。最后將CBAM通道和帶有SENet的并聯(lián)多殘差網(wǎng)絡提取融合得到更加完整的輸出特征。

2 ECT基本原理

2.1 ECT系統(tǒng)組成

ECT系統(tǒng)主要由電容式傳感器、信號采集單元以及計算機重建單元3部分組成[14]。ECT系統(tǒng)中,通過給有源電極施加電壓,被測物場內會產(chǎn)生電場。每兩個電極之間的電容被測量并通過數(shù)據(jù)采集系統(tǒng)傳輸?shù)教幚韱卧猍15]。計算機通過圖像重構算法利用測量的電容值計算介電常數(shù)分布[16]。ECT系統(tǒng)如圖1所示。

圖1 電容層析成像系統(tǒng)原理Fig.1 Principle of electrical capacitance tomography system

2.2 ECT成像原理

電容層析成像技術可以分為正問題和逆問題兩大類。正問題是通過計算已知尺寸的電容傳感器各極板間的電容值,得到靈敏度場的分布。正問題是一個適定的問題,可通過有限元法和有限差分技術等數(shù)值方法求解[17]。逆問題是在已知靈敏度場分布和傳感器電容值的情況下,通過特定方法計算介電常數(shù)分布,重建管道內的相位分布。逆問題是一個不適定問題,需要采用特殊方法來保證反演解的數(shù)值穩(wěn)定性[18]。ECT圖像重建是基于電容數(shù)據(jù)和被測物體介電常數(shù)分布之間的物理關系,如式(1)所示。

(1)

式中:C是實際測量的兩極板間的電容值;V是兩極板間的電勢差;ε(x,y)表示成像區(qū)域的介電常數(shù)分布;φ(x,y)是電位分布;Γ表示電極表面。ECT圖像重建模型簡化為:

sg=c

(2)

式中:s為一個q×r維的矩陣;g代表r×1維歸一化介電常數(shù)分布矩陣;c為q×1維歸一化電容值矩陣。

3 PARCN算法原理

卷積神經(jīng)網(wǎng)絡可以直接擬合ECT電容值和介電常數(shù)之間復雜的非線性映射,避免靈敏場的線性化處理。而單一卷積神經(jīng)網(wǎng)絡在提取特征時,由于卷積過程會損失特征信息致使無法獲取完整的原始輸入信息[18]。ECT的獨立電容測量值數(shù)量有限,采用復雜或較深的網(wǎng)絡結構時,電容特征丟失嚴重。因此,提出了一種并聯(lián)自適應殘差網(wǎng)絡與卷積注意力機制算法。PARCN的網(wǎng)絡結構如圖2所示,其中Input是將原始的多組66×1的一維電容向量值轉換成11×6的二維電容矩陣數(shù)據(jù)。

圖2 PARCN算法網(wǎng)絡結構圖Fig.2 Network structure diagram of the PARCN algorithm

并聯(lián)殘差神經(jīng)網(wǎng)絡可以同時提取不同的特征信息,利于提取更加完備的特征并加快特征提取速度,并加入由殘差模型衍生的自適應殘差模塊來補償反向推斷時所需要的特征。在并聯(lián)模塊中最后引入全局殘差,將淺層電容特征和并聯(lián)殘差卷積模塊捕獲的特征進行聚合,再利用SENet關注卷積核通道上的重要特征向量,調整各通道的重要占比。此外引入卷積注意力機制對淺層電容特征在空間和通道上的進行學習。最后將CBAM模塊提取的特征與并聯(lián)自適應殘差網(wǎng)絡通道提取特征相融合,實現(xiàn)對重建圖像邊緣信息的補償。

3.1 并聯(lián)自適應殘差網(wǎng)絡

在并聯(lián)殘差網(wǎng)絡中,每個通道的輸出特征是通過對前幾層特征進行殘差連接所捕獲的。將每一層的特征信息多次使用,彌補在網(wǎng)絡深度增加時隨卷積操作所損失的特征,既保證了捕獲的電容特征信息更加豐富,又加強了通道中不同層之間的信息交互。

如圖3所示,Input為一個3×3卷積核所提取的電容淺層特征F-1,并聯(lián)殘差網(wǎng)絡是通過兩個不同的子網(wǎng)絡結構分別對淺層特征進行提取,最后將兩個子網(wǎng)絡提取的信息進行特征融合。兩個子網(wǎng)絡的區(qū)別在于卷積核的數(shù)量和尺寸,不同的網(wǎng)絡結構提取特征,可以獲得更全面的特征信息。相同卷積核子網(wǎng)絡使用4層3×3小尺寸卷積核級聯(lián),使網(wǎng)絡擁有更少的參數(shù)量和更小的計算量。在不同卷積核子網(wǎng)絡中將3×3和5×5卷積核混合級聯(lián),既擁有較大的感受野也不增加過多的參數(shù)量。卷積核個數(shù),卷積核尺寸和步長的參數(shù)設置如圖3所示。

圖3 并聯(lián)自適應殘差網(wǎng)絡結構Fig.3 Parallel adaptive residual network structure

在并聯(lián)網(wǎng)絡的兩個通道中分別引入相應的自適應殘差模塊,使得輸出特征的豐富程度得到進一步加強。在自適應殘差模塊Ⅰ中采用的是一個3×3卷積核,與后面輸出的維度保持一致。在自適應殘差模塊Ⅱ中采用的是1×1卷積核和3×3卷積核級聯(lián)結構,其中,1×1卷積核是用于整合信息和對卷積核通道數(shù)進行降維,以便與特征提取子網(wǎng)絡進行連接操作。殘差網(wǎng)絡中每一層中權值共享,減少計算的參數(shù)量,自適應殘差通過在反向傳播中更新權值,獲得所需要的特征。并聯(lián)殘差網(wǎng)絡在經(jīng)過自適應調整后可以捕獲更加完備有效的電容信息。引入全局直接殘差,對并聯(lián)網(wǎng)絡輸出的特征信息進行補充,得到深度特征映射FDP

FDP=F-1+FGP

(3)

式中:F-1表示淺層特征映射;FGP是由并聯(lián)自適應殘差網(wǎng)絡提取的電容特征映射。

3.2 SENet:高效通道注意力

在并聯(lián)自適應殘差網(wǎng)絡作用下,網(wǎng)絡可以學習到更加豐富和寬泛的電容特征,但輸入電容值中的冗余特征同樣也會被捕捉,這極大阻礙了網(wǎng)絡本身對于信息的獲取,因此,引入高效通道注意力機制,可以顯式地表達特征通道間的相關性,讓網(wǎng)絡學習到各個通道的權重系數(shù),讓神經(jīng)網(wǎng)絡重點關注某些特征通道。SENet包含壓縮(squeeze)和激勵(excitation)兩個操作。

壓縮操作通過全局平均池化將每個通道上對應的空間信息(H×W)壓縮到對應上的通道中變?yōu)橐粋€數(shù)值,對輸入特征U實現(xiàn)全局信息低維嵌入,此時一個像素表示一個通道,相當于擁有了全局感受野。計算過程如下:

(4)

式中:uC表示第C個卷積核的輸出;H和W是特征張量的高度和寬度;ZC是第C個通道的權重特征。

激勵操作為每個特征通道生成各自的權重。采用兩個沙漏型結構的全連接層,可以使模型復雜度降低并使泛化能力提升,第一個全連接層將通道數(shù)C按比例壓縮,降低計算量,后一個全連接再升維恢復到C個通道。Z經(jīng)過兩個全連接之后分別得到參數(shù)W1和W2,各通道的權重通過Sigmoid的選通機制獲取:

S=Fex(Z,W)=σ(W2δ(W1Z))

(5)

式中:W1和W2是參數(shù)矩陣;σ是Sigmoid激活函數(shù);δ是激活函數(shù)ReLU;S是得到的權重值。將激勵的輸出權重通過運算逐通道加入到全局池化所提取的特征上,完成對特征圖的重校正。計算過程如下:

(6)

3.3 CBAM:卷積注意力機制

經(jīng)過SENet優(yōu)化后,網(wǎng)絡捕獲有效特征的能力有所增強。但是所提取的高層次特征信息有限,影響最后的成像精度。為了解決這一問題,增加了與主網(wǎng)絡并行的CBAM模塊來輔助分析原始特征的權重,通過關注通道上和空間上的特征,同時采用多種池化方式,提取更完備的高層次特征信息,減少原始特征信息的忽略。CBAM通過串行結構將通道注意力模塊和空間注意力模塊相互結合[19]。

圖4(a)所示,首先使用通道注意力對淺層特征進行校正,通道注意力模塊會對淺層特征F-1同時進行全局平均池化和全局最大池化操作,在經(jīng)過兩種不同的特征嵌入運算之后,分別得到不同的空間語義描述算子。全局平均池化整合了全局空間信息,全局最大池化去除無效信息的干擾,都是為了彌補空間信息在嵌入時的缺失。根據(jù)每個特征通道的重要性進行過濾,分配不同的權重,其值代表特征圖上每處通道的特征顯著程度。將得到的特征向量通過共享感知機后進行疊加,最后經(jīng)過Sigmoid函數(shù)激活,從而得到通道注意力特征MC(F),而后與F-1進行逐元素相乘后得到F′。圖4(a)的計算公式如下:

圖4 卷積注意力模塊Fig.4 Convolutional block attention module

MC(F)=σ(W1(W0(FAvg))+W1(W0(FMax)))

(7)

式中:σ表示Sigmoid函數(shù);W1和W0是共享感知機的權重;FAvg和FMax是經(jīng)過全局最大池化和全局平均池化后的特征。

如圖4(b)所示,空間注意力模塊對通道注意力優(yōu)化后輸出的特征F′在通道軸上同時進行全局最大池化和全局平均池化,得到兩種不同的通道特征表達,將二者進行拼接后,步長為1的7×7卷積操作在實現(xiàn)降維的同時,可以增大感受野,經(jīng)Sigmoid函數(shù)激活后,得到電容值的空間注意力特征MS(F′);接著與通道優(yōu)化特征F′逐元素相乘,得到經(jīng)CBAM優(yōu)化后的電容特征FS。

3.4 損失函數(shù)

損失函數(shù)通過表現(xiàn)預測值與實際值的差異來指導模型的收斂方向。采用二值交叉熵損失函數(shù),既能夠衡量預測概率分布與真實概率分布之間的差距,又可以較好地搭配Sigmoid函數(shù),其數(shù)學表達式如式(8):

(8)

4 實驗與分析

4.1 仿真實驗與分析

針對兩相流中的氣固兩相流的圖像重建問題,采用COMSOL仿真軟件建立12電極ECT管道模型,用MATLAB獲取網(wǎng)絡模型的輸入樣本即5類典型流型電容向量。傳感器管道內壁和外壁的半徑,分別為46 mm和50 mm,傳感器外部有半徑為 55 mm 的屏蔽層,屏蔽外部電場干擾。檢測電極到管道內壁間的填充材料為有機玻璃,管道內填充材料為塑料和空氣,相對介電常數(shù)分別為4.2、1.0。對仿真模型的管道、壁面和屏蔽層進行剖分,剖分有效單元數(shù)目為3 228個網(wǎng)格。

在構建PARCN通道的過程中,為解決梯度消失以及模型收斂速度不穩(wěn)定問題選用ReLU激活函數(shù),采用Adam優(yōu)化器以消除梯度伸縮變化對參數(shù)更新帶來的影響。學習率設置為0.001,采用小批量的方法每次訓練輸入8組數(shù)據(jù),卷積操作均采用Conv2D。

實驗的運行平臺是Intel Core i5-7300H CPU @2.5 GHz, GPU為GeForce GTX 1050 Ti, Windows 10 64位操作系統(tǒng),內存容量為8 GB,基于keras深度學習框架搭建網(wǎng)絡模型。選取測試集中的5種流型分別用LBP、Landweber、1DCNN、PARCN等4種算法進行圖像重建。模型及仿真結果見圖5。

圖5 圖像重建結果Fig.5 Image reconstruction results

選取的5類兩相流流型進行圖像重建研究,包括單泡流、三泡流、四泡流、環(huán)流、方流。為使流型樣本具有隨機性和代表性,泡狀流流型a、流型b及流型c中,泡的中心位置及大小為隨機設置;流型d改變環(huán)的厚度和中心位置獲得不同的樣本;流型e作為流型a的相似流型,測試算法對于相似流型的重建效果,樣本中含有不同邊長和位置的流型數(shù)據(jù)。對每種流型隨機生成1 840組樣本,獲得5種流型共計9 200組樣本。每種流型選取1 700組模型數(shù)據(jù)作為訓練集,1 00組作為測試集,40組作為預測集,訓練集和測試集不重合。

由圖5可以看出, LBP算法在5種流型的重建圖像中都出現(xiàn)了圖像失真現(xiàn)象并伴有嚴重的偽影,難以分辨真實分布,Landweber算法在泡狀流中成像表現(xiàn)好于LBP算法,但隨著流型復雜,對流型的辨識度降低,檢測多目標流型b和流型c時,仍然有嚴重的偽影和粘連現(xiàn)象,無法區(qū)分相似流型a和流型e?；诰矸e神經(jīng)網(wǎng)絡的1DCNN算法比傳統(tǒng)算法有更好的成像效果,偽影和粘連現(xiàn)象明顯改善,但是對于流型b、c的重建圖像中出現(xiàn)較嚴重的偽影,重建流型d時出現(xiàn)大小失真,對于流型e重建時均現(xiàn)邊緣畸變,無法反映真實的流型。而PARCN算法則很好地克服了1DCNN的不足,圖像邊緣信息保真度高,無明顯偽影和粘連現(xiàn)象,對于成像難度較高的環(huán)狀流型d,也可與重建出高精度的分布圖像,可以準確復現(xiàn)被測物體的位置和大小。

4.2 評價指標

為了定量地對重建圖像質量進行評估,選用相關系數(shù)和圖像相對誤差作為評價指標。相關系數(shù)公式如式(9)所示,圖像相對誤差公式如式(10)。

(9)

(10)

表1是圖5中重建圖像的相關系數(shù),表2是重建圖像與原圖的相對誤差。

表1 圖像相關系數(shù)Tab.1 Image correlation coefficients

表2 圖像相對誤差Tab.2 Image relative error

分析表1和表2中數(shù)據(jù)可知:LBP算法成像精度普遍較低,對于5種流型的重建圖像相關系數(shù)都較低,對于多目標流型c的重建圖像相關系數(shù)只有0.375 3;Landweber算法的圖像相對誤差低于LBP算法,相關系數(shù)也高于LBP算法,但是重建流型e的相關系數(shù)僅有0.417 9;1DCNN算法圖像誤差和相關系數(shù)相比于傳統(tǒng)算法都有較大提升,流型a和e的重建圖像相關系數(shù)分別達到0.814 9和0.857 2。PARCN算法圖像評價指標最優(yōu),相對誤差接近于0,相關系數(shù)較1DCNN算法,對流型a和e分別提高了15.31%和11.87%,對流型b提高了25.27%,對于重建質量普遍較低的流型c提高了40.67%,對重建難度較大的流型d提高了24.84%。

為了驗證對并聯(lián)自適應殘差網(wǎng)絡(parallel adaptive residual network,PARN)的各項改進方法在提高圖像重建質量上的效果,設計了消融實驗,結果對比如圖6和表3所示。

表3 消融實驗評價指標Tab.3 Evaluation index of ablation experiment

圖6 消融實驗結果Fig.6 Ablation experimental results

從圖6中可以看出,PARN模型加入SENet模塊之后,偽影和失真現(xiàn)象得到了明顯改善,加入并聯(lián)的CBAM模塊之后,偽影得到進一步改善的同時,圖像邊緣也更加光滑。從表3中的數(shù)據(jù)可以發(fā)現(xiàn),加入SENet模塊之后,圖像相關系數(shù)得到了明顯提高,加入CBAM模塊之后,圖像相關系數(shù)進一步提高,相對誤差也進進一步減小。

4.3 靜態(tài)實驗

實驗采用天津大學研制的基于FPGA數(shù)字式數(shù)據(jù)系統(tǒng)的12電極ECT系統(tǒng)。如圖7所示。

圖7 ECT測量系統(tǒng)Fig.7 ECT measurement system

在空氣場中放入亞克力棒模擬氣固兩相流進行實驗,使用空氣和亞克力顆粒來標定空場和滿場,傳感器內徑大小46 mm,設定4種流型分布模型,圖8為靜態(tài)實驗重建結果。

圖8 靜態(tài)實驗重建圖像Fig.8 Reconstruction image of static experiment

圖8中,LBP算法成像效果差,對于4種模型的重建圖像中均存在嚴重的電極偽影,在重建多個目標分布時,偽影和粘連現(xiàn)象嚴重,對于方形流的邊緣重建效果差;Landweber算法較LBP算法的成像質量有了明顯改善,但兩者都無法準確反映被測物體的大小和位置情況;1DCNN算法成像質量較好,偽影和粘連現(xiàn)象都得到了較大改善,但四泡流的重建圖像仍有嚴重偽影,三泡流和方形流的重建圖像存在邊緣存在明顯的失真現(xiàn)象;PARCN算法能更準確得反映被測物得位置和大小,被測物邊緣光滑且不失真。

5 結 論

為解決ECT圖像重建質量不高的問題,構建并聯(lián)自適應殘差模型,并利用SENet模塊對捕獲的電容細節(jié)特征進行校準重分配,引入卷積注意力機制,提取淺層細節(jié)電容特征,獲得更多的介質分布特征。解決由遠距離特征依賴引起的電容信息丟失而導致的重建圖像精度差的問題。圖像重建結果表明,PARCN算法相較于LBP算法、Landweber算法、1DCNN算法,其圖像重建的質量明顯提高,成像無粘連、偽影少,流型邊緣光滑且不失真,能較好地區(qū)分多種流型,在ECT系統(tǒng)中具有良好的應用前景。