方文倩,李志明
(中國(guó)地質(zhì)大學(xué) 數(shù)學(xué)與物理學(xué)院,湖北 武漢 430074)
地震勘探是探測(cè)地下構(gòu)造、勘探油氣資源的重要手段。然而,各種復(fù)雜地質(zhì)條件以及采集設(shè)備的影響導(dǎo)致原始地震圖像信噪比低,干擾嚴(yán)重。因此,降噪是地震信號(hào)處理中的重要任務(wù)之一,有助于信號(hào)分析和地震解釋。經(jīng)典的去噪方法包括小波變換[1],F(xiàn)-X預(yù)測(cè)濾波[2],奇異譜分析[3,4]等。這些方法利用地震信號(hào)的空間相干性,適用于水平同相軸數(shù)據(jù),對(duì)傾斜或彎曲同相軸信號(hào)可能會(huì)有所損害。另外,基于稀疏表示的方法廣泛應(yīng)用于地震信號(hào)隨機(jī)噪聲壓制中,主要分為稀疏變換[5,6]和字典學(xué)習(xí)[7]。這類方法將缺失的地震數(shù)據(jù)變換到稀疏域,通過(guò)保留較大的系數(shù),抑制較小的系數(shù)提取有用的信號(hào)分量。盡管這些去噪方法極大地提高了地震圖像質(zhì)量,但是大多數(shù)方法涉及復(fù)雜的手動(dòng)參數(shù)選擇。
自2012年AlexNet網(wǎng)絡(luò)[8]在ImageNet大規(guī)模視覺(jué)識(shí)別挑戰(zhàn)競(jìng)賽奪冠以來(lái),卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network, CNN)飛速發(fā)展,在各領(lǐng)域都取得了突破性的進(jìn)展。在地震信號(hào)噪聲壓制問(wèn)題上,CNN網(wǎng)絡(luò)展現(xiàn)了其巨大的潛力[9]?;贑NN網(wǎng)絡(luò)的地震數(shù)據(jù)去噪方法通過(guò)自學(xué)習(xí)提取高層特征,從而非線性地表征地震數(shù)據(jù),并且在測(cè)試階段具有高效率和無(wú)需調(diào)參等優(yōu)點(diǎn)。DnCNN是最常用的去噪網(wǎng)絡(luò),通過(guò)殘差學(xué)習(xí)的方式,從帶噪數(shù)據(jù)中學(xué)習(xí)噪聲的特征進(jìn)而達(dá)到去噪的效果,在地震信號(hào)隨機(jī)噪聲壓制[10]和面波噪聲壓制[9]中都具有較好的效果。王鈺清等人在U-net網(wǎng)絡(luò)的結(jié)構(gòu)框架下結(jié)合DnCNN的殘差學(xué)習(xí)思想,能夠很好地壓制隨機(jī)噪聲[11]。Alwon和Geco使用生成對(duì)抗網(wǎng)絡(luò)對(duì)地震數(shù)據(jù)進(jìn)行插值和去噪[12]。鄭升等人在Shearlet域使用殘差網(wǎng)絡(luò)對(duì)沙漠地震信號(hào)去噪[13]。
殘差結(jié)構(gòu)由何凱明等提出[14],可以有效解決網(wǎng)絡(luò)退化問(wèn)題,使網(wǎng)絡(luò)建立得更深,在各類圖像處理任務(wù)中都表現(xiàn)出了明顯優(yōu)勢(shì),現(xiàn)已成為深度神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)中必不可少的組成部分。在地震信號(hào)去噪問(wèn)題中,殘差網(wǎng)絡(luò)所使用的逐層的殘差學(xué)習(xí)可以更精細(xì)地學(xué)習(xí)信號(hào)和噪聲特征。在圖像處理領(lǐng)域,一些研究表明重復(fù)的配對(duì)操作(如上采樣和下采樣,大尺寸卷積核和小尺寸卷積核等)可以有效地提高網(wǎng)絡(luò)性能。Liu等將殘差框架和配對(duì)操作結(jié)合在一起,提出了雙重殘差結(jié)構(gòu)[15]。該結(jié)構(gòu)借助于殘差框架可以允許不同層配對(duì)的兩個(gè)算子之間的任意組合,這種潛在的互交有助于提高圖像重建任務(wù)的性能。本文將雙重殘差網(wǎng)絡(luò)用于地震信號(hào)的隨機(jī)噪聲壓制。針對(duì)去噪問(wèn)題,選用多尺度卷積核作為成對(duì)結(jié)構(gòu)。在合成數(shù)據(jù)和真實(shí)數(shù)據(jù)上與經(jīng)典的F-X方法、Curvelet變換方法以及DnCNN方法比較,實(shí)驗(yàn)結(jié)果表明本文方法能更好地壓制隨機(jī)噪聲并保護(hù)有效信號(hào),去噪效果更優(yōu)。
CNN網(wǎng)絡(luò)的基本單元主要有輸入層、卷積層(Convolution, Conv)、批標(biāo)準(zhǔn)化(Batch Normalization, BN)、激活函數(shù)、下采樣層和輸出層。其中卷積層用于提取信號(hào)特征,BN層可以加快網(wǎng)絡(luò)收斂,激活函數(shù)用于提高網(wǎng)絡(luò)非線性表達(dá)。CNN網(wǎng)絡(luò)依靠重復(fù)卷積、批標(biāo)準(zhǔn)化和激活函數(shù)構(gòu)建深度網(wǎng)絡(luò),一般認(rèn)為網(wǎng)絡(luò)層數(shù)越深性能越好。但實(shí)驗(yàn)發(fā)現(xiàn)當(dāng)網(wǎng)絡(luò)層數(shù)達(dá)到一定的數(shù)目以后,網(wǎng)絡(luò)性能會(huì)達(dá)到飽和并開(kāi)始退化[14]。殘差網(wǎng)絡(luò)的提出就是為了解決深度網(wǎng)絡(luò)的退化問(wèn)題。
一個(gè)經(jīng)典殘差單元的結(jié)構(gòu)如圖1(b)所示,輸入x經(jīng)過(guò)淺層網(wǎng)絡(luò)f1,再加上一個(gè)恒等映射得到輸出f1(x)+x。其中Conv表示卷積,BN表示批歸一化,Relu為激活函數(shù)。這種結(jié)構(gòu)使得每一個(gè)殘差單元學(xué)習(xí)輸入x與輸出y=f1(x)+x之間的殘差f1(x)。當(dāng)網(wǎng)絡(luò)參數(shù)接近0時(shí),殘差單元逼近一個(gè)恒等映射,因此可以防止由于網(wǎng)絡(luò)過(guò)深引起的退化問(wèn)題。對(duì)于殘差網(wǎng)絡(luò)的優(yōu)點(diǎn),還有一種理解認(rèn)為n個(gè)重復(fù)的殘差結(jié)構(gòu)可以使網(wǎng)絡(luò)潛在的表示成2n個(gè)子網(wǎng)絡(luò)的組合[15],因此可以提取不同層次的特征。如圖1(a)所示,兩個(gè)級(jí)聯(lián)的殘差結(jié)構(gòu)f1和f2,可以潛在地表示為f1→f2,f1,f2以及恒等映射這四個(gè)子網(wǎng)絡(luò)的組合。
圖1 殘差結(jié)構(gòu)
如圖2(a)所示,雙重殘差結(jié)構(gòu)將殘差與配對(duì)算子結(jié)合。其中fi,gi,i=1,2為一對(duì)配對(duì)算子,對(duì)于地震信號(hào)去噪問(wèn)題,本文選取fi為較大尺寸卷積,gi為較小尺寸卷積。這種雙重殘差的結(jié)構(gòu)允許任意的fi,gj,i 圖2 雙重殘差結(jié)構(gòu) 含噪地震信號(hào)d可以表示為干凈信號(hào)x與噪聲n的和: d=x+n (1) 去噪算法的目標(biāo)是盡可能精確地從含噪數(shù)據(jù)d中恢復(fù)出干凈數(shù)據(jù)x。 本文使用的去噪網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示。網(wǎng)絡(luò)由四個(gè)3×3大小的卷積層(包含BN歸一化和Relu激活函數(shù))和6個(gè)DuRB模塊組成,輸出層激活函數(shù)為T(mén)anh函數(shù)。考慮到隨機(jī)噪聲去除問(wèn)題更依賴于局部的信息,網(wǎng)絡(luò)不使用下采樣和上采樣操作,所有卷積步長(zhǎng)均為1,隱藏層通道數(shù)均設(shè)為32,卷積c使用3×3大小卷積核,每個(gè)fi,gi,i=1,...,6,卷積核大小如表1所示。 圖3 地震信號(hào)去噪的雙重殘差網(wǎng)絡(luò) 表1 雙重殘差去噪網(wǎng)絡(luò)參數(shù)(圖3) 網(wǎng)絡(luò)的輸入為帶噪地震數(shù)據(jù),輸出為去噪結(jié)果,通過(guò)最小化網(wǎng)絡(luò)輸出與干凈標(biāo)簽之間的Frobenius范數(shù)訓(xùn)練網(wǎng)絡(luò)參數(shù): (2) 訓(xùn)練數(shù)據(jù)使用某一公開(kāi)的合成數(shù)據(jù)(https://wiki.seg.org/wiki/2007_BP_Anisotropic_Velocity_Benchmark)。從該數(shù)據(jù)1到400炮中隨機(jī)截取8 000個(gè)64×64大小的小塊作為訓(xùn)練集,從401炮到500炮中截取2 000個(gè)64×64大小的小塊作為驗(yàn)證集。網(wǎng)絡(luò)的輸入為人工添加噪聲的數(shù)據(jù),為了使網(wǎng)絡(luò)對(duì)不同噪聲水平的數(shù)據(jù)能有較好的自適應(yīng)性,在每一次迭代時(shí)為每一個(gè)數(shù)據(jù)隨機(jī)添加一個(gè)標(biāo)準(zhǔn)差為信號(hào)標(biāo)準(zhǔn)差的50 %到200 %的高斯噪聲。驗(yàn)證集的作用是評(píng)估網(wǎng)絡(luò)去噪性能,并挑選出最優(yōu)模型。因此對(duì)驗(yàn)證集統(tǒng)一添加與信號(hào)標(biāo)準(zhǔn)差相等的高斯噪聲。由于數(shù)據(jù)中信號(hào)的幅值差距很大,本文對(duì)加噪信號(hào)使用零均值標(biāo)準(zhǔn)化,將訓(xùn)練集和驗(yàn)證集數(shù)據(jù)處理為均值為0,標(biāo)準(zhǔn)差為0.1。 網(wǎng)絡(luò)的優(yōu)化使用adam優(yōu)化器,學(xué)習(xí)率設(shè)為10-4,共訓(xùn)練40輪。每訓(xùn)練完一輪,在驗(yàn)證集上評(píng)估網(wǎng)絡(luò)性能。評(píng)估方法使用信噪比(Signal to Noise Ratio, SNR): 式(3)中,S與S*分別表示原始數(shù)據(jù)和去噪結(jié)果。每一輪驗(yàn)證集上去噪結(jié)果與標(biāo)簽的信噪比如圖4所示。圖中實(shí)線為DnCNN去噪結(jié)果,星號(hào)線表示本文方法去噪結(jié)果。從圖中可以看出本文方法收斂更快,訓(xùn)練更穩(wěn)定,最終驗(yàn)證集上信噪比約比DnCNN方法提高0.5 dB。 圖4 訓(xùn)練過(guò)程中驗(yàn)證集上去噪信噪比 應(yīng)用訓(xùn)練好的網(wǎng)絡(luò)對(duì)仿真數(shù)據(jù)去噪。從合成數(shù)據(jù)第501炮中截取100×100大小的區(qū)域,如圖5(d)所示。對(duì)該數(shù)據(jù)添加標(biāo)準(zhǔn)差為信號(hào)200 %的高斯噪聲,圖5(a),此時(shí)含噪數(shù)據(jù)信噪比為-5.99 dB。圖5給出了本文方法、F-X預(yù)測(cè)濾波、Curvelet變換以及DnCNN方法去噪結(jié)果和殘差,其重建信噪比分別為6.96 dB、3.15 dB、4.61 dB和5.74 dB。從圖中可以看出F-X去噪結(jié)果中仍包含少量噪聲,同時(shí)對(duì)有效信號(hào)的損害較大,Curvelet變換去噪結(jié)果過(guò)于光滑并且容易產(chǎn)生偽影。相比之下深度學(xué)習(xí)方法具有明顯的優(yōu)勢(shì),而本文方法對(duì)同相軸的構(gòu)造信息保護(hù)較好,僅濾除少量較弱的有效信號(hào),去噪效果最佳。 圖5 合成數(shù)據(jù)去噪結(jié)果 進(jìn)一步評(píng)估不同噪聲水平下F-X預(yù)測(cè)濾波、Curvelet變換、DnCNN以及本文方法的去噪效果。對(duì)上述合成數(shù)據(jù)分別添加標(biāo)準(zhǔn)差為信號(hào)的50 %,100 %,150 %和200 %的高斯噪聲,四種方法的去噪結(jié)果如表2所示。當(dāng)噪聲比較小時(shí),DnCNN和本文方法都能很好地重建信號(hào),而隨著噪聲強(qiáng)度的增大,本文方法具有更明顯的優(yōu)勢(shì)。 表2 不同噪聲水平下去噪結(jié)果SNR對(duì)比 選用公開(kāi)的真實(shí)數(shù)據(jù)(https://wiki.seg.org/wiki/Mobil_AVO_viking_graben_line_12),進(jìn)一步測(cè)試訓(xùn)練好的網(wǎng)絡(luò)在真實(shí)數(shù)據(jù)上的去噪效果。對(duì)該數(shù)據(jù)人為添加標(biāo)準(zhǔn)差為信號(hào)標(biāo)準(zhǔn)差的100 %的高斯噪聲。去噪結(jié)果如圖6所示,圖6(a)為帶噪數(shù)據(jù),信噪比為-0.06 dB;圖6(b)為未添加噪聲原始信號(hào);圖6(c)~圖6(f)分別為本文方法、F-X預(yù)測(cè)濾波、Curvelet變換以及DnCNN方法去噪結(jié)果。重建信噪比分別為:8.56 dB、4.04 dB、7.47 dB和8.27 dB。從圖6中可以看出,本文方法噪聲去除得很干凈,并且對(duì)有效信號(hào)的傷害較小。 圖6 真實(shí)數(shù)據(jù)去噪結(jié)果 本文提出了一種基于雙重殘差網(wǎng)絡(luò)的地震數(shù)據(jù)隨機(jī)噪聲壓制方法。網(wǎng)絡(luò)訓(xùn)練完成后可以快速有效地對(duì)不同噪聲水平的其他信號(hào)進(jìn)行去噪,無(wú)需人工調(diào)參。本文方法利用了殘差結(jié)構(gòu)和多尺度卷積核在去噪任務(wù)上的優(yōu)勢(shì),所使用的逐層殘差學(xué)習(xí)可以更精細(xì)地學(xué)習(xí)信號(hào)和噪聲特征,在徹底地去除隨機(jī)噪聲的同時(shí)保護(hù)有效信號(hào)。然而由于深度學(xué)習(xí)方法在訓(xùn)練網(wǎng)絡(luò)時(shí)需要干凈數(shù)據(jù)作為標(biāo)簽,本文只進(jìn)行高斯噪聲去除的實(shí)驗(yàn)。下一步工作將考慮如何解決真實(shí)含噪數(shù)據(jù)缺乏標(biāo)簽的問(wèn)題,探索有效的訓(xùn)練數(shù)據(jù)處理方法以及無(wú)監(jiān)督或弱監(jiān)督的去噪方法。2.2 雙重殘差網(wǎng)絡(luò)用于地震數(shù)據(jù)隨機(jī)噪聲壓制
3 實(shí) 驗(yàn)
3.1 網(wǎng)絡(luò)的訓(xùn)練細(xì)節(jié)
3.2 仿真數(shù)據(jù)實(shí)驗(yàn)
3.3 真實(shí)數(shù)據(jù)實(shí)驗(yàn)
4 結(jié) 論