韓衛(wèi)雪,周亞同,池 越

(河北工業(yè)大學(xué)電子信息工程學(xué)院,天津300401)

地震數(shù)據(jù)去噪是提高地震資料信噪比的重要步驟,去噪效果好壞直接影響后續(xù)地震數(shù)據(jù)處理的質(zhì)量[1]。機器學(xué)習(xí)技術(shù)發(fā)展迅猛,作為機器學(xué)習(xí)的一個分支,深度學(xué)習(xí)和卷積神經(jīng)網(wǎng)絡(luò)在AlphaGo人機對弈[2]和網(wǎng)絡(luò)大數(shù)據(jù)分析[3]等領(lǐng)域取得了巨大的成就。如何利用深度學(xué)習(xí)及CNN的強大功能去除地震數(shù)據(jù)噪聲,是地震數(shù)據(jù)處理領(lǐng)域面臨的課題之一。

常見的地震數(shù)據(jù)去噪方法有:f-k域濾波、f-x域預(yù)測濾波、小波變換去噪、曲波變換、低秩約束去噪等。中原敏明等[4]在頻率波數(shù)域內(nèi)設(shè)計不同的濾波器,對地震數(shù)據(jù)進(jìn)行f-k二維濾波。康冶等[5]提出一種f-x域擬線性變換并用于去噪。劉婷婷等[6]將f-x域EMD和多道奇異譜分析結(jié)合用于去除地震數(shù)據(jù)隨機噪聲。張華等[7]研究了地震數(shù)據(jù)去噪時小波基的選擇問題。王姣等[8]提出了一種改進(jìn)的小波閾值隨機噪聲去除算法。LI等[9]提出基于小波高階相關(guān)疊加的混合去噪算法并用于去除隨機和相干噪聲。孫成禹等[10]提出基于獨立分量分析基的地震隨機噪聲壓制。劉成明等[11]將Shearlet變換用于地震隨機噪聲壓制。CHEN等[12]和ZHOU等[13]分別采用經(jīng)驗化和結(jié)構(gòu)化矩陣低秩約束實施去噪等。劉偉等[14]實現(xiàn)了基于壓縮感知和TV準(zhǔn)則約束的地震資料去噪。上述去噪算法雖然取得了較好的應(yīng)用效果,但在去噪性能或去噪效率方面仍然存在一些不足,因此探究新的去噪算法具有重要意義。

基于以上考量,本文構(gòu)建一種適合于地震信號去噪的CNN,并將之用于地震數(shù)據(jù)隨機噪聲的去除。該CNN由輸入層、卷積層、激活層、歸一化層、輸出層組成,其中激活層選用修正線性單元(ReLU)[17]作為激活函數(shù),歸一化層采用批歸一化(BN)[23],以原始含噪地震數(shù)據(jù)作為輸入,以隨機噪聲作為輸出。CNN的訓(xùn)練過程是首先初始化網(wǎng)絡(luò),然后利用原始地震數(shù)據(jù)訓(xùn)練集及其對應(yīng)的含噪數(shù)據(jù)集進(jìn)行網(wǎng)絡(luò)訓(xùn)練,直至得到網(wǎng)絡(luò)結(jié)構(gòu)的最優(yōu)參數(shù)。網(wǎng)絡(luò)的去噪過程為:將含噪地震數(shù)據(jù)輸入訓(xùn)練完成的網(wǎng)絡(luò),利用殘差學(xué)習(xí)得到與輸入層對應(yīng)的殘差數(shù)據(jù),該殘差即為所含隨機噪聲。最后通過實際疊前海上數(shù)據(jù)、疊后陸地數(shù)據(jù)以及復(fù)雜陸地疊后地震數(shù)據(jù)進(jìn)行去噪實驗,驗證本文去噪算法的可行性,并且與其它幾種常見去噪算法相比,驗證本文算法的去噪效果。

1 深度學(xué)習(xí)卷積神經(jīng)網(wǎng)絡(luò)簡介

傳統(tǒng)神經(jīng)網(wǎng)絡(luò),如BP神經(jīng)網(wǎng)絡(luò)或徑向基神經(jīng)網(wǎng)絡(luò)等,每層的神經(jīng)元節(jié)點是全連接的,而在CNN中各節(jié)點局部連接,并且同一層的某些神經(jīng)元的連接權(quán)重共享,這種結(jié)構(gòu)更類似于生物神經(jīng)網(wǎng)絡(luò),因此CNN網(wǎng)絡(luò)模型復(fù)雜度更低,權(quán)值數(shù)量更少,這對于深度學(xué)習(xí)有重要意義[24]。典型的CNN的拓?fù)浣Y(jié)構(gòu)如圖1所示。

圖1 典型的卷積神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)

CNN的典型網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)通常包括輸入層、卷積層、池化層、全連接層及輸出層等。待處理數(shù)據(jù)作為網(wǎng)絡(luò)輸入層;卷積層作為特征提取層,每個神經(jīng)單元的輸入與前一層的局部感受野相連接,并提取局部特征,從而確定該局部特征與其它特征間的位置關(guān)系;池化層作為特征映射層,每個特征映射為一個平面,上面每個神經(jīng)單元的權(quán)重相同;全連接層將每個局部特征進(jìn)行組合,從而得到全局特征;輸出層則需要根據(jù)網(wǎng)絡(luò)的具體用途和網(wǎng)絡(luò)結(jié)構(gòu)確定。CNN因為具有局部連接和權(quán)值共享兩個特點,有效減少了網(wǎng)絡(luò)中的自由參數(shù),提高了網(wǎng)絡(luò)訓(xùn)練的效率,有利于提升地震數(shù)據(jù)去噪效率。

2 基于CNN的地震數(shù)據(jù)隨機噪聲去除

地震數(shù)據(jù)去噪是從含噪地震數(shù)據(jù)中去除噪聲,恢復(fù)原始地震數(shù)據(jù),具體公式如下:

(1)

式中:x為含噪地震數(shù)據(jù);y為不含噪原始地震數(shù)據(jù);v為所含噪聲。地震數(shù)據(jù)去噪的最終目標(biāo)是獲得原始地震數(shù)據(jù)的一個估計y0,且y0≈y。

本文借鑒原本用于圖像去噪的CNN結(jié)構(gòu)[19],構(gòu)建一種用于去除地震數(shù)據(jù)隨機噪聲的CNN。CNN最終能輸出隨機噪聲R(x)≈v,用含噪地震數(shù)據(jù)x減去隨機噪聲R(x)即可獲得原始地震數(shù)據(jù)的估計,即y0=x-R(x)。由含噪地震數(shù)據(jù)得到的隨機噪聲估計值與其期望值的均方差平均值為[19]:

電網(wǎng)調(diào)度工作較復(fù)雜，事關(guān)全局，必須加強監(jiān)督管理的力度。改變原來的靠人管人的監(jiān)管為靠制度管人，明確責(zé)任分工負(fù)責(zé)。將出票、審票、操作等各個環(huán)節(jié)納入嚴(yán)格的監(jiān)督管理之中，確保每個環(huán)節(jié)都不出紕漏。

(2)

2.1 地震數(shù)據(jù)去噪CNN的隱藏層

CNN隱藏層通常包括卷積層、激活層、歸一化層。卷積層是多個特征面的組合,每個特征面上有多個神經(jīng)元,而每個神經(jīng)元通過卷積核與上一層的特征面局部連接,其中卷積核是一個權(quán)值矩陣。卷積層的主要作用是提取地震特征,其每一種輸出的特征gj有:

(3)

設(shè)CNN激活層的激活函數(shù)為f(·),本文采用修正線性單元(ReLU)作為激活函數(shù),對應(yīng)的計算公式如下[17]:

(4)

ReLU激活函數(shù)如圖2所示,圖中橫坐標(biāo)u為CNN上一層網(wǎng)絡(luò)的輸出,縱坐標(biāo)f(u)為當(dāng)前網(wǎng)絡(luò)層的輸出。從圖中可看出如果輸入u>0,則該激活函數(shù)輸出與輸入相等,否則輸出為0,因此輸出不會因為輸入的增大而趨于飽和。

除了卷積層和激活層,歸一化層也是CNN隱藏層的一部分。本文的歸一化層采用批歸一化(BN)[23],具體原理為:在每一層網(wǎng)絡(luò)輸入時插入一個歸一化層,即將輸入數(shù)據(jù)進(jìn)行歸一化處理,之后再進(jìn)入網(wǎng)絡(luò)的下一層。在CNN網(wǎng)絡(luò)中加入BN,能夠減緩內(nèi)部協(xié)變量轉(zhuǎn)移,降低對初始化權(quán)重的敏感度,加快收斂的同時提高訓(xùn)練精度。

2.2 地震數(shù)據(jù)去噪CNN的具體拓?fù)浣Y(jié)構(gòu)

本文構(gòu)建的CNN充分考慮了含噪地震數(shù)據(jù)與殘差數(shù)據(jù)間的關(guān)系,即不僅建立起由含噪地震數(shù)據(jù)到殘差數(shù)據(jù)的映射,而且也建立起由含噪地震數(shù)據(jù)到所含隨機噪聲的映射。圖3為用于地震數(shù)據(jù)去噪的CNN具體拓?fù)浣Y(jié)構(gòu)。

如圖3所示,以含噪地震數(shù)據(jù)作為CNN的輸入層。圖中拓?fù)浣Y(jié)構(gòu)的第一部分為C1:第一層卷積層的卷積核大小為3×3,經(jīng)過卷積操作后得到64個特征映射。然后將特征數(shù)據(jù)的加權(quán)和輸入激活層的激活函數(shù)ReLU,用于去除地震數(shù)據(jù)中的冗余,盡可能保留數(shù)據(jù)特征。圖中拓?fù)浣Y(jié)構(gòu)的第二部分C2包括15個卷積層,每個卷積核大小均為3×3,卷積操作后得到64個特征映射。與C1不同的是,C2在卷積層與激活層之間添加了一個批歸一化層,用于加快并穩(wěn)定訓(xùn)練過程,提升去噪性能。圖中拓?fù)浣Y(jié)構(gòu)的第三部分C3只包含一個卷積層,卷積核大小為3×3,經(jīng)過卷積操作得到1個特征映射,即為網(wǎng)絡(luò)的輸出層。

圖3 用于地震數(shù)據(jù)去噪的CNN具體拓?fù)浣Y(jié)構(gòu)

2.3 地震數(shù)據(jù)去噪CNN的特點

本文構(gòu)建的CNN具有以下特點:

1) 網(wǎng)絡(luò)輸入和輸出:通常網(wǎng)絡(luò)的輸出數(shù)據(jù)要求與輸入數(shù)據(jù)大小相同,而如果特征數(shù)據(jù)與卷積核直接進(jìn)行卷積操作,則會減小下一層特征數(shù)據(jù)的大小。為避免此種情況,本文在卷積操作前為特征數(shù)據(jù)擴(kuò)展邊界,直接補零至與輸入數(shù)據(jù)相同大小,從而保證輸出數(shù)據(jù)大小與輸入數(shù)據(jù)一致,同時避免了邊界數(shù)據(jù)偽影現(xiàn)象。

2) 殘差學(xué)習(xí)[25]:CNN結(jié)合殘差學(xué)習(xí),構(gòu)建一個由含噪地震數(shù)據(jù)到殘差數(shù)據(jù)的非線性映射,平凡網(wǎng)絡(luò)會因網(wǎng)絡(luò)深度的增加導(dǎo)致訓(xùn)練誤差隨之增大,而加入殘差學(xué)習(xí)的網(wǎng)絡(luò)更加便于優(yōu)化和控制誤差范圍。本文構(gòu)建的CNN在增加網(wǎng)絡(luò)深度時更易于提高訓(xùn)練精度,在地震數(shù)據(jù)去噪時也能夠保留更多的數(shù)據(jù)波動特征。

3) 網(wǎng)絡(luò)優(yōu)化算法:本文采用自適應(yīng)矩估計[26]作為網(wǎng)絡(luò)參數(shù)優(yōu)化算法。該算法通過計算梯度的一階矩估計和二階矩估計,動態(tài)調(diào)整不同網(wǎng)絡(luò)參數(shù)的學(xué)習(xí)速率,確定每次迭代學(xué)習(xí)速率的范圍,使得網(wǎng)絡(luò)參數(shù)變化平穩(wěn),網(wǎng)絡(luò)本身能夠自適應(yīng)學(xué)習(xí)。并且該算法對內(nèi)存需求較少,緩解了機器運行壓力。

2.4 訓(xùn)練樣本數(shù)量對CNN去噪性能影響的驗證

本文以原始不含噪疊前和疊后地震數(shù)據(jù)集作為訓(xùn)練樣本集,借助MatConvNet工具箱[27]訓(xùn)練CNN,

并使用圖形處理單元(GPU)提高訓(xùn)練速度[28]。實驗在一臺CPU主頻為2.40GHz、GPU為NVIDIA GeForce 920M、內(nèi)存為8GB、Microsoft Windows 10家庭中文版、64位操作系統(tǒng)的個人筆記本電腦上進(jìn)行,運行環(huán)境為MATLAB(R2014b)。分別采用均方誤差MSE、輸入信噪比SNR_IN、輸出信噪比SNR_OUT、峰值信噪比PSNR等指標(biāo)定量衡量去噪算法的性能,上述指標(biāo)的定義分別為:

式中:SNR_IN為含噪地震信號的信噪比(輸入信噪比);SNR_OUT為含噪地震信號去噪后的信噪比(輸出信噪比);y為不含噪原始地震數(shù)據(jù);y0為去噪后的地震數(shù)據(jù);y1為添加噪聲后的地震數(shù)據(jù);N代表地震數(shù)據(jù)的采樣點總數(shù);‖·‖2代表L2范數(shù)。

利用Marmousi地震數(shù)據(jù)進(jìn)行去噪實驗,以檢驗訓(xùn)練樣本數(shù)量對去噪性能的影響。選用的Marmousi數(shù)據(jù)共有256道,每道含256個采樣點。在該數(shù)據(jù)中,人為添加均值為0、噪聲水平為幅值9.8%的加性高斯白噪聲。設(shè)置兩種去噪方案,方案一采用400個地震數(shù)據(jù)作為樣本訓(xùn)練CNN,每個地震數(shù)據(jù)的道數(shù)為200,每道含200個采樣點;方案二采用200個地震數(shù)據(jù)作為樣本訓(xùn)練CNN,每個地震數(shù)據(jù)的道數(shù)為200,每道含200個采樣點,兩種方案均經(jīng)過50歷元(epoch),1個epoch等于使用訓(xùn)練集中的全部樣本訓(xùn)練一次。兩種方案的PSNR和MSE比較如圖4所示。

圖4 不同數(shù)量的訓(xùn)練樣本下CNN去噪性能對比a PSNR對比; b MSE對比

圖4表明方案一的峰值信噪比更高,均方誤差更低,去噪性能優(yōu)于方案二,這說明訓(xùn)練樣本數(shù)量大一些,CNN去噪性能會好一些。但在實際應(yīng)用中并不是訓(xùn)練樣本越多越好,因為隨著訓(xùn)練樣本增多,網(wǎng)絡(luò)訓(xùn)練速度會變慢。對于本文算法而言,方案一已經(jīng)能達(dá)到預(yù)期的去噪效果,因此在后文的去噪實驗中訓(xùn)練樣本的數(shù)量均選定為400個。

3 地震數(shù)據(jù)去噪實驗結(jié)果及分析

下面采用本文去噪算法分別對實際疊前海上數(shù)據(jù)、疊后陸地數(shù)據(jù)以及疊后復(fù)雜陸地數(shù)據(jù)進(jìn)行去噪,并與常規(guī)的去噪算法如小波變換去噪、雙樹復(fù)小波變換去噪、曲波變換去噪進(jìn)行比較。實驗中訓(xùn)練樣本集采用與第2.4節(jié)相同的數(shù)據(jù)集進(jìn)行CNN訓(xùn)練。如果待去噪地震數(shù)據(jù)的噪聲水平(事先預(yù)估)發(fā)生變化,需要重新訓(xùn)練CNN網(wǎng)絡(luò)。

3.1 實際疊前海上地震數(shù)據(jù)隨機噪聲去除

在南海某地采集的原始含噪疊前海上數(shù)據(jù)如圖5a 所示。該數(shù)據(jù)共240道,單道含800個采樣點,經(jīng)過預(yù)處理已去掉了除隨機噪聲以外的所有噪聲,且幅值已歸一化至[0,1]。從圖中可看到,雖然不含有其它噪聲,但雙曲反射同相軸被隨機噪聲嚴(yán)重覆蓋。首先對地震數(shù)據(jù)進(jìn)行噪聲水平估計,然后分別采用4種算法對其去噪,去噪效果如圖5b到圖5e所示,圖5f 為CNN輸出的隨機噪聲。

由圖5b到圖5e可看出,小波變換去噪后的地震數(shù)據(jù)仍然有噪聲殘留,同相軸模糊。與小波變換去噪相比,雙樹復(fù)小波變換與曲波變換的去噪效果要好一些,同相軸更加清晰,但是局部仍殘留有少量噪聲。與上述3種算法相比,采用本文CNN去噪算法去噪后噪聲基本無殘留,同相軸清晰連貫,更多的局部細(xì)節(jié)得以保留。

3.2 疊后陸地地震數(shù)據(jù)隨機噪聲去除

新疆某地疊后陸地地震剖面中的一段如圖6a所示。該段剖面數(shù)據(jù)共200道,單道含600個采樣點,事先已經(jīng)過預(yù)處理去除了噪聲。為了定量比較分析各算法的去噪效果,在該段數(shù)據(jù)中人為添加均值為0、噪聲水平分別為數(shù)據(jù)幅值20%,25%,30%的加性高斯白噪聲。其中噪聲水平為20%的含噪數(shù)據(jù)見圖6b。分別采用4種算法對其去噪,去噪效果如圖6c～圖6f所示。表1為4種去噪算法的性能指標(biāo)對比。

圖5 疊前海上地震數(shù)據(jù)的不同去噪算法結(jié)果對比a 預(yù)處理后的含噪疊前數(shù)據(jù); b 小波變換去噪; c 雙樹復(fù)小波變換去噪; d 曲波變換去噪; e CNN去噪; f CNN輸出的隨機噪聲

圖6 疊后陸地地震數(shù)據(jù)的不同去噪算法結(jié)果對比a 預(yù)處理后的疊后地震數(shù)據(jù); b 添加20%噪聲后的數(shù)據(jù); c 小波變換去噪; d 雙樹復(fù)小波變換去噪; e 曲波變換去噪; f CNN去噪

表1 疊后陸地地震數(shù)據(jù)的不同去噪算法性能指標(biāo)對比

由圖6c～圖6f可見,CNN去噪算法的效果要明顯優(yōu)于小波變換與雙樹復(fù)小波變換去噪。與曲波變換相比,二者均有良好的去噪效果,但CNN去噪后的剖面上同相軸更清晰。

表1更加直觀展現(xiàn)了4種去噪算法的去噪性能。在不同的噪聲水平σ下,本文CNN去噪算法的SNR_OUT和PSNR最大且MSE最小,這意味著CNN去噪能力最強,接下來依次是曲波變換、雙樹復(fù)小波變換和小波變換。

3.3 疊后復(fù)雜陸地地震數(shù)據(jù)隨機噪聲去除

圖7a為新疆某地原始含噪疊后地震剖面中的一段。該段數(shù)據(jù)共200道,單道含450個采樣點,已經(jīng)過預(yù)處理去掉了除隨機噪聲以外的噪聲。首先對地震數(shù)據(jù)進(jìn)行噪聲水平估計,然后分別采用4種算法對其去噪,去噪效果如圖7b～圖7e所示,圖7f為CNN輸出的隨機噪聲。

圖7 疊后復(fù)雜陸地地震數(shù)據(jù)的不同去噪算法結(jié)果對比a 預(yù)處理后的含噪疊后數(shù)據(jù); b 小波變換去噪; c雙樹復(fù)小波變換去噪; d 曲波變換去噪; e CNN去噪; f CNN去除的隨機噪聲

對比圖7b,圖7c,圖7d和圖7e可看出,4種去噪算法都有一定去噪效果,但小波變換和雙樹復(fù)小波變換去噪后的地震數(shù)據(jù)仍有噪聲殘留,且靠近同相軸區(qū)域比較明顯。CNN去噪與曲波變換去噪效果相比于前2種算法有了較大改善,剖面上已無明顯噪聲殘留。但曲波變換去噪的結(jié)果過于平滑,波動特征損失較多。而CNN去噪局部細(xì)節(jié)保留得更完整,同相軸清晰,整個剖面顯得干凈。

4 結(jié)論

為了更有效地去除地震數(shù)據(jù)的隨機噪聲,本文提出了一種基于深度學(xué)習(xí)卷積神經(jīng)網(wǎng)絡(luò)(CNN)的地震數(shù)據(jù)隨機噪聲去除算法,是將深度學(xué)習(xí)用于地震信號處理的一種嘗試。算法的關(guān)鍵在于構(gòu)建一個適合于地震數(shù)據(jù)去噪的CNN,該CNN由輸入層、卷積層、激活層、歸一化層、輸出層等構(gòu)成,采用殘差學(xué)習(xí)方式,輔之以ReLU和BN歸一化,使得CNN的訓(xùn)練精度較高,保留了更多的原始數(shù)據(jù)細(xì)節(jié)。地震數(shù)據(jù)去噪實驗表明:CNN能有效去除地震數(shù)據(jù)隨機噪聲,無論是從主觀定性還是客觀定量方面衡量,與常規(guī)地震數(shù)據(jù)去噪算法如小波變換、雙樹復(fù)小波變換以及曲波變換等相比,具有更強的去噪性能。下一步的工作是探討CNN的地震數(shù)據(jù)去噪計算效率,分析CNN去噪時的泛化能力,探索更有效的訓(xùn)練樣本集構(gòu)建方式,并嘗試用CNN去除面波和多次折射波等非隨機噪聲。