張東曉，陳云天，孟晉

（北京大學(xué)工學(xué)院，北京 100871）

0 引言

測(cè)井?dāng)?shù)據(jù)在儲(chǔ)集層描述和油氣資源評(píng)估中具有十分重要的作用。地質(zhì)學(xué)家和工程師通過對(duì)測(cè)井曲線進(jìn)行分析可以極大地加深對(duì)地下儲(chǔ)集層情況的認(rèn)知，并在測(cè)井?dāng)?shù)據(jù)的支持下建立較為精確的地質(zhì)模型。然而由于井徑擴(kuò)大、儀器故障等原因，實(shí)際應(yīng)用中經(jīng)常出現(xiàn)部分井段測(cè)井?dāng)?shù)據(jù)失真或缺失的情況，甚至出于成本考慮而放棄獲取整套測(cè)井?dāng)?shù)據(jù)。重新測(cè)井往往需要很高的成本，對(duì)于已經(jīng)實(shí)現(xiàn)完井操作的井眼，重新測(cè)井難以實(shí)現(xiàn)。為了節(jié)約成本，研究者們提出可以采用多種方法直接利用已有測(cè)井?dāng)?shù)據(jù)人工生成測(cè)井曲線，從而補(bǔ)全缺失井段信息。例如，可以根據(jù)地質(zhì)信息使用某些物理模型直接反演測(cè)井曲線[1-2]。然而這些物理模型通常有很多假設(shè)，極大簡(jiǎn)化了真實(shí)地層情況，挑選模型時(shí)也摻雜著研究者的主觀經(jīng)驗(yàn)，因此生成的測(cè)井曲線的質(zhì)量難以保證。另外，還可以根據(jù)各種測(cè)井?dāng)?shù)據(jù)間的內(nèi)在聯(lián)系生成測(cè)井曲線，一些傳統(tǒng)的分析手段和方法（交會(huì)圖、多元回歸等）可以用來完成這一任務(wù)[3-4]。但是由于地下情況復(fù)雜和非均質(zhì)性較強(qiáng)，測(cè)井?dāng)?shù)據(jù)之間經(jīng)常呈現(xiàn)極強(qiáng)的非線性關(guān)系，數(shù)據(jù)間的映射關(guān)系也極為復(fù)雜，應(yīng)用傳統(tǒng)方法的效果較差。

近年來隨著機(jī)器學(xué)習(xí)方法在科學(xué)和工程領(lǐng)域的廣泛應(yīng)用，很多研究者也建議使用數(shù)據(jù)驅(qū)動(dòng)方法來解決地質(zhì)問題，例如利用支持向量機(jī)（SVM）、模糊邏輯模型（FLM）和人工神經(jīng)網(wǎng)絡(luò)（ANN）等方法來估計(jì)地質(zhì)參數(shù)[5-6]、判別巖性[7-8]、確定地層界線[9-10]等。其中人工神經(jīng)網(wǎng)絡(luò)是近年來的研究熱點(diǎn)之一，很多研究者嘗試使用人工神經(jīng)網(wǎng)絡(luò)生成測(cè)井曲線[11-15]。這些人工神經(jīng)網(wǎng)絡(luò)都是傳統(tǒng)的全連接神經(jīng)網(wǎng)絡(luò)（FCNN），構(gòu)造的是一種點(diǎn)對(duì)點(diǎn)的映射，即通過該方法生成的某一深度的測(cè)井?dāng)?shù)據(jù)只和其他測(cè)井曲線同處于該深度的信息有關(guān)，而忽略了測(cè)井曲線隨深度的變化趨勢(shì)和數(shù)據(jù)的前后關(guān)聯(lián)。這與實(shí)際地質(zhì)分析經(jīng)驗(yàn)和地質(zhì)學(xué)思想相違背，因此生成的測(cè)井曲線是否準(zhǔn)確還有待商榷。由于FCNN無法保存、利用先前信息，無法預(yù)測(cè)序列數(shù)據(jù)，許多研究者通過耦合其他方法（小波變換[16]、奇異譜分析[17]等）來對(duì)FCNN進(jìn)行改進(jìn)，然而這些改進(jìn)實(shí)現(xiàn)起來往往十分復(fù)雜和繁瑣。為了生成序列測(cè)井?dāng)?shù)據(jù)，更加合理的選擇是利用循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）[18]。在循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中，每個(gè)神經(jīng)單元內(nèi)存在一個(gè)能夠重復(fù)使用該單元的自循環(huán)結(jié)構(gòu)，這一循環(huán)結(jié)構(gòu)使得先前的信息可以保留并在之后被使用。由于信息可以在循環(huán)神經(jīng)網(wǎng)絡(luò)中自由流動(dòng)，基于該方法生成的測(cè)井曲線綜合考慮了不同測(cè)井曲線間的內(nèi)在聯(lián)系和隨深度的變化趨勢(shì)，更加符合地質(zhì)學(xué)思想。

本文使用一種廣泛應(yīng)用于深度學(xué)習(xí)的先進(jìn)循環(huán)神經(jīng)網(wǎng)絡(luò)即長短期記憶神經(jīng)網(wǎng)絡(luò)（LSTM）[19]來生成測(cè)井曲線。該網(wǎng)絡(luò)架構(gòu)在每個(gè)自循環(huán)結(jié)構(gòu)內(nèi)引入門結(jié)構(gòu)，進(jìn)一步模仿生物神經(jīng)元信息傳導(dǎo)模式，不需任何額外的調(diào)整即可儲(chǔ)存更加長期的序列信息。這一優(yōu)點(diǎn)使其在人工智能和深度學(xué)習(xí)領(lǐng)域獲得了極大關(guān)注，在自然語言處理[20]、機(jī)器翻譯[21]、語音識(shí)別[22]等領(lǐng)域都得到了廣泛應(yīng)用。另外，RNN和LSTM也被應(yīng)用于水文學(xué)領(lǐng)域來處理包含時(shí)間序列數(shù)據(jù)的問題[23-24]。然而目前還未見利用LSTM生成測(cè)井曲線的相關(guān)研究報(bào)道。

本研究的目的是根據(jù)已有測(cè)井?dāng)?shù)據(jù)，通過使用LSTM生成人工測(cè)井曲線來補(bǔ)全缺失測(cè)井?dāng)?shù)據(jù)。首先，闡述FCNN、RNN和LSTM的理論基礎(chǔ)以及相應(yīng)的網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)和特殊設(shè)置。其次，分析LSTM在真實(shí)水平井和直井測(cè)井?dāng)?shù)據(jù)上的應(yīng)用效果，并在多個(gè)測(cè)井深度與傳統(tǒng)FCNN進(jìn)行對(duì)比。

1 原理與方法

1.1 全連接神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)是一種具有分層結(jié)構(gòu)的模型，能夠近似模擬輸入和輸出變量之間的非線性函數(shù)關(guān)系。從數(shù)學(xué)的角度來看，只要擁有足夠多的基函數(shù)（basis function），神經(jīng)網(wǎng)絡(luò)可以對(duì)任何函數(shù)在任意給定精度下進(jìn)行建模[25-26]。FCNN是最常用的人工神經(jīng)網(wǎng)絡(luò)，具有典型的分層結(jié)構(gòu)。FCNN中具有運(yùn)算能力的基本單元是層狀分布的神經(jīng)元，每個(gè)神經(jīng)元與其相鄰層中的所有神經(jīng)元相互連接，同一層中的神經(jīng)元之間互不連接。不同神經(jīng)元之間的連接強(qiáng)度由權(quán)重表示，權(quán)重隨著網(wǎng)絡(luò)的訓(xùn)練進(jìn)行調(diào)整。圖 1展示了一種典型的 4層FCNN結(jié)構(gòu)（輸入層不計(jì)入層數(shù)）。如圖1所示，每個(gè)神經(jīng)元的輸出都通過非線性函數(shù)計(jì)算得到，而非線性函數(shù)的輸入是神經(jīng)元輸入的代數(shù)和。這一非線性函數(shù)也稱為激活函數(shù)，最常用的激活函數(shù)是 sigmoid函數(shù)、tansig函數(shù)和ReLU函數(shù)[27]。

圖1 典型4層FCNN結(jié)構(gòu)示意圖

1.2 循環(huán)神經(jīng)網(wǎng)絡(luò)與長短期記憶神經(jīng)網(wǎng)絡(luò)

FCNN在許多情況下表現(xiàn)良好，但該網(wǎng)絡(luò)必須接受固定大小的輸入，并使用固定數(shù)量的計(jì)算步驟產(chǎn)生固定大小的輸出，因此其應(yīng)用受到很大限制，尤其是無法有效處理序列數(shù)據(jù)問題[28]。換言之，F(xiàn)CNN無法根據(jù)序列數(shù)據(jù)中先前步驟的預(yù)測(cè)結(jié)果影響目前步驟中的計(jì)算，無法分析序列數(shù)據(jù)中前后數(shù)據(jù)間的相互影響[29]。RNN的架構(gòu)可以讓先前步驟中的信息持續(xù)存在并影響后續(xù)步驟，因此RNN能夠有效處理序列數(shù)據(jù)問題。典型的RNN結(jié)構(gòu)及其展開版本如圖2所示。循環(huán)結(jié)構(gòu)是RNN與傳統(tǒng)FCNN的主要區(qū)別。該循環(huán)結(jié)構(gòu)允許信息逐步傳遞。RNN可以看作同一網(wǎng)絡(luò)的多個(gè)副本，前一步的輸出傳遞到當(dāng)前步的副本中影響計(jì)算結(jié)果。因此，RNN的輸出不僅受到當(dāng)前步驟輸入的影響，還受到過去所有步驟輸入的影響。RNN的這種鏈?zhǔn)浇Y(jié)構(gòu)使它在序列數(shù)據(jù)分析中具有很大優(yōu)勢(shì)，它也是解決序列數(shù)據(jù)（如測(cè)井?dāng)?shù)據(jù)）問題的最自然的網(wǎng)絡(luò)結(jié)構(gòu)。

圖2 標(biāo)準(zhǔn)循環(huán)神經(jīng)網(wǎng)絡(luò)及其展開版本的示意圖

在RNN的每層網(wǎng)絡(luò)中，序列數(shù)據(jù)中的每個(gè)元素都會(huì)按照下式進(jìn)行計(jì)算：

如（1）式所示，第t步的隱狀態(tài)不僅由第t步的輸入決定，還由第t-1步的隱狀態(tài)決定。第t步的最終輸出結(jié)果是基于第t步的隱狀態(tài)計(jì)算的。因?yàn)殡[狀態(tài)總是具有比原始輸入更多的維度和更廣的取值范圍，所以使用隱狀態(tài)可以增強(qiáng)模型的表達(dá)能力，有助于神經(jīng)網(wǎng)絡(luò)基于有限的觀測(cè)值表達(dá)復(fù)雜的分布。除了網(wǎng)絡(luò)中的循環(huán)結(jié)構(gòu)，RNN還具有參數(shù)共享的特性，即網(wǎng)絡(luò)中的可訓(xùn)練參數(shù)wih，whh，bih和bhh在不同的時(shí)間步中共享。這與卷積神經(jīng)網(wǎng)絡(luò)（CNN）極為相似，CNN在空間位置之間共享卷積核參數(shù)，而RNN在序列數(shù)據(jù)的時(shí)間步之間共享參數(shù)。共享參數(shù)使模型更加簡(jiǎn)單，并且使RNN能夠適應(yīng)任意長度的序列數(shù)據(jù)，從而提升模型的適用性。

RNN的優(yōu)點(diǎn)之一是能夠利用先前步驟中的信息來估計(jì)當(dāng)前步驟的結(jié)果。然而，如果相關(guān)信息所在位置與當(dāng)前步驟之間距離非常大，RNN就會(huì)表現(xiàn)不佳[30]。長短期記憶神經(jīng)網(wǎng)絡(luò)（LSTM）是一種特殊的循環(huán)神經(jīng)網(wǎng)絡(luò)，專門用來學(xué)習(xí)序列數(shù)據(jù)內(nèi)的長期依賴性。在LSTM中，記錄長距離信息是網(wǎng)絡(luò)的默認(rèn)行為[29]。

LSTM 具有與標(biāo)準(zhǔn) RNN類似的鏈狀重復(fù)網(wǎng)絡(luò)結(jié)構(gòu)。標(biāo)準(zhǔn)RNN中的重復(fù)網(wǎng)絡(luò)非常簡(jiǎn)單，而LSTM中的重復(fù)網(wǎng)絡(luò)具有4個(gè)交互層，包括3個(gè)門層和1個(gè)tanh層（見圖3）。處理器狀態(tài)是LSTM中的關(guān)鍵變量，它攜帶著先前步驟的信息，并逐步穿過整個(gè) LSTM。交互層中的門可以根據(jù)上一步的隱狀態(tài)和當(dāng)前步驟的輸入來部分刪除上一步的處理器狀態(tài)和添加新信息到當(dāng)前步驟的處理器狀態(tài)中。每個(gè)重復(fù)網(wǎng)絡(luò)的輸入包括上一步的隱狀態(tài)和處理器狀態(tài)以及當(dāng)前步驟的輸入。處理器狀態(tài)根據(jù) 4個(gè)交互層的計(jì)算結(jié)果進(jìn)行更新。更新后的處理器狀態(tài)和隱狀態(tài)構(gòu)成輸出并傳遞到下一步。

圖3 LSTM的重復(fù)網(wǎng)絡(luò)結(jié)構(gòu)圖

第 1個(gè)交互層被稱為遺忘門層，它決定當(dāng)前步驟忘記什么信息。遺忘門由（2）式描述。這一層的輸出ft是1個(gè)在0～1的數(shù)字，決定了上一步的處理器狀態(tài)中哪些部分應(yīng)該被傳遞下去。

第 2個(gè)交互層被稱為輸入門層，它決定了哪些新的信息應(yīng)該添加到處理器狀態(tài)中。輸入門由（3）式描述。這一層的輸出決定第 3個(gè)交互層中哪些信息將被保留并更新。

第3個(gè)交互層是tanh層，它創(chuàng)建了一個(gè)可以添加到處理器狀態(tài)中的新候選值，由（4）式描述。

在上述 3層計(jì)算之后，攜帶記憶信息的舊處理器狀態(tài)Ct-1與包含新信息的候選值tC~結(jié)合，如（5）式所示。來自遺忘門的計(jì)算結(jié)果ft決定在Ct-1中忘記哪些信息，而來自輸入門的計(jì)算結(jié)果it決定在tC~中的哪些信息被保留和添加。

最后 1層是輸出門層，它基于更新后的處理器狀態(tài)生成LSTM的輸出值，如（6）式所示。

LSTM是一種在重復(fù)網(wǎng)絡(luò)中具有 4個(gè)相互作用層的循環(huán)神經(jīng)網(wǎng)絡(luò)。它不僅能夠像標(biāo)準(zhǔn)循環(huán)神經(jīng)網(wǎng)絡(luò)那樣從序列數(shù)據(jù)中提取信息，還能夠保留來自于先前較遠(yuǎn)步驟的具有長期相關(guān)性的信息。測(cè)井?dāng)?shù)據(jù)是序列數(shù)據(jù)，其變化趨勢(shì)富有含義。此外，由于測(cè)井曲線的采樣間隔相對(duì)較小，測(cè)井曲線中存在長期（空間）相關(guān)性，而LSTM有足夠的長期記憶來處理這種問題。因此，LSTM是生成人工測(cè)井?dāng)?shù)據(jù)的理想工具。

2 實(shí)驗(yàn)

為了測(cè)試LSTM的性能，進(jìn)行了兩個(gè)實(shí)驗(yàn)，即測(cè)井曲線自動(dòng)補(bǔ)全實(shí)驗(yàn)和人工測(cè)井曲線生成實(shí)驗(yàn)。實(shí)驗(yàn)的主要目的是：①評(píng)價(jià)LSTM根據(jù)不完整測(cè)井曲線自身的信息自動(dòng)補(bǔ)全缺失段數(shù)據(jù)的能力；②評(píng)價(jià) LSTM基于鄰井信息生成人工測(cè)井曲線的準(zhǔn)確度；③比較LSTM與傳統(tǒng)FCNN的性能。

2.1 測(cè)井曲線自動(dòng)補(bǔ)全實(shí)驗(yàn)

本實(shí)驗(yàn)中水平井測(cè)井曲線部分缺失。利用 LSTM可以基于同一口井中數(shù)據(jù)完整的測(cè)井段來估計(jì)缺失的測(cè)井?dāng)?shù)據(jù)，進(jìn)而補(bǔ)全測(cè)井曲線。該水平井位于美國Eagle Ford儲(chǔ)集層[31]，測(cè)井曲線共5條，包含自然伽馬、陣列感應(yīng)電阻率、中子孔隙度、橫波時(shí)差和縱波時(shí)差（見圖4）。測(cè)井段總長1 524 m，測(cè)深為3 719～5 243 m，穿過兩個(gè)地層，地層分界點(diǎn)在測(cè)深4 633 m處。本實(shí)驗(yàn)中，測(cè)深4 572～4 877 m的陣列感應(yīng)電阻率、中子孔隙度和橫波時(shí)差曲線被人為刪除，以模擬缺失的測(cè)井曲線，缺失段長度為總測(cè)量長度的20%。

圖4 自動(dòng)補(bǔ)全的測(cè)井曲線和水平井走向示意圖

訓(xùn)練數(shù)據(jù)集由3 719～4 572 m及4 877～5 243 m兩個(gè)完整測(cè)井段組成，測(cè)井曲線采樣間隔為 0.061 m（0.2 ft），LSTM訓(xùn)練的序列長度設(shè)為500，即30.5 m（100 ft）。這一訓(xùn)練長度意味著在此LSTM模型中，每一個(gè)采樣點(diǎn)前方30.5 m范圍內(nèi)的數(shù)據(jù)對(duì)該采樣點(diǎn)的取值有影響。通過調(diào)節(jié)這一長度可以改變LSTM在訓(xùn)練過程中的記憶范圍。兩個(gè)完整測(cè)井段的訓(xùn)練序列是分開提取的，提取后再隨機(jī)混合生成訓(xùn)練數(shù)據(jù)集。最終，一共有19 002組訓(xùn)練數(shù)據(jù)，每組數(shù)據(jù)的序列長度為500，以自然伽馬和縱波時(shí)差作為輸入，陣列感應(yīng)電阻率、中子孔隙度和橫波時(shí)差作為輸出。訓(xùn)練過程中批尺寸（batch size）為100，即每次訓(xùn)練隨機(jī)抽取100組訓(xùn)練數(shù)據(jù)。此實(shí)驗(yàn)中采用的LSTM模型包含2個(gè)長短期記憶層和1個(gè)全連接層，長短期記憶層的隱狀態(tài)為30維。為了避免過擬合，模型采用了丟棄操作（dropout），丟棄概率為30%。

圖5 預(yù)熱過程的流程圖

在應(yīng)用LSTM進(jìn)行曲線補(bǔ)全的過程中，首先選取缺失段之前的部分序列數(shù)據(jù)作為預(yù)熱數(shù)據(jù)，通過這些數(shù)據(jù)對(duì)LSTM的隱狀態(tài)及處理器狀態(tài)進(jìn)行更新。然后基于更新后的隱狀態(tài)與處理器狀態(tài)順序計(jì)算缺失段數(shù)據(jù)的預(yù)測(cè)值，具體流程如圖 5所示。圖 5中h0和C0是預(yù)熱段的初始隱狀態(tài)和處理器狀態(tài)，hd-1和Cd-1是預(yù)熱段的輸出，它們被傳遞到缺失段的第 1步中作為缺失段的輸入。假設(shè)缺失段起始測(cè)深處采樣點(diǎn)序號(hào)為d，則在d-1處可由LSTM模型基于預(yù)熱數(shù)據(jù)計(jì)算獲得隱狀態(tài)hd-1和處理器狀態(tài)Cd-1。然后根據(jù)d處的自然伽馬和縱波時(shí)差數(shù)據(jù)，預(yù)測(cè)d處的隱狀態(tài)hd和處理器狀態(tài)Cd，進(jìn)而獲得d處的陣列感應(yīng)電阻率、中子孔隙度和橫波時(shí)差。然后依據(jù)d處的隱狀態(tài)和處理器狀態(tài)，結(jié)合d+1處的輸入測(cè)井曲線，計(jì)算獲得d+1處的隱狀態(tài)、處理器狀態(tài)及輸出測(cè)井曲線。每次預(yù)測(cè)都基于序列中上一步的預(yù)測(cè)結(jié)果，最終對(duì)整個(gè)缺失段進(jìn)行數(shù)據(jù)補(bǔ)全。

從圖 4中可以看出，LSTM可以很好地提取出序列數(shù)據(jù)中的模式，并根據(jù)這些模式進(jìn)行數(shù)據(jù)預(yù)測(cè)與曲線補(bǔ)全。對(duì)于橫波時(shí)差和中子孔隙度，基于LSTM的人工曲線與實(shí)際測(cè)井曲線不但具有相似的變化趨勢(shì)，還具有相近的數(shù)值，說明LSTM生成的曲線具有較高的可信度。對(duì)于陣列感應(yīng)電阻率，雖然人工曲線的絕對(duì)數(shù)值與實(shí)際測(cè)井曲線不同，但是在曲線的變化趨勢(shì)上具有一定的相似度，在一定程度上可以作為缺失曲線取值的參考。陣列感應(yīng)電阻率人工曲線與實(shí)際測(cè)井曲線在地層交界處差別較大，這可能是因?yàn)殡娮杪蕰?huì)受到含油性和礦化度的影響，而這些影響在輸入變量中沒有較好地體現(xiàn)。此外，地層交界處的電阻率變化模式本身可能與上下地層內(nèi)的變化模式不同。由于這一變化模式在訓(xùn)練數(shù)據(jù)集中并沒有出現(xiàn)，LSTM 模型很難做出準(zhǔn)確的預(yù)測(cè)。綜合而言，在一口井的部分測(cè)井曲線缺失時(shí)，可以利用LSTM依據(jù)同一口井中完整段測(cè)井曲線對(duì)缺失段測(cè)井曲線進(jìn)行數(shù)據(jù)補(bǔ)全。當(dāng)然，如果待補(bǔ)全井的鄰井擁有完整的測(cè)井曲線，且這些曲線可用于模型訓(xùn)練，那么測(cè)井曲線自動(dòng)補(bǔ)全的精度會(huì)得到顯著提升。

2.2 人工測(cè)井曲線生成實(shí)驗(yàn)

本實(shí)驗(yàn)中，分別使用LSTM和傳統(tǒng)FCNN生成人工測(cè)井?dāng)?shù)據(jù)，并對(duì)比兩種方法所生成的數(shù)據(jù)的準(zhǔn)確度。本實(shí)驗(yàn)的數(shù)據(jù)來自于大慶油田的6口直井。A1、A2、A3、A4、A5、A6井的測(cè)深分別為780～1 136，795～1 117，747～1 059，920～1 236，842～1 189 和 716～1 007 m。因?yàn)橹本人骄┻^的地層更多，所以輸入與輸出測(cè)井曲線之間的映射關(guān)系更復(fù)雜。每口直井都含有7條測(cè)井曲線，包括微電極測(cè)井曲線的幅度差、井徑、自然電位、自然伽馬、高分辨率聲波時(shí)差、補(bǔ)償聲波和密度。前4條曲線作為輸入，后3條曲線作為輸出。在構(gòu)建訓(xùn)練數(shù)據(jù)集的過程中，每口井的訓(xùn)練序列獨(dú)立提取，然后隨機(jī)混合生成訓(xùn)練數(shù)據(jù)集。測(cè)井曲線采樣間隔為0.05 m，訓(xùn)練序列長度為500，則A1—A6井在作為訓(xùn)練數(shù)據(jù)時(shí)提供的序列數(shù)分別為6 595，5 919，5 713，5 791，5 797和5 295組。實(shí)驗(yàn)采用留一法，即總共進(jìn)行6組實(shí)驗(yàn)，每組實(shí)驗(yàn)取6口井中的1口作為檢測(cè)數(shù)據(jù)集，另外 5口作為訓(xùn)練數(shù)據(jù)集。作為檢測(cè)數(shù)據(jù)集的井不進(jìn)行序列提取，而將整口井的 4條輸入測(cè)井曲線作為4條完整序列輸入LSTM，以便對(duì)3條輸出測(cè)井曲線進(jìn)行預(yù)測(cè)。在神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)方面，LSTM采用了兩個(gè)隱狀態(tài)為30維的長短期記憶層與兩個(gè)全連接層，丟棄操作的丟棄概率為 30%。此外，本文還構(gòu)建了3個(gè)分別為4，8及12層的FCNN作為對(duì)比模型，這3個(gè)FCNN具有與LSTM相近的參數(shù)量。

在傳統(tǒng)LSTM的基礎(chǔ)上，本文還提出了一種具有串級(jí)系統(tǒng)的長短期記憶神經(jīng)網(wǎng)絡(luò)（CLSTM）。在該串級(jí)LSTM中，首先根據(jù)已知測(cè)井曲線估計(jì)未知測(cè)井曲線中的1條，然后將獲得的估計(jì)值與已知測(cè)井曲線合并作為新的輸入，再根據(jù)此輸入估計(jì)剩余未知測(cè)井曲線中的1條。重復(fù)這樣的步驟，最終完成對(duì)所有未知測(cè)井曲線的估計(jì)。如圖6所示，以A1—A6井為例，首先根據(jù)已知的 4條測(cè)井曲線估計(jì)高分辨率聲波時(shí)差曲線，然后把獲得的高分辨率聲波時(shí)差曲線添加到輸入中，由 5條測(cè)井曲線預(yù)測(cè)補(bǔ)償聲波曲線，最后利用高分辨率聲波時(shí)差、補(bǔ)償聲波及另外 4條已知測(cè)井曲線預(yù)測(cè)密度曲線。串級(jí)LSTM主要具有兩個(gè)優(yōu)點(diǎn)：其一，由于每次只預(yù)測(cè)1條測(cè)井曲線，待測(cè)曲線之間的相互干擾減小，有利于提升模型精度；其二，由于采用了串級(jí)思想，模型具有更強(qiáng)的輸入兼容性，如針對(duì)某1口具有5條已知測(cè)井曲線的井，可以直接從串級(jí)LSTM的中間步驟開始訓(xùn)練，而不需要對(duì)模型重新訓(xùn)練。串級(jí) LSTM的缺點(diǎn)在于它的網(wǎng)絡(luò)復(fù)雜度比標(biāo)準(zhǔn)LSTM更高。不過由于人工測(cè)井曲線中輸入變量維度一般小于 10，即便使用串級(jí) LSTM，其網(wǎng)絡(luò)參數(shù)量也能控制在 5×104以內(nèi)，遠(yuǎn)小于現(xiàn)在常用的深度神經(jīng)網(wǎng)絡(luò)?？紤]到目前的計(jì)算能力，串級(jí)LSTM的復(fù)雜度完全可以接受。

為了具體評(píng)價(jià)各種模型預(yù)測(cè)人工測(cè)井?dāng)?shù)據(jù)的精度，針對(duì)大慶油田的 6口直井分別使用串級(jí) LSTM、標(biāo)準(zhǔn) LSTM、4層FCNN、8層FCNN及12層FCNN進(jìn)行預(yù)測(cè)，并對(duì)比預(yù)測(cè)結(jié)果（見表1）。模型的準(zhǔn)確度采用測(cè)井?dāng)?shù)據(jù)估計(jì)值的均方誤差的平均值和標(biāo)準(zhǔn)差表示，表 1中數(shù)據(jù)為基于每種模型針對(duì)不同井進(jìn)行多次實(shí)驗(yàn)后，高分辨率聲波時(shí)差、補(bǔ)償聲波和密度這3條測(cè)井曲線估計(jì)值均方誤差的平均值及標(biāo)準(zhǔn)差。由表 1可知，串級(jí)LSTM和標(biāo)準(zhǔn)LSTM的預(yù)測(cè)結(jié)果比4層FCNN、8層FCNN及 12層FCNN的預(yù)測(cè)結(jié)果更準(zhǔn)確。除了A2井以外，5種模型都具有較好的預(yù)測(cè)結(jié)果。這說明A2井的測(cè)井曲線之間可能具有和另外 5口井不同的隱藏模式，而且這些隱藏模式并沒有出現(xiàn)在訓(xùn)練數(shù)據(jù)集中。但是，串級(jí)LSTM和標(biāo)準(zhǔn)LSTM對(duì)A2井的預(yù)測(cè)結(jié)果相對(duì)于其他模型有明顯優(yōu)勢(shì)，這表明LSTM對(duì)未曾出現(xiàn)過的模式具有較好的魯棒性。此外，與標(biāo)準(zhǔn) LSTM相比，串級(jí) LSTM不但具有更高的預(yù)測(cè)準(zhǔn)確率，還具有更小的不確定性。

圖6 串級(jí)LSTM的架構(gòu)

表1 不同模型生成人工測(cè)井曲線的均方誤差及標(biāo)準(zhǔn)差

為了分析串級(jí)LSTM和FCNN生成人工測(cè)井曲線的效果，將 6口井中串級(jí) LSTM預(yù)測(cè)結(jié)果最好的 A3井與預(yù)測(cè)結(jié)果最差的 A2井的人工曲線分別繪制并進(jìn)行對(duì)比，如圖7、圖8所示。圖中深度標(biāo)尺左側(cè)為輸入的4條已知測(cè)井曲線，右側(cè)為基于串級(jí)LSTM和8層FCNN生成的人工測(cè)井曲線以及作為參照的實(shí)際測(cè)井曲線。通過觀察A3井測(cè)深820～840 m（見圖7中綠色虛線框）的測(cè)井曲線可以發(fā)現(xiàn)，高分辨率聲波時(shí)差與補(bǔ)償聲波的數(shù)值在此區(qū)間內(nèi)存在 1個(gè)階躍式增加，但是由于作為輸入的 4條測(cè)井曲線在此區(qū)間內(nèi)并沒有明顯的變化，使得FCNN未能成功估計(jì)出目標(biāo)測(cè)井曲線中的這一階躍變化，生成了具有較大偏差的人工測(cè)井曲線。而串級(jí)LSTM基于序列數(shù)據(jù)進(jìn)行預(yù)測(cè)，因此可以通過輸入曲線在測(cè)深815～820 m（見圖7中紅色虛線框）的變化趨勢(shì)，進(jìn)而準(zhǔn)確地判斷出高分辨率聲波時(shí)差與補(bǔ)償聲波在測(cè)深820 m處存在階躍式增加。這一現(xiàn)象在A2井測(cè)深860～880 m（見圖8中綠色虛線框）再次出現(xiàn)。這說明串級(jí)LSTM能夠綜合分析預(yù)測(cè)點(diǎn)前的數(shù)據(jù)和預(yù)測(cè)點(diǎn)處輸入的影響，準(zhǔn)確預(yù)測(cè)目標(biāo)曲線的趨勢(shì)性變化，因此串級(jí)LSTM對(duì)于測(cè)井曲線這種序列數(shù)據(jù)具有較好的預(yù)測(cè)能力。圖8展示了A2井的人工測(cè)井曲線，可以看出串級(jí)LSTM與FCNN的預(yù)測(cè)結(jié)果都存在偏差，但是串級(jí)LSTM更好地預(yù)測(cè)了目標(biāo)測(cè)井曲線的整體變化趨勢(shì)。此外，串級(jí)LSTM的波動(dòng)性也更弱，這說明在遇到含有未知模式的數(shù)據(jù)時(shí)，串級(jí)LSTM具有比FCNN更強(qiáng)的魯棒性。

圖7 基于串級(jí)LSTM和FCNN生成的A3井的人工測(cè)井曲線

圖8 基于串級(jí)LSTM和FCNN生成的A2井的人工測(cè)井曲線

串級(jí)LSTM的高精度與穩(wěn)定性得益于預(yù)測(cè)過程中的每一級(jí)都把預(yù)測(cè)結(jié)果作為新的輸入信息，不但能在訓(xùn)練過程中更為有效地提取訓(xùn)練數(shù)據(jù)中所隱含的模式，還能在預(yù)測(cè)過程中更高效地利用所有可獲得的輸入信息。在應(yīng)用串級(jí)LSTM時(shí)需要注意層級(jí)的預(yù)測(cè)順序。因?yàn)槊恳患?jí)的預(yù)測(cè)結(jié)果都會(huì)成為下一級(jí)的輸入，所以預(yù)測(cè)誤差也會(huì)在一定程度上傳遞到下一級(jí)中，導(dǎo)致誤差累積的問題。針對(duì)這一問題，建議在應(yīng)用串級(jí)LSTM 時(shí)先在淺層級(jí)中預(yù)測(cè)相對(duì)簡(jiǎn)單的測(cè)井曲線，隨著層級(jí)加深再逐步預(yù)測(cè)復(fù)雜的測(cè)井曲線。此外，淺層級(jí)中增加的輸入變量所蘊(yùn)含的新信息會(huì)被深層級(jí)模型利用，在一定程度上抵消淺層級(jí)到深層級(jí)過程中累積的預(yù)測(cè)誤差，甚至在深層級(jí)中達(dá)到更好的預(yù)測(cè)效果。本文應(yīng)用串級(jí)LSTM時(shí)，首先在第1級(jí)預(yù)測(cè)高分辨率聲波時(shí)差曲線，而后在第 2級(jí)預(yù)測(cè)補(bǔ)償聲波曲線，最后預(yù)測(cè)密度曲線。由表2可知，雖然串級(jí)LSTM在預(yù)測(cè)密度曲線時(shí)存在誤差累積，但是因?yàn)樵谳斎胱兞恐斜葮?biāo)準(zhǔn)LSTM多兩條測(cè)井曲線，所以最終預(yù)測(cè)精度更高。

表2 串級(jí)LSTM與標(biāo)準(zhǔn)LSTM生成人工測(cè)井曲線的均方誤差及標(biāo)準(zhǔn)差對(duì)比

3 討論

本文將機(jī)器學(xué)習(xí)中的LSTM用于測(cè)井曲線的補(bǔ)全與人工測(cè)井曲線的生成。LSTM 能夠有效提取在空間上具有長期相關(guān)性的測(cè)井曲線的模式，并基于這些模式對(duì)測(cè)井曲線進(jìn)行估計(jì)與重構(gòu)。此外，本文還在標(biāo)準(zhǔn)LSTM的基礎(chǔ)上結(jié)合串級(jí)系統(tǒng)設(shè)計(jì)了串級(jí)LSTM，在需要人工生成多條測(cè)井曲線時(shí)，串級(jí)LSTM具有比標(biāo)準(zhǔn)LSTM更高的預(yù)測(cè)準(zhǔn)確度。

在測(cè)井曲線自動(dòng)補(bǔ)全實(shí)驗(yàn)中，利用LSTM對(duì)1口Eagle Ford頁巖水平井的殘缺測(cè)井曲線進(jìn)行了自動(dòng)補(bǔ)全。測(cè)井曲線中有 20%的數(shù)據(jù)缺失且缺失段處于水平井穿過的兩個(gè)地層的交界處。由于測(cè)井曲線在不同地層中具有不同的隱藏模式，缺失段所處的位置增加了自動(dòng)補(bǔ)全曲線的難度。然而利用LSTM仍然獲得了令人滿意的結(jié)果。該實(shí)驗(yàn)中的訓(xùn)練數(shù)據(jù)不包含其他井的測(cè)井曲線，僅依賴同一口井已知的部分測(cè)井曲線就可以進(jìn)行測(cè)井曲線補(bǔ)全。

在人工測(cè)井曲線生成實(shí)驗(yàn)中，以大慶油田的 6口直井為例進(jìn)行了分析，并對(duì)標(biāo)準(zhǔn) LSTM、串級(jí) LSTM和FCNN進(jìn)行了對(duì)比。在串級(jí)LSTM中，首先在淺層級(jí)對(duì)相對(duì)容易預(yù)測(cè)的曲線進(jìn)行重構(gòu)，然后把生成的人工測(cè)井曲線作為下一級(jí)的輸入。深層級(jí)的預(yù)測(cè)結(jié)果不但基于訓(xùn)練數(shù)據(jù)中的輸入值，還受淺層級(jí)預(yù)測(cè)結(jié)果的影響。這種方法能夠更有效地提取輸入數(shù)據(jù)中蘊(yùn)含的信息，提升模型的預(yù)測(cè)準(zhǔn)確度，尤其適用于需要人工生成多條測(cè)井?dāng)?shù)據(jù)的情況。實(shí)驗(yàn)結(jié)果表明，串級(jí)LSTM在人工測(cè)井曲線生成的問題上具有明顯優(yōu)勢(shì)。該實(shí)驗(yàn)基于直井?dāng)?shù)據(jù)進(jìn)行，由于水平井測(cè)井段穿過地層數(shù)量少于直井，因此測(cè)井曲線的隱藏模式更簡(jiǎn)單，基于串級(jí)LSTM生成的人工測(cè)井曲線應(yīng)具有更高精度。

在頁巖油氣開發(fā)中，總成本中很大一部分來自于完井過程，然而大約 30%～50%的射孔段對(duì)產(chǎn)量并沒有貢獻(xiàn)[32]。為了降低開發(fā)成本，需要通過分析測(cè)井曲線增加對(duì)地層的認(rèn)知，然而目前的測(cè)井成本較高，對(duì)于水平井而言更是如此，其測(cè)井成本大約是直井的10倍[32]。本文提出的基于LSTM生成人工測(cè)井曲線的方法可以在一定程度上解決這一問題?？梢岳?1個(gè)區(qū)塊內(nèi)已有的測(cè)井曲線訓(xùn)練生成模型。然后對(duì)于新鉆探的水平井或直井，基于部分易于獲得的測(cè)井曲線，自動(dòng)生成全套測(cè)井曲線。這種人工測(cè)井曲線成本較低，容易得到大規(guī)模應(yīng)用并獲得大量詳實(shí)的人工測(cè)井?dāng)?shù)據(jù)，有利于進(jìn)行區(qū)塊乃至盆地級(jí)別的評(píng)估與分析。此外，本文基于LSTM的人工測(cè)井曲線生成方法還可以應(yīng)用于隨鉆估計(jì)和預(yù)測(cè)。根據(jù)鉆井過程中采集到的數(shù)據(jù)實(shí)時(shí)生成測(cè)井曲線，作為調(diào)整鉆遇過程和設(shè)計(jì)完井策略的參考信息。針對(duì)缺少基礎(chǔ)測(cè)井曲線的區(qū)塊，也可以考慮結(jié)合遷移學(xué)習(xí)的方法，利用其他區(qū)塊訓(xùn)練獲得的模型進(jìn)行預(yù)測(cè)分析。

4 結(jié)語

作為一種特殊的循環(huán)神經(jīng)網(wǎng)絡(luò)，LSTM比標(biāo)準(zhǔn)循環(huán)神經(jīng)網(wǎng)絡(luò)和傳統(tǒng)全連接神經(jīng)網(wǎng)絡(luò)更適用于生成測(cè)井?dāng)?shù)據(jù)。此外，LSTM能夠更有效地從訓(xùn)練數(shù)據(jù)中提取信息，所以在訓(xùn)練數(shù)據(jù)較少時(shí)，LSTM仍然可以完成有效訓(xùn)練。本文提出的基于LSTM生成人工測(cè)井曲線的方法精度較高且成本較低。這種方法有助于更好地認(rèn)識(shí)地層并改進(jìn)鉆完井策略，從而達(dá)到油氣開發(fā)降本增效的目的。

符號(hào)注釋：

C——處理器狀態(tài)；Ct——第t步的處理器狀態(tài)；t——第t步tanh層的輸出；d——缺失段起始測(cè)深處的采樣點(diǎn)序號(hào)；D——井徑，cm；ft——第t步遺忘門層的輸出；GR——自然伽馬，API；h——隱狀態(tài)；ht——第t步的隱狀態(tài)；H——深度，m；it——第t步輸入門層的輸出；L——預(yù)熱段序列長度；Rat30——陣列感應(yīng)電阻率，Ω·m；ΔR——微電極測(cè)井曲線的幅度差；SP——自然電位，mV；T——缺失段序列長度；whh，bhh——隱狀態(tài)與隱狀態(tài)間的權(quán)重和偏置項(xiàng)，可訓(xùn)練；wih，bih——輸入與隱狀態(tài)間的權(quán)重和偏置項(xiàng)，可訓(xùn)練；Wc，bc——tanh層的權(quán)重與偏置項(xiàng)；Wf，bf——遺忘門層的權(quán)重與偏置項(xiàng)；Wi，bi——輸入門層的權(quán)重與偏置項(xiàng)；Wo，bo——輸出門層的權(quán)重與偏置項(xiàng)；xt——第t步的輸入；Δtb——補(bǔ)償聲波，μs/m；Δtco——縱波時(shí)差，μs/m；Δth——高分辨率聲波時(shí)差，μs/m；Δtsm——橫波時(shí)差，μs/m；ρ——密度，g/cm3；σ——sigmoid函數(shù)；φN——中子孔隙度，%。下標(biāo)：CLSTM——基于串級(jí)LSTM生成的數(shù)據(jù)；FCNN——基于FCNN生成的數(shù)據(jù)；LSTM——基于LSTM生成的數(shù)據(jù)；test——實(shí)際測(cè)量數(shù)據(jù)；train——構(gòu)成訓(xùn)練數(shù)據(jù)集的完整段數(shù)據(jù)。