基于GRU神經網絡的測井曲線重構

王 俊 曹俊興 尤加春

(成都理工大學地球物理學院，四川成都 610059)

0 引言

測井資料作為連接地震與地質的橋梁和紐帶，在油氣勘探中發揮著至關重要的作用。實際應用中，由于井壁垮塌、儀器故障等因素，經常會造成部分測井數據失真或缺失，為后續解釋工作帶來一定困難。而重新測井不僅價格昂貴，且對于已經完井的井眼甚至不可能實現。為此，探索測井曲線重構方法，對失真或缺失井段的測井數據進行校正或重構以增加測井解釋的準確性具有重要的意義。理論上可用多元回歸分析等方法[1-2]實現測井曲線重構，但因地下地質情況的復雜性很難用確定性的函數表達[3]，故基于統計分析的測井曲線重構通常精度較低，難以滿足測井數據精確解釋和儲層精細描述的需求。

近些年發展的機器學習技術理論上可以刻畫輸入與輸出數據之間的強非線性映射關系，已被廣泛應用于初至拾取、地震數據重建等[4-7]，為測井曲線的重構提供了新的手段。很多研究者嘗試使用傳統的全連接神經網絡方法生成測井曲線[8-10]。該方法能夠較好地挖掘測井數據之間的復雜非線性映射關系，但這些傳統神經網絡方法與統計分析類似，構造的是一種點對點的映射，重構得到的測井數據只與處于同一深度的其他測井信息有關，而忽略了待重構測井曲線隨儲層深度變化的趨勢及歷史數據之間關聯性。由于地層的沉積作用是時序漸變的，而測井曲線是地層沉積特征的響應，具有一定的時序特征。循環神經網絡(Recurrent Neural Network,RNN)是一種典型的深度神經網絡(Deep Neural Network,DNN)結構，相比于全連接神經網絡，其最大的區別在于各隱藏層單元之間相互并不獨立，各個隱藏層神經元之間不僅相互聯系，而且當前隱藏層單元的狀態還受歷史輸入數據的影響，這個特性使其能夠很好地提取數據結構的時序關系。已有學者初步運用其進行了測井曲線的人工合成[11]，取得了比傳統方法更好的效果。

深度學習的概念最早由Hinton等[12]提出，是目前機器學習學科發展最蓬勃的分支。深度學習通過構建具有多個隱藏層的深度神經網絡模型，利用大量數據訓練學習數據間的復雜有效信息。它能夠從簡單特征中自動提取復雜特征，且逐層越來越抽象，從而建立高維映射關系，以解決復雜的非線性問題。目前，深度學習主要有常規的全連接DNN、解決序列化問題的RNN、解決空間結構問題的卷積神經網絡(Convolution Neural Network,CNN)及可用于數據生成的生成式對抗神經網絡(Generative Adversarial Networks,GAN)等。深度學習已在機器翻譯、自然語言處理[13-14]等領域成功應用。近年來，很多研究者將深度學習技術應用于測井解釋與地質儲層預測[15-17]。

RNN是一種解決序列數據問題的神經網絡，不同于其他DNN結構，此結構考慮了歷史樣本對未來樣本的影響，單個神經網絡的隱藏層不僅連接當前神經網絡下一層的輸入，而且連接到下一個神經網絡的隱藏層。長短期記憶網絡(Long Short Term Memory Networks,LSTM)是一種特殊的RNN，相比DNN和傳統的RNN能更準確地學習時序數據中的長期依賴性關系，解決了需要人工提取時序特征的問題，但該方法存在收斂速度較慢等問題。門控循環單元(Gated Recurrent Unit,GRU)神經網絡是在LSTM基礎上改進優化的神經網絡，它具有更快的收斂速度，并具有與LSTM相當的準確率，目前在測井曲線重構以外的領域應用較為廣泛[18-19]，但尚未見到應用于測井曲線重構方面的研究。

測井數據具有序列化的數據結構，其變化趨勢具有重要含義。此外，由于測井曲線的采樣間隔相對較小，測井曲線中存在長期相關性，而GRU網絡具有良好的長期記憶可很好地處理這些問題?；诖耍疚奶岢隼没赗NN的GRU網絡重構測井曲線，通過TensorFlow框架建立重構模型，利用實測數據進行驗證，并與多元線性回歸(Multiple Linear Regression,MLR)分析方法進行對比分析，結果表明，GRU神經網絡取得了良好的重構效果。

1 重構方法與模型

1.1 多元回歸分析

多元回歸(Multiple Regression,MR)研究的是一個因變量與多個自變量之間的回歸問題[20]。回歸分析的基本思想是：雖然自變量與因變量之間沒有嚴格的、確定性的函數關系，但可以設法找出最能代表它們之間關系的數學表達形式。在測井曲線校正或重構問題中，影響目標曲線的曲線往往不止一條，因此可用MR對其進行分析重構，其中最為簡單、常用的是MLR分析。

MLR分析是處理變量間相關關系的有效方法，目前已得到廣泛應用。在油氣地球物理勘探中，不同的測井曲線往往反映不同的地層性質，如地層巖性、物性和含油氣性等，彼此之間存在一定的相關性，很難用單一函數描述測井曲線之間的數學關系。盡管運用MLR能有效地建立簡單的測井曲線之間的關系，可較好、便捷地重構缺失或失真的測井曲線，同時也能夠清楚地表達各曲線之間的親疏關系，但隨著地質影響因素的增多，地層巖石物理特性之間的關系越來越復雜，僅通過MLR已難以精確描述各測井曲線之間的相關性[21]，其應用效果往往差強人意。

1.2 RNN網絡

RNN是專門處理序列和變長數據的深度學習模型[22]，雖然鏈式結構的RNN對數據具有記憶功能，在一定的上下文環境中，可根據輸入序列得出輸出序列，但是其可以獲取的上下文信息有限。因為在使用過程中，普通RNN的早期輸入信號對隱藏層是有影響的。首先，隨著時間的推移對輸入的敏感性逐漸下降，甚至忘記之前的輸入，這時就與傳統神經網絡區別不大[23]；其次，與多層神經網絡類似，隨著神經元數量的增加，在反向傳播過程中，RNN也會出現梯度爆炸和梯度消失等問題[24]。

1.3 LSTM神經網絡

為解決傳統RNN中存在的梯度爆炸、梯度消散以及長期依賴等問題，人們提出了各種改進的RNN網絡。LSTM由一系列遞歸連接的記憶區塊的子網絡構成，每個記憶區塊中包含一個或多個記憶細胞和三個乘法單元(輸入門、輸出門和遺忘門)，可以對記憶細胞進行連續的寫、讀和重置操作[25-26]。LSTM單元結構如圖1所示。

因LSTM具備長期學習的能力，有效地解決了梯度爆炸、梯度消散以及長期依賴問題，在各類問題中應用效果良好，已在一些領域得到了廣泛應用[27-28]，但由于LSTM神經網絡模型的形式較復雜，因此也存在著訓練、預測時間較長等問題。

圖1 LSTM單元結構圖ct-1 和ct為隱層節點狀態； ht-1和ht分別表示前一序列和當前序列隱層節點輸出； xt為當前序列隱層節點輸入； f、i、j、o表示過程量； σ表示sigmoid非線性激活函數； tanh表示雙曲正切函數

1.4 GRU神經網絡

GRU神經網絡是與LSTM功能幾乎一樣的網絡，其內部結構單元與LSTM很相似，本質上也是使用門結構實現RNN對長短期信息的選擇性記憶功能，有效地解決了時間遞歸過程中的梯度消失、梯度爆炸等問題[29]。GRU不僅保持了LSTM的重構效果，且訓練參數較少。

在LSTM的基礎上，GRU改良了“門”的設計，即將原來由三個“門”組成的細胞結構優化為兩個“門”組成的細胞結構(圖2)，把遺忘門和輸入門合成了一個單一的更新門(update gate)，控制當前輸入xt中哪些信息應被保留，重置門(reset gate)控制前一時刻的輸出ht-1對當前輸入xt的影響，同時還混合了細胞狀態和隱藏狀態及其他一些改動。這就使GRU網絡比標準的LSTM網絡更簡單，計算速度更快。各參數之間的關系表述如下[30]。

圖2 GRU單元結構圖zt表示更新門狀態；rt表示重置門狀態；表示當前神經元的待定輸出

更新門狀態zt可由

zt=σ(Wz[ht-1,xt])

(1)

求得。zt取值越大，表示當前神經元要保留的信息越多，則上一個神經元要保留的信息越少，反之亦然。式中Wz表示更新門的權重。

重置門狀態rt可用

rt=σ(Wr[ht-1,xt])

(2)

求得。當rt取值為0時，表示只需將當前神經元的輸入作為輸入，拋棄上個神經元傳來的信息； 如果不為0(通常不為0)就表示之前的輸入信息會被傳遞過來。式中Wr表示重置門的權重。

當前神經元的特定輸出值為

(3)

GRU網絡的輸出值為

ht=(1-zt)ht-1+ztxt

(4)

式中“*”表示哈達瑪積。

1.5 優化算法

優化算法種類較多，如隨機梯度下降、AdaGrad、RMSProp、適應性動量估計(Adam)算法[31]等。隨機梯度下降法簡單，收斂速度快，是應用較為廣泛的優化算法，但存在易陷入局部最優、難以獲取最優解的缺點。Adam優化算法融合了AdaGrad和RMSProp算法的優勢，不僅不需要固定的優化目標，還適用于稀疏梯度，而且會自然地執行步長回溯，具有實現簡單、所需內存小、計算效率高等優點。為此，本文選用Adam優化算法。

1.6 數據預處理

為減小輸入數據間數量級差別較大引起的重構誤差，采用z-score標準化方法對輸入數據進行標準化處理，以確保各參數處于合理的分布范圍內，更容易總結出數據間的結構關系，即

(5)

1.7 基于GRU網絡的重構模型

GRU重構模型的網絡結構如圖3所示。GRU網絡包含輸入層、輸出層、隱藏層三個部分，其中隱藏層算法是網絡的核心，是網絡訓練的主要研究對象。根據圖3，基于GRU的測井曲線重構模型主要包括數據預處理、模型訓練和預測三個部分。具體可分為以下5步。

(1)將輸入測井數據采用z-score標準化方法進行預處理，劃分訓練集和測試集。

(2)確定GRU神經網絡的結構。

第二，全面了解農村經濟合作社組織對促進農村經濟快速發展的意義。通過優化農村的產業結構，及時捕捉市場信息，全面了解農村經濟發展的動態形勢，從而為廣大農民提供技術支持，指導農民按需生產。農村經濟合作組織通過聯合分散的農戶，讓其共同抵御相關風險，提升了農民的組織化程度，讓農村將經濟發展的大市場和小市場更好地對接起來。

(3)選擇合適的激活函數和優化算法。

(4)采用訓練數據集對神經網絡進行訓練，并檢驗模型的重構效果。若重構精度滿足要求，則進入步驟(5)；否則跳回步驟(2)，并調整網絡參數，直到模型滿足重構精度為止。

(5)利用訓練好的模型對測試數據集進行重構，然后將重構結果反標準化，得到對應的重構值。

圖3 GRU網絡重構框架

其中GRU網絡的訓練過程可細分為以下四步：

(1)前向傳播計算GRU細胞的輸出值；

(2)將模型輸出值與實際值進行比較，反向計算每個GRU細胞的誤差項，包括按時間和網絡層級兩個反向傳播的方向；

(3)根據相應的誤差項，計算每個權重的梯度；

采用重構值與實際值的均方根誤差(root mean square error,RMSE)作為評價重構效果的標準

(6)

2 實際數據應用與結果分析

為了測試GRU模型的性能，進行了以下三組實驗： ①某井中某一層段部分測井曲線缺失，利用該井中數據完整的測井曲線估計缺失的測井數據； ②某井中某一層段的所有測井曲線缺失，利用該井中未缺失的測井段以及鄰井完整的測井曲線重構缺失段的測井數據； ③某井中整個井段某幾條測井曲線全部缺失，利用剩余的幾條完整測井曲線以及鄰井完整的測井曲線重構缺失的測井曲線。

根據實驗結果評價GRU網絡根據不完整測井曲線自身的信息自動重構缺失段測井數據，評價GRU網絡基于待重構井未缺失或失真層段測井曲線以及鄰井信息重構測井曲線的能力，并將其與MLR方法進行分析比較。

2.1 實驗準備

實驗平臺為深度學習框架TensorFlow1.7.0，Anaconda 3-4.1.1，scikit-lean0.19.1，Pandas0.22.0，NumPy1.14.2和Matplotlib2.1.2等，編程語言使用Python3.6。實測數據均來源于四川盆地的A、B兩個探區。A1井位于A探區，測井數據為自然伽馬(GR)、密度(DEN)、補償中子(CNL)、聲波時差(AC)以及泥質含量(SH)五條曲線。B1、B2、B3三口鉆井位于B探區，測井資料包括GR、DEN、CNL、AC以及SP(自然電位)五條曲線。

2.2 實驗

搭建的GRU網絡模型包含2層GRU層，神經元個數分別為64和32；批量大小為60，即每次訓練隨機抽取60組數據進行網絡訓練；時間步長為50；學習率為0.006，學習率是網絡設置的關鍵超參數，在最小化訓練網絡的損失函數時，學習率縮放了權重更新的幅度。學習率太低，訓練速度會很慢；學習率太高，可能在梯度下降過程中直接跳過最低點，使網絡訓練發散。

2.2.1 實驗一

SH曲線不是原始的測井曲線，故只是把它作為假設缺失的待重構目標曲線進行重構，即對A探區A1井缺失的DEN和AC進行重構時并未把SH曲線作為重構的原始母曲線參與重構。由于篇幅有限，文中僅對A探區A1井，B探區B1井的部分實驗結果進行展示分析。

假設A1井2665～2790m井段的DEN和AC測井數據、3000～3250m井段的GR和SH數據缺失，利用該井中數據完整的其他測井曲線估計缺失的測井數據(圖4)。假設B探區B1井1638～1888m井段的GR和CNL測井數據、1838～2088m井段的AC測井數據缺失，利用該井中數據完整的其他測井曲線估計缺失的測井數據(圖5)。A1、B1井測井曲線重構RMSE分別見表1、表2。

圖4 A1井測井曲線重構結果

圖5 B1井測井曲線重構結果

表1 A1井測井曲線重構RMSE

表2 B1井測井曲線重構RMSE

2.2.2 實驗二

由于篇幅有限，文中僅以B2井的部分實驗結果為例進行分析。實驗假設B2井2090～2287m層段的所有測井曲線全部缺失，利用該井中未缺失的層段以及鄰井完整的測井曲線重構缺失段的測井數據(圖6)。不同方法的曲線重構RMSE見表3。

圖6 B2井缺失層段重構結果

表3 B2井測井曲線重構RMSE

2.2.3 實驗三

假設B1井中AC以及SP兩條測井曲線全部缺失，利用該井其他完整測井曲線以及鄰井測井曲線重構缺失的測井曲線(圖7)。B1井測井曲線重構RMSE見表4。

圖7 B1井缺失曲線重構結果

表4 實驗三B1井測井曲線重構RMSE

2.3 結果分析

從圖4～圖7可以看出，采用GRU網絡和MLR模型進行測井曲線重構都取得了好的效果，整體趨勢變化一致，基本能夠反映失真或缺失層段測井曲線的變化趨勢，在沒有突變層段的情況下重構效果更好。但從圖中不難看出，GRU模型的整體重構結果優于MLR模型，特別是在測井數據發生突變的層段(如圖4中測深3005m附近的SH曲線，圖5中測深1680m附近的CNL、GR曲線以及測深2065m附近的AC曲線，圖6中測深2095m以及2274m附近的GR、DEN、CNL、AC以及SP曲線，圖7中測深1210m附近AC曲線，測深1380m、1690m以及2070m附近的AC以及SP曲線)，待重構的測井曲線在此附近階躍式增加，并沒有明顯的變化，使MLR模型未能成功估計出目標測井曲線中的這一階躍變化，生成了具有較大偏差的測井曲線。而GRU網絡模型能夠綜合分析重構點前的輸入數據對重構點處輸入的影響，準確地預測到了待重構測井曲線的趨勢性變化，重構效果明顯優于MLR模型。

仔細觀察圖4～圖6不難發現，由于GRU網絡的長時記憶功能，在重構缺失層段測井數據的過程中，在重構或預測的初始位置，GRU網絡的重構結果遠比MLR模型重構結果準確，如圖4中測深2665m處的DEN測井曲線、測深3000m處的SH測井曲線，圖5中測深1638m處的GR、CNL測井曲線、測深1838m附近的AC測井曲線，圖6中測深2090m附近層段的GR、DEN、CNL、AC以及SP測井曲線。這表明GRU神經網絡的強記憶功能對于這種強非線性測井曲線數據具有較好的重構能力。

由表1～表4也可以看出，GRU網絡和MLR模型在測井曲線重構中均具有較小的均方根誤差，但前者明顯小于后者，其中A1井部分缺失層段的GR、SH、AC、DEN曲線重構的均方根誤差分別下降了32.89%、16.63%、34.10%、23.70%，B1井部分缺失層段的GR、CNL、AC曲線重構的均方根誤差分別下降了45.43%、51.56%、35.01%，B2井全部缺失層段的AC、SP、GR、DEN、CNL曲線的重構均方根誤差分別下降了43.89%、41.11%、21.50%、35.71%、25.95%，B1井整體缺失的AC和SP曲線重構的均方根誤差分別下降了29.18%、42.96%。這些數據表明，利用GRU網絡比MLR模型重構結果的精度更高，穩定性更強，與實測值的一致性更強。

MLR分析建立的是同一層段的輸入與輸出測井數據之間的非線性映射關系，以挖掘數據中未知的、潛在的信息，進而實現失真或缺失層段測井曲線估算的目的。由于MLR只考慮了測井曲線之間的非線性關系，而未考慮測井數據隨測深的變化而變化的特性，因此當輸入的測井數據沒有整體的突變而輸出測井數據出現突變的情況下，基于MLR建立的模型重構結果會出現較大的偏差。

GRU網絡模型屬于動態的深度學習模型，具有獨特的門結構設計、狀態反饋和記憶功能，其內部網絡節點的狀態演化對應于測井數據隨深度變化的趨勢和前后關聯的動態變化特性。在GRU網絡結構中，每個循環神經單元內都存在一個能夠重復使用該單元的自循環結構，這一結構使先前的信息得以保留并可再次使用。這就使GRU網絡不但能充分利用測井曲線之間的非線性特性，還能學習到測井曲線隨測深變化的特性。測井曲線重構結果不但基于當前層段的數據，還受淺層段數據的影響。GRU網絡能更有效地提取輸入數據中蘊含的事先未知的復雜信息。因此，利用GRU網絡模型進行測井曲線重構具有比MLR更高的穩定性和準確度。

3 結論

本文介紹了一種基于門控循環單元神經網絡的測井曲線重構方法。該方法從測井數據出發自動尋找測井曲線之間的強非線性關系，無需人工提取時序特征，避免了傳統經驗公式和統計分析重構的局限性。將其應用于實際測井曲線重構，并與多元回歸分析方法對比。結果表明，本文方法對缺失段的測井曲線重構具有較高的準確性和魯棒性。在對一些缺少關鍵測井資料的老井進行復查時，該方法也可為其提供一定的技術支持。

盡管本文提出了基于門控循環單元神經網絡的測井曲線重構方法，且取得了一定的效果，但重構的測井曲線不可能完全符合地層的真實情況，與真實曲線之間的亦存在一定的偏差。而且本文僅采用了單一的深度學習模型，尚未與其他深度學習模型結合應用，因此模型改進以及多模型混合運用，以進一步提升模型重構效果，有待后續深入研究。