神經網絡在勘探地球物理的應用

王斯昊,何蘭芳,李亮

摘 要：隨著地球物理數據和地質信息的不斷積累，神經網絡作為一種數據驅動的建模工具在地球物理中的應用越來越廣泛，在數據預處理和圖像識別等方面表現出色。為了梳理神經網絡在勘探地球物理的應用現狀與發展趨勢，本文回顧了神經網絡的發展歷程、基本原理和主要技術框架，總結了神經網絡在勘探地震、電磁法、重磁勘探中的應用，同時分析了神經網絡的優勢與不足。神經網絡在地球物理中的可行性已被學者們廣泛認可，但在實際應用中仍然存在一系列難題有待深入探索。

關鍵詞：神經網絡;地球物理勘探;應用進展; 發展趨勢

地球物理是通過觀測數據去探測不同尺度的未知地質目標。對于絕大多數地球物理方法而言，探測目標的特征屬性和觀測數據之間并不存在線性對應關系，而是一種非線性映射，地球物理反演就是用正演模型去模擬這一映射[1]，但需要對觀測數據進行甄選。隨著地球物理數據的海量增長，人工甄選和提取數據已變得越來越不現實，這為深度學習在地球物理中推廣應用帶來了全新的機遇[2-3]。如何利用神經網絡提高地球物理數據處理效率和準確度是地球物理普遍關心的問題。此外，與傳統地球物理數據處理方法相比，神經網絡的優勢在于不需要對映射進行先驗限制，只要網絡經過訓練就可直接建立目標映射[4-6]。但是，神經網絡主要有“黑盒子”性質，且需大量數據驅動。由于地球物理問題的多解性及神經網絡的不確定性，神經網絡應用需要有足夠多合適的訓練數據，同時需要據網絡在實際數據的表現進行評估[6]。

1? 神經網絡的發展歷程

20世紀40年代，伊利諾伊大學McClloch和芝加哥大學Pitts基于數學和一種稱為閾值邏輯的算法創造了一種神經網絡的計算模型[7]，并由此開創了人工神經網絡（簡稱為神經網絡）學科（圖1）。20世紀60年代，由于多層神經網絡訓練的可能性被否定，70年代，神經網絡領域的研究基本處于停滯狀態。80年代，反向傳播算法的提取開啟了神經網絡的第二次研究高潮[8]。隨著計算機和網絡技術的飛速發展，地球科學已進入大數據時代，神經網絡迎來新一輪研究和應用高峰。卷積神經網絡（CNN）是目前最廣泛應用的深度神經網絡，主要特點為通過卷積運算操作來有效地提取數據特征，在學習到數據特征的同時能極大地減少網絡參數數量。由于卷積神經網絡的飛速發展，已在各個行業廣泛應用，在地球物理中的應用已從地震勘探拓展到地球電磁學和位場方法等多個領域，并有綜述文獻發表[2-3]。

2? 卷積神經網絡基本原理與技術框架

神經網絡的核心可以表示為：y =g（wxT +b），其中y為輸出，x為輸入，w為加權系統，b為偏置參數，g為激活函數。即神經網絡包含3個重要步驟：加權、偏置和非線性激活。神經網絡系統通常包含輸入層、輸出層和隱藏層。復雜神經網絡系統可理解為多個單一系統的組合，包含輸入層、輸出層和多個隱藏層。數據流從輸入層至輸出層的過程稱為正向傳播，反過來稱為反向傳播。

為克服傳統神經網絡運算量大、過擬合、參數過多等問題，學者們在傳統神經網絡的基礎上發展了卷積神經網絡。CNN的基本原理是讓神經網絡模仿人類在識別圖像時的局部感受機制，神經元（卷積核）檢測圖像是否滿足卷積核的特征并輸出相應的特征圖像，最后通過全連接層對該圖像進行分類（圖2）。通過反向傳播不斷地調整卷積核的權值，得到所需要的圖像識別器。CNN通過局部感知、共享權值、空間或時間上的池采樣來充分利用數據本身包含的局部特性，以優化網絡結構，保證一定程度上的位移和變形的不變性[9]。

3? 卷積神經網絡在地震勘探中的應用

20世紀40年代以來，地震勘探一直是勘探地球物理的主戰場，也是現代科技試驗田和前沿陣地。在1991年SEG年會上，神經網絡被列為“90年代技術突破”四類新興技術之一。經過30年的發展，以卷積神經網絡為代表的神經網絡已在地震勘探廣泛應用，在初至拾取與結構識別2個方面發展相對完善。

3.1? 初至拾取

初至拾取是估計地震事件位置及層析成像或矩張量反演等其他工作流程所必需的先期工作，本質上是一個模式識別過程，人工識別初至需耗費大量人力和時間，隨著地震數據的大量生成和積累，人工拾取已無法完成，因此許多學者不斷地探索自動化拾取初至的方法。Murat等 首次將人工神經網絡成功地應用于噪聲背景下的初至波提取，此后人工神經網絡甚至卷積網絡在初至拾取的有效性被多個團隊所驗證[11-19]。神經網絡的優勢在于一旦訓練完成，處理效率相較于人工處理有極大提高。McCormack等發現訓練好的網絡三維數據集拾取效率相較人工拾取提高了8倍。在這兩位學者之后，相關研究主要基于2個方面：提高神經網絡的訓練和處理速度與拾取準確度[11，14，15，19]。訓練速度方面，利用邏輯模糊網絡能保證不損失準確度的同時提升訓練速度[11]。Kahrizi等發現在準確度上MLP（多層感知器）表現出色，但在訓練速度上RBF（徑向基）神經網絡更有優勢[15]。準確度方面，Yuan等與Duan等指出前人對于地震相拾取的研究都是基于單道的，利用卷積神經網絡我們可進行多道數據分析;Zhe等利用級聯算法拾取地震初至，級聯算法的優勢在于其收斂速度快且不需要調整網絡結構[16]。Maity等人設計了一種新的混合自動拾取網絡結構，發現神經網絡在低信噪比情況下，表現比其他方法更穩定[14]。Yuan等指出人工神經網絡很少使用波形的空間相干特征，為此提出利用CNN進行初至拾取，但并未對比前人人工神經網絡的結果[17]。提取哪些地震屬性對初至拾取更有幫助也是未來值得研究的問題之一。

3.2? 基于圖像處理的地下結構識別

從地震圖像中圈定斷層是地震構造解釋、儲層描述和布井的關鍵步驟。地球科學家通常用一個或多個地震屬性來判斷三維地震圖像中的斷層，若所用屬性不能很好地將斷層與周圍非斷層區域區分開來，有可能導致錯誤解釋結果。卷積神經網絡的優勢在于無需選擇地震屬性，直接建立原始地震信號與斷層分布之間的映射，并且隨著數據增多，CNN對噪聲和不同模式的斷層識別能力會越來越強。Wu等提出一種基于卷積神經網絡二維地震圖像的斷層自動解釋方法。對于同一地震圖像相比于常規方法的結果，CNN能夠給出更清晰、更連續斷層的特征，甚至在更復雜的情況下，CNN仍然能夠很好地預測斷層分布[20]。Di等利用CNN原始疊后地震振幅建立地震信號與斷層分布之間的映射關系，并將CNN與其他方法進行對比。結果表明，CNN的分類結果最接近手動解釋結果[21]。Guitton等設計了一個3D卷積神經網絡（3DCNN），它在自動估計地震體特征方面非常有效，可幫助完成分類任務[22]。前人已證明CNN在斷層特征識別的有效性。為提升網絡性能，Shi等在每次卷積后都對結果進行正則化處理[23];Wu等采用U型網絡實現三維地震圖像的斷層識別（圖3），并使用了二元交叉熵損失函數平衡實際地震數據中0（非斷層）和1（斷層）之間的高度不平衡，這樣能使網絡對有斷層的地震數據更為敏感[24]。隨著地震數據的增長，需要新的平臺對數據進行管理。Huang等建立了一個基于云的地震數據分析平臺，該平臺可管理地震數據、計算地震屬性、進行特征提取和選擇，并應用深度學習軟件包（TensorFlow和Caffe）來推斷地下結構特征，為進一步工作打下堅實基礎[25]。CNN能夠有效地從原始地震數據中識別斷層，但離實際應用還有一定距離。今后需要評估已訓練模型的有效性。Shi等指出，今后可利用貝葉斯分割網絡（Bayesian Segnet）對模型的不確定性進行評估以提高推斷地下結構的可信度[23]。

4? 神經網絡在重磁勘探中的應用

相對于地震勘探而言，重力、磁法和電法面對的數學物理問題與地質模型更為復雜，雖然神經網絡在非地震勘探中發展歷程和地震相似，但進展更為緩慢，仍有很大的拓展空間。對于重磁位場數據，主要是利用位場數據反演地下重磁異常結構。

4.1? 神經網絡在重磁反演的應用

利用位場數據反演地下重磁異常結構也是學者們感興趣的問題。Poulton等通過電磁橢圓率數據反演地下導體的位置、深度和面積，并對比了不同結構神經網絡的計算速度與分類準確率。總體看來，對于維度超過100的輸入向量，自組織映射到反向傳播的混合網絡雖然速度較慢，但測試效果最好[26]。Elawadi 等利用反向傳播神經網絡估計微重力數據，探測美國Medford洞穴在地下的深度，估算參數與鉆探資料吻合良好。Elawadi 等指出神經網絡優勢在于反演效率更高，對大型復雜數據集提供靈活解決方案，同時對噪聲容忍性更高[27]。Bescoby等與Al-Garni等利用人工神經網絡（ANN）對地下磁性體參數進行反演，結果表明ANN對于實測數據的表現令人滿意[28-29]。Al-Garni利用模塊化神經網絡反演傾斜堤壩模型參數，對于印度安得拉邦卡里姆納加爾地區露頭石英脈狀巖體磁異常和秘魯馬可納地區的馬可納磁異常。結果表明，與大多數常規方法相比，該技術與實測資料吻合較好[30]。由于實際地質模型的復雜性，常需建立不同網絡來反演模型，這是神經網絡在重磁勘探中的發展較為緩慢的主要原因。

4.2? 神經網絡在地電學中的應用

神經網絡在地電學的應用主要分為3方面：大地電磁測深時間序列處理、直流電測深模型反演和大地電磁反演。神經網絡在一維直流電測深模型的反演已相當成熟[31-32]。El-Qady等指出，對于一維反演問題神經網絡的結果已足夠讓人滿意。Srinivas等在前人的基礎上選擇比較了不同網絡在一維直流電測深視電阻率反演的表現，如徑向基網絡、廣義回歸網絡和前饋反向傳播網絡。選取10組合成數據對網絡進行測試，發現前饋反向傳播網絡表現最佳[38]。二維模型的反演問題仍有待研究[14，28，36]。Neyamadpour等對反向傳播、彈性傳播等不同算法進行比較，發現在訓練過程中，彈性傳播算法收斂更快、誤差更小。對于二維直流電測深模型反演，彈性反向傳播算法可能是一個較有效的選擇。

神經網絡在大地電磁反演也有應用。普遍認為一維反演需要不同神經網絡學習不同的一維模型[4，36-37]。實現自動化反演需要多個網絡組成的模塊化神經網絡，部分網絡負責對曲線分類，部分負責對曲線回歸[37-38]。對于二維問題，有學者傾向于先對電磁場數據分類再回歸，但二維模型如何分類仍有待研究[39-41]?？偟膩碚f，一維大地電磁反演較為成熟，二維反演的模型分類及如何設計網絡仍有待研究，三維問題的反演結果不盡人意（圖4）[40]。

神經網絡還能用于大地電磁時間序列噪聲識別與去噪分析。電導率結果的可靠性主要取決于電磁場數據的信噪比，采用人工處理的方法需要觀察時間序列后手動刪除異常數據，耗時費力。學者們為解決該問題提出許多人為消除電磁干擾的方法，相較于神經網絡，其他方法無法同時在時域和頻域壓制噪聲[42]。神經網絡去噪的可行性已得到認可[43，44]，它的優勢在于能夠快速、穩健地剔除時間序列中的噪聲，在低信噪比情況下，神經網絡的表現與人為剔除結果具有一致性[44]。未來應結合無監督式分類器與監督式循環網絡進行去噪，無監督式學習可幫助數據分類并節省時間。

5? 主要認識

神經網絡在地球物理圖像識別和數據處理中已取得不俗成果，但在反演中的應用還有待探索，而神經網絡在分類中表現更為出色。神經網絡本身更適合分類問題，回歸問題會弱化神經網絡非線性模擬的優勢，且對標簽數據逆歸一化，也需假定預測數據和訓練數據為同一分布，這對于地球物理的實測數據要求過于苛刻。神經網絡的優勢主要有2點：①多個線性分類器組合給予其強大的非線性模擬能力，面對大量數據神經網絡的表現顯著優于傳統算法;②神經網絡的訓練和預測是分開的，使得神經網絡在處理大量數據時速度和準確度具有壓倒性優勢。神經網絡的缺陷也很明顯，當出現不同分布的數據，網絡需要不斷訓練來建立新的映射，對神經網絡的應用造成一定阻礙。面對多種網絡結構和算法，必須理解其原理，針對問題滿足不同需求。誤差分析對于神經網絡的實際應用尤為重要，可幫助人們理解在哪些數據上“犯錯”，以便按照生產實踐要求進行優化?？傊?，神經網絡在地球物理中的可行性已被學者們廣泛認可，但在很多實際應用領域有待探索。

參考文獻

[1]? ? Zhdanov M S. Geophysical inverse theory and regularization problems[M].Annals of Glaciology，2002，32（1）：321-327.

[2]? ? 王昊，嚴加永，付光明，等.深度學習在地球物理中的應用現狀與前景[J].地球物理學進展，2020，35（2）：0642-0655

[3]? ? 王家映.人工神經網絡反演法[J].工程地球物理學報，2008，5（3）：? 256-265

[4]? ? Poulton M M. Neural networks as an intelligence amplification tool： A review of applications[J].Geophysics，2002， 67（3）：979-993.

[5]? ? Sandham? W A. Leggett， M. Geophysical applications of artificial? ?neural networks and fuzzy logic[M]. Kybernetes，2003，21

[6]? ? Baan M ，Jutten C. Neural networks in geophysical applications[J].? Geophysics，2000， 65（4）：1032-1047.

[7]? ? McCulloch W S， Pitts W. A logical calculus of the ideas immanent in nervous activity[J]. The bulletin of mathematical biophysics，1943， 5（4）：115-133.

[8]? ? Hinton G E .Osindero， S. A fast learning algorithm for deep belief nets[J]. Neural Computation，2006， 18（7）：1527-1554.

[9]? ? Lecun Y， Bottou L， Bengio Y，et al. Gradient-based learning applied to document recognition[J]. Intelligent Signal Processing，2001，86（11）：306-351.

[10]? 付文博，孫 濤，梁 藉，等.深度學習原理及應用綜述[J].計算機科學，2018，45（6）：11-15.

[11]? Chu P， Mendel J M. First break refraction event picking using fuzzy logic systems[J].IEEE International Conference on Fuzzy Systems，1993， 2（4）：255-266

[12]? Murat M E， Rudman A J. AUTOMATED FIRST ARRIVAL PICKING： A NEURAL NETWORK APPROACH1[J]. Geophysical Prospecting，1992， 40? ? ? （6）： 587-604.

[13]? McCormack， M D. FIRST-BREAK REFRACTION EVENT PICKING AND SEISMIC DATA TRACE EDITING USING NEURAL NETWORKS[J].Geo? ? physics，1993， 58（1）：67-78.

[14]? Maity D， Aminzadeh， F， Karrenbach M. Novel hybrid artificial neural network based autopicking workflow for passive seismic data[J]. Geophysical Prospecting，2014， 62（4）：834-847.

[15]? Kahrizi A， Hashemi H. Neuron curve as a tool for performance evaluation of MLP and RBF architecture in first break picking of seismic data[J]. Journal of Applied Geophysics，2014， 108：159-166.

[16]? ?Zhe L， Rong S， Weixiu X， et al. The Improvement of Neural Network Cascade-Correlation Algorithm and Its Application in Picking Seismic First Break[J]. Advances in Petroleum Exploration and Development，2013， 5（2）：41-51.

[17]? ?Yuan S， Liu J， Wang S， et al. Seismic Waveform Classification and First-Break Picking Using Convolution Neural Networks[J]. IEEE Geoscience and Remote Sensing Letters，2018， 15（2）：272-276.

[18] Zhu W， Beroza G C. PhaseNet： a deep-neural-network-based seismic arrival-time picking method[J]. Geophysical Journal International，2018， 216（1）：261-273.

[19] Duan X， Zhang J. Multitrace first-break picking using an integrated seismic and machine learning methodPicking based on machine learning[J]. Geophysics，2020， 85（4）：269-277.

[20] Wu X， Shi， Y. Fomel， S.，Liang， L. Convolutional neural networks for fault interpretation in seismic images[J]. In 2018 SEG International Exposition and Annual Meeting，2018：1946-1950

[21] Di H， Wang Z， AlRegib G. Seismic Fault Detection from Post-Stack Amplitude by Convolutional Neural Networks[J]. In 80th EAGE Conference and Exhibition 2018，2018：1-5.

[22] A Guitton， 3D Convolutional Neural Networks for Fault Interpretation[J].In 80th EAGE Conference & Exhibition 2018，2018：1-5

[23] Shi Y， Wu X， Fomel S. Automatic salt-body classification using a deep convolutional neural network[J]. In 2018 SEG International Exposition and Annual Meeting，2018：1971-1975

[24] Wu X， Liang L， Shi Y， Fomel， S. （2019）. FaultSeg3D： Using synthetic data sets to train an end-to-end convolutional neural network for 3D seismic fault segmentation CNN for 3D fault segmentation[J]. Geophysics， 84（3）：35-45.

[25] Huang L， Dong X， Clee T E. A scalable deep learning platform for identifying geologic features from seismic attributes[J]. Geophysics，2017，36（3）：249-256.

[26] Poulton M M.“Location of Subsurface Targets in Geophysical? ? ? ? Data Using Neural Networks.” Geophysics，57（12）：1534-1544.

[27] Elawadi E， Salem A， Ushijima K. Detection of cavities and tun? ? ?nels from gravity data using a neural network[J]. Exploration? ? ? ? ? ?Geophysics， 2001，（1）：1-4.

[28] Bescoby D J， Cawley G C， Chroston P N. Enhanced interpretation of magnetic survey data from archaeological sites using arti? ? ?ficial neural networks[J]. Geophysics，2006， 71（5）：45.

[29] Al-Garni， Mansour A. “Interpretation of Magnetic Anomalies Due to Dipping Dikes Using Neural Network Inversion[J].” Arabian Journal of Geosciences，2014，8（10）：8721-8729.

[30] Al-Garni， Mansour A. “Interpretation of Some Magnetic Bodies Using Neural Networks Inversion[J].” Arabian Journal of Geosciences，2009，2（2）：175-184.

[31] Calderón-Macías C， Sen M K， Stoffa， P L. Artificial neural networks for parameter estimation in geophysics[J]. Geophysical Prospecting，2000， 48（1）：21-47.

[32] El-Qady G， Ushijima K. Inversion of DC resistivity data using neural networks[J]. Geophysical Prospecting，2001，49（4）：417-430.

[33] Srinivas Y， Raj A S， Oliver D H. Muthuraj， D.， et al.A robust behavior of Feed Forward Back propagation algorithm of Artificial Neural Networks in the application of vertical electrical sounding data inversion[J]. Geoscience Frontiers，2012，3（5）：729-736.

[34] Singh U K， Tiwari. Inversion of 2-D DC resistivity data using rapid optimization and minimal complexity neural network[J]. Nonlinear Processes in Geophysics，2010， 17（1）： 65-76.

[35] Neyamadpour A， Taib S， Abdullah. Using artificial neural networks to invert 2D DC resistivity imaging data for high resistivity contrast regions： A MATLAB application[J]. Computers & Geosciences，2009， 35（11）：2268-2274.

[36] Hidalgo H，Gomez-Trevino E，Swiniarski R.Neural network approximation of an inverse functional[J].In Proceedings of 1994? ? ? ?IEEE International Conference on Neural Networks，1994，5：3387 -3392.

[37] Zhang L， Poulton. Borehole electrical resistivity modeling using neural networks[J]. Geophysics，2002， 67（6）：1790-1797.

[38] Poulton M M， Birken R A. Estimating one-dimensional models from frequency-domain electromagnetic data using modular neural networks. IEEE Transactions on Geoscience and Remote Sensing，1998，36（2）：547-555.

[39] Zhang Y， Paulson K V， Magnetotelluric inversion using regularized Hopfield neural networks[J]. Geophysical Prospecting，1997，45（5）：725-743.

[40] Shimelevich M I， Obornev E A. Formalized Inversion of Geophysical Data Using Neural Network Technologies with Application to the Tasks of Geoelectrics and Gravimetry[J]. In Engineering and Mining Geophysics 2019 15th Conference and Exhibition，2019，2019：1-5.

[41] Shimelevich M I， Obornev M A. Rapid neuronet inversion of 2D magnetotelluric data for monitoring of geoelectrical section parameters[J]. Annals of Geophysics，2007， 50（1）.

[42] Popova I V， Ogawa Y. Application of a Modified Hopfield Neural Network to Noisy Magnetotelluric Data[J]. Izvestiya-Physics of The Solid Earth，2007， 43（3）：217-224.

[43] Carbonari R， Maio R D， Piegari， E. Filtering of noisy magnetotelluric signals by SOM neural networks[J]. Physics of the Earth and Planetary Interiors，2018，285：12-22.

[44] Manoj C， Nagarajan N. The application of artificial neural networks to magnetotelluric time-series analysis[J]. Geophysical Journal International，2003，153（2）：409-423.

Application of Neural Network in Exploration Geophysics

Wang Sihao，He Lanfang，Li Liang

（Institute of Geology and Geophysics， Chinese Academy of Sciences， Beijing，100029，China）

Abstract：With the development of the geophysical and geological computing， neural network， a data-driven modeling tool， has been widely used in geophysics. Great progress has been made in geophysical data processing and image recognition based on neural network. We briefly reviews the state of the art and the way ahead of the neural network and its apllication in geophysics in this paper. The development history， basic principles and main technical framework of neural network， summarizes the application of neural network in exploration seismic， electromagnetic， gravity and magnetic exploration are presented. The advantages and disadvantages of neural network are discussed. The feasibility of neural network in geophysics has been widely recognized by scholars， but there are still a series of problems to be further explored in practical application.

Key words： Nerual network;Geophysical exploration; Application progress; Development trend