
摘" 要:我國是世界上震害嚴重的國家之一,提高地震預測預報水平是國家和社會公眾的迫切需求。地球物理臺網的發展在地震預測、資源勘探和環境監測等領域發揮重要作用。該文介紹一種基于Python開發的地球物理臺網數據實時采集與監控系統。該系統集成實時數據采集、智能分析和故障報警三大核心功能。數據采集利用Python的requests庫,通過模擬登錄獲取地震觀測儀器的數據。智能分析模塊通過對省級數據庫中的數據進行統計分析,提取關鍵指標并評估數據質量。故障報警功能則監測儀器的通信狀態,一旦檢測到異常,系統會自動觸發警報,提醒值班人員及時處理。該系統不僅提升地球物理觀測網絡的自動化和智能化水平,還為地震監測和數據管理提供有力支持。
關鍵詞:地震預測;地球物理臺網;實時數據采集;智能分析;故障報警;Python
中圖分類號:P315.73" " " 文獻標志碼:A" " " " " 文章編號:2095-2945(2025)06-0040-04
Abstract: China is one of the countries with serious earthquake disasters in the world. Improving the level of earthquake prediction and prediction is an urgent need of the country and the public. The development of geophysical networks plays an important role in the fields of earthquake prediction, resource exploration and environmental monitoring. This paper introduces a real-time data acquisition and monitoring system for geophysical network based on Python. The system integrates three core functions: real-time data collection, intelligent analysis and fault alarm. Data acquisition uses Python's requests library to obtain data from seismic observation instruments through simulated login. The intelligent analysis module performs statistical analysis on data in provincial databases, extracts key indicators and evaluates data quality. The fault alarm function monitors the communication status of the instrument. Once an abnormality is detected, the system will automatically trigger an alarm to remind the person on duty to deal with it in a timely manner. This system not only improves the automation and intelligence level of geophysical observation networks, but also provides strong support for earthquake monitoring and data management.
Keywords: earthquake prediction; geophysical network; real-time data acquisition; intelligent analysis; fault alarm; Python
我國是世界上震害嚴重的國家之一,提高地震預測預報水平是國家和社會公眾的迫切需求。盡管地震監測預報工作已經取得了一些進展,但仍面臨著諸多挑戰[1-3]。地球物理學作為研究地球物理場和地球內部結構的科學,在地震預測、資源勘探和環境監測等領域發揮著重要作用。
地球物理學科業務人員可以通過多種技術手段實現對觀測網絡的高效監控和管理,以確保數據的連續性和準確性,并及時發現且解決網絡問題,提高數據質量。
通過構建基于Nagios地震觀測網絡監控平臺[4],實現對設備和服務的綜合監控。趙楠、姜佳寧、趙祖虎等[5-7]通過編寫自動化監控報警軟件實現對網絡進行監控,并對異常情況發出告警。崔博聞等[8]通過編程針對Oracle數據庫的監測實現更為復雜的地球物理管理系統。這些技術的應用不僅促進了地球物理觀測網絡的自動化和智能化,還為地震監測和數據管理提供了強有力的支持。
本項研究是使用成熟的技術實現地球物理臺網數據的實時采集和存儲,并對采集的數據進行校驗和數據質量的簡單評價。對于數據的缺失、突跳以及超量程等問題,研究將提供及時的處理方法,以提高數據的可靠性和及時性。
1" 系統設計
本系統采用Python開發,集成了實時數據采集、智能分析和故障報警三大核心功能。地球物理臺網涵蓋了流體、地電、形變、重力和地磁等五大學科領域[9]。這些學科的儀器設備,如地電場、地磁、形變、流體和重力儀器,均可通過網頁進行信息查詢、配置調整,并能夠實時讀取儀器記錄的數據[10]。數據采集功能通過Python的requests模塊實現,該模塊攜帶用戶認證信息模擬登錄過程,獲取并解析儀器的實時數據輸出。
智能分析模塊則通過連接到省級數據庫,對儀器的3至7天預處理數據進行深入分析,提取關鍵統計指標如平均值和標準差。對于形變類儀器,該模塊還能計算當前的形變速率,并根據實時數據評估是否接近或超出量程邊界。一旦檢測到超量程情況,系統將自動觸發警報機制。
黑龍江局的地電場儀器自2007年起便開始服役,部分儀器因使用年限較長可能出現死機或假死現象。故障報警功能通過監測數據采集情況和儀器的網絡通信狀態,判斷儀器是否運行正常。一旦發現通信異常或數據采集中斷,系統將通過聲音警報提醒值班人員,以便及時采取相應措施。
2" 數據實時采集
地球物理臺網各學科Web管理頁面相似,需要用戶名和密碼,驗證身份信息。驗證身份后,可以讀取儀器的參數、儀器狀態、下載儀器中存取的數據、讀取當天的數據等。這里以黑龍江省牡丹江中心站密山地震臺地電場儀作為實驗對象,設計地電場觀測Web網頁數據提取流程。密山地電場儀登錄后,可以查閱當前儀器產出數據。
使用Python的requests庫,模擬用戶、密碼登錄,攜帶此次訪問的cookies訪問下載頁面,直接保存數據。
對用戶名和密碼進行base64編碼,把編碼信息寫入請求頭,實現身份的認證,requests.Session()用于保持會話的持久性,這樣可以在多個請求之間保持cookies和其他會話參數。再次請求當前數據頁面,對數據解析。
使用正則表達式移除返回數據中的HTML標簽,對每一行數據進行分割,第1列為時間,可以和當前日期拼接,轉化成可以識別的datetime格式,便于后面的繪圖,后面幾列為各道數據進行分割。經過以上的操作,我們獲取當前日期的儀器所采集的各測道數據。
我們采用數據融合技術,以便于更準確地展示和評估密山地震臺地電場的實時監測數據。圖1詳細展示了我們的數據集成結果,其中黑色線條代表了從Oracle數據庫中提取的歷史數據,而灰色線條代表直接從監測儀器采集的實時數據。確保數據的連續性和完整性,我們收集3天的數據集。
由于在每天的0點之后至與省局地球物理臺網和中心站進行數據交換之前,存在一段時間的數據缺失,這可能會影響我們對地電場變化趨勢的全面理解。為了彌補這一數據空白,直接從地電場監測儀器下載前一天缺失的數據段。這種方法不僅確保了數據采集的連續性,而且提高了我們研究的可靠性和有效性。
通過將這兩部分數據進行精確拼接,我們成功地構建了一個完整的數據集,并將其存儲為pandas的DataFrame格式,這為后續的數據分析和可視化提供了極大的便利。
對于地磁數據,我們所處理的數據集記錄的時間均以國際標準時間(UTC)為基準。考慮到地區時差的影響,將所有時間數據轉換為北京時間(CST)。將數據庫中的UTC時間數據統一加上8個小時,以實現時區的轉換。
流體水位儀、水溫儀,形變的寬頻帶傾斜儀(VP)、垂直擺傾斜儀(VS)、水管傾斜儀(DSQ)、銦瓦棒伸縮儀,重力的相對重力儀(PET),氣象三要素等均可以通過網頁形式獲取當前的最新數據,方法和原理類似,這里就不做過多的介紹。
為減少儀器訪問壓力,我們每10分鐘采集一次數據。這不僅能夠降低服務器負載,還能節省計算成本。
3" 數據質量監控
數據質量監控模塊,通過一系列校驗和異常檢測手段,全面評估和提升數據質量。我們采用基于統計和規則的異常檢測。通過對異常值占比統計和數據質量評分,提供數據質量評估報告。并設定報警機制,以便于在數據質量低于預期時及時通知值班人員。
3.1" 數據完整性校驗
在數據完整性校驗方面,所有儀器的采樣率和最新采集數據時間都是已知的。通常情況下,儀器錯誤數據用NULL表示,我們可以統計NULL數量來獲取缺失數據量,并計算當前儀器的連續率。如果發現超過10分鐘或更長時間的數據缺失,將觸發報警。
連續率的計算公式是
連續率=(實際樣本數/預期樣本數)×100%。
3.2" 異常值檢測
我們通過從數據庫下載與實時數據的拼接,基于統計學方法進行檢測,并對異常值進行標注。具體方法是,計算數據庫中前7天數據的均方差作為閾值,如果當前產出數據的波動大于2倍均方差,則被認定為異常值,對異常值進行標注。
異常值檢測還可以基于預定義的規則進行,例如,德都地磁臺GM-4磁通門磁力儀Z分量設置范圍為13~254 nT,H分量設置為-34~168 nT,D分量磁偏角為-67~-25分,設置地磁數據范圍合理,能有效減少報警次數,檢測并標注異常值。如果檢測到的異常值數量超過閾值,系統將觸發報警。
4" 實時報警
在數據質量監控中,可以通過聲音報警、郵件通知和企業微信消息多種方式,根據不同場景提供靈活的報警手段。
4.1" 聲音報警
聲音報警是最直接的報警方式,當系統檢測到數據完整性或異常值問題時,將通過揚聲器發出警報音,提醒值班人員立即查看系統狀態。
4.2" 郵件通知
郵件通知適用于需要詳細記錄報警信息的場景。當數據質量出現異常時,系統會自動發送郵件至相關負責人,郵件內容可包含報警詳情、影響范圍及建議處理措施,確保問題能夠被及時關注和跟進。
4.3" 企業微信通知
如果有兼顧外部網絡環境,可以通過企業微信進行消息推送。企業微信消息是一種便捷的實時通信方式,可以通過企業微信API實現報警消息的發送。
5" 結束語
本系統在地球物理臺網中應用廣泛,特別是電磁學科、形變學科、流體學科等領域。通過實時數據采集和智能分析,系統能夠提供精準的設備狀態和數據質量監控。在實際應用中,系統能夠自動收集和整合各類觀測數據,并通過數據融合技術展示監測結果。
對于數據的完整性和質量,系統通過實時監控、異常值檢測和質量評估等功能,確保數據的可靠性。系統在發現異常情況時,會通過聲音報警、郵件通知和企業微信消息等方式進行警報,幫助值班人員及時響應。此外,為了減少儀器訪問壓力,系統設置了每10分鐘采集一次數據,優化了數據獲取效率。
結合這些功能,本系統不僅提高了地球物理臺網的自動化和智能化水平,還為日常工作提供了定制化服務,減少了人為干預,增強了數據管理和分析的能力。隨著臺網儀器的增加,系統的智能分析框架將進一步擴展,為地震監測和地球物理數據管理提供更強有力的支持。
參考文獻:
[1] 劉桂萍.我國地震預測回顧與展望[J].城市與減災,2020(6):5-9.
[2] 蔣海昆.重視預報過程反思提高地震預測水平[J].國際地震動態,2005(5):151-153.
[3] 丁鑒海,劉杰,余素榮.中國地震預報探索與實踐[J].地震,2000(S1):12-17.
[4] 高東輝,孟祥龍,張守國,等.基于Nagios的網絡監控系統在黑龍江地震監測網絡中的應用[J].防災減災學報,2013,29(2):67-73.
[5] 趙楠,石英杰,江沛春.區域虛擬地震臺網數據流監控軟件研發[J].地震地磁觀測與研究,2015,36(4):150-153.
[6] 姜佳寧,吳利軍,徐磊,等.地震觀測儀器自動監控軟件設計與實現[J].地震地磁觀測與研究,2019,40(4):167-175.
[7] 趙祖虎,吳利軍,姜佳寧,等.地球物理臺網儀器監控可視化系統設計與實現[J].地震地磁觀測與研究,2022,43(2):233-241.
[8] 崔博聞,韓孔艷,費伯秀,等.北京市地球物理臺網數據運行監控系統[J].科技創新與應用,2022,12(6):39-41,45.
[9] 王軍,余丹,黃經國,等.基于大數據架構的地球物理觀測數據管理系統[J].中國地震,2024,40(1):144-159.
[10] 李蒙亞,楊碩,儲翔,等.基于地殼形變觀測網頁結構的實時數據自動獲取及應用[J].地震地磁觀測與研究,2022,43(5):208-212.
基金項目:黑龍江省地震局科研項目(202301);黑龍江省地震局創新團隊(無編號)
第一作者簡介:高峰(1976-),男,碩士,副高級工程師。研究方向為地震監測、預報與地電地磁數據綜合分析應用。