基于多源數據和深度學習方法的全球實時電離層模型構建

云昌盛,徐位墅,葉穎

(1.南方電網大數據服務有限公司,廣東 廣州 510655; 2.武漢大學測繪學院,湖北 武漢 430079)

0 引 言

電離層是近地空間環境的重要組成部分,電離層總電子含量(Total Electron Content,TEC)是表征電離層狀態變化的重要參數,通過獲取電離層TEC可以有效地觀測電離層的時空變化,因此對電離層TEC進行建模與預報十分必要。同時由于天頂方向的總電子含量(Vertical Total Electron Content,VTEC)能夠反映測站上空電離層的總體特征,所以本文采用預測VTEC值來建立電離層模型[1,2]。

對電離層VTEC進行預測的本質是時間序列問題。常用的傳統時序預測方法有自回歸模型(Autoregressive model,AR)、移動平均模型(Moving Average model,MA)、指數平滑法、霍爾線性趨勢法,以及在時間序列預測中被廣泛使用的求和自回歸移動平均模型(Autoregressive Integrated Moving Average model,ARIMA)等。時間序列模型建立在統計學基礎上,其結構簡單且短期預測精度有所提高。但是張小紅等人在使用ARIMA進行短期TEC預測時指出,當樣本序列長度超過30d時相對預測精度隨樣本序列長度的增加而降低[3,4]。

由于電離層在時空變化和內部結構上的復雜性,建立高精度的電離層模型十分困難。數據量巨大、特征規律難以通過固定公式描述、參數多等問題是傳統經驗模型和實測模型的痛點,但這卻恰好是深度學習模型十分擅長處理的領域。因此利用深度學習對電離層VTEC值進行建模與預報受到了越來越多人的青睞。

人工神經網絡(Artificial Neural Network,ANN)是一種典型的非線性模型。ANN是深度學習當中最基礎的一種網絡,常用的神經網絡有BP神經網絡、徑向基函數神經網絡(Radial Basis Function network,RBF)、自組織映射神經網絡(Self-Organizing Map network,SOM)等。其中,BP神經網絡被廣泛應用于時間序列預測問題,其具有極強的非線性映射能力,并且能夠自適應調節內部權重,但是其存在局部最優解問題,以及在當前時刻不會考慮上一時刻的狀態信息。

為了使網絡具有記憶能力,能夠處理序列數據,循環神經網絡(Recurrent Neural Network,RNN)被提出并被廣泛應用于時間序列預測問題[5],但是傳統RNN存在梯度爆炸以及梯度消失引起的長期依賴問題。

長短期記憶網絡(Long Short-Term Memory network,LSTM)是常見的一種RNN,其有效克服了上述問題。基于上述原因,本文選用長短期記憶LSTM網絡構建模型對電離層VTEC值進行單步預測。

1 LSTM模型原理

長短期記憶網絡LSTM是循環神經網絡RNN的常見變種,其主要是在標準RNN網絡結構的基礎上,對隱藏層循環單元中的內部結構進行改進得到的。標準RNN的循環單元結構簡單,通常只含一個tanh層或其他非線性激活函數;而LSTM的循環單元則由輸入門(input gate)、遺忘門(forget gate)和輸出門(output gate)以及儲存信息的細胞狀態(cell state)組成。這三個門結構可以刪除或添加細胞狀態中的信息,選擇性地讓信息通過,幫助每個單元保持穩定,避免了梯度消失和梯度爆炸;同時細胞狀態的加入使LSTM可以存儲時間序列的歷史信息,具備了長期記憶的能力[6,7]。

LSTM模型按照輸入和輸出值所包含時間步的多少,以及輸入變量的多少可分為不同模型。本文對LSTM模型輸入VTEC值、時間、緯度、Dst指數和F10.7多個特征變量,并用多個時間步的輸入預測下一時刻單一時間步的VTEC值,因此本文使用的是many-to-one LSTM模型進行多變量單步預測。模型結構如圖1所示,其中X1-Xn表示輸入的n個變量,X(1)-X(t)表示t個時間步的輸入變量;y為輸出值;u為內部狀態[8]。

圖1 LSTM many-to-one多變量單步預測網絡結構

2 實驗數據及模型構建

2.1 數據介紹

模型所用的電離層VTEC數據來自歐洲定軌中心(Center for Orbit Determination in Europe,CODE)提供的GIM模型電離層產品(ftp://ftp.aiub.unibe.ch/CODE/),從中選取了經度相同、緯度不同并且涵蓋高、中、低緯區域的三個網格點2017—2018年的VTEC數據,選取格網點的經緯度分別為(5°N,120°E)、(30°N,120°E)、(55°N,120°E),數據時間分辨率為1小時。地磁Dst指數和太陽活動指數F10.7數據來自GSFC/SPDF OMNIWeb(http://omniweb.gsfc.nasa.gov),時間分辨率同樣是 1 h。

本文數據處理及模型構建流程如圖2所示:

圖2 數據處理及模型構建流程示意圖

2.2 數據預處理

(1)構建數據集:利用VTEC值、日期序列值(自0000年1月0日以來的整個天數及其小數值)、地理緯度、地磁Dst指數、太陽 10.7 cm輻射通量F10.7共五個特征變量的數據構建數據集。

(2)數據集的標準化和歸一化:以數據集的70%作為訓練數據用于訓練模型,以10%作為驗證數據用于檢驗模型狀態及調整超參數,以20%作為測試數據用于預測及評估模型精度。并首先對訓練集中的VTEC值進行標準化,對日期序列值、緯度、Dst、F10.7分別進行歸一化。再利用標準化和歸一化訓練集得到的參數,對驗證集和測試集VTEC值進行標準化以及對其他四個特征變量進行歸一化,以便于使LSTM模型梯度快速下降,提高預測精度。

(3)構建輸入和輸出樣本序列:分別在訓練數據、驗證數據和測試數據內進一步劃分,依次構造訓練集、驗證集和測試集的輸入和輸出樣本序列用于放入模型進行訓練、驗證和預測。由于電離層VTEC有明顯的逐日變化特性,故取前 24 h數據作為LSTM模型的輸入,未來 1 h的VTEC值作為輸出。例如:如果我們要預測某網格點2018年10月10日0時的VTEC值,則需要輸入2018年10月9日0—23時的VTEC值、日期序列值、緯度、Dst指數和F10.7,以此構成輸入樣本序列及其響應[9-13]。

2.3 模型構建

超參數用于控制算法行為,其不能通過算法自身學習得到,需要人為設置。為使結果最優,經過不斷調試,本文用到的參數和超參數以及其最終取值如表1所示[14]:

表1 參數和超參數表

(2)模型訓練:構建好LSTM模型后,將訓練集的輸入和輸出樣本序列放入網絡當中進行訓練。通過損失函數半均方誤差判斷模型是否訓練完成,當損失函數趨于平穩并且降低至一定程度后,模型訓練完畢。

(3)模型預測及預測結果反標準化:利用訓練好的LSTM模型對測試集數據進行單步預測,并利用此前標準化訓練集時計算得到的參數對預測值進行反標準化,預報未來五天的VTEC值。

3 實驗結果及分析

將(5°N,120°E)、(30°N,120°E)、(55°N,120°E)三個網格點在平靜期(2018年9月15日—2018年9月19日)和磁暴期(2018年8月24日—2018年8月28日)的輸入樣本序列分別放入訓練好的LSTM模型進行預測,得到預測值與電離層模型產品值的對比曲線,并計算兩者之間的絕對誤差,結果如圖3和圖4所示:

圖3 平靜期預測值與真實值對比曲線及Dst和F10.7指數

圖4 磁暴期預測值與真實值對比曲線及Dst和F10.7指數

圖3(a)、(b)、(c)為(5°N,120°E)、(30°N,120°E)、(55°N,120°E)三個網格點在平靜期2018年9月15日—2018年9月19日的預測值與真實值的對比曲線及絕對誤差情況;(d)為此期間的地磁Dst指數和太陽 10.7 cm輻射通量F10.7情況。為查驗模型在不同磁暴條件下的預測效果,對三個網格點磁暴期進行預測。圖4(a)、(b)、(c)為三個網格點在磁暴期2018年8月24日—2018年8月28日的預測結果,其中8月26日Dst達到最小值-174nT,發生大磁暴;(d)為此期間的地磁Dst指數和太陽 10.7 cm輻射通量F10.7情況。

從圖3和圖4來看,構建的LSTM模型能較為準確地預報出真實趨勢,且大多數絕對誤差都能控制在2 TECU之內,整體預測效果較為理想。

此外,也分別對平靜期和磁暴期的相對誤差情況進行統計,如表2、表3所示:

表2 平靜期相對誤差分布情況統計表

表3 磁暴期相對誤差分布情況統計表

對三個網格點相對誤差分布的均值進行直方統計,結果如圖5所示:

圖5 平靜期和磁暴期相對誤差直方統計對比圖

從表2來看,三個網格點相對誤差的平均值有九成小于30%,其中一半以上的相對誤差均在10%以下,模型預測結果良好。對圖5進行分析,相對誤差在平靜期近正態分布,近35%的數據相對誤差小于5%,模型預測結果的相對誤差在平靜期的表現要優于磁暴期。

為對預測結果進行進一步定量評估及對比分析,本文采用了相關系數(Correlation Coefficient,R2)、均方根誤差(Root Mean Square Error,RMSE)、平均絕對誤差(Mean Absolute Error,MAE)、平均絕對百分比誤差(Mean Absolute Percentage Error,MAPE)這四個評價指標。三個網格點在平靜期和磁暴期的評價指標計算結果如表4所示:

表4 三個網格點在平靜期和磁暴期的評價指標值

對表4中各評價指標的值進行分析可以看出,對于不同的地理緯度,構建的LSTM模型對中緯度區域的VTEC值預測效果最佳,高、低緯度區域預測結果稍差。對于不同的電離層環境,模型在低緯度和中緯度的表現差異不大;但是在高緯度區域,LSTM模型在電離層平靜期的預測效果顯著優于磁暴期。因此就整體來看,LSTM模型更適合用于中緯度區域電離層平靜期的VTEC值預測。

4 結 論

從上述預測結果及統計分析中不難看出,本文構建的LSTM多變量單步預測模型不論是在高緯度、中緯度還是低緯度區域,不論是在地磁平靜期還是在磁暴期,預測結果的RMSE幾乎均能小于2 TECU,這表明在多數情況下的回歸效果相比真實值平均只相差2 TECU以下,模型預測效果比較理想。但是相比其他緯度和電離層環境,LSTM模型在中緯度區域電離層平靜期的VTEC值預測表現更佳。

未來,可以將全球范圍內的多個網格點放入模型訓練,嘗試構建全球電離層模型。此外,還可以在前人工作的基礎上進一步改進模型進行VTEC長期預報,如嘗試TaiebS.B等人提到的矯正策略[15],或者KimJ.等人將平靜期和磁暴期分開建立兩個模型用于預測的方法[16]。