基于LSTM的GPS衛星鐘差預測算法*

李 旻

（海軍裝備部駐無錫地區軍事代表室 無錫 214105）

1 引言

隨著全球衛星導航系統的不斷發展與完善，衛星導航與授時的應用已經深入社會發展的各個層面。隨著社會的不斷發展，對導航定位和授時精度的要求也越來越高，衛星導航定位的精度本質上也是對時間的高精度測量。但衛星提供時間的精度程度受到眾多條件制約，如衛星鐘本身的精確程度、實時精密衛星鐘差、大氣延遲修正和衛星自身硬件條件等。雖然目前國際上已經出現了光鐘的系統誤差的不確定度達到9E-19 量級［1］，但衛星鐘的系統誤差還達不到如此高的精度，如在現有條件下提高衛星導航、定位和授時的精度，就需要盡可能提高衛星鐘差預測的精度，為進一步提高衛星導航、定位和授時精度創造條件。目前導航衛星上使用的大部分還是銣原子鐘［2］，現有條件下常用的提高定位和授時精度的方法是通過合適算法對鐘差等主要誤差進行預測，進而提高導航、定位和授時精度。在衛星鐘差預測領域，目前使用的較為廣泛的預測模型包括多項式模型［3］和灰色模型［4～5］等，但是其預測精度不能滿足在特定條件下的應用需求，LSTM 算法是一種時間循環神經網絡，非常適用于對時間序列中的間隔和延遲較長事件的處理和預測［6］，因此本文將重點分析利用LSTM 應用在鐘差預測中的算法，并期望可以實現對衛星鐘差更好的預測。

2 多項式模型

多項式模擬是一個對時間序列的特定趨勢進行了很好逼近的數學模型，能夠運用在短時預報和長時間預測中，尤其是在短期預報中有著良好的擬合精度。

多項式模型在鐘差預測的研究中得到廣泛的應用，其中的二次多項式模型（QP 模型）在鐘差的預測中最為常用，其結構簡單，且其確定性參數在鐘差的預報中具有實際的物理意義。

QP模型的觀測方程為

其中，vi=a0+a1(ti-t0)+a2(ti-t0)2-Ti為vi=a0+a1(ti-t0)+a2(ti-t0)2-Ti時的衛星鐘差；vi=a0+a1(ti-t0)+a2(ti-t0)2-Ti為參考時間（一般取為數據序列的初始時刻）；vi=a0+a1(ti-t0)+a2(ti-t0)2-Ti為當前鐘差時間；vi=a0+a1(ti-t0)+a2(ti-t0)2-Ti、vi=a0+a1(ti-t0)+a2(ti-t0)2-Ti和vi=a0+a1(ti-t0)+a2(ti-t0)2-Ti為模型的待求數據，分別表示參考時刻vi=a0+a1(ti-t0)+a2(ti-t0)2-Ti的衛星鐘差、鐘速以及衛星鐘的頻漂變化；vi=a0+a1(ti-t0)+a2(ti-t0)2-Ti為觀測誤差，人們通常認為它是正態分布［7～9］。

根據觀測方程可以得到對應的誤差方程為

按照最小二乘的平差原理，當鐘差數超過三個時，即可解得參數的最或然值為

則可以得到鐘差預報的QP模型為

3 長短時間記憶網絡（LSTM）

循環神經網絡（Recurrent Neural Network，RNN）是一種用來處理時間順序信息的神經網絡［10］。RNN 最早應用于自然語法處理領域，隨著深度學習的推廣，被應用于電力系統的負荷預測等領域。普通的神經網絡模型結構由輸入層、隱藏層和輸出層組成，因為輸入層、隱藏層和輸出層是單向的，而在隱藏層的節點之間又是沒有聯系的，所以普通的神經網絡通常都不用來保存序列數據。但因為RNN 中在當前時間輸出的序列，也會與在當前時刻輸出的序列相關聯，所以隱藏層之間的節點也并非是無連接的，而是有連接的，同時隱藏層的輸入也不僅包括當前時間輸入層的輸出，而且包括當前一時間隱藏層的輸出。

由于循環神經網絡的結構難以訓練，使得在實際應用中很難解決對這種結構長時間的依賴，于是由Hocheriter 和Schmidhuber 聯合提出了一種經改進后的循環神經網絡：長短期記憶網絡［11］。LSTM目前已在自然語言處理、圖像描述、語音識別等領域成功的應用［12］。

原始RNN 的隱藏層只有一組狀態h，它對短期的輸入變化非常敏感。而LSTM 增加了一組狀態c，利用c 可以維持更長期的狀態，c 稱為單元狀態（cell state）。LSTM 單元只有三種性質的門，分別為遺忘門ft、輸入門it和輸出門ot。門實際上是一層全連接層，因為它的輸入是一個向量，而輸出則是0～1 之間的實數向量。當輸出值為0 時，表示輸入的信息不能通過。當輸出為1 時，表示輸入的所有信息可以通過。LSTM對信息的記憶與更新由這三種門控制實現。門的一般形式可以表示為

其中，W 是門的權重向量，b 是偏置項。σ為sigmoid函數，值域是(0，1) 。

遺忘門和輸入門用來管理單元狀態c 的信息。遺忘門決定上一時刻的單元狀態ct-1有多少保留到當前時刻ct；輸入門決定當前時刻的輸入xt有多少保存到單元狀態ct。此外，還有輸出門來控制單元狀態ct下有多少能夠輸出到LSTM 的當前輸出值ht［13］。下文中，分別以f、i和o代表遺忘門、輸入門和輸出門。LSTM 單元內傳播結構如圖1所示。

圖1 LSTM單元內傳播結構

LSTM最終的輸出由輸出門和單元狀態共同確定：

LSTM 的訓練方法和RNN 同樣是反向傳播方法，包括三個階段：

1）前向計算每個神經元的輸出值，式（6）～式（10）即為LSTM的前向計算過程。

3）根據相應的誤差項，獲得每個權重的梯度。

4 算例與分析

4.1 數據來源

為檢驗LSTM 模型的準確性，從IGS 服務器（https：//cddis.nasa.gov/archive/gps/products/）可下載2021年9月12日至2021年9月13日一共兩天的鐘差產品的預報實驗，數據的采樣間隔為5min。目前在軌的GPS 衛星共有30 顆可用，各衛星鐘的類型如表1所示。

表1 衛星鐘類型

由表1可知，30顆在軌工作衛星共分為四種類型，其中Block IIF 中有一顆Cs 鐘，其他的衛星鐘均為Rb 鐘，所以進行實驗的衛星鐘數據選擇為PRN2，PRN1和PRN4號衛星鐘。

4.2 建模方案

用12h 的鐘差數據進行建模后預報，選用二次多項式模型（QP）、灰色模型（GM（1，1））和長短時間記憶網絡模型（LSTM），用12h 的鐘差數據建模，分別預報未來1h和3h的鐘差數據。

4.3 預報結果和分析

本試驗中所用的資料是由IGS 服務器下載的事后鐘差產品，它自身的時間偏差值較小，在本試驗中可以作為“真值”使用。另外采用RMS 作為統計量，去衡量模型的優劣程度，計算公式如式（12）所示：

實驗結果如圖2～7所示。

圖2 PRN1用12h數據建模預報1h的預報誤差

圖3 PRN1用12h數據建模預報3h的預報誤差

圖4 PRN2用12h數據建模預報1h的預報誤差

圖5 PRN2用12h數據建模預報3h的預報誤差

圖6 PRN4用12h數據建模預報1h的預報誤差

結合圖2～圖7和表2可知：

表2 RMS的精密衛星鐘差預報結果（單位：ns）

圖7 PRN4用12h數據建模預報3h的預報誤差

利用少量數據（12h 時鐘數據）進行模擬，對未來1h～3h 的衛星鐘差進行預報時，二次多項式模型預報偏差的平均均方差分別為0.27ns 和0.53ns；灰色模型預報偏差的平均均方差分別為0.33ns 和0.29ns；長短時間記憶網絡模型預報偏差的平均均方差分別為0.12ns和0.13ns。

建模數據量較少時，GM（1，1）模型和LSTM 模型的預報性能均好于QP 模型，在建模數據量小時GM（1，1）模型具有一定的優勢，在建模的數據量增加時LSTM模型的優勢會逐漸顯現出來。

5 結語

關于GPS 衛星鐘差的超快預測產品的精度不能達到一定要求的問題，本文給出了基于LSTM 模型的鐘差預報方法，在建模數量較多時更能展示出優勢。與QP模型和GM（1，1）模型相比，LSTM模型大大提高了鐘差的預報性能，進一步提高衛星鐘差的預報精度，進而增強了導航與定位的準確度。

在未來利用更長數據進行建模，進一步驗證LSTM 模型的預報優勢，可以進一步提高鐘差預報的性能。