基于長短時記憶神經網絡的Multi-GNSS衛星鐘差建模預報

蔣春華 朱美珍 薛慧杰 劉廣盛

1 遼寧工程技術大學測繪與地理科學學院,遼寧省阜新市玉龍路88號,123000 2 地理信息工程國家重點實驗室,西安市雁塔路中段1號,710054 3 中國科學院精密測量科學與技術創新研究院大地測量與地球動力學國家重點實驗室,武漢市徐東大街340號,430077 4 山東大學空間科學與物理學院,山東省威海市文化西路180號,264209

實時衛星鐘差產品的性能直接影響全球導航衛星系統的定位、導航、授時服務質量[1]。由于星載原子鐘自身的物理特性較為復雜,且極易受外界和自身因素影響,很難發現復雜的變化規律,使得建立高精度的鐘差預報模型較為困難。因此,提升鐘差預報的準確性是廣大學者研究的重點和難點。

目前,國內外許多學者對鐘差預報進行大量研究。最常用的預報模型有二次多項式(quadratic polynomial,QP)模型、灰色模型(grey model,GM)、卡爾曼濾波(Kalman filter)模型、神經網絡模型,以及多種單一模型的組合預報模型和部分上述模型的改進模型[2-3]。Allan[4]提出利用二次多項式擬合預報模型對衛星鐘差進行預報。崔先強等[1]將灰色模型應用于衛星鐘差預報,通過與QP模型進行對比,認為GM模型相較于QP模型在長期鐘差預報中具有更好的效果。鄭作亞等[5]對GM模型的局限性進行改進,預報精度明顯提高,模型系數隨預報時間的增加逐漸趨于穩定。Davis等[6]采用Kalman濾波模型對GPS衛星鐘差進行建模預報,實驗表明預報1 d的精度在1 ns以內。王宇譜等[7]基于一次差分數據,利用小波神經網絡(wavelet neural network,WNN)建立鐘差預報模型,結果表明,差分鐘差數據更適用于小波神經網絡鐘差預報,能明顯提高短期預報精度,在此基礎上提出GM和WNN組合模型。

近年來,長短時記憶(long short-term memory,LSTM)神經網絡作為眾多神經網絡的一種,對時序數據的處理和分析具有較好的適應性,在語音識別與處理、機器翻譯等多個領域被廣泛應用,但在multi-GNSS衛星鐘差預報中的應用研究較少,也缺少詳細的對比和分析[8]。因此,本文以LSTM為基礎,構建multi-GNSS衛星鐘差預報模型。為驗證該模型的有效性和可行性,選取QP模型、QP-LSTM模型作為對比參考,分析不同建模時長、不同預報時長情況下multi-GNSS衛星鐘差LSTM模型的優勢,并進一步對比分析基于LSTM模型的multi-GNSS不同衛星系統、不同原子鐘類型的精度。

1 multi-GNSS衛星鐘差模型構建

1.1 基于LSTM的GNSS衛星鐘差預報模型

1.1.1 LSTM模型原理

LSTM網絡是一種時間遞歸神經網絡(recurrent neural network,RNN),與傳統的RNN不同,LSTM可以更有效地避免網絡中的梯度爆炸或梯度消失問題,具有良好的應用價值[9]。LSTM單元內部結構可參考文獻[10]。

1.1.2 LSTM模型構建

本文采用滑動窗口法對LSTM鐘差預報模型的訓練樣本集進行處理,輸入數據為當前時刻t及其時間方向連續144或288個歷元數據,以預報時刻t′+12、t′+36、t′+72、t′+144數據作為輸出?；瑒哟翱陂L度為12,滑動步數為1,即原始數據確定出1個樣本后,初始時刻向后推移12個歷元構建下一個樣本。該形式不僅可以提高數據利用率,也可以保持數據的實時更新,以提高預報精度。建模預報步驟可參考文獻[10]。

1.2 二次多項式和二次多項式組合模型

為驗證LSTM模型的有效性,選取QP模型以及QP-LSTM模型作為比較基準。

1.2.1 二次多項式(QP)模型

QP模型具有簡單易操作、物理意義明確以及能夠較好地反映鐘差數據線性特征等優點,因此被廣泛應用于鐘差預測。

1.2.2 組合預報模型

傳統的鐘差預報主要采用QP模型,其誤差會隨預報時間的增加而累積,因此對鐘差預報具有一定局限性。本文提出一種基于QP模型和LSTM模型的GNSS衛星預報方法。利用QP模型對衛星鐘差序列擬合預測結果進行提取,與LSTM模型非線性映射能力相結合,構建組合模型,該模型相較QP模型能夠減小誤差累積。組合模型預報流程為:首先對原始鐘差進行預處理,檢測并剔除粗差,得到預處理后的序列;然后利用預處理后的衛星鐘差序列建立QP模型并擬合未來一段時間的鐘差數據,將同時段鐘差數據與擬合鐘差數據的對比結果作為擬合殘差序列[11];將擬合殘差序列作為LSTM模型的訓練樣本,對二次多項式的擬合殘差進行預測,得到未來時刻的預報誤差,將其補償到二次多項式的預報誤差中;最后將二次多項式的鐘差預報值與相對應的LSTM模型預報殘差值相加得到組合模型的鐘差預報值。

2 基于LSTM的GNSS衛星鐘差預報模型分析與應用

為比較具有不同建?；￠L和預測弧長的LSTM模型、QP模型以及QP-LSTM模型的預報精度和性能,本文采用武漢大學采樣間隔為300 s的快速鐘差數據進行BDS-2、Galileo、GPS、GLONASS四系統建模預報,數據時間跨度為2021-06-14～20。采用12 h和24 h快速鐘差序列進行建模,分別采用3種預報模型對4個系統進行1 h、3 h、6 h、12 h預報,并以對應的精密鐘差作為參考,分析各系統星載原子鐘的預報性能,同時對提出的LSTM模型的適用性進行驗證。表1為統一和剔除缺失數據后4個系統中各衛星的軌道類型和原子鐘類型。

表1 四系統星載原子鐘的軌道類型和原子鐘類型

2.1 基于一次差分與非差數據的LSTM模型對比

為驗證差分方法能否提升LSTM鐘差預報模型的精度,分別基于原始鐘差數據和一次差分數據進行LSTM鐘差預報實驗。以2021-06-14快速鐘差進行建模,預報1 h、3 h、6 h、12 h鐘差,連續預報7 d,并以精密鐘差作為真值與預報結果進行對比。圖1～2為4個系統在連續預報時采用不同數據方案進行預報的精度對比,其中LSTM-1為利用預處理后的一次差分數據進行實驗的結果,LSTM-2為利用預處理后的鐘差序列進行實驗的結果,具體對比結果見表2(單位ns)。

圖1 差分數據預報1 h結果對比

圖2 差分數據預報6 h結果對比

表2 數據差分前后LSTM模型鐘差預報精度(STD)對比

從圖1～2及表2可以看出,使用原始數據進行建模時,GLONASS、GPS預報精度相對較差,次于Galileo和BDS-2。使用一次差分數據進行建模時,GLONASS預報精度最低,其精度為0.27 ns;Galileo預報精度最高,為0.02 ns;BDS-2、GPS次之,預報精度分別為0.08 ns、0.15 ns。無論短期預報還是中長期預報,在采用相同建模數據量的前提下,使用一次差分序列后的預報精度遠遠大于差分前精度[12],其中GLONASS、GPS提升率較高,GLONASS最大提升94%,Galileo提升率較低,同時可以看出隨著預報時長增加,預報精度提升率也逐漸增加。一次差分數據變化較為平穩且數據有效位數變少,因此采用一次差分數據進行預報建模更具有合理性和優勢。

2.2 不同建模時長和預報時長的LSTM模型對比

基于LSTM模型對GNSS衛星鐘差進行建模預報,并與QP模型、QP-LSTM模型進行對比。設置滑動窗口為1 h,即擬合以1 h為單位向前滑動,一步一預測,通過不斷迭代完成目標時刻的鐘差預報[13]。設計2組方案如下。

方案1:采用12 h鐘差數據對各模型進行建模,預報1 h、3 h、6 h、12 h。

方案2:采用24 h鐘差數據對各模型進行建模,預報1 h、3 h、6 h、12 h。

圖3～4為3種模型利用不同建模時長(12 h、24 h)預報相同時段的精度。表3～4(單位ns)為利用相同建模時長預報不同時段(1 h、3 h、6 h、12 h)的精度統計結果。其中,poly1、zuhe1、lstm1分別為QP模型、QP-LSTM模型、LSTM模型采用方案1的預報精度,poly2、zuhe2、lstm2為QP模型、QP-LSTM模型、LSTM模型采用方案2的預報精度,高度代表模型預報精度。

圖3 3種模型預報1 h鐘差

圖4 3種模型預報12 h鐘差

表3 基于12 h鐘差數據的不同系統3種模型預報1 h、3 h、6 h、12 h的平均STD統計

表4 基于24 h鐘差數據的不同系統3種模型預報1 h、3 h、6 h、12 h的平均STD統計

從圖3～4和表3～4可以看出,對于相同的預報時段,增加鐘差建模數據可以有效提升衛星鐘差預報精度。對于BDS-2系統,采用12 h鐘差數據建模預報1 h、3 h、6 h和12 h時,LSTM模型預報誤差分別為0.073 ns、0.082 ns、0.092 ns和0.116 ns;采用24 h鐘差數據建模時,LSTM模型預報誤差分別為0.069 ns、0.075 ns、0.081 ns和0.098 ns,預報精度提升5%～15%。其他系統也有此規律,Galileo系統預報精度提升9%～17%,GPS系統預報精度提升5%～15%,GLONASS系統預報精度提升7%～14%。其中,Galileo系統利用24 h鐘差數據建模時精度最高,精度為0.018 ns,GLONASS系統為0.242 ns,精度略低于BDS-2和GPS系統。從整體上看,采用12 h和24 h鐘差數據建模時,LSTM模型精度均值均處于亞ns級,其預報精度高于QP模型和QP-LSTM模型,LSTM模型預報精度比QP-LSTM模型最高提升95%,比QP模型最高提升93%。

進一步分析不同預報時長對模型精度的影響,結果表明,利用12 h和24 h鐘差數據建模預報不同時長時,從整體上看,LSTM模型預報精度較高,基本在0.018～0.353 ns之間,隨著預報時長增加,預報精度降低5%～17%,GLONASS、GPS系統預報精度相對較差,次于Galileo和GPS系統。對于QP模型和QP-LSTM模型而言,也存在預報精度隨預報時長增加而降低的現象,2種模型預報精度降低36%～56%。其中,Galileo和GPS系統預報性能較好,BDS-2系統次之,GLONASS系統預報性能最差。LSTM預報結果的穩定性明顯高于其他2種模型,由于QP模型和QP-LSTM模型具有誤差累積效應,隨著預報時長增加,精度迅速下降。QP-LSTM模型主要受二次多項式影響,組合模型的殘差可看作對QP模型的補償與修正,QP-LSTM模型預報精度比QP模型最高提升18.2%,說明組合模型具有一定的效果。

在此基礎上詳細分析不同衛星鐘類型模型的預報精度。對于BDS-2系統不同類型衛星而言,MEO與IGSO衛星的預報結果優于GEO衛星,Galileo系統IOV衛星鐘比FOC衛星鐘預報精度差。對于GPS系統,GPS ⅢA預報精度高于GPS ⅡR、GPS ⅡR-M、GPS ⅡF,多數配備Rb鐘衛星的預報精度比Cs鐘衛星高。對于GLONASS系統,衛星鐘類型對衛星預報精度影響較小,系統內的衛星預報精度相當。PHM(Galileo)預報精度為0.018 ns,Rb(GPS ⅡF)、Rb(BDS-2)精度維持在0.05 ns左右;Rb(GPS ⅢA)、Rb(GPS ⅡR)、Rb(GPS ⅡR-M)預報精度相差不大,保持在0.15 ns左右;Cs(GPS ⅡF)、Cs(GLONASS)兩類Cs鐘預報精度在0.23 ns左右,明顯差于PHM鐘和Rb鐘。

為驗證LSTM模型的有效性,選擇BDS-2、Galileo、GPS和GLONASS系統不同類型的原子鐘,QP模型和組合模型同時選擇不同的建模時長預報12 h作為對比,圖5為各系統衛星鐘預報殘差變化。

圖5 3種模型預報殘差對比

由圖5可知,QP-LSTM模型與QP模型的殘差范圍均在-2～14 ns之間,而LSTM模型殘差為0.6 ns左右,QP-LSTM模型、QP模型隨著預測時長的增加線性相關性逐漸降低,殘差范圍逐漸增大,發散速度比LSTM模型快[14]。使用一次差分數據的LSTM模型處理非線性數據時穩定性明顯高于其他2種模型,在multi-GNSS衛星鐘差預報中具有一定的可行性。E03、G05與R15的殘差變化幅度相對較小,C05由于是GEO衛星鐘,其殘差變化幅度相對較大[15]。

3 結 語

本文以LSTM為基礎,構建multi-GNSS衛星鐘差預報模型,并與QP模型和QP-LSTM模型進行對比,驗證該模型的有效性和適用性,同時分析不同衛星鐘類型該模型的精度。

LSTM模型、QP模型、QP-LSTM模型的預報精度隨著預報時長的增加而降低,LSTM模型在控制預報誤差隨時間累積方面具有明顯優勢,QP-LSTM模型和QP模型的預報誤差會隨預報時長的增加迅速變大。LSTM模型的精度受不同建模時長影響較小,具有更好的預測效果和穩定性,而QP-LSTM模型與QP模型受不同建模時長影響較大。采用LSTM模型對二次多項式擬合殘差進行建模,補償多項式模型的預報鐘差,提高多項式模型精度,精度提升約4%～17%。對于multi-GNSS衛星鐘差LSTM預報模型,Galileo系統穩定性最好,BDS-2和GPS次之,GLONASS穩定性最差。不同類型原子鐘預報精度不同,Cs鐘穩定性明顯差于Rb鐘和PHM鐘,Block ⅡF Rb鐘優于Block ⅡA Rb 鐘,Block ⅡR Rb 鐘穩定性優于 Block ⅡR-M鐘。在預報時長相同時,增加建模數據量可在不同程度上提升不同模型的預報精度;在建模時長相同時,不同模型的預報效果會隨預報時長的增加而出現不同程度的降低。Galileo系統利用LSTM模型24小時建模數據預報1 h時,預報精度最高,預報精度為0.018 ns。綜合來看,BDS-2衛星鐘差采用LSTM模型較QP模型精度提升最為顯著,高達68%。