卷積門控循環(huán)單元神經網絡與光流法在臨近預報中的適用性研究*

張智察 羅 玲 陳 列 李文娟 趙 放 黃旋旋 鐘 琦 羅 然

1 浙江省氣象臺,杭州 310017

2 中國氣象局氣象干部培訓學院,北京 100081

提 要： 深度學習目前在臨近預報的雷達外推應用中發(fā)展迅速，對其適用性的客觀評估是業(yè)務應用的重要前提。利用粵港澳大灣區(qū)雷達回波開放數據集，基于回波圖像形態(tài)、命中率、虛警率以及技巧評分，對比評估了卷積門控循環(huán)單元神經網絡(ConvGRU)與基于半拉格朗日平流方案的快速稠密光流法(OF)在未來120 min雷達回波外推中的效果，結果表明ConvGRU與OF雖外推效果良好，但均不適用于外推回波的生成、加強以及局地分散性特征，且外推效果顯著受到天氣過程種類的影響。其中，ConvGRU可能更適用于外推分布范圍適中且運動簡單的回波的主體位置，但回波的強度不穩(wěn)定且形態(tài)模糊，其無法表征回波的精細化運動規(guī)律與演化特征；OF更適用于外推50 dBz以上的強回波，且回波結構更優(yōu)，但在回波缺測區(qū)與強度少變區(qū)內的外推易存在很大的分布偏差。深度學習的數據集樣本數是決定模型效果的最重要原因之一，但樣本數實際未能全面覆蓋各類天氣過程，總體仍偏少，預報業(yè)務需進一步擴增。

引 言

臨近預報通常是指對某一區(qū)域未來短時間內的降雨量或強對流天氣進行預測，在氣象災害防御中具有極為重要的地位。強對流天氣的臨近預報對于預報預警的準確率、空間分辨率以及時效性均具有極高要求。然而，現有的科學認知與技術水平仍然難以捕捉到強對流天氣的復雜演變規(guī)律，對其準確的預報、預警仍是氣象業(yè)務領域的難點與研究熱點(陳明軒等，2004；俞小鼎等，2012；Sun et al，2014)。

雷達回波外推技術是業(yè)務臨近預報的主要方法 (陳明軒等，2004；胡勝等，2012；朱平等，2008；俞小鼎等，2012；王秀明等，2012)，其通過天氣雷達探測到的回波數據來確定回波體的移動速度和方向。回波外推技術主要有四種,分別為單體質心法(Lai，1998；陳明軒等，2006)、交叉相關法(陳明軒等，2007；趙放等，2008；Han et al，2009)、光流法(韓雷等，2008；吳劍坤和陳明軒，2018)以及深度學習法(Shi et al，2015； Wang et al，2017；郭瀚陽等，2019；Ravuri et al，2021)。單體質心法將目標簡化為一點，適合跟蹤預測大而強的回波目標，而當回波體發(fā)生融合分裂時，預報準確率迅速降低。交叉相關法是計算兩個臨近時刻的空間優(yōu)化相關系數，然后為所有雷達回波建立擬合關系，其可有效跟蹤平緩層狀云降水系統(tǒng)，但針對回波變化快的強對流過程追蹤準確度較低。光流法根據圖像像素強度守恒原理，即假定雷達回波在短時間內不會發(fā)生變化，建立光流約束方程(Horn and Schunck，1981；Kroeger et al，2016)，計算運動參數，最后結合相鄰時間的雷達回波圖像之間的水平和垂直位移量，計算圖像內像素點的運動矢量(光流)來對回波進行外推，但無法預測回波的生消及其強度變化。深度學習是目前的新興方法，其基于雷達回波的海量數據集，通過神經網絡提取并學習回波演變的時空規(guī)律特征，進而對回波進行外推，在一定程度上可預測回波的生消及其強度變化。周康輝等(2021)系統(tǒng)性總結了機器學習在強對流監(jiān)測預報中的應用進展，指出了深度學習在雷達外推等領域的優(yōu)勢，及其所面臨的諸多缺陷與可能的優(yōu)化改進方案。對于深度學習雷達外推算法而言，其所需的雷達回波數據質量要求較高(李艷芳，2011；Song et al，2020)，否則極容易干擾深度學習算法的訓練，進而導致外推結果的不準確；其次，深度學習對于技術與設備的要求較高；此外，受制于雷達回波強度樣本的極端不平衡分布以及模型本身的缺陷，深度學習所外推的回波普遍存在強度偏低、形態(tài)模糊以及逐幀衰減等現象(Tran and Song，2019；Song et al,2020)。

迄今為止，深度學習已在氣象臨近預報領域獲得了迅速發(fā)展(周康輝等，2021；顧建峰等，2020)。與此同時，傳統(tǒng)方法也在不斷改進。光流法與深度學習均是補充氣象臨近預報業(yè)務中傳統(tǒng)外推技術的有效方法，但過去的研究多集中于不同深度學習算法之間(Shi et al，2015；2017；Tran and Song，2019)以及它們同交叉相關算法之間(郭瀚陽等，2019；韓豐等，2019)在業(yè)務應用中的對比，而針對光流法與深度學習在臨近預報領域中適用性的對比評估(Shi et al，2015)至今尚不多見。為此，利用粵港澳大灣區(qū)雷達回波開放數據集，基于回波圖像形態(tài)、命中率(POD)、虛警率(FAR)以及技巧評分(TS)，對比評估了卷積門控循環(huán)單元神經網絡(ConvGRU)與基于半拉格朗日平流方案的快速稠密光流法(OF)在未來120 min 雷達回波外推中的效果，據此探討了深度學習與光流法在雷達外推領域中所面臨的主要問題，以期為未來氣象臨近預報業(yè)務的選擇提供科學參考。

1 資料與方法

1.1 資料介紹

粵港澳大灣區(qū)標準雷達數據集(1)粵港澳大灣區(qū)標準雷達數據集SRAD2020數據介紹與下載鏈接：https:∥ma-competitions-bj4.obs.cn-north-4.myhuaweicloud.com/SODIC/weather/dataseTS_weather.zip(standardized radar dataset 2020,SRAD2020)是由深圳市氣象局在2020年通過數據質量控制、雷達數據脫敏等處理和開發(fā)后對外開放的雷達回波數據集(脫敏后不具有時間段與地理位置信息)，其以灰度圖PNG格式進行存儲，旨在促進基于該數據集的研究和相關數據處理方法的發(fā)展。SRAD2020的垂直層次為1層，海平面高度為2.5 km，水平分辨率為0.01°(約1 km)、網格數量為256×256(即約255 km×255 km的區(qū)域)，每個雷達數據個案樣本覆蓋時長為240 min，時間間隔為6 min，共41個時次。

經剔除無回波區(qū)比例大于90%、過程中出現雷達回波缺測的天氣過程后，共保留樣本數16550個。其中ConvGRU的訓練集為9482個，驗證集與測試集則分別為3000個和4068個。

1.2 基于卷積門控循環(huán)單元神經網絡與光流法的雷達外推算法

1.2.1 卷積門控循環(huán)單元神經網絡

Shi et al(2015；2017)通過結合長短期記憶神經網絡(RNN)和卷積神經網絡(CNN)，首次提出了ConvLSTM來學習圖像之間的時間與空間演變特征；在此基礎上，對其進行了改進，提出了Encoder-Forecaster結構(EF)的卷積門控循環(huán)單元神經網絡(convolutional gated recurrent unit neural network,ConvGRU)以及軌跡門控循環(huán)單元神經網絡(TrajGRU)，并將其運用于氣象雷達回波外推，兩者較ConvLSTM分別有效提升了模型的訓練速度及對旋轉回波的外推能力。相較于ConvLSTM而言，ConvGRU的計算速度更快，性能更穩(wěn)定，甚至具備更優(yōu)的預測性能(Tran and Song，2019；郭瀚陽等，2019)。為此，在ConvGRU的基礎上，對傳統(tǒng)的Encoder-Forecaster進行了改進(圖1和圖2)，即采用了“Teacher Forcing”方法。

首先，訓練和測試階段的ConvGRU結構分別如圖1和圖2所示。在圖1和圖2中，Encoder用于提取5個連續(xù)時刻實況雷達回波x1～5的時空演變特征；基于“Teacher Forcing”機制(Zhang et al，2018)，對傳統(tǒng)方法中Forecaster的初始輸入均為0進行改進，即在訓練階段中(圖1)，將最后時刻輸入的實況雷達回波x5作為Forecaster的初始輸入，而后每一個時刻的輸入均為該時刻對應的實況雷達回波x6～24，以期減小模型的訓練難度。在測試階段的Forecaster中(圖2)，每一個時刻的輸入則為上一時刻的預測結果，據此預測未來20個逐時刻的雷達回波x’6～25，即外推時間長度為120 min。相較于未采用“Teacher Forcing”，改進后明顯地提高了模型在早期的訓練速度，在相同迭代步數下，訓練效果要優(yōu)于未采用。

圖1 ConvGRU在訓練階段時的傳輸結構

圖2 ConvGRU在測試階段時的傳輸結構

在Encoder中，參考Shi et al (2015；2017)的方案，DownSample為下采樣層，其采用三次樣條插值法將原始雷達回波拼圖數據的分辨率(256×256)降低至64×64，以降低算法對計算機性能的要求，有利于算法捕捉移動速度更快的回波信息；ConvGRU用于學習雷達回波的時空演變特征；LayerNorm(Ba et al，2016)為適用于時空序列深度學習算法訓練的層間標準化，其可使得算法在前向傳播時令ConvGRU的輸入數據分布保持均勻，并使得反向傳播時梯度更加穩(wěn)定；LayerNorm的下一層均采用了LeakyRelu激活函數(Zhang et al，2018)，相較于傳統(tǒng)的Relu激活函數，LeakyRelu解決了神經元“死亡”問題；在Forecaster中，Conv3D為3D卷積層，用于輸出低分辨率(64×64)的雷達回波預測結果。UpSample為上采樣層，其采用三次樣條插值法將低分辨率(64×64)雷達回波預測結果的分辨率提高至256×256，此即為最終的輸出結果。

在基于雷達回波數據集訓練ConvGRU之前，首先對雷達回波開放數據集進行歸一化預處理，將其映射到[0,1]。訓練采用Adam優(yōu)化算法，初始學習率為0.001，并以均方誤差(MSE)作為損失函數，共迭代1000次。學習率在迭代訓練過程中采用了余弦退火的衰減策略，即學習率以余弦函數形式周期性變化，其最大值為0.001，最小值為1×10-5，周期為100次迭代，該策略有助于避免算法在訓練時陷入局部最小值，并且在訓練過程中不斷保存最優(yōu)模型。此外，為了防止過擬合，算法采用了L1與L2的正則化方案。

1.2.2 光流法

光流法(optical flow,OF)假設回波運動在短時間內滿足拉格朗日守恒方程，并引入其他的約束方程來求解光流場。假設在t時刻(x，y)處雷達反射率因子值為z(x，y，t)，經過dt時刻，該點的反射率因子值變?yōu)閦(x+dx，y+dy，t+dt)，當dt趨向于0時，認為z值近似不變。OF采用Kroeger et al(2016)的快速稠密光流算法來反演回波圖像中每個像素點的光流矢量，該算法同時也采用了金字塔分層技術(Adelson et al，1984)來有效捕捉運動較大的雷達回波。此外，為了解決線性外推不考慮旋轉的缺點，采用了半拉格朗日外推平流方案(Germann and Zawadzki，2002)對雷達回波進行外推。半拉格朗日平流方案[式(1)]具有良好的穩(wěn)定性和精度，目前已廣泛應用到數值預報模式和氣候模式中。

(1)

an+1=Δtu(t0,x-an/2)

(2)

式中:u(t0,x-an/2)為回波在格點x-a/2處的速度。設a初值為0，預報時效內總位移為N步位移量之和，時間步長Δt設為6 min，n為迭代次數。

基于上述步驟構建的OF，以x4～5這兩個時刻的雷達回波圖像作為輸入，以外推未來120 min的20個時刻雷達回波x’6～25。

2 外推結果評價標準

參照郭瀚陽等(2019)的研究，采用POD、FAR和TS評分來評估ConvGRU和OF的外推效果。其計算方法流程為：首先定義一組回波閾值，把最終的預測結果分解成多個二分類問題(大于閾值的點設為正例，反之設為負例)，然后根據二分類混淆矩陣計算評分(表1)。假設檢驗的雷達回波閾值為K，TP表示觀測不小于K且預測也不小于K的次數，FN表示觀測不小于K而預測小于K的次數，FP表示觀測小于K而預測不小于K的次數，TN表示觀測小于K且預測小于K的次數。本試驗使用的閾值分別為20、30、40、50 dBz。評分標準計算式為：

表1 二分類問題下的混淆矩陣

(3)

(4)

(5)

3 兩種雷達外推算法的適用性分析

總結所有測試集雷達回波圖像的外推結果發(fā)現：①ConvGRU能較好地外推分布范圍適中且運動簡單的回波的主體位置，例如線性移動的颮線等。而由于OF無法反演出前后幀雷達回波缺測區(qū)或者回波少變區(qū)的光流場，也就無法對該區(qū)域內的回波進行有效外推，據此外推后期存在較大位置偏差。②OF適用于區(qū)域內分布范圍很大或局地分散性回波，例如臺風過程或局地分散性強對流等，且回波結構更優(yōu)。對于前述兩種回波類型，ConvGRU外推的回波強度存在明顯的不穩(wěn)定性，對于前者，ConvGRU容易偏大，對于后者則易衰減與消亡。③兩種外推算法均無法應對回波的生成與加強，ConvGRU外推的回波結構隨外推時間的增大而逐漸模糊。上述ConvGRU的外推表現與Tran and Song(2019)針對多種深度學習雷達外推算法的對比研究基本一致。

在上述總結的基礎上，分別繪制了20、30、40、50 dBz閾值處測試集所有樣本TS、POD、FAR隨外推時間的變化圖。從圖3可見，在20 dBz (圖3a)閾值處，ConvGRU僅于前36 min略優(yōu)于OF，36 min后TS、POD顯著偏低。在30 dBz(圖3b)閾值處，ConvGRU則于所有時段上均略優(yōu)于OF。而到了40 dBz、50 dBz閾值處，OF則總體要優(yōu)于ConvGRU。其中，40 dBz閾值處ConvGRU僅于前30 min優(yōu)于OF，POD表現為先下降后增大，表明ConvGRU針對回波的演化具有一定的外推能力。50 dBz閾值處，ConvGRU則明顯不及OF，30 min后其TS、POD幾乎為0。

圖3 所有測試樣本下ConvGRU與OF的外推評分隨時間的變化

由于相同類型個例的表現效果較為一致，因此，分別針對性地選取了颮線、臺風、分散性強對流個例來進一步評估兩種雷達外推算法的適用性。另外，由于所采用的開放數據集缺少地理位置信息，因此在回波圖像的橫、縱坐標軸處，以等32格點間距標注了相應的數字，據此將圖像等分成8×8的虛線網格，以助于不同圖像之間的對比評估。

3.1 颮線回波的外推

颮線是一種由多個雷暴單體側向排列構成的、突發(fā)性強、空間尺度小、破壞性強的中小尺度強對流天氣，容易造成巨大的人員傷亡和財產損失，故提升針對颮線的監(jiān)測預報能力具有重要現實意義。為此，首先分別對比了ConvGRU與OF外推颮線過程的回波結構(圖4)與客觀評分(圖5)隨時間的變化特征。

首先從圖4明顯可見，ConvGRU外推的主回波位置要更準確。另外，隨著外推時間的增大，ConvGRU的外推回波逐漸模糊，零散回波明顯消亡，主回波的外推強度先減弱后增強。進一步結合圖5可見，在20 dBz(圖5a)、30 dBz(圖5b)閾值處，ConvGRU與OF均取得了較好的外推效果，其中ConvGRU要顯著優(yōu)于OF。而在40 dBz及其以上閾值處，兩者的外推效果存在顯著差異。在40 dBz閾值處，ConvGRU在外推的初期和末期要略優(yōu)于OF，其TS、POD表現為先減小后增加的趨勢，表明ConvGRU針對回波的生消演化可能具有一定的外推能力。而在50 dBz閾值處，ConvGRU則明顯不及OF，基本失去了針對強回波的外推能力。

圖4 ConvGRU與OF針對颮線過程的外推回波結構

圖5 同圖3，但為颮線過程

此次颮線過程40 dBz以上回波的強度、移速均較為穩(wěn)定，因此基于光流不變假設的OF具有更好的適用性，但受制于無回波區(qū)光流場的缺失，OF于后期所外推的強回波分布位置存在明顯偏差，而ConvGRU對此類分布范圍適中且運動簡單的回波的主體位置具有較好的外推能力。

3.2 臺風回波的外推

臺風是沿海地區(qū)頻發(fā)的重大氣象災害，但目前針對臺風暴雨的臨近預報，尤其是臺風登陸區(qū)的暴雨強度及分布的預報仍很困難，故提升針對臺風的臨近預報意義重大。為此，分別對比了ConvGRU與OF外推臺風過程的回波結構(圖6)與客觀評分(圖7)隨時間的變化特征。

從圖6可見，隨著外推時間的增大，ConvGRU外推的臺風回波結構模糊現象較為嚴重，其外推的臺風回波強度總體偏強，而OF在結構與強度上則表現更準確。從圖7可見，在20、30、40 dBz閾值處，OF的外推效果總體要優(yōu)于ConvGRU，前者表現更為穩(wěn)定，后者的FAR則要明顯偏大。

圖6 同圖4，但為臺風過程

圖7 同圖3，但為臺風過程

首先，臺風過程的對流活動強盛，這很可能是50 dBz及其以上閾值處，兩種方法均無法做出有效外推的主要原因。其次，基于加權計算的卷積核，MSE損失函數及易丟失細節(jié)信息的DownSample使得ConvGRU無法表征出回波的精細化特征，致使ConvGRU在臺風旋轉運動與結構的表征上要明顯不及OF。

3.3 分散性強對流回波的外推

分散性強對流天氣具有極強的局地性與突發(fā)性，對其的準確預報一直以來是困擾臨近預報領域的難點。為此，分別對比了ConvGRU與OF外推分散性強對流天氣的回波結構(圖8)與客觀評分(圖9)隨時間的變化特征。

圖8 同圖4，但為分散性強對流個例

圖9 同圖3，但為分散性強對流過程

與外推颮線和臺風過程回波所明顯不同的是，隨著外推時間的增大，ConvGRU外推分散性強對流回波的形態(tài)則明顯趨于消亡(圖8)，強度顯著偏弱，位置分布存在極大偏差。由于無回波區(qū)無法通過光流反演算法來反演得到光流場，致使OF無法外推該區(qū)域內的回波，在外推的后期勢必會存在明顯的位置偏差。

從41個時次的回波觀測數據來看(圖略)，該個例的回波特性在圖像形態(tài)上與颮線、臺風存在較顯著區(qū)別，即回波非常分散稀疏，強度變化則具有更大的不確定性，雖然OF外推評分全面優(yōu)于ConvGRU，但兩者明顯均不適用于外推局地分散性強對流。

綜合來看，基于深圳市氣象局雷達回波開放數據集的表現特征與相關的實際業(yè)務研究結論(郭瀚陽等，2019；韓豐等，2019)基本相近。

4 結論與討論

利用粵港澳大灣區(qū)雷達回波開放數據集，基于回波圖像形態(tài)、命中率(POD)、虛警率(FAR)以及技巧評分(TS)，對比評估了卷積門控循環(huán)單元神經網絡(ConvGRU)與基于半拉格朗日平流方案的快速稠密光流法(OF)在未來120 min雷達回波外推中的效果，主要結論如下：

(1)ConvGRU與OF雖外推效果良好，但均不適用于外推回波的生成與加強，且外推效果顯著受到天氣過程種類的影響。OF對50 dBz以上強回波的外推相對更穩(wěn)定、回波結構更優(yōu)，但由于在回波的缺測區(qū)及其強度穩(wěn)定區(qū)內均無法有效反演得到光流場，因此OF對上述區(qū)域內回波位置的外推有很大偏差。而ConvGRU則能有效改善上述偏差，總體更適用于外推分布范圍適中且運動簡單的回波的主體位置，但回波的強度不穩(wěn)定且形態(tài)模糊。例如在針對線性運動的颮線的外推中，ConvGRU外推的回波位置與實況較為一致，但形態(tài)模糊、強度偏強；OF則在回波的缺測區(qū)邊緣出現了回波合并，無法在缺測區(qū)內作出有效外推，但對50 dBz以上強回波的外推具有更好的指示意義；ConvGRU無法表征出復雜的精細化運動特征，因此OF更適用于外推臺風；局地分散性強對流的回波演化具有很大的不確定性，兩種算法均無法有效外推該類回波。深度學習的數據集樣本數是決定模型效果的最重要原因之一，但本文樣本數實際未能全面覆蓋各類天氣過程，總體仍偏少，預報業(yè)務則需進一步擴增。

(2)回波強度的樣本極端不平衡分布是導致深度學習方法對強回波無法做出有效外推的主要原因。如何克服樣本不平衡問題是提升深度學習雷達外推算法的重要因素。不考慮其他氣象要素，而僅學習雷達回波的演化特征應當是一個充滿不確定性的學習過程，在理想條件下，足夠復雜的深度學習模型可以無限逼近某個非線性方程，但在充滿混沌特性的氣象領域，深度學習的學習能力似乎仍然有限；因此，僅基于歷史雷達回波數據，令深度學習算法去學習充滿不確定性因素的對流演化問題，數據的局限性以及學習問題本身的高難度性很可能是導致至今深度學習雷達外推算法存在諸多問題的重要原因，尤其是仍難以準確地預測回波的加強與生成。另外也不難發(fā)現，在目前深度學習已獲得廣泛應用的人臉識別、醫(yī)學圖像分割、視頻預測等領域，基本都有一個規(guī)律性較強的物理背景，背景中可學習的確定性信息更多、不確定性則更少。因此，雷達回波外推領域有必要將多源觀測與模式資料同深度學習算法進行耦合。

(3)現有的光流法仍無法外推出回波強度的演化特征。因此，仍需借助于氣象專家知識，對傳統(tǒng)的外推算法進行改進；對于回波缺測區(qū)及其強度穩(wěn)定區(qū)內的光流場缺失問題，可采用決定回波移動的模式預報或雷達反演風場來代替缺失的光流場。