METEO-DLNet模型讲解

论文解读
METEO-DLNet: Quantitative Precipitation Nowcasting Net Based on Meteorological Features and Deep Learning

1. 背景

降水预测，特别是短期降水预测(nowcasting)的重要性

雷达回波外推法(radar echo extrapolation)在短期降水方面的实用性

深度学习算法在处理雷达回波数据(radar echo images)时的优势

2. 模型概况

雷达回波图像数据及下采样(downsample)

基于Meteo-LSTM的编码-解码结构(encoding-decoding structure)

基于不同分辨率雷达回波图像预测结果的多尺度融合(multiscale fusion)

3. 问题定义

$X_t\in {\mathbb{R}}^{\text{P}\times \text{H}\times \text{W}}$: 雷达回波图像，即时间$\text{t}$时，局部网格点区域$\text{H}\times \text{W}$的$\text{P}$个测量信息

X = { X t − n , X t − n + 1 , … , X t } X=\{X_{t-n},X_{t-n+1},\ldots ,X_{t}\} X={Xt−n​,Xt−n+1​,…,Xt​}: 已知的从$t-n$到$t$时刻的雷达回波图像

Y = { Y t − n , Y t − n + 1 , … , Y t } {Y}=\left\{{Y}_{t-n},{Y}_{t-n+1},\ldots,{Y}_{t}\right\} Y={Yt−n​,Yt−n+1​,…,Yt​}: 从$t+1$到$t+m$时刻真实的雷达回波图像

$\hat{Y}=\left\{{\hat{Y}}_{t+1},{\hat{Y}}_{t+2},\dots ,{\hat{Y}}_{t+m}\right\}$: 从$t+1$到$t+m$时刻预测的雷达回波图像

得到预测模型: $\hat{Y}=\Gamma (X,Y)$

目的: $\hat{Y}$尽可能逼近$Y$

4. 模型流程

本文以10帧连续雷达回波图像作为输入，以接下来的10帧预测图像作为输出，分辨率为: $128\times 128$

4.1 数据

对原始输入图像进行下采样，得到分辨率为$64\times 64$的低分辨率图像。

两组数据:

​ 高分辨率图像(fine-scale): 原始输入图像，获取更多局部信息

​ 低分辨率图像(coarse-scale): 下采样之后的图像，获取全局信息

4.2 Embedding

两组数据的通道数(channels)从1升至64

4.3 编码-解码结构

使用了三层Meteo-LSTM作为编码-解码结构

4.3.1 LSTM

4.3.2 Meteo-LSTM

作用: 获取时间(temporal)和空间(spatial)信息

4.3.2.1 Spatial Attention Module(SA)

$D{L}_t^k$: 第$k$层Meteo-LSTM在时间$t$的空间特征信息(spatial feature storage/memory)

4.3.2.2 Differential Attention Module(DA)

$D{S}_t^k$: 第$k$层Meteo-LSTM在时间$t$的时间特征信息(temporal feature storage/memory)

4.3.2.3 特征融合(feature fusion)

将Spatial Attention Module(SA)获取的空间信息$D{L}_t^k$与Differential Attention Module(DA)获取的时间信息$D{S}_t^k$融合

$$\begin{array}{c}\begin{array}{rl}o& =\sigma (W_{ox}\ast X_t+W_{oh}\ast H_{t-1}^k+W_{oc}\ast C_t^k+W_{om}\ast M_t^k+W_{ods}\ast D{S}_t^k+W_{odl}\ast D{L}_t^k)\\ H_t^k& =o\circ \tanh (W_{1\times 1}\ast [C_t^k,M_t^k,D{S}_t^k,D{L}_t^k\left]\right)\end{array}\end{array}$$

$H_t^k$: 第$k$层Meteo-LSTM在时间$t$的隐藏状态(hidden state)

4.4 融合机制(Fusion Mechanism)

得到两组不同尺度的预测图像，$X_l$(低分辨率预测图像)和$X_h$(低分辨率预测图像)。

4.4.1 Self- Attention

$$\begin{array}{rl}{Z}_l& =\text{so}ftmax\left(\left(W_{lq}\ast X_l\right)\cdot {\left(W_{lk}\ast X_l\right)}^{\top }\right)\cdot \left(W_{lv}\ast X_l\right)\\ Z_h& =\text{so}ftmax\left(\left(W_{lq}\ast X_l\right)\cdot {\left(W_{hk}\ast X_h\right)}^{\top }\right)\cdot \left(W_{hv}\ast X_h\right)\end{array}$$

其中，高分辨率图像共享低分辨率图像的Query，让低分辨率图像得到的全局信息指导高分辨率图像得到的局部信息。

4.4.2 Gating Mechanisms

$$\begin{gathered} Z_m=(W_m\ast [Z_l,Z_h]) \\ i=\sigma (W_{i,z}\ast Z_m+W_{i,xl}\ast X_l) \\ g=\tanh (W_{g,z}\ast Z_m+W_{g,xl}\ast X_l) \\ H=(1-i)\circ X_h+i\circ g \end{gathered}$$

5. 实验

5.1 数据集

选择了法国西北部$550km\times 550km$区域从2016年到2018年的数据，数据包括: 降雨子集(subsets of rainfall)、降雨雷达数据质量(radar data quality)和雷达反射率(radar reflectivity)；每隔15分钟选择一张雷达回波图像，一个样本包含20张雷达回波图像，前10张用作输入，后10张用作输出。

雷达空间分辨率为$0.01^o$

雷达反射率作为模型的训练集和测试集，训练集:测试集:验证集 = 8:1:1(4000:500:500)

基于降雨雷达数据质量，排除了累积降雨数据集中质量较差的数据

5.2 损失函数

基于$L_1和L_2$正则的损失函数: $loss=\frac{1}{n}{\sum }_{t=1}^n\left(\left|E_t-{\hat{E}}_t\right|+{\left|E_t-{\hat{E}}_t\right|}^2\right)$，其中

n表示通过编码-解码之后的输出图像的数量，易知$n=19$；$E_t$表示真实图像，${\hat{E}}_t$表示预测图像。

5.3 结果分析

5.3.1 像素值与雷达回波反射率强度转换

$P=255\times \frac{\mathrm{dBZ}}{60}$，$P:0-255$

5.3.2 Z-R关系

雷达回波反射率强度与降水强度值之间的转换

$\mathrm{dBZ}=10\times \lg \left(200\times R^{1.6}\right)$

5.3.3 评价指标

计算不同降水阈值$\mathbb{R}=0.5,2,5,\mathrm{and}10$下的预测降水强度和真实真实降水强度之间的critial success index($\text{CSI}$)，和Heidke skill score($\text{HSS}$)(与预测准确性相关的两个指标)，其中：

$$\begin{gathered} \mathrm{CSI}=\frac{\mathrm{TP}}{\mathrm{TP}+\mathrm{FN}+\mathrm{FP}}, \\ \mathrm{HSS}=\frac{\mathrm{TP}\times \mathrm{TN}-\mathrm{FN}\times \mathrm{FP}}{(\mathrm{TP}+\mathrm{FN})(\mathrm{FN}+\mathrm{TN})+(\mathrm{TP}+\mathrm{FP})(\mathrm{FP}+\mathrm{TN})} \end{gathered}$$

图像相似性指标$SSIM$: $SSIM(x,y)=\frac{\left(2{\mu }_x{\mu }_y+C_1\right)\left(2{\sigma }_{xy}+C_2\right)}{\left({\mu }_x^2+{\mu }_y^2+C_1\right)\left({\sigma }_x^2+{\sigma }_y^2+C_2\right)}$

三个指标都是越大越大。

5.3.4 可视化

强降水预测能力

5.3.5 对比实验

5.3.5.1 DA和DS的有效性

5.3.5.2 fusion mechanism的有效性