DeepExtrema: A Deep Learning Approach for Forecasting Block Maximain Time Series Data

由于极端事件对人类和自然系统的重大影响，准确预测时间序列中的极端值至关重要。本文提出了一种将深度神经网络(DNN)与广义极值(GEV)分布相结合的预测时间序列块最大值的新框架——DeepExtrema。实现这样的网络是一个挑战，因为即使在初始化DNN时，框架也必须保持GEV模型参数之间的相互依赖约束。我们描述了解决这一挑战的方法，并提出了一种体系结构，该体系结构支持对块最大值的条件平均值和分位数进行预测。在真实数据和合成数据上进行的大量实验表明，与其他基线方法相比，DeepExtrema具有优越性

背景：

1）EVT中最常用的两种分布是广义极值分布(GEV)和广义帕累托分布(GP)。给定一个预测时间窗口，GEV控制其块最大值的分布，而GP则关注超过一定阈值的多余值的分布

2）极值理论(EVT)提供了一种基于统计学的方法来推导控制一系列极值的限制分布 

3）将GEV分布纳入深度学习公式提出了许多技术挑战。首先,GEV参数必须满足一定的正约束，以确保预测的分布有一个有限的界 ；数据的稀缺性，因为每个时间窗口只有一个块的最大值 ;最后，训练过程对模型初始化高度敏感.如果没有适当的初始化，则DNN将努力以GEV参数的可接受值收敛到一个可行的解决方案。

 

 Proposed Framework: DeepExtrema

 给定输入预测器x，框架使用一个堆叠的LSTM网络来学习时间序列的表示。LSTM将输出一个潜在表示，全连接层将使用它来生成GEV参数

 提出的模型偏置偏移(MBO)组件对估计的GEV参数进行偏置校正，以确保LSTM输出保持GEV参数的正则性条件，并生成可行的ξ值，而不管网络如何初始化。随后将GEV参数提供给全连接层以获得块最大值的点估计

GEV Parameter Estimation

由LSTM产生的估计GEV参数必须满足(5)不等式给出的两个正约束。

 

 

 Model Bias Offset (MBO)