由于极端事件对人类和自然系统的重大影响,准确预测时间序列中的极端值至关重要。本文提出了一种将深度神经网络(DNN)与广义极值(GEV)分布相结合的预测时间序列块最大值的新框架——DeepExtrema。实现这样的网络是一个挑战,因为即使在初始化DNN时,框架也必须保持GEV模型参数之间的相互依赖约束。我们描述了解决这一挑战的方法,并提出了一种体系结构,该体系结构支持对块最大值的条件平均值和分位数进行预测。在真实数据和合成数据上进行的大量实验表明,与其他基线方法相比,DeepExtrema具有优越性
背景:
1)EVT中最常用的两种分布是广义极值分布(GEV)和广义帕累托分布(GP)。给定一个预测时间窗口,GEV控制其块最大值的分布,而GP则关注超过一定阈值的多余值的分布
2)极值理论(EVT)提供了一种基于统计学的方法来推导控制一系列极值的限制分布
3)将GEV分布纳入深度学习公式提出了许多技术挑战。首先,GEV参数必须满足一定的正约束,以确保预测的分布有一个有限的界 ;数据的稀缺性,因为每个时间窗口只有一个块的最大值 ;最后,训练过程对模型初始化高度敏感.如果没有适当的初始化,则DNN将努力以GEV参数的可接受值收敛到一个可行的解决方案。
Proposed Framework: DeepExtrema
给定输入预测器x,框架使用一个堆叠的LSTM网络来学习时间序列的表示。LSTM将输出一个潜在表示,全连接层将使用它来生成GEV参数
提出的模型偏置偏移(MBO)组件对估计的GEV参数进行偏置校正,以确保LSTM输出保持GEV参数的正则性条件,并生成可行的ξ值,而不管网络如何初始化。随后将GEV参数提供给全连接层以获得块最大值的点估计
GEV Parameter Estimation
由LSTM产生的估计GEV参数必须满足(5)不等式给出的两个正约束。
Model Bias Offset (MBO)