时序分析(10) -- 时序平滑（中)

时序分析(10)

时序平滑（中)

    上一篇文章我们介绍了时序平滑的基本技术和方法论，并详细讲解了简单指数平滑。本篇文章主要介绍指数平滑技术的其他变种，包括：

• Holt’s Linear Trend
• Exponential Trend
• Damped Trend
• Holt’s Winters Seasonal
• 指数平滑小结
• Innovations state space models for exponential smoothing

1. Holt’s Linear Trend

Holt扩展了基本的指数平滑方法，增加了一个趋势项。该方法同事预测时序水平和时序的趋势，

$$Forecastequation{\hat{y}}_{t+h|t}={\ell }_t+h{b}_t$$
$$Levelequation{\ell }_t=\alpha y_t+(1-\alpha )({\ell }_{t-1}+b_{t-1})$$
$$Trendequation{b}_t=\beta ({\ell }_t-{\ell }_{t-1})+(1-\beta )b_{t-1}$$

这里，${\ell }_t$代表时序的水平，$b_t$代表时序的趋势，$\alpha$是时序水平的平滑参数，$\beta$是时序趋势的平滑参数。

时序水平为最近的数据与上一次的时序预测水平和趋势的和的加权平均。

时序趋势为上一此的趋势和最近一次的估算趋势$({\ell }_t-{\ell }_{t-1})$的加权平均。
类似简单指数平滑中的Error Correction形式：

$$\begin{gathered} {\ell }_t={\ell }_{t-1}+b_{t-1}+\alpha e_t \\ {b}_t=b_{t-1}+\alpha \beta e_t \end{gathered}$$

这里，$e_t=y_t-({\ell }_{t-1}+b_{t-1})=y_t-{\hat{y}}_{t|t-1}$

2. Exponential Trend

    指数趋势方法是Holt线性方法的一个变种，此方法不是让趋势和水平相加，而是让这两项相乘。

$$\begin{gathered} {\hat{y}}_{t+h|t}={\ell }_t{b}_t^h \\ {\ell }_t=\alpha y_t+(1-\alpha )({\ell }_{t-1}{b}_{t-1}) \\ {b}_t=\beta \frac{{\ell }_t}{{\ell }_{t-1}}+(1-\beta )b_{t-1} \end{gathered}$$

类似的，其Error Correction形式为:

$$\begin{gathered} {\ell }_t={\ell }_{t-1}{b}_{t-1}+\alpha e_t \\ {b}_t=b_{t-1}+\alpha \beta \frac{e_t}{{\ell }_{t-1}} \end{gathered}$$

3. Damped Trend

   Holt线性方法展示一个不变的趋势，在未来不可确定。经验告诉我们类似方法容易出现过度预测(Over Forecast)，特别是长期预测。Damped Trend方法引入了一个"消沉"参数来使趋势平坦化。实际操作中，我们发现这种方式是有效的。

$$\begin{gathered} {\hat{y}}_{t+h|t}={\ell }_t+(\varphi +{\varphi }^2+\cdots +{\varphi }^h)b_t \\ {\ell }_t=\alpha y_t+(1-\alpha )({\ell }_{t-1}+\varphi b_{t-1}) \\ {b}_t=\beta ({\ell }_t-{\ell }_{t-1})+(1-\beta )\varphi b_{t-1} \end{gathered}$$

这里$0<\varphi <1$为消沉参数，如果$\varphi =1$，该方法就变成Holt Linear方法。事实上，预测值会收敛于

$${\ell }_T+\varphi b_T/(1-\varphi )当h\to \infty$$

Error Correction Form:

$$\begin{gathered} {\ell }_t={\ell }_{t-1}+\varphi b_{t-1}+\alpha e_t \\ {b}_t=\varphi b_{t-1}+\alpha \beta e_t \end{gathered}$$

1. Holt’s Winters Seasonal

   Holt-Winter周期性方法扩展了Holt Linear方法，增加了周期性的捕捉。所以，Holt-Winters方法就会对三个组件进行平滑：水平${\ell }_t$，趋势$b_t$，周期$s_t$， 平滑参数分别为$\alpha ,\beta ,\gamma$。我们用 $m$ 代表时序周期，例如季度数据 $m=4$ 而j月数据$m=12$。

   Holt-Winter方法存在两个变种：加性方法和乘性方法。

   加性方法比较适合于周期性变动是平稳的情况，而乘性方法相对适用于周期性变动与时序的水平是成比例的情况。

• Holt-Winter additive method

$$\begin{gathered} {\hat{y}}_{t+h|t}={\ell }_t+h{b}_t+s_{t-m+h_m^{+}} \\ {\ell }_t=\alpha (y_t-s_{t-m})+(1-\alpha )({\ell }_{t-1}+b_{t-1}) \\ {b}_t=\beta ({\ell }_t-{\ell }_{t-1})+(1-\beta )b_{t-1} \\ {s}_t=\gamma (y_t-{\ell }_{t-1}-b_{t-1})+(1-\gamma )s_{t-m}, \end{gathered}$$
这里$h_m^{+}=\lfloor (h-1)\mathrm{m}\mathrm{o}\mathrm{d}m\rfloor +1$ 保证季节性位置的估算来自样本的最后一年。

注：符号$\lfloor u\rfloor$ 代表最大的不大于 $u$ 的整数。

时序水平就是周期性调整项$(y_t-s_{t-m})$ 与非周期性预测$({\ell }_{t-1}+b_{t-1})$ 的加权平均。

趋势预测和Holt Liner方法是一样的。

周期性预测等于当前的季节指数$(y_t-{\ell }_{t-1}-b_{t-1})$ 和上一年同季节的季节指数。
Error Correction Form:

$$\begin{gathered} {\ell }_t={\ell }_{t-1}+b_{t-1}+\alpha e_t \\ {b}_t=b_{t-1}+\alpha \beta e_t \\ {s}_t=s_{t-m}+\gamma e_t \end{gathered}$$

其中，$e_t=y_t-({\ell }_{t-1}+b_{t-1}+s_{t-m})=y_t-{\hat{y}}_{t|t-1}$是单步训练误差。

• Holt-winter multiplicative method
  $$\begin{gathered} {\hat{y}}_{t+h|t}=({\ell }_t+h{b}_t)s_{t-m+h_m^{+}}. \\ {\ell }_t=\alpha \frac{y_t}{s_{t-m}}+(1-\alpha )({\ell }_{t-1}+b_{t-1}) \\ {b}_t=\beta ({\ell }_t-{\ell }_{t-1})+(1-{\beta }_{t-1}^b \\ {s}_t=\gamma \frac{y_t}{({\ell }_{t-1}+b_{t-1})}+(1-\gamma )s_{t-m} \end{gathered}$$
  Error Correction Form:
  $$\begin{gathered} {\ell }_t={\ell }_{t-1}+b_{t-1}+\alpha \frac{e_t}{s_{t-m}} \\ {b}_t=b_{t-1}+\alpha \beta \frac{e_t}{s_{t-m}} \\ {s}_t=s_t+\gamma \frac{e_t}{({\ell }_{t-1}+b_{t-1})} \end{gathered}$$
  这里，$e_t=y_t-({\ell }_{t-1}+b_{t-1})s_{t-m}$

5. 指数平滑小结
       指数平滑模型的范围并不仅仅局限在我们所讲述的模型。考虑其关于趋势预测和周期性预测方法的各种组合，实际上存在15种方法。我们用(T,S)定义Trend和Seanonal组件，例如(A,M)代表加性趋势性和乘性周期性，(M,N)代表乘性趋势性和没有季节性。

    我们所看到的方法可以表示成为：

6. Innovations state space models for exponential smoothing
    状态空间模型是统计学上非常重要且应用非常广泛的模型，本节所要介绍的方法就是使用指数平滑来构建状态空间模型，它不但可以预测时序，还可以预测时间间隔。一般来说，状态空间模型会包含一个等式来描述观测值和其他状态转换等式来描述观测值和状态(水平/趋势/周期)如何随着时间而变化。同时，每个模型存在两个模式，一个是应用加性误差，另一个应用乘性误差。

我们把模型标记为ETS(\cdot,\cdot,\cdot) 针对(Error,Trend,Seasonal)，每一个成分的可能选择为

    Error ={A,M},

    Trend ={N,A,Ad,M,Md}

    Seasonal ={ N,A,M} 

• ETS(A,N,N): simple exponential smoothing with additive errors
  前面我们讲过简单指数平滑的残差矫正形式为:
  ${\ell }_t={\ell }_{t-1}+\alpha e_t$
  $e_t=y_t-{\ell }_{t-1},{\hat{y}}_{t|t-1}={\ell }_{t-1}因此，e_t=y_t-{\hat{y}}_{t|t-1}$
  $得到y_t={\ell }_{t-1}+e_t$
  为了把这个转换成状态空间模型，我们需要定义$e_t$的概率分布。对于一个加性误差模型。我们假设其单步误差$e_t={\epsilon }_t\sim \text{NID}(0,{\sigma }^2)$ ，NID是指正态独立分布。那么，我们有
  $$y_t={\ell }_{t-1}+{ϵ}_t\text{\hspace{1em}(10.1)}$$
  $${\ell }_t={\ell }_{t-1}+\alpha {\epsilon }_t.\text{\hspace{1em}(10.2)}$$
  我们把(10.1)式看作是描述观测值，把(10.2)式看作是描述状态转换，再加上对错误的统计分布建模，构成了一个完整的统计模型。“Innovation"这个词来源于单源误差过程\epsilon_t。
  从观测值等式来看，预测值来源于两个部分：可预测部分和不可预测部分，其关系式线性的，再其他状态空间模型中，这个关系可能式非线性的。
  状态转换等式中表示了状态随着时间演化，$\alpha$控制着变化的幅度，我们可以看到，当$\alpha =1$时，就变成了随机步行过程。

• ETS(M,N,N): simple exponential smoothing with multiplicative errors
  乘性模型中，单步随机误差是相对误差，
  $${\epsilon }_t=\frac{y_t-{\hat{y}}_{t|t-1}}{{\hat{y}}_{t|t-1}},{\epsilon }_t\sim \text{NID}(0,{\sigma }^2)$$
  $$e_t=y_t-{\hat{y}}_{t|t-1}={\ell }_{t-1}{\epsilon }_t$$
  观测等式和模型转换等式为：
  $$\begin{gathered} y_t={\ell }_{t-1}(1+{\epsilon }_t) \\ {\ell }_t={\ell }_{t-1}(1+\alpha {\epsilon }_t). \end{gathered}$$

• ETS(A,A,N): Holt’s linear method with additive errors
  随机误差建模为：
  $${\epsilon }_t=y_t-{\ell }_{t-1}-b_{t-1}\sim \text{NID}(0,{\sigma }^2)$$
  观测等式和状态转移等式为:
  $$\begin{gathered} y_t={\ell }_{t-1}+b_{t-1}+{\epsilon }_t \\ {\ell }_t={\ell }_{t-1}+b_{t-1}+\alpha {\epsilon }_t \\ {b}_t=b_{t-1}+{\beta }^{\ast }{\epsilon }_t, \end{gathered}$$
  这里${\beta }^{\ast }=\alpha \ast \beta$

• ETS(M,A,N): Holt’s linear method with multiplicative errors
  随机误差建模为:
  $${\epsilon }_t=\frac{y_t-({\ell }_{t-1}+b_{t-1})}{({\ell }_{t-1}+b_{t-1})}，{\epsilon }_t\sim \text{NID}(0,{\sigma }^2)$$
  观测等式和状态转移等式为：
  $$\begin{gathered} y_t=({\ell }_{t-1}+b_{t-1})(1+{\epsilon }_t) \\ {\ell }_t=({\ell }_{t-1}+b_{t-1})(1+\alpha {\epsilon }_t) \\ {b}_t=b_{t-1}+{\beta }^{\ast }({\ell }_{t-1}+b_{t-1}){\epsilon }_t \end{gathered}$$
  这里${\beta }^{\ast }=\alpha \ast \beta$

除上面介绍的方法外，ETS模型还有很多变种，规律雷同。下一次，我们将采用所学到的平滑方法对时序数据惊醒建模和预测。

未完待续…