时间序列一些相关算法

时间序列算法

时间序列是按时间顺序索引的一系列数据点，主要有如下两种分析方法:

• 频域法:频谱分析和小波法
• 时域法:自相关和互相关法

或者

• 参数法
• 非参数法

 

1.移动平均法

1.1 简易移动平均法

有观察序列 { x i : i > = 1 } \{x_i:i>= 1\} {xi​:i>=1} ，简易移动平均法(simple moving average, SMA)是对指定步长w的无权重取均值．若w步长内的值为 $x_i,x_{i-1},...,x_{i-(w-1)}$，有:

$$M_i=\frac{1}{W}\sum _{j=0}^{W-1}{x}_{i-j}=\frac{x_i+x_{i-1}+...+x_{i-(W-1)}}{W}$$

若计算的是连续变化的值(新值进来，老值出去)，上面公式可以写为:

$$M_i=M_{i-1}+\frac{X_i}{W}-\frac{X_i-W}{W}$$

1.2 移动平均法

有观察序列 { x i : i > = 1 } \{x_i:i>= 1\} {xi​:i>=1} ，一种累积的移动平均法是无权重取均值．若w步长内的值为 $x_i,x_{i-1},...,x_{i-(w-1)}$，有:

$$CM{A}_i=\frac{x_1+...+x_i}{i}$$

若我们有新值$x_{i+1}$，那么该累积的移动平均值为:

$$\begin{array}{rl}CM{A}_{i+1}=& \frac{x_1+...+x_i+x_{i+1}}{i+1}\\ =& \frac{x_{i+1}+n\ast CM{A}_i}{i+1}\\ =& \frac{CM{A}_i+X_{i+1}-CM{A}_i}{i+1}\end{array}$$

 

1.3加权平均法

顾名思义带权重的方法[狗头]，假设权重关系满足 ${\sum }_{j=0}^{w-1}weigh{t}_j=1$ , 并且$weigh{t}_j\ge 0$ ，有:

$$WM{A}_i=\sum _{j=0}^{w-1}weigh{t}_j\ast x_{i-j}$$

特别地，如果让权重 { w e i g h t j : 0 < = j < = w − 1 } \{weight_j : 0<=j< =w-1\} {weightj​:0<=j<=w−1}满足 :

$$weigh{t}_j=\frac{w-j}{w+(w-1)+..+1},for:0<=j<=w-1$$
此时
$$WM{A}_i=\frac{w{x}_i+(w-1)x_{i-1}+...+2x_{i-w+2}+x_{i-w+1}}{w+(w-1)+...+1}$$
简单的说就是近的权重大，远的权重小，权重分子为位置，分母为位置累加

假设:
$$\begin{array}{rl}Tota{l}_i=& x_i+...+x_{i-w+1}\\ Numerato{r}_i=& w{x}_i+(w-1)x_{i-1}+...+x_{i-w+1}\end{array}$$
那么对于有新值来说公式变形为:
$$\begin{array}{rl}Tota{l}_{i+1}=& Tota{l}_i+x_{i+1}-x_{i-w+1}\\ Numerato{r}_{i+1}=& Numerato{r}_i+w{x}_{i+1}-Tota{l}_i\\ WM{A}_{i+1}=& \frac{Numerato{r}_{i+1}}{w+(w-1)+...+1}\end{array}$$

 

2.指数平滑法

2.1 指数加权移动平均法

有观察数列 { Y t : t > = 1 } \{Y_t: t>=1\} {Yt​:t>=1}，指数加权移动平均数列 { S t : t ≥ 1 } \{S_t: t\ge1\} {St​:t≥1}定义为:

$$S_t=\{\begin{array}{ll}{Y}_1,& \text{t=1}\\ \alpha \cdot Y_{t-1}+(1-\alpha )\ast S_{t-1}& \text{t≥ 2}\end{array}$$

• $\alpha ϵ[0,1]$ 是恒定平滑因子

• $Y_t$为在时刻t观察到的值

• $S_t$ 是EWMA在任意t时刻的值

从上面的定义有:
$$S_t=\alpha [Y_{t-1}+(1-\alpha )Y_{t-2}+...+(1-\alpha {)}^k{Y}_{t-(k+1)}]+(1-\alpha {)}^{k+1}{S}_{t-(k+1)}$$
对于任意合适的k$ϵ${0, 1,2,…}，权重$Y_{t-i}$为 $\alpha (1-\alpha {)}^{i-i}$

假设有观察数列 { Y t : t > = 1 } \{Y_t: t>=1\} {Yt​:t>=1}，交替指数加权移动平均序列 { S t : t ≥ 1 } \{S_t: t\ge1\} {St​:t≥1}被定义为:
$$S_{t,alternate}=\{\begin{array}{ll}{Y}_1,& \text{t=1}\\ \alpha \cdot Y_t+(1-\alpha )\ast S_{t-1,alternate,}& \text{t≥ 2}\end{array}$$
这里，我们使用$Y_t$ 替代 $Y_{t-1}$

 

2.2双指数平滑

Suppose { Y t : t ≥ 1 } \{Y_t:t \ge1\} {Yt​:t≥1} is an observed data sequence, there are two equations associated with double exponential smoothing:

$S_t=\alpha Y_t+(1-\alpha )(S_{t-1}+b_{t-1})$

$b_t=\beta (S_t-S_{t-1})+(1-\beta )b_{t-1})$

where $\alpha ϵ[0,1]$ is the data smoothing factor and $\beta ϵ[0,1]$ is the trend smoothing factor

Here, the initial values are $S_1=Y_1$ and $b_1$ has three possibilities:

$b_1=Y_2-Y_1$

$b_1=\frac{(Y_2-Y_1)+(Y_3-Y_2)+(Y_4-Y_3)}{3}=\frac{Y_4-Y1}{3}$

$b_1=\frac{Y_n-Y_1}{n-1}$

不想改了自己看吧[这些公式编辑起来是真的麻烦]

-------------20200724要准备下班了，不写了，下次继续

-------------我去一晃七月就要过去了，又特么摸了一周的鱼，平安平安

 

-------------20200814哦草一晃就来到了八月中旬，这里补一个常见的一次二次三次指数平滑。其实指数平滑可以拿来做信号平滑也可以拿来做预测，当然做预测有更好的工具就是了。

 

# 平滑指数
def calc_next_s(alpha, x):
    s = [0 for  i in range(len(x))]
    s[0] = np.sum(x[0:3]) / float(3)
    for i in range(1, len(s)):
        s[i] = alpha*x[i] + (1-alpha)*s[i-1]
    return s

# 基于平滑指数预测
def time_predict(alpha, x):
    
    s1 = calc_next_s(alpha, x)# 一次
    s2 = calc_next_s(alpha,s1)# 二次
    s3 = calc_next_s(alpha, s2)# 三次
    a3 = [(3 * s1[i] - 3 * s2[i] + s3[i]) for i in range(len(s3))]
    b3 = [((alpha / (2 * (1 - alpha) ** 2)) * ((6 - 5 * alpha) * s1[i] - 2 * (5 - 4 * alpha) * s2[i] + (4 - 3 * alpha) * s3[i])) for i in range(len(s3))]
    c3 = [(alpha ** 2 / (2 * (1 - alpha) ** 2) * (s1[i] - 2 * s2[i] + s3[i])) for i in range(len(s3))]
    pred = a3[-1]+b3[-1]*1+c3[-1]*(1**2)
    print(pred))

 
上图移动平均和指数平滑效果的对比，移动平均的步长是5，指数平滑的$\alpha$是0.1，个人感觉指数平滑去毛刺效果更好。

 

这里抄一个关于指数平滑$\alpha$的判断方法:
经验判断
1、当时间序列呈现较稳定的水平趋势时，应选较小的α，一般可在0.05~0.20之间取值‘
2、当时间序列有波动，但长期趋势变化不大时，可选稍大的α值，常在0.1~0.4之间取值；
3、当时间序列波动很大，长期趋势变化幅度较大，呈现明显且迅速的上升或下降趋势时，宜选择较大的α值，如可在0.6~0.8间选值。以使预测模型灵敏度高些，能迅速跟上数据的变化。
4、当时间序列数据是上升（或下降）的发展趋势类型，α应取较大的值，在0.6~1之间。
--------------------------------------------20200814 今天一定要多写一点。

 

3.控制图理论

控制图，用图形化来量化样本特征

• 中心线(CL, Center Line)：质量特征的均值
• 上控制限(UCL, Upper Control Limit)和下控制限(LCL, Lower Control Limit):两条水平线

 

3.1 3$\sigma$控制图

假设w是一个特征序列，w的均值为${\mu }_w$，标准差为${\sigma }_w$．那么有:
UCL = ${\mu }_w$ + L${\sigma }_w$
CL = ${\mu }_w$
LCL = ${\mu }_w$ - L${\sigma }_w$

这里L是相对中心线的控制距离，用标准差为单位，比如说L=3，那么它就是3$\sigma$控制图

 

3.2 累计和控制图

假设$x_i$是序列{$x_i:1\le i\le n$}的第i个值，该序列满足正态分布，均值为$\mu$，标准差为$\sigma$，累计和控制图(CUSUM, cumulative sum control chart )计算方法为:
$C_i={\sum }_{j=1}^i(x_j-{\mu }_0)=C_{i-1}+(x_i-{\mu }_0)$
这里$C_0=0$，${\mu }_0$是目标过程的平均值．

• 若$|C_i|$超出决策间隔H，那么该过程就被认为失去控制．
• 决策间隔H为3$\sigma$或者5$\sigma$

不同点

• 3$\sigma$控制:超出3$\sigma$控制限值的一个或多个点
• CUSUM控制:当小位移很重要时，这是一个很好的选择

 

3.3 表或者算法形式的CUSUM

$x_i$满足观察序列{$x_i:1\le i\le n$}，序列均值为${\mu }_0$，标准差为$\sigma$．统计学$C^{+}$和$C^{-}$计算公式如下:
$$\begin{gathered} C_i^{+}=max[0,x_i-({\mu }_0+K)+C_{i-1}^{+}] \\ {C}_i^{-}=max[0,({\mu }_0-K)-x_i+C_{i-1}^{-}] \end{gathered}$$
$C_0^{+}=C_0^{-}=0$．K为参考值，计算公式为$K=\frac{|{\mu }_1-{\mu }_0|}{2}$，${\mu }_1={\mu }_0+\delta \sigma$，并且$\delta =1$

 

3.4 指数平滑控制图

指数平滑(指数加权移动平均expoentially weighted moving average )定义如下:
$z_i=\lambda x_i+(1-\lambda )z_{i-1}$