多元时间序列预测 —— 向量自回归（VAR）

先来回忆一下单变量 $p$ 阶自回归模型 $AR(p)$：
$$y_t=w_0+\sum _{i=1}^p{w}_i{y}_{t-i}+{ϵ}_t$$
那么对于多变量情形，$\mathbf{y}\in R^n$，可以很自然地推广：
$${\mathbf{y}}_t=\text{b}+\sum _{i=1}^p{W}_i{\mathbf{y}}_{t-i}+{\text{E}}_t$$
上式中 $W_i\in R^{n\times n},{\text{E}}_t,b\in R^n$.

怎么来计算参数 $W_i$ 呢？

转化成优化问题：
$$\underset{W_i,b}{\min }\sum _t{\left|\left|{\mathbf{y}}_t-\text{b}-\sum _{i=1}^p{W}_i{\mathbf{y}}_{t-i}\right|\right|}_2^2$$
甚至
$$\underset{W_i,b}{\min }\sum _t{\left|\left|{\mathbf{y}}_t-\left[\begin{array}{llccc}\text{b}& W_1& W_2& \cdots & W_p\end{array}\right]\left[\begin{array}{l}1\\ {\mathbf{y}}_{t-1}\\ {\mathbf{y}}_{t-2}\\ ⋮\\ {\mathbf{y}}_{t-p}\end{array}\right]\right|\right|}_2^2$$
这就简单了吧，直接最小二乘法求解即可。