从状态空间模型到卡尔曼滤波

从状态空间模型到卡尔曼滤波

一、时间序列分析

时间序列分析包含两种方式，一种是传统的时间序列分析法，研究时间序列能否被分解为由不同因素引起的变动；另外一种是通过建模的方式，常用的时间序列模型包含自回归模型(AR)、滑动平均模型(MA)、自回归滑动平均模型(ARMA)、以及差分自回归滑动平均模型(ARIMA)等。不同的模型适用的条件不同。

1. AR模型

如果时间序列的任意数值都可表示为自回归方程，那么该时间序列服从P阶的自回归过程。表示为AR§:
$$x(t)={\Phi }_1{x}_{t-1}+{\Phi }_2{x}_{t-2}+{\Phi }_p{x}_{t-p}+u_t$$

$$\begin{gathered} x_t,x_{t-1},x_{t-2},......x_{t-p}为不同时间点记录的数据值 \\ {\Phi }_1,{\Phi }_2{\Phi }_3......{\Phi }_p为自回归系数 \\ {u}_t为白噪声，一般假设服从(0,{\sigma }^2)的分布 \end{gathered}$$

AR(1)表示一阶自回归模型如式(1); AR(2)表示二阶自回归模型如式(2)：
$$\begin{gathered} x_t={\Phi }_1{x}_{t-1}+u_t \\ \text{\hspace{1em}(1)} \end{gathered}$$

$$\begin{gathered} x_t={\Phi }_1{x}_{t-1}+{\Phi }_2{x}_{t-2}+u_t \\ \text{\hspace{1em}(2)} \end{gathered}$$

2. MA模型

$$\begin{gathered} x_t=u_t+{\theta }_1{u}_{t-1}+{\theta }_2{u}_{t-2}+......{\theta }_q{u}_{t-q}{u}_t,u_{t-1},u_{t-2},u_{t-3},u_{t-q}表示不同时间的噪声点 \\ {\theta }_1,{\theta }_2,{\theta }_3,{\theta }_q表示回归方程系数 \end{gathered}$$

MA(2)表示二阶MA模型：
$$x_t=u_t+{\theta }_1{u}_{t-1}+{\theta }_2{u}_{t-2}\text{\hspace{1em}(3)}$$
从上述表达式可以看出AR模型解决了测量值的问题，MA模型解决了白噪声的问题。本质上MA模型是对AR模型的补充。

3. ARMA模型

根据上述的式子，将AR和MA结合就形成了ARMA模型，因此模型具有ARMA(p, q)两个阶数。p是自回归阶数，q为移动平均阶数。
$$\begin{gathered} x_t={\Phi }_1{x}_{t-1}+{\Phi }_2{x}_{t-2}+{\Phi }_3{x}_{t-3}+......{\Phi }_p{x}_{t-p}+u_t+{\theta }_1{u}_{t-1}+{\theta }_2{u}_{t-2}+{\theta }_3{u}_{t-3}+......{\theta }_q{u}_{t-q} \\ \text{\hspace{1em}(4)} \end{gathered}$$
从式(4)中来看，ARMA综合了AR模型和MA模型的优势，AR模型根据前面时间步得到了当前时间步的值，MA模型解决了随机变量的值。由此也可见自回归模型是通过自身求解自身值的一种思路。

4. ARIMA模型

ARMA模型主要针对平稳序列分析，如果是模型为非平稳序列，则上述模型就不在使用。因此，提出了AMIMA。所谓非平稳序列就是序列的均值和方差随时间变化1，但是经过差分之后序列成为平稳序列。所以模型写为ARIMA(p,d,q),p代表了自回归的阶数， d代表了差分的次数，q代表了移动平均的阶数。

二、状态空间模型(SS)

状态空间模型是物理系统的数学表示，是由一阶微分方程相关的一组输入、输出和状态变量。状态变量定义输出变量的值。

在连续时间中，状态空间模型符合下列表达式：
$$\begin{gathered} \hat{x}=Ax+Bu \\ y=Cx+Du\text{\hspace{1em}(5)} \end{gathered}$$
其中x, u, y 代表了状态、输入、输出，A,B,C,D代表了状态空间矩阵。从表达式的形式上看状态空间模型和ARMA的表达式一样。事实上，任意一个ARMA过程都有一个状态空间模型与之对应，任何状态空间也可用ARMA来表示。

三、通过状态空间模型来去除脑电伪迹和提取脑电节律

1. 考虑ARMA(p, p-1)模型：

$$X_t=\sum _{i=1}^p{A}_j{X}_{t-i}+e_t+\sum _{j=1}^{p-1}{D}_j{e}_{t-j}\text{\hspace{1em}(6)}$$

$$A_j,D_j是模型系数，X_t是模型输出，e_t是0均值白噪声$$

对于一个ARMA（2,1）的模型表示为：
$$y_n=a_{1}y(n-1)+a_{2}y(n-2)+\eta (n)+d_1\eta (n-1)\text{\hspace{1em}(7)}$$
假设：

​ 求出A的特征值，实际信号中特征值可能是实根也可能是复数根，对于复数根，通过欧拉恒等变化转换为三角函数。通过变换之后A的Jordan标准型矩阵为：M个模态矩阵和n个实特征值组成。则多输出系统状态空间模型描述为:
$$\begin{gathered} X(n)=\tilde{A}X(n-1)+\tilde{B}\eta (n) \\ y(n)=\tilde{C}x(n)+\epsilon (n) \\ 其中\eta (n)为系统噪声，服从N(0,Q)的高斯分布，\epsilon (n)为观测噪声，服从N(0,R)的分布\text{\hspace{1em}(12)} \end{gathered}$$
假定两者的协方差矩阵均为对角阵：
$$\begin{gathered} Q=diag({\theta }_1^2,{\theta }_m^2,...{\theta }_{m+n}^2) \\ R=diag({\sigma }_1^2,{\sigma }_m^2,...{\sigma }_l^2)\text{\hspace{1em}(13)} \end{gathered}$$
参考文献：

黄丽敏,郝崇清,李斌.基于状态空间模型的脑电去伪迹与节律提取[J].河北工业科技,2013,30(3):147-151

四、卡尔曼滤波

卡尔曼滤波是一种自回归滤波器，可以根据之前状态的估计值和当前的测量值，找到当前状态的最优估计值。因此，不需要记录观测或者估计的历史信息。在计算和存储上都有极大的优势

链接：https://zh.wikipedia.org/wiki/%E5%8D%A1%E5%B0%94%E6%9B%BC%E6%BB%A4%E6%B3%A2
将状态空间模型和卡尔曼滤波相结合，可以分解出脑电中的伪迹和脑电节律。但是对于状态空间模型来说，如果阶数太低，分解不足，难以得到有效的成分。但是分解阶数作为超参数，很难确定。