时间序列模型之相空间重构

一般的时间序列主要是在时间域中进行模型的研究，而对于混沌时间序列，无论是混沌不变量的计算，混沌模型的建立和预测都是在所谓的相空间中进行，因此相空间重构就是混沌时间序列处理中非常重要的一个步骤。所谓混沌序列，可以看作是考察混沌系统所得到的一组随着时间而变化的观察值。假设时间序列是$\{ x(i): i=1,\cdot \cdot \cdot, n\},$ 那么吸引子的结构特性就包含在这个时间序列之中。为了从时间序列中提取出更多有用的信息，1980年Packard等人提出了时间序列重构相空间的两种方法：导数重构法和坐标延迟重构法。而后者的本质则是通过一维的时间序列$\{x(i)\}$的不同延迟时间$\tau$来构建$d$维的相空间矢量

$y(i)=(x(i),...,x(i+(d-1)\tau)), 1\leq i\leq n-(d-1)\tau.$

1981年Takens提出嵌入定理：对于无限长，无噪声的$d^{'}$维混沌吸引子的一维标量时间序列$\{x(i): 1\leq i \leq n\}$都可以在拓扑不变的意义下找到一个$d$维的嵌入相空间，只要维数$d\geq 2d^{'}+1.$ 根据Takens嵌入定理，我们可以从一维混沌时间序列中重构一个与原动力系统在拓扑意义下一样的相空间，混沌时间序列的判定，分析和预测都是在这个重构的相空间中进行的，因此相空间的重构就是混沌时间序列研究的关键。

1. 相空间重构

相空间重构技术有两个关键的参数：嵌入的维数$d$和延迟时间$\tau.$ 在Takens嵌入定理中，嵌入维数和延迟时间都只是理论上证明了其存在性，并没有给出具体的表达式，而且实际应用中时间序列都是有噪声的有限序列，嵌入维数和时间延迟必须要根据实际的情况来选取合适的值。

关于嵌入维数$d$和延迟时间$\tau$的取值，通常有两种观点：第一种观点认为$d$和$\tau$是互不相关的，先求出延迟时间之后再根据它求出合适的嵌入维数。求出延迟时间$\tau$比较常用的方法主要有自相关法，平均位移法，复自相关法和互信息法等，关键的地方就是使得原时间序列经过时间延迟之后可以作为独立的坐标来使用。同时寻找嵌入维数的方法主要是几何不变量方法，虚假最临近法(False Nearest Neighbors)和它改进之后的Cao方法等。第二种观点则是认为延迟时间和嵌入维数是相关的。1996年Kugiumtzis提出的时间窗长度则是综合考虑两者的重要参数。1999年，Kim等人提出了C-C方法，该方法使用关联积分同时估计出延迟时间和时间窗。

(1) 延迟时间$\tau$的确定：
如果延迟时间$\tau$太小，则相空间向量

$y(i)=(x(i),\cdot\cdot\cdot, x(i+(d-1)\tau), 1\leq i\leq n-(d-1)\tau$

中的两个坐标分量$x(i+j\tau)$与$x(i+(j+1)\tau)$在数值上非常接近，以至于无法相互区分，从而无法提供两个独立的坐标分量；但是如果延迟时间$\tau$太大的话，则两个坐标分量又会出现一种完全独立的情况，混沌吸引子的轨迹在两个方向上的投影就毫无相关性可言。因此需要合适的方法来确定一个合适的延迟时间$\tau,$ 从而在独立和相关两者之间达到一种平衡。

(1.1) 自相关系数法：
自相关函数是求延迟时间$\tau$比较简单的一种方法，它的主要理念就是提取序列之间的线性相关性。对于混沌序列$x(1), x(2),\cdot \cdot \cdot, x(n),$ 可以写出其自相关函数如下：

$R(\tau)=\frac{1}{n}\sum_{i=1}^{n-\tau}x(i)x(i+\tau).$

此时就可以使用已知的数据$x(1),\cdot \cdot\cdot x(n)$来做出自相关函数$R(\tau)$随着延迟时间$\tau$变化的图像，当自相关函数下降到初始值$R(0)$的$1-e^{-1}$时，i.e. $R(\tau)=(1-e^{-1})R(0),$ 所得到的时间$\tau$也就是重构相空间的延迟时间。虽然自相关函数法是一种简便有效的计算延迟时间的方法，但是它仅仅能够提取时间序列的线性相关性。根据自相关函数法可以让$x(i), x(i+\tau)$以及$x(i+\tau), x(i+2\tau)$之间不相关，但是$x(i), x(i+2\tau)$之间的相关性可能会很强。这一点意味着这种方法并不能够有效的推广到高维的研究。而且选择下降系数$1-e^{-1}$时，这一点可能有点主观性，需要根据具体的情况做适当的调整。因此再总结了自相关法的不足之后，下面介绍一种判断系统非线性关系性的一种方法：交互信息法。

(1.2) 交互信息法：
在考虑了以上方法的局限性之后，Fraser和Swinney提出了交互信息法(Mutual Information Method)。假设两个离散信息系统$\{ s_{1},\cdot \cdot \cdot, s_{m}\}, \{q_{1},\cdot\cdot\cdot, q_{n}\}$所构成的系统$S$和$Q$。通过信息论和遍历论的知识，从两个系统中获得的信息熵分别是：

$H(S)=-\sum_{i=1}^{m}P_{S}(s_{i})log_{2}P_{S}(s_{i}),$

$H(Q)=-\sum_{j=1}^{n}P_{Q}(q_{j})log_{2}P_{Q}(q_{j}).$

其中$P_{S}(s_{i}), P_{Q}(q_{i})$分别是$S$和$Q$中事件$s_{i}$和$q_{i}$的概率。交互信息的计算公式是：

$I(S,Q)=H(S)+H(Q)-H(S,Q),$

其中$H(S,Q)=-\sum_{i=1}^{m}\sum_{j=1}^{n}P_{S,Q}(s_{i},q_{j})log_{2}P_{S,Q}(s_{i},q_{j}).$

这里的$P_{S,Q}(s_{i},q_{j})$称为事件$s_{i}$和事件$q_{j}$的联合分布概率。交互信息标准化就是

$I(S,Q)=I(S,Q)/\sqrt{H(S)\times H(Q)}.$

现在，我们通过信息论的方法来计算延迟时间$\tau.$ 定义$(S,Q)=(x(i), x(i+\tau)), 1\leq i\leq n-\tau,$ 也就是$S$代表时间 x(i</