24马尔可夫矩阵、傅立叶级数

一、马尔可夫矩阵（Markov Matrix）

$$A=\left[\begin{array}{ccc}0.1& 0.01& 0.3\\ 0.2& 0.99& 0.3\\ 0.7& 0& 0.4\end{array}\right]$$
上述矩阵就是一个马尔可夫矩阵，他的特点是：

• 所有列之和为1；
• 所有元素都大于0；

我们比较关心这个矩阵的稳态。由前面的知识可知，矩阵的稳态与其特征值的情况有关。马尔可夫矩阵的特征值和特征向量的情况是：

• $\lambda =1$是马尔可夫矩阵的一个特征向量；
• 除1特征值，满足$|{\lambda }_i|<1$；

如果这样的矩阵满足，递推关系
$$u_k=A^k{u}_0$$
如果写成与特征值和特征向量的关系有：
$$u_k=c_1{\lambda }_1^k{x}_1+c_2{\lambda }_2^k{x}_2+\cdots +c_n{\lambda }_n^k{x}_n$$
假设${\lambda }_1$是那个满足值为1的特征值，那么整个$u_k$的表达式在次数足够大的时候将会变成只剩下一项
$$u_k=c_1{x}_1$$
这就是我们的稳态值。 事实上，马尔可夫矩阵还满足特征向量$x_1$所有分量都不小于0，即：
$$u_k\ge 0$$
为什么特征值中有一个是1？我们假设特征值是马尔可夫矩阵的确实是1，那么有：
$$B=A-1I=\left[\begin{array}{ccc}-0.9& 0.01& 0.3\\ 0.2& -0.01& 0.3\\ 0.7& 0& 0.6\end{array}\right]$$
简单观察有，每一列元素之和等于0，意味着$A-1I$是奇异的，也就是行列式$|A-1I|=0$，确实满足特征值的定义。

顺便复习一下四个基本子空间：首先看行空间，因为列和为0，且系数组合为$\left[\begin{array}{ccc}1& 1& 1\end{array}\right]$，也就是$\left[\begin{array}{ccc}1& 1& 1\end{array}\right]$在矩阵$B$的左零空间中；如果存在组合使得结果向量为$\left[\begin{array}{c}0\\ 0\\ 0\end{array}\right]$，那么这个系数组合是什么？根据特征值和特征向量的定义，这个系数矩阵就是特征向量。一个小插曲，矩阵$A$和其转置矩阵$A^T$具有相同的特征值。

实例：我们研究的是两个州的人口情况，两个州的人口随着时间可能发生迁移，矩阵$A$表示一年之后人口的迁移矩阵，有些人从加州迁移到了麻省，有些从麻省迁移到了加州。这个模型是满足马尔可夫矩阵的，因为：

• 迁移是一个概率问题，因此都大于或等于零；
• 列和是所有情况概率和，等于1；

$${\left[\begin{array}{c}{u}_{cal}\\ u_{mass}\end{array}\right]}_{k+1}=\left[\begin{array}{cc}0.9& 0.2\\ 0.1& 0.8\end{array}\right]{\left[\begin{array}{c}{u}_{cal}\\ u_{mass}\end{array}\right]}_k$$
同时，初始人口情况为：
$$u_0={\left[\begin{array}{c}{u}_{cal}\\ u_{mass}\end{array}\right]}_0=\left[\begin{array}{c}0\\ 1000\end{array}\right]$$
一百年后他们的人口分布情况会是怎样的？你当然可以通过直接矩阵的幂次来计算人数分布，但是这一次我们将会用到这节课学到的特征值和特征向量。

$$\left[\begin{array}{cc}0.9& 0.2\\ 0.1& 0.8\end{array}\right]$$
上述矩阵的一个特征值和特征向量为：
$${\lambda }_1=1x_1=\left[\begin{array}{c}2\\ 1\end{array}\right]$$
另一个特征值和特征向量为：
$${\lambda }_2=0.7x_2=\left[\begin{array}{c}-1\\ 1\end{array}\right]$$
所以：
$$u_k=c_1{1}^k\left[\begin{array}{c}2\\ 1\end{array}\right]+c_2(0.7{)}^k\left[\begin{array}{c}-1\\ 1\end{array}\right]$$
结合初始情况，可以求得$c_1=\frac{1000}{3}$和$c_2=\frac{2000}{3}$，随着年数的增加0.7项将会逐渐变小，直至可以忽略，所有最后稳态将有特征值为1的项决定。

二、傅立叶级数

对于$n$个相互正交的基，对于任意$n$维向量$v$都可以表示为：
$$v=x_1{q}_1+x_2{q}_2+\cdots +x_n{q}_n$$
那么对于系数$x_1$，可以通过乘以$q_1^T$求得：
$$q_1^{T}v=x_1{q}_1+0+0+\cdots =x_1{q}_1$$
矩阵形式就更加直观了：
$$v=\left[\begin{array}{cccc}{q}_1& q_2& \cdots & q_n\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_n\end{array}\right]=Qx$$
即：
$$x=Q^{-1}v=Q^{T}v$$
注：别忘了正交矩阵的性质$Q^T=Q^{-1}$

下面将会引出傅立叶级数的概念。对于一个函数$f(x)$，满足：
$$f(x)=a_0+a_1\cos x+b_1\sin x+a_2\cos 2x+b_2\sin 2x+\cdots$$
这就是傅立叶级数（Fourier series）的定义，在这里基为：1 $\cos x$ $\sin x$ $\cos 2x$ $\sin 2x$ $\cdots$，再讲这个级数之前我们需要更新以下认知：

• 基可以不是有限的，可以是无穷的；
• 不光向量具有正交概念，函数也有；

重点是如何定义函数正交这个概念：

对于两个列向量$v$和$w$，其点积、内积计算可以通过转置其中一个列向量放在前面：
$$v^{T}w=v_1{w}_1+v_2{w}_2+\cdots +v_n{w}_n$$

那么对于两个函数$f$和$g$其定义又是如何？

$$f^{T}g={\int }_0^{2\pi }f(x)g(x)dx$$
简单验证一下，$\sin x$和$\cos x$是否为正交函数？
$${\int }_0^{2\pi }sinxcosx=\frac{1}{2}{\sin }^{2}x{|}_0^{2\pi }=0$$
没错，他确实等于零。和向量一样，求其中一个基的系数只需要乘以对应的基即可，以$a_1$为例：函数两边同时乘以$\cos x$，可以求得：
$$a_1=\frac{{\int }_0^{2\pi }f(x)dx}{\pi }$$