线性代数系列（十五）--马尔科夫矩阵和傅里叶级数

主要内容

• 马尔科夫矩阵
• 马尔科夫矩阵的应用
• 傅里叶级数

正文

本节主要介绍了马尔科夫矩阵与傅里叶级数，是对特征值和之前大量知识的一次总结，重在理解应用，内容介绍的并不详细。

马尔科夫矩阵

先看一个马尔科夫矩阵的示例：$$A=\left[\begin{array}{ccc}0.1& 0.01& 0.3\\ 0.2& 0.99& 0.3\\ 0.7& 0& 0.4\end{array}\right]$$马尔科夫矩阵需要满足两条性质：

• 每个元素均为非负数，可以为零
• 每列的元素和为$1$

根据经验，我们还有这样的性质：如果$A$是马尔科夫矩阵，则$A$的幂也是马尔科夫矩阵。

接下来讨论矩阵次幂运算的“稳态”的概念，在微分方程中，我们使用特征值和$0$的关系来判断，但是这里的运算变为了幂次运算，这时候稳态的判断就要发生变化了。研究马尔科夫矩阵的特征值，我们可以发现它的特征值具有这样的性质：

• $\lambda =1$是一个特征值
• 其余特征值，$|{\lambda }_i|<1$

这两个性质都是经过严格证明，并且成立的。这里省略证明细节，不过可以知道的是每列元素的和为$1$这个性质决定了其有特征值$1$这个性质。
我们继续判断幂次元素的收敛性。在差分方程中，我们接触的是这样的算式：$u_k=A^k{u}_0$：$$u_k=A^k{u}_0=c_1{\lambda }_1^k{x}_1+c_2{\lambda }_2^k{x}_2+...+c_n{\lambda }_n^k{x}_n$$根据马尔科夫矩阵的特点，${\lambda }_1=1$，其余$|{\lambda }_i|<1$，所以最后幂次运算都会收敛于$u_0$中的$c_1{x}_1$部分，这就是稳态的性质。在马尔科夫矩阵中，若它的特征值$1$所对应的特征向量的元素权威正，则初始值$u_0$是正的，那么稳态也是正值。

这是一个补充部分。之前介绍过行列式性质十，转置矩阵和原矩阵的行列式值相同，这里还可以应用到$|A-\lambda i|$这个方程上，得到：$$|A-\lambda i|=|A-\lambda i{|}^T=|A^T-\lambda i|$$当$|A-\lambda i|=0$时，$|A^T-\lambda i|$也为零，他们的特征值是一样的。所以这里得出的结论是：转置矩阵的特征值和原矩阵的特征值是相同的，但是特征向量是不同的。

马尔科夫矩阵的应用

研究方程：$u_{k+1}=A{u}_k$，其中$A$是马尔科夫矩阵。给定$A_{2\times 2}$，研究加州和麻省的人口问题，矩阵$A$表示，一年后人口的转移。矩阵的四个元素相应表示的是留下和迁出的概率，在这个过程中的人口总数保持不变。不过，这里限制马尔科夫矩阵是不变的，也就是每次变动的概率是一样的。公式：$${\left[\begin{array}{c}{U}_J\\ U_M\end{array}\right]}_{t=k+1}=\left[\begin{array}{cc}0.9& 0.2\\ 0.1& 0.8\end{array}\right]{\left[\begin{array}{c}{U}_J\\ U_M\end{array}\right]}_{t=k}$$中间的矩阵表示由$0.9$的比例的人口留在加州，$0.1$的从加州迁移到麻省，$0.8$的人留在麻省，$0.2$的人迁移到加州，这是一个马尔科夫矩阵。假设初始状态为：$${\left[\begin{array}{c}{U}_J\\ U_M\end{array}\right]}_{t=0}=\left[\begin{array}{c}0\\ 1000\end{array}\right]$$首先我们计算马尔科夫矩阵的特征值和特征向量。得到${\lambda }_1=1,{\lambda }_2=0.7$，$x_1=\left[\begin{array}{c}2\\ 1\end{array}\right],x_2=\left[\begin{array}{c}-1\\ 1\end{array}\right]$将这些结果带入到通解公式得：$$u_k=c_1{1}^k\left[\begin{array}{c}2\\ 1\end{array}\right]+c_2(0.7{)}^k\left[\begin{array}{c}-1\\ 1\end{array}\right]$$然后带入初值$u_0$，求解$c_1=\frac{1000}{3},c_2=\frac{2000}{3}$。最终解为：$$u_k=\frac{1000}{3}{1}^k\left[\begin{array}{c}2\\ 1\end{array}\right]+\frac{2000}{3}(0.7{)}^k\left[\begin{array}{c}-1\\ 1\end{array}\right]$$随着$k$的增加，最终弧稳定在$\frac{1000}{3}\left[\begin{array}{c}2\\ 1\end{array}\right]$

傅里叶级数

预备知识： 假设有一组标准正交向量$q_1,q_2,...q_n$，它们是$n$维空间的一组完整基。那么此空间中的任意向量$v$可由这组基的线性组合表示，也就是可以有基线性组合得到：$$v=x_1{q}_1+x_2{q}_2+...+x_n{q}_n=Qx$$ $$\Rightarrow x=Q^{-1}v,has{Q}^T=Q^{-1}$$ $$\Rightarrow x=Q^{T}v$$将上面的这个方程应用到各个分量：$x_i=q_i^{T}v$

傅里叶级数： $$setf(x)=a_0+a_{1}cosx+b_{1}sinx+a_{2}cos2x+b_{2}sin2x+...$$与之前的向量不同的是我们这里使用的是函数。这种形式的公式就是傅里叶级数，作用在函数空间上，用函数$f(x)$来代替$v$，也就使用正交函数来代替了前面介绍的标准正交基。在这个函数中，基就是$1,cosx,sinx,cos2x,sin2x,....$。傅里叶级数成立的原因：这些基是正交的。

函数空间下的正交： 向量的点积：$$v^{T}w=v_1{w}_1+..+v_n{w}_n$$向量可以理解为一个点，点与点之间是离散的，但是这里的$cosx,sinx$都是连续的函数。类似的，在向量中，我们求点积是对每个$v_i,w_i$对应乘积求和。在连续的函数上也是一样，我们对每个点对应的函数值的乘积求和，这时候和的形式表现为积分。由于$cosx,sinx$都是周期性函数，所以我们可以选择仅仅在一个周期$[0,2\pi ]$上积分。可以验证，傅里叶级数中的基是正交的。

系数的求解问题： $$f(x)=a_0+a_{1}cosx+b_{1}sinx+a_{2}cos2x+b_{2}sin2x+...$$以求解其中的$a_1$为例，只需要将函数乘$a_1$所对应的基即可。$${\int }_0^{2\pi }f(x)cosxdx={\int }_0^{2\pi }{a}_{1}cos{x}^{2}dx=a_1\pi$$ $$a_1=\frac{{\int }_0^{2\pi }f(x)cosxdx}{\pi }$$求解其他的系数也是这个方法。理解傅里叶级数的关键在于将标准正交基与向量空间的概念扩展到正交函数和函数空间上。