CP.22对角化和矩阵幂

1.对角化

如果矩阵$A$具有$n$个线性无关的特征向量，那么这些向量可以组成一个$n\times n$可逆方阵$$S={\left[\begin{array}{cccc}{x}_1& x_2& ...& x_n\end{array}\right]}_{n\times n}$$
$$AS=A\left[\begin{array}{cccc}{x}_1& x_2& ...& x_n\end{array}\right]=\left[\begin{array}{cccc}{\lambda }_1{x}_1& {\lambda }_2{x}_2& ...& {\lambda }_n{x}_n\end{array}\right]$$
$$\begin{array}{rl}AS& =A\left[\begin{array}{cccc}{x}_1& x_2& \cdots & x_n\end{array}\right]\\ & =\left[\begin{array}{cccc}{\lambda }_1{x}_1& {\lambda }_2{x}_2& \cdots & {\lambda }_n{x}_n\end{array}\right]\\ & =S\left[\begin{array}{cccc}{\lambda }_1& 0& \cdots & 0\\ 0& {\lambda }_2& \cdots & 0\\ ⋮& & \ddots & ⋮\\ 0& \dots & 0& {\lambda }_n\end{array}\right]\\ & =S\Lambda \end{array}$$
总结来说就是$AS=S\Lambda$，因为$S$是可逆矩阵，将前面这个式子同时左乘${\Lambda }^{-1}$可以得到：$$S^{-1}AS=\Lambda$$同样也可以推出$$A=S\Lambda S^{-1}$$这显然又是一种矩阵分解的方式，用$S$矩阵将$A$变换得到的矩阵$\Lambda$称为相似标准型，之所以叫这个名字是因为$\Lambda$保留了$A$的全部特征值。

2.矩阵的幂

如果要计算矩阵$A^2$我们可以直接利用$A\ast A$，但是如果幂次太高，那就需要利用公式求解，我们从二次幂入手：
$$Ax=\lambda x\to A^{2}x=\lambda Ax={\lambda }^{2}x$$
从上式可以看出，$A^2$与$A$拥有相同的特征向量，而特征值是其的2次方。这是一个有趣的结果，我们可以联想到第一节讲到的对角矩阵$\Lambda$，它跟原矩阵$A$的特征向量也是一致的，是否也可以使用对角化来计算矩阵的幂呢？
$$\begin{array}{rl}{A}^2& =S\Lambda S^{-1}S\Lambda S^{-1}\\ & =S{\Lambda }^2{S}^{-1}\end{array}$$
进一步地，可以推出
$$A^k=S{\Lambda }^k{S}^{-1}$$
说明$A^k$拥有和$A$一样的特征向量，而特征值为${\lambda }^k$
如果矩阵$A$拥有$n$个线性无关的特征向量，且满足$|{\lambda }_i|<1$，当$k\to \infty$时，$A^k\to 0$

3.重复特征值

如果矩阵$A$没有重复特征值，则其一定具有$n$个线性无关的特征向量。
从公式$Ax=\lambda x$可知，线性无关的特征向量等同于$(A-\lambda I)x=0$有$n$个解，我们好像只知道齐次线性方程组的解的判别条件：
1.$det(A)=0$，方程组有非零解；
2.$det(A)\ne 0$ ，方程组只有零解。
很明显要让特征方程有$n$个解只能是让$det(A-\lambda I)=0$
如果矩阵$A$有重复特征值，那它有可能具备$n$个线性无关的特征向量，也可能没有。

4.差分方程

差分方程通常用在连续离散化中，从初始时刻向量$u_0$出发，可以对其乘以矩阵$A$得到下一时刻的状态：$u_{k+1}=A{u}_k$，这是一个一阶差分方程，其解为$u_k=A^k{u}_0$，但是这种简洁形式的方程并没有给出足够多的信息，因此需要通过特征向量和矩阵的幂运算给出更精确的解的结构。
讲$u_0$写成特征向量的线性组合：这里的$x_i$是$u_0$的特征向量，${\lambda }_i$是A的特征值。
$$\begin{array}{rl}{u}_0& =c_1{x}_1+c_2{x}_2+\cdots +c_n{x}_n=Sc\\ A{u}_0& =c_1{\lambda }_1{x}_1+c_2{\lambda }_2{x}_2+\cdots +c_n{\lambda }_n{x}_n\\ u_k& =A^k{u}_0=c_1{\lambda }_1^k{x}_1+c_2{\lambda }_2^k{x}_2+\cdots +c_n{\lambda }_n^k{x}_n=S{\Lambda }^{k}c\end{array}$$

4.1斐波那契数列求解

斐波那契数列为$0,1,1,2,3,4,8,13,\dots$通项公式为$F_{k+2}=F_{k+1}+F_k$求$F_{100}$
若以矩阵形式来理解数列，那么矩阵的特征值可以直观的告诉我们数列的增长速度
令$$u_k=\left[\begin{array}{c}{F}_{k+2}\\ F_{k+1}\end{array}\right]$$，则可以推出
$$\begin{array}{rl}{F}_{k+2}& =F_{k+1}+F_k\\ F_{k+1}& =F_{k+1}\end{array}$$
写成矩阵形式为$$u_{k+1}=\left[\begin{array}{cc}1& 1\\ 1& 0\end{array}\right]u_k$$
这里的矩阵是个对称矩阵，因此拥有实数特征值，且特征向量正交。
$${\lambda }_1=\frac{1+\sqrt{5}}{2}，{\lambda }_2=\frac{1-\sqrt{5}}{2}$$
绝对值大于1的特征值${\lambda }_1$控制着斐波那契数列的增长。
$u_k=A^k{u}_0=c_1{\lambda }_1^k{x}_1+c_2{\lambda }_2^k{x}_2$因为$|{\lambda }_2|<1$，所以当乘方次数较高时有$k\to \infty ，{\lambda }_2^k\to 0$所以${\lambda }_1$才是数列增长的决定性因素。
利用上述的特征值可以求出特征向量$$x_1=\left[\begin{array}{c}{\lambda }_1\\ 1\end{array}\right],x_2=\left[\begin{array}{c}{\lambda }_2\\ 1\end{array}\right]$$
用
$$u_0=\left[\begin{array}{c}{F}_1\\ F_0\end{array}\right]=\left[\begin{array}{c}1\\ 0\end{array}\right]=c_1{x}_1+c_2{x}_2$$
求出$c_1=\frac{1}{\sqrt{5}},c_2=-\frac{1}{\sqrt{5}}$
$$\left[\begin{array}{c}{F}_{100}\\ F_{99}\end{array}\right]=A^{99}\left[\begin{array}{c}{F}_1\\ F_0\end{array}\right]=\left[\begin{array}{cc}{\lambda }_1& {\lambda }_2\\ 1& 1\end{array}\right]\left[\begin{array}{cc}{\lambda }_1^{99}& \\ & {\lambda }_2^{99}\end{array}\right]\left[\begin{array}{c}{c}_1\\ c_2\end{array}\right]=c_1{\lambda }_1^{100}+c_2{\lambda }_2^{100}$$
因此$F_{100}=c_1{\lambda }_1^{100}$