线性代数系列讲解第十篇 特征值和特征向量

特征向量和特征值(eigenvector,eigenvalue)

特征向量就是能使得
$$AX=\lambda X$$
其中$\lambda$是个数，而这个$\lambda$就是特征值。$X$是个非零向量。
其实特征向量$X$就是经过$AX$还是能使得与它本身平行。
我是这么想的，特征向量就代表着矩阵的正交基，矩阵对正交基的操作其实还是落在正交基上，因为其他的正交基与本正交基正交而得0，因此，矩阵最终使得正交基伸缩。

如果矩阵$A$是个奇异矩阵，按照我们之前的知识，我们必然可以找到非零向量使得
$$AX=0$$
则必然我们可以找到
$$\lambda =0$$

如果矩阵$A$是个投影矩阵，我们将其写成$P$，则有如下两种情况：
如果$X$在该投影平面内，则$PX=X$，此时$\lambda =1$。
如果$X$垂直投影平面内，则$PX=0$，此时$\lambda =0$。

求解特征值和特征向量

从定义出发:
$$AX=\lambda X$$
我们将其写成
$$(A-\lambda I)X=0$$
我们求解$X$是不为零的向量，因此$A-\lambda I$是奇异矩阵才有非零解。
我们将问题改写如下，来求解$\lambda$
$$det(A-\lambda I)=0$$
举个例子：
$$\begin{gathered} A=\left[\begin{array}{cc}3& 1\\ 1& 3\end{array}\right] \\ det(A-\lambda I)=\left|\begin{array}{cc}3-\lambda & 1\\ 1& 3-\lambda \end{array}\right|=(3-\lambda {)}^2-1 \\ ={\lambda }^2-6\lambda +8=(\lambda -4)(\lambda -2)=0 \end{gathered}$$
我们可以得到${\lambda }_1=4$，${\lambda }_2=2$。还可以发现$6$是矩阵$A$的迹，而$8$是矩阵$A$的行列式。

矩阵的迹(trace)：矩阵的对角线元素之和，而且它也等于特征值之和。比如上面矩阵$A$的迹$=3+3=6$

好了，接下来我们求解特征向量。
$$\begin{gathered} A-4I=\left[\begin{array}{cc}-1& 1\\ 1& -1\end{array}\right] \\ (A-4I)X=0 \end{gathered}$$
则其实就是求解零空间，解的
$$x_1=\left[\begin{array}{c}1\\ 1\end{array}\right]$$
同理求解$(A-2I)X=0$，得$x_2=\left[\begin{array}{c}-1\\ 1\end{array}\right]$。
当我们给矩阵$A$加上$3I$，我们会发现特征值加3，但是特征向量不变。

我们来看看矩阵的特征值不一定是实数，如下$90^{\circ }$的旋转矩阵，还是正交。
$$Q=\left[\begin{array}{cc}cos90^{\circ }& -sin90^{\circ }\\ sin90^{\circ }& cos90^{\circ }\end{array}\right]=\left[\begin{array}{cc}0& -1\\ 1& 0\end{array}\right]$$
通过计算我们得到两个特征值是$i$和$-i$，其实特征值表现出了虚数，其实表示就是旋转$90^{\circ }$的意思。
我们可以得出结论当矩阵越接近对称或对称，特征值为实数，否则为虚数。
以上讨论的是特征值都没有重复的，下列讨论特征值有重复的，我们一般叫做重根。
A = [ 3 1 0 3 ]    d e t ( A − λ I ) = ∣ 3 − λ 1 0 3 − λ ∣ = ( 3 − λ ) 2 → λ 1 = λ 2 = 3    ( A − λ ) X = [ 0 1 0 0 ] [ X ] = [ 0 ] A=\begin{bmatrix}3&1\\0&3\end{bmatrix}\\\;\\det(A-\lambda I)=\begin{vmatrix}3-\lambda&1\\0&3-\lambda\end{vmatrix}=(3-\lambda)^2\rightarrow\lambda_1=\lambda_2=3\\\;\\(A-\lambda)X=\begin{bmatrix}0&1\\0&0\end{bmatrix}[X]=[0]