线性代数的本质第九章——特征向量与特征值

上一次演讲中我问到：“数学对你来说意味着什么？”有的人回答：“处理数字，处理结构”，“那么如果我问你音乐对于你来说意味着什么，你会回答“处理音符吗”？ ——塞尔日·兰

变换中被留在张成空间内的向量，就是特征向量（上例x轴和$(-1,1)$）。
其中每个向量被拉伸或抽缩的比例因子，就是特征值（上例3和2）。
正负表示变换的过程中是否切翻转了方向。
从计算角度来看特征值和特征向量，里面包含了很多对以前只是回顾和整合。

• 根据特征向量和特征值的定义，使用数学的方法来表示即
  $$\mathbf{A}\vec{\mathbf{v}}=\lambda \vec{\mathbf{v}}$$

$\mathbf{A}$ 是求特征值和特征向量的变换矩阵；$\vec{\mathbf{v}}$ 是特征向量；$\lambda$ 是特征值；目标是找 $\vec{\mathbf{v}}$ 和 $\lambda$

至于为何会用这个式子来定义特征向量和特征值呢，我们继续观察这个式子中的 $\lambda \vec{\mathbf{v}}$ ，考虑到右边是一个矩阵乘法，我们希望左右都是一个矩阵乘法，这样方便等价和计算。观察发现，$\lambda \vec{\mathbf{v}}$ 就是给 $\vec{\mathbf{v}}$ 中每一个元素都乘以 $\lambda$ 。对角矩阵 $\mathbf{I}$ 且对角线元素为 $\lambda$ 的矩阵也能有同样的变换结果，得到下列表达式
$$\mathbf{A}\vec{\mathbf{v}}=(\lambda \mathbf{I})\vec{\mathbf{v}}⟹(\mathbf{A}-\lambda \mathbf{I})\vec{\mathbf{v}}=0$$
观察这个等式你会发现：可以把 $\mathbf{A}-\lambda \mathbf{I}$ 矩阵看成一个对 $\vec{\mathbf{v}}$ 矩阵的变换，目的是把 $\vec{\mathbf{v}}$ 压缩到更低的维度。而空间压缩对应的恰好就是变换矩阵的行列式为0

特征向量的特殊情况

旋转变换
解出特征值能发现答案是 $\pm i$ ，没有特征向量存在，即特征值出现复数的情况一般对应于变换中的某种旋转。
剪切变换
Shear变换。x轴不变，只有一个特征值，为1（$(\lambda -1{)}^2=0$）
伸缩变换
特征值只有一个，但是是空间中所有的向量都是特征向量。

特征基

对角矩阵：只有对角线非零的矩阵。解读它的方法是：所有的基向量都是特征向量。因为之前提到过，矩阵的第一列是 $\hat{ı}$ ，第二列是 $\hat{ȷ}$ ，往后同理。这样就能发现，如果一列只有对应的位置非零，那么这个坐标轴本身就就是特征向量。
一组基向量（同样是特征向量）构成的集合被称为一组：特征基
对角矩阵有一个好处是计算方便，多次矩阵乘法非常容易，这时我们就希望利用对角矩阵（基向量为特征向量）的便于计算的特性，利用上一节提到的基向量变换的方法，把特征向量作为基，对每一个矩阵进行变换后再进行计算，最后再左乘变换矩阵的逆求回原矩阵得到结果。
但需要说明的是，并不是所有的矩阵都能对角化，比如Shear变换，它的特征向量不够多，不足以张成一个空间。