矩阵的特征值和特征向量_MIT 18.065—机器学习中的矩阵方法04 特征值和特征向量...

数据分析、信号处理和机器学习中的矩阵方法

第04讲 特征值和特征向量

新MIT 线性代数|机器学习（中英机翻字幕）18.065 by Gilbert Strang_哔哩哔哩 (゜-゜)つロ 干杯~-bilibili​www.bilibili.com

上一节是正交矩阵Q，本节是对称矩阵S。我从任何方阵A和其特征向量开始，随后将转向对称矩阵S以及它们的特殊之处。然后，更加特殊和重要的是正定对称矩阵。

对于n x n矩阵A，其特征向量x满足

，

。通常，有n个具有这种特殊性质的线性无关的向量

x。

它们有什么用？为什么会一遍遍地引入特征向量？其关键性之一是通过特征值查看A方幂的性质。

，

x是 A平方的特征向量，特征值是

。

同理可得

。

，此处λ不等于零，若为零则有

Ax= 0，矩阵 A没有逆矩阵。矩阵指数：

，矩阵指数的定义可以从级数中推导来，对于级数的每一项将特征值和特征向量代入，则等式成立。

取任意矢量v，矩阵如果有n个独立的特征向量，以它们为基向量， v可以写作为这些特征向量的组合。（有些矩阵没有完整的特征向量，在矩阵没有足够特征向量的情况下，会是整个线性代数课题中最主要的麻烦。）

则有

。

特征向量的一个用途是能够求解线性微分方程组。

，

。

已经忘却这部分概念的小伙伴，请移步18.06的第23讲。

三少爷的贱男春：MIT—线性代数笔记23 微分方程和矩阵指数

下面讨论相似矩阵相关内容。若两矩阵B与A相似，则二者满足

。其中的关键因素是，相似矩阵具有相同的特征值。这为我们提供了实际计算特征值的线索，MATLAB通过优选矩阵

M，将矩阵变成三角形矩阵，使特征值显示在对角线上。

我应该验证这一事实，即相似的矩阵具有相同的特征值。矩阵B有特征值λ，特征向量y，满足

。则有

，

My即矩阵 A的特征向量，λ是其特征值。 M的作用是为您提供特征向量的不同基向量，但它不会改变特征值。

矩阵AB和矩阵BA具有相同的非零特征值。证明策略就是证明二者相似。取M=B，于是有

。当然还是要注意特征值为零的情况，这样会使得取不到逆矩阵。还有就是矩阵

AB 的特征值不等于矩阵 A 的特征值乘以矩阵 B 的特征值。同样两者和矩阵的特征值也不等于特征值的和，因为 A 的特征向量与 B 的特征向量不同，那么 A+ B可能会有完全不同的特征向量。

下面讨论对称矩阵S 的特征向量。

反对称矩阵，如

，尽管元素为实数，但其特征值为虚数，其作用就是90度旋转。从特征向量的角度来看，旋转90度后任何向量都不可能保持其原方向。因此，任何反对称矩阵都没有实的特征向量。

，得到

。可通过特征值的和等于矩阵的迹，以及特征值之积等于矩阵的行列式作为验算。

对称矩阵，具有实特征值，特征向量正交。而隐藏的另一重点是，它具有一整套特征向量，即使某些特征值恰好是重复的。例如恒等矩阵，它仍然有足够多特征向量。

例：

，特征值是1和-1。特征向量是

。

对称矩阵S 的对角化就是

。特征值出现在对角线。

M 的列向量就是特征向量。

该结论不仅仅针对对称矩阵。矩阵A，其特征向量x满足

，

。

则有

，即

。

矩阵的幂可以通过矩阵分解来计算，

。

对于对称矩阵，

。这就是谱定理。