程序员的自我修养之数学基础08：特征值、特征向量和特征值分解

最新推荐文章于 2024-01-26 22:49:20 发布

M＆Q

最新推荐文章于 2024-01-26 22:49:20 发布

阅读量560

点赞数 1

分类专栏：数学基础文章标签：特征值特征向量特征值分解实对称矩阵

本文链接：https://blog.csdn.net/qq_45427038/article/details/100542993

版权

特征值和特征向量是线性代数中的关键概念，描述了矩阵在变换时仅发生伸缩不变性的向量及其伸缩比例。特征值分解将矩阵分解为对角阵和特征向量矩阵，用于数据降维和主成分分析（PCA）。实对称矩阵的特征向量构成正交基，其特征值分解有特殊性质。

摘要由CSDN通过智能技术生成

啊，转行学计算机的过程，就是不断“开倒车”的过程……为了理解概念A，你发现你得先理解概念BCD，为了理解概念B，你发现还得明白概念EFD……一直开倒车到大一的高数线代……不过Anyway，坚持就是胜利，继续看下去吧！！！

特征向量和特征矩阵，真的是非常非常重要的概念啊，不管是课本还是论文里，翻一翻就能看到。那它们到底在说什么呢？先甩概念——

看起来有点晕，不急，让我们理一理。

我们知道，矩阵，代表的是“线性变换”的规则，而矩阵的乘法，则代表这种变换。因此 $\boldsymbol{Ax}$ ，就可以看做是 $\bg_white \boldsymbol{x}$ 在 $\bg_white \boldsymbol{A}$ 作用下的变化，而这个变化是什么样的呢？ $\lambda \boldsymbol{x}$ ， $\lambda$ 是一个数值（可以是实数也可以是虚数），那 $\lambda \boldsymbol{x}$ 就是向量 $\boldsymbol{x}$ 在它本身方向（ $\lambda$ 为负则是反方向）上的“拉伸”变化。也就是说，矩阵的特征想留，就是在这个矩阵作用下，不发生旋转、移动，只发生伸缩变换的向量。而伸缩的比例就是特征值。

下面来一个很炫酷的例子~下面这3个图呢，都代表了我们收集到的数据点。当我们将数据点投影到x1轴上时，我们可以看到图一的离散度最高，也就是说，数据在所投影的维度上有更高的区分度，也就是“信息量”更大，这种思想，就是我们所说的“降维”。对于图1，保留x1轴方向上的数据就很好，对于图2，我们可以保留x2轴方向上的维度。那么