机器学习中的数学知识3——特征值分解

特征值与特征向量

定义

在线性代数中，对于给定的线性变换$\mathbf{A}$，它的特征向量$v$经过这个线性变换的作用之后，得到的新的向量仍然与原来的$v$保持在同一条直线上。但其长度或许会改变。即$$\mathbf{A}v=\lambda v$$
其中$\lambda$为标量，即特征向量的长度在$\mathbf{A}$线性变换下的缩放比例，称其为特征值。
例如：

其中2为$\mathbf{A}$的一个特征值，$v_1$为$\mathbf{A}$在特征值2下的特征向量。

一般的含义为，对于一个$n$阶矩阵$\mathbf{A}$,如果存在一