Eigen Decomposition 特征分解

---

1. Significance 意义

• 如果想要描述一个变换，就描述这个变换主要的变化方向
• 提取这个矩阵最重要的特征

---

2. Eigenvalues and Eigenvectors 特征值和特征向量

$$Ax=\lambda x$$

其中$A$是一个$n\times n$的实对称矩阵，$x$是一个$n$维向量，则我们说$\lambda$是矩阵$A$的一个特征值，而$x$是矩阵$A$的特征值$\lambda$所对应的特征向量。

---

3. Matrix Eigendecomposition Expression 矩阵特征分解形式

如果这$n$个特征向量线性无关，那么矩阵$A$就可以用下式的特征分解表示：

$$A=W\Sigma W^{-1}$$

其中$W$是这$n$个特征向量所张成的$n\times n$维特征矩阵，而$\Sigma$为这$n$个特征值为主对角线的$n\times n$维特征值矩阵。

一般我们会把$W$的这$n$个特征向量正交化，让它们满足$\Vert w_i{\Vert }^2=1$，即$w_i^T{w}_i=1$。此时$W$的$n$个特征向量为标准正交基，满足$W^{T}W=I$，即$W^T=W^{-1}$，就说W为正交矩阵。