《机器学习线性代数基础：Python语言描述》读书笔记----对角矩阵

对角矩阵

使用对角矩阵来描述某一个向量的空间变换有如下优点：

• 一个n维列向量在n阶对角矩阵矩阵的作用下，其线性变换的方式仅仅反映在个个维度轴向上的长度拉伸，而不对应着平移或旋转变换，即$Ax=\left[\begin{array}{ccccc}{a}_1& & & & \\ & a_2& & & \\ & & a_3& & \\ & & & \ddots & \\ & & & & a_n\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\\ x_3\\ ⋮\\ x_n\end{array}\right]=\left[\begin{array}{c}{a}_1{x}_1\\ a_2{x}_2\\ a_3{x}_3\\ ⋮\\ a_n{x}_n\end{array}\right]$

• 在连续的线性变换时，有：
  $$AA=\left[\begin{array}{ccccc}{a}_1& & & & \\ & a_2& & & \\ & & a_3& & \\ & & & \ddots & \\ & & & & a_n\end{array}\right]\left[\begin{array}{ccccc}{a}_1& & & & \\ & a_2& & & \\ & & a_3& & \\ & & & \ddots & \\ & & & & a_n\end{array}\right]=\left[\begin{array}{ccccc}{a}_1^2& & & & \\ & a_2^2& & & \\ & & a_3^2& & \\ & & & \ddots & \\ & & & & a_n^2\end{array}\right]$$

对角矩阵的构造方法

对于一个一般矩阵，寻找一个可你矩阵P，使得转换后的结果为$P^{-1}AP=\varLambda $,满足$\varLambda$是一个对角矩阵。

要构造对角矩阵，显然要先得到P，得到了P，自然也就得到了对角阵。

要构造P，从$P^{-1}AP$入手，将P写成列向量并排排列的形式：$P=[p_1,p_2,...p_n]$.

针对$P^{-1}AP=\varLambda $，两边同时左乘矩阵P，则得到$AP=P\varLambda$，即：
$$\{\begin{array}{c}A{p}_1={\lambda }_1{p}_1\\ A{p}_2={\lambda }_2{p}_2\\ ⋮\\ A{p}_n={\lambda }_n{p}_n\end{array}$$

特征向量与特征值

满足关系式：$Ap=\lambda p$的非零列向量$p_i$和与之对应的标量值${\lambda }_i$，分别为方阵A的特征向量和特征值。

几何意义：对一个特定向量施加矩阵A所描述的线性变换，如果使用矩阵A的特征向量$(p_1,...,p_n)$作为空间的基底来对向量进行坐标表示，则该空间变换即可简化成为各个维度的坐标值在其基向量方向上对应伸缩${\lambda }_i$倍。