线性代数：对称矩阵与正交对角化

对称矩阵：矩阵上的所有元素关于主对角线对称,满足$A=A^T$
$$I=\left[\begin{array}{cc}1& 0\\ 0& 1\end{array}\right]A=\left[\begin{array}{ccc}1& -1& \sqrt{5}\\ -1& 2& \pi \\ \sqrt{5}& pi& 3\end{array}\right]$$

对称矩阵的重要性质

• 对于对称矩阵来说，其特征值一定是实数；
• 尽管对称矩阵也会存在多重特征值，但是其对应的特征空间(所有的特征向量生成矩阵的特征空间)的维度一定等于重数；
• 一个$n$阶的对称矩阵一定具有$n$个线性无关的特征向量;
• 从而对称矩阵一定可以被对角化 $A=PD{P}^{-1}$。

正交对角化

我们在选择参考坐标系的时候，通常更愿意愿意使用基于正交基生成的坐标系，更方便理解和使用

而对称矩阵的所有不同特征值对应的特征向量就具有互相垂直的特点，从而能够在对角化分解后得到一个代表正交坐标系的$P$矩阵。

假设矩阵$A$的两个特征向量${\vec{v}}_1，{\vec{v}}_2$对应不同的特征值${\lambda }_1,{\lambda }_2$；
则可证: ${\vec{v}}_1{\vec{v}}_2=0$
$\because {\lambda }_1{\vec{v}}_1{\vec{v}}_2=({\lambda }_1{\vec{v}}_1{)}^T{\vec{v}}_2=(A{\vec{v}}_1{)}^T{\vec{v}}_2={\vec{v}}_1^T{A}^T{\vec{v}}_2$
$\because A$是对称矩阵，$A^T=A$， ${\vec{v}}_1^T{A}^T{\vec{v}}_2={\vec{v}}_1^{T}A{\vec{v}}_2={\vec{v}}_1^T{\lambda }_2{\vec{v}}_2={\lambda }_2{\vec{v}}_1^T{\vec{v}}_2$
$\therefore {\lambda }_1{\vec{v}}_1{\vec{v}}_2={\lambda }_2{\vec{v}}_1^T{\vec{v}}_2={\lambda }_2{\vec{v}}_1{\vec{v}}_2$
$\therefore ({\lambda }_1-{\lambda }_2)({\vec{v}}_1{\vec{v}}_2)=0$
$\because {\lambda }_1\ne {\lambda }_2$
$\therefore {\vec{v}}_1{\vec{v}}_2=0$

而对于对称矩阵的相同特征值情况，也一定可以在它的特征空间内找到互相垂直的特征向量，从而构成正交的$P$矩阵。

在将矩阵进行对角化的过程$A=PD{P}^{-1}$中，矩阵$P$的作用仅代表一个坐标系，在$P$坐标系下观察$A$变换具有$D$的表现形式，而对于一个坐标系，我们仅关注生成空间的基向量的方向，所以可以将其替换成一个标准坐标系，也即将基向量的模变为1(向量标准化)，这样就可以得到一个标准正交矩阵$Q$。标准正交矩阵$Q$具有$Q^T=Q^{-1}$的性质。
从而对矩阵$A$的正交对角化可表示为：
$$A=QD{Q}^{-1}=QD{Q}^T$$

如果一个矩阵$A$可以被正交对角化，
就有$A=QD{Q}^T$，
而$A^T=(QD{Q}^T{)}^T=(Q^T{)}^T{D}^T{Q}^T=QD{Q}^T=A$;
从而$A$是对称矩阵$\iff A$ 可以被正交对角化$A=QD{Q}^T$ 【谱定理】