线性代数之 实对称矩阵，正交对角化，二次型与正定矩阵

前言

终于快到矩阵分解了。在矩阵分解前，最后一个内容是实对称矩阵，二次型和正定矩阵。这三个概念与矩阵分解相关。

实对称矩阵

对于矩阵$A\in R^{n\times n}$，如果$A^T=A$，则称$A$为实对称矩阵。

实对称矩阵不同特征值的特征向量正交，n重特征值有n个线性无关的特征向量。因此实对称矩阵必然能够对角化。

实对称矩阵是$n\times n$矩阵能够正交对角化的充分必要条件。

正交对角化

如果存在一个正交矩阵$Q$，使得方阵$A=Q\Lambda Q^{-}1=Q\Lambda Q^T$能够对角化，称为正交对角化。

能够正交对角化的矩阵都是对称矩阵。
证明：
$$\begin{gathered} A=Q\Lambda Q^T \\ {A}^T=Q{\Lambda }^T{Q}^T=Q\Lambda Q^T=A \end{gathered}$$

二次型

$A$是实对称矩阵，将一个变量满足$f(x)=x^{T}Ax$函数称为二次型。

对于$f(x)=x^{T}Ax$，替换变量$x=Py,f(x)=f(Py)=y^T{P}^{T}APy$，而$A$是实对称矩阵，因此存在正交矩阵$Q,f(Qy)=y^T\Lambda y$，使得二次型化为标准型。

正定矩阵

广义的正定矩阵：对于矩阵$A\in R^{n\times n}$，函数$f(x)=x^{T}Ax>0$对任意非零向量$x\in R^n$都成立，则称$A$为正定矩阵。如果$f(x)=x^{T}Ax\ge 0$，则称$A$为半正定矩阵。

狭义的正定矩阵：对于对称矩阵$A\in R^{n\times n}$，函数$f(x)=x^{T}Ax>0$对任意非零向量$x\in R^n$都成立，则称$A$为正定矩阵。如果$f(x)=x^{T}Ax\ge 0$，则称$A$为半正定矩阵。也把这种正定矩阵称为对称正定矩阵。

实对称矩阵的正定判断条件

如果实对称矩阵的特征值都大于0，则是对称正定矩阵；如果特征值都非负，则是对称半正定矩阵。

证明：
$$\begin{gathered} f(x)=x^{T}Ax \\ Q{Q}^T=E \\ x=Qy \\ f(x)=f(Qy)=y^T{Q}^{T}AQy=y^T\Lambda y=\sum _{i=1}^n{\lambda }_i{y}_i^2 \\ if{\lambda }_i>0,f(x)>0 \\ if{\lambda }_i\ge 0,f(x)\ge 0 \end{gathered}$$

一个常见的半正定矩阵

对于任意矩阵$A\in R^{m\times n}$，矩阵$A^{T}A$是半正定矩阵。

证明：
$$x^T{A}^{T}Ax=(Ax{)}^{T}Ax=(Ax)\cdot (Ax)=||Ax|{|}_2^2\ge 0$$

如果$A\in R^{m\times n}$列满秩，则$A^{T}A$是正定矩阵。

证明：
$$\begin{gathered} Ax=0\to A^{T}Ax=0 \\ {A}^{T}Ax=0\to x^T{A}^{T}Ax=0\to ||Ax|{|}_2^2=0\to Ax=0 \\ \therefore NUL(A)=NUL(A^{T}A) \\ \because dimNUL(A)+rank(A)=n \\ \therefore rank(A^{T}A)=rank(A) \\ rank(A)=n,dimNUL(A)=0 \\ \therefore \forall x\ne 0,Ax\ne 0 \\ \therefore ||Ax|{|}_2^2>0 \\ i.e.x^T{A}^{T}Ax>0 \end{gathered}$$

后记

线性代数的矩阵性质部分大概就记录完了。下一篇就进入到了矩阵计算的内容——矩阵分解。