正交矩阵和Gram-Schmidt正交化
在关于投影矩阵的部分,根据Strang的授课内容,我进行简单的归纳总结.知道了投影矩阵是什么,有什么用.
这篇文章仍然是关于投影矩阵的一个应用.
什么是正交矩阵和Gram-Schmidt正交化,相信学过线性代数的朋友们都知道.
这里,我只想说标准正交化和标准正交矩阵带来的好处.
标准正交化(orthonormal)的定义是:如果向量q1,q2,…,qn满足下式
则q1,q2,…,qn是标准正交的
我们很容易得出,如果一个矩阵Q的列向量是标准正交的,那么Q’Q=I.如果Q还是个方阵,那么就称矩阵Q是正交矩阵.且有Q’Q=I ==> Q’ = Q-1
鉴于正交矩阵这个优良的特性,如果一个向量b投影到Q上,Q是正交阵的话,投影矩阵就变得简单了:
P=Q(Q’Q)-1Q’=QQ’=I,对于最小二乘问题Q’Qx=Q’b,可简化为x=Q’b,即
下面要说下Gram和Schmidt给我们带来的Gram-Schmidt正交化方法,它使得矩阵分析变得简单.
假设在R2空间内的两个相互独立的向量a,b,他们共同生成了R2空间,如下图所示