Gram-Schmidt正交化过程
到目前为止,我们都是在反复强调“对于无解的方程组Ax=b而言,如果矩阵A是标准正交矩阵的话,就怎么怎么好了。。。。”。因为,不论是求投影还是计算最小二乘的正规方程,他们都包含了的逆的计算。只有当A为标准正交矩阵Q时,就不再需要计算
的逆了,这时
,可以直接求出最优解
。在实际应用中,为了简化最小二乘的计算,人们会优先把原本不是标准正交矩阵的A,提前变成标准正交矩阵Q。
本文的目的,正是要介绍这种,可以把任意矩阵A变成标准正交矩阵Q的方法。这个方法是由丹麦数学家Jørgen Pedersen Gram和德国数学家Erhard Schmidt共同发明的,被称为Gram-Schmidt正交化过程(Gram–Schmidt process)。是一种,从一组任意向量出发,构造出一组彼此正交的标准正交基的过程。