线性代数（五）

一、正交
1、零空间不会因可逆因子而改变，也就是说有：$N(CD) = N(D)$ 其中，C是可逆矩阵
2、零空间与行空间正交，列空间与左零空间正交
3、如何求一个不可解的方程的最优解呢？可以利用这个方程：${A^T}Ax = {A^T}b$，需要了解的是，转置乘以自身，是对称的，但并非总是可逆的。
4、一些重要的结论：$N({A^T}A) = N(A),rank({A^T}A) = rank(A)$，${A^T}A$ 可逆的条件是A的各列线性无关。
5、如何推出投影矩阵：假设b在a上的投影为p，显然，a与p成比例，有p=x*a，由正交关系，我们可以得到如下方程：${a^T}(b - xa) = 0$ ，由此，显然可以得到：${a^T}b = x{a^T}a$ ，得：$p = a\frac{{{a^T}b}}{{{a^T}a}}$ ，可以很清楚的看出投影矩阵的形式。
6、两条重要性质：投影矩阵的转置是其自身，投影两次仍是其自身，用公式表示即为，${P^T} = P,{P^2} = P$
7、将投影矩阵扩展到高维情况，求Ax=b的最优解。可以得到如下的公式：
$\hat x = {({A^T}A)^{ - 1}}{A^T}$
$p = A\hat x = A{({A^T}A)^{ - 1}}{A^T}$
二、格莱特-施密特正交化
格莱特的思想是将原有的向量组转化为相互正交的向量组，其实质可以看做如下问题，已知一个向量与其投影方向的向量，则误差向量就是所求的正交向量，所以要做的就是用原向量减去投影向量，即可得到结果，施密特的贡献是将得到的正交向量组单位化
三、研究正交矩阵的目的是QR分解？