MIT linear algebra 18.06 第十四课笔记

MIT linear algebra 18.06 第十四课笔记

---

第十四课重点：

• orthogonal vector & subspace
• nullspace & rowspace
• $N(A^{T}A)=N(A)$

---

在前面的课程中我们知道：一个矩阵$A$的行空间垂直于它的零空间。列空间垂直于$A^T$的零空间。

---

回想一下，如果两个向量$x$和$y$垂直，那么$x^{T}y=0$。如果从几何的角度来理解$||x||^{2}+||y||^{2}=||x+y||^2$。将这个式子写开就是$x^Tx+y^Ty=(x+y)^{T}(x+y)=x^Ty+y^Ty+x^Ty+y^Tx$,进而可以得出$x^Ty=0$。

---

由于向量是一维的，我们可以类比将其推广至多维空间有：子空间$S$垂直于另一个子空间$T$意味着在$S$中的每个向量垂直于每个在$T$中的向量。

---

$$\begin{bmatrix} row 1 of A\\ row 2 of A\\ .........\\ row 3 of A \end{bmatrix} \begin{bmatrix} \\ X\\ \\ \end{bmatrix}= \begin{bmatrix} 0\\0\\..\\0 \end{bmatrix}\tag{1}$$

从式(1)可以看出，一个矩阵的零空间中的向量是垂直于行向量的。$row_{1}^{T}x=0$且$row_{2}^{T}x=0$。这两个正交子空间的维度和为$n$.

nullspace and rowspace are orthogonal complements in $R^{n}$

零空间中所有的向量都是垂直于行空间的。

---

如何求解一个无解方程组的解？这个问题看起来莫名其妙，但是在实际问题中我们时常会遇到。

$Ax= b$ when there is no solution and m>n,”Solve”

当方程数特别多时，右侧难免会混入“坏数据”，也就会导致方程组无解。但是我们面对这样的情形需要求一个最优解。

$A^TA$是对对称的，证明：$(A^TA)^T=A^TA$。

$N(A^TA)=N(A)$,矩阵$A^TA$的秩等于矩阵$A$的秩。

如果矩阵$A$中的列是线性独立的（independent），那么矩阵$A^TA$是可逆的(invertible)。