[公开课] 线性代数 学习记录2

 

 

第14课 正交

两个子空间正交，就是里面任意的向量都正交。

Ax = b，零空间N(A)和A的行空间互为正交补（不但正交，还组成了整个空间。）

Ax = b无解，A^TAx = A^Tb的解为最优解。A^TA这个神奇的方程，秩和A一样。只有当A每列都无关时，A^TA才可逆。

 

 LEC 15 投影矩阵

性质：P‘ = P，P^2 = P

应用：当Ax = b无解时，将b投影到A的列空间。解为x

则 e = b - Ax为与A 的列空间垂直的误差项。

A‘( b - Ax ) = 0,  A'Ax = A'b,  x = (A'A)^(-1)A'b

投影矩阵 P = A(A'A)^(-1)A'

 

Lec 16 最小二乘

最小二乘的优点：平方的导数是线性的，便于求解最小值。

若A的各列线性无关，则A’A可逆

 

Lec 17 正交向量

正交基Q，

性质：Q‘Q = I

正交基的优点：

投影矩阵直接化简为QQ’

x = Q‘b

Gram - Schmidt正交化：

先正交，再归一

 

Lec 18 行列式

10大性质

1*

2*

3*