李宏毅线性代数11： 正交（Orthogonality）

1 范数（norm）&距离

 1.1 p范数通项 

2 点积&正交

2.1 点积性质 

 2.2 勾股定理（pythagorean theorem）

2.3 菱形的两条对角线正交 

 3 正交补

向量集S的正交补是一组向量，这组向量垂直于S中的任意一个向量

 3.1 正交补性质

1）  正交补是一个子空间

利用定义i证明，满足加法和数乘封闭

2）对于任何一个非空向量集S，S张成的子空间的正交补和S的正交补相同

3）如果W是一个子空间，B是W的一组基，那么B的正交补和W的正交补相同

4）S和S的正交补的交集是零向量

5）

举个例子

 

 6）

 4 正交投影

4.1 正交投影定义

 4.2 正交投影是一个线性操作

4.3 一条线的正交投影 

 4.4 一个子空间的正交投影

 

         因为矩阵C的列空间组成了这个子空间的基，所以u-w和这些组成基的向量都垂直，也就是说，C的每一列，也就是C的转置中每一行都和（u-w）垂直，即        

        b相当于基每个向量的系数，这些系数乘以对应的基向量，就组成了投影

证明可逆 ——>那么也就是要说明b=0，只有零解b=0

举个例子

 5 正交基

5.1 正交系

这是一个很直观的结论，一组正交基两两正交，那么任意n个向量都不可能线性表出另外一个

证明如下

 5.2 标准正交系

（两个英文单词怎么区分呢？标准正交基的单词更长一点，说明它相比于正交基，多了归一化这一步操作，步骤更长，所以单词的长度也更长）

每一组向量中每一个的的长度为1

5. 3 （标准）正交基

 6 正交分解理论

 例子（dot是对应位置相乘）

 7 施密特正交化

将一组基转换成一组正交基

不断地对已经变成正交基的部分做投影，把投影的部分减去，结果就是正交基

 

8 正交矩阵 

8.1 norm-preserving

 这两个例子都是norm-preserving的

8.2 正交矩阵

列组成一组正交基

注意！正交矩阵，他的列是标准正交基！！

 如果一个操作是norm-preserving的，那么它对应的矩阵是正交矩阵

证明正交矩阵无非是要证明两件事

1）

 2）

 8.2.1 正交矩阵自身的几个等价性质

 1->2：

2->3 易证

3->4 （保持点乘）

4->5 令v=u

 8.2.2 正交矩阵之间的几个性质

 

 

 

 结论4易见