【文献学习】矩阵投影

参考资料：张贤达.矩阵分析与应用[M].清华大学出版社,2004.

投影

投影定理：令H是向量空间，而M是H内的n维子空间。若对于H中的向量$\mathbf{x}$，在子空间M内有一个向量$\hat{\mathbf{x}}$，使得$\mathbf{x}-\hat{\mathbf{x}}$与M中的每一个向量$\mathbf{y}$都满足正交条件，即
$<\mathbf{x}-\hat{\mathbf{x}},\mathbf{y}>=0\forall \mathbf{y}\in M$
则不等式$||\mathbf{x}-\hat{\mathbf{x}}||\le ||\mathbf{x}-\mathbf{y}||$对于所有向量$\forall \mathbf{y}\in M$成立，并且等号仅当$\mathbf{y}=\hat{\mathbf{x}}$时成立。
此定理表明，当M是有限维的子空间时，向量$\mathbf{x}$到该子空间的投影$\hat{\mathbf{x}}$唯一存在。类似地，向量$\mathbf{x}$到子空间M的正交补$M^{\perp }$上的投影则称为正交投影。
$\mathbf{x}$到子空间M上的投影$\hat{\mathbf{x}}$常用数学符号缩写为
$\hat{\mathbf{x}}={\mathbf{P}}_M\mathbf{x}\hat{\mathbf{x}}\in M$
其中，${\mathbf{P}}_M$代表到闭子空间M上的投影映射，称投影算子。
令$M^{\perp }$表示子空间M的正交补。投影${\mathbf{P}}_M\mathbf{x}$具有以下性质：
（1）${\mathbf{P}}_M(\alpha \mathbf{x}+\beta \mathbf{y})=\alpha {\mathbf{P}}_M\mathbf{x}+\beta {\mathbf{P}}_M\mathbf{y},\mathbf{x},\mathbf{y}\in H;\alpha ,\beta \in$