正交投影与变换

在线性代数和泛函分析中，投影是从向量空间映射到自身的一种线性变换，是日常生活中“平行投影”概念的形式化和一般化。同现实中阳光将事物投影到地面上一样，投影变换将整个向量空间映射到它的其中一个子空间，并且在这个子空间中是恒等变换。

如果向量空间被赋予了 内积，那么就可以定义 正交和其它相关的概念(比如线性算子的自伴随性)了。在内积空间（赋予了内积的向量空间）中，有 正交投影的概念。具体来说，正交投影是指像空间 U和零空间 W相互 正交子空间的投影。

定义

投影的严格定义是：一个从向量空间 V射到它自身的线性变换P是投影， 当且仅当。另外一个定义则较为直观：P是投影，当且仅当存在 V的一个子空间 W，使得P将所有 V中的元素都映射到 W中，而且P在 W上是恒等变换。用数学的语言描述，就是：  ，使得   ，并且   。

简单例子

在现实生活中，阳光在地面上留下各种影子。这就是投影变换最直白的例子。可以理想化地假设阳光都是沿着同一个方向（比如说垂直于地面的角度）照射而来，大地是严格的平面，那么，对于任意一个物体（比如说一只正在飞行的鸟），它的位置可以用向量(x,y,z)来表示，而这只鸟在阳光下对应着一个影子，也就是(x,y,0)。

这样的一个变换就是一个投影变换。它将三维空间中的向量(x,y,z)到映射到向量(x,y,0)。这是在x-y平面上的投影。这个变换可以用 矩阵表示为

因为对任意一个向量(x,y,z)，这个矩阵的作用是：

注意到如果一个向量原来就是表示地面上的一点的话（也就是说它的z分量等于0），那么经过变换P后不会有改变。也就是说这个变换在子空间x-y平面上是恒等变换，这证明了P的确是一个投影。

另外，

所以P=P2，这也证明P的确是投影。 

基本性质

这里假定投影所在的向量空间V是有限维的（因此不需要考虑如投影

变换T是沿着k方向到直线m上的投影

的连续性之类的问题）。假设子空间U与W分别为P的像空间与零空间（也叫做核）。那么按照定义，有如下的基本性质：

P在像空间U上是恒等变换：

 

整个向量空间可以分解成子空间 U与 W的直和：   。也就是说，空间里的每一个向量   ，都可以以唯一的方式写成两个向量   与   的和：   ，并且满足   、   。事实上，每一个向量   都可以写成   。   显然在像空间中，而另一方面   ，所以  在零空间中。

用抽象代数的术语来说，投影P是幂等的线性变换。因此它的极小多项式是

 

因式分解后可以看到，这个多项式只有相异的单根（没有多重根），因此P是 可对角化矩阵。极小多项式也显示出了投影的特性：像空间与零空间分别是是对应于特征值1和0的特征空间，并给出了整个空间的一个直和分解。

正如日常生活中阳光沿着一定的方向将影子投射到地面上，一般的投影变换也可以称为是沿着 W到 U上的投影。由于向量空间分解成直和的方式一般不是唯一的（阳光可以顺着不同的方向照射），给定一个子空间V（地面），一般的说有很多到V的投影（沿不同的 W）。 

正交投影

如果向量空间被赋予了 内积，那么就可以定义 正交和其它相关的概念(比如线性算子的自伴随性)了。在内积空间（赋予了内积的向量空间）中，有 正交投影的概念。具体来说，正交投影是指像空间 U和零空间 W相互 正交子空间的投影。也就是说，任意  ，   ，它们的内积   都等于0。

一个投影是正交投影，当且仅当它是自伴随的变换，这意味着正交投影的矩阵有特殊的性质。如果投影是在实向量空间中，那么它对应的矩阵是 对称矩阵：   。如果投影是在虚向量空间中，那么它的矩阵则是 埃尔米特矩阵：   。

实际上，如果投影  是自伴算子，那么其中 表示  的伴随算子(内积符号左右同乘以一个正交矩阵P不改变结果：因为u|v=u*v,所以Pu|Pv=(Pu)*Pv=u*P*Pv=u*v=u|v) 

例子

正交投影的最简单的情况是到（过原点）直线上的正交投影。如果u是这条直线的单位方向向量，则投影给出为

这个算子保留u不变

并且它作用在所有正交于u的向量上都是0（如果

 

，那么

 

，证明它的确是到包含u的直线上的正交投影。

这个公式可以推广至到在任意维的子空间上的正交投影。设u1,…,uk是子空间U的一组正交基，并设A为一个n×k的矩阵，它的列向量是u1,…,uk。那么投影：

也是正交的。矩阵A是在U的正交补变为零的偏等距同构，而A是把U嵌入底层向量空间的等距同构。PA的值域因此是A的“终空间”(finalspace)。AA是在U上的恒等算子也是明显的。

正交条件也可以去除。如果u1,…,uk是(不必须正交)基，而A是有这些向量作为列的矩阵，则投影是

矩阵A仍把U嵌入到低层向量空间中但一般不再是等距的。矩阵(AA)是恢复规范的“规范化因子”。

所有这些公式对于复数内积空间也成立，假如用 共轭转置替代转置。

斜投影

术语 斜投影有时用来提及非正交投影。这些投影也用来在二维绘图中表示空间图形(参见 斜投影)，尽管不如正交投影常用。

斜投影用它们的值域和零空间来定义。有给定值域和零空间的投影的矩阵表示的公式可如下这样找到。设向量u1, …,uk形成了投影的值域的基，并把这些向量组合到n×k矩阵A中。值域和零空间是互补空间，所以零空间有维度n−k。

它推出零空间的正交补有维度k。设v1, …,vk形成这个投影的零空间的正交补的基，并把这些向量组合到矩阵B中。则投影定义为

这个表达式一般化上面给出的正交投影公式。

在赋范向量空间上的投影

假定X是 巴拿赫空间，给定的X的直和分解成补子空间仍指定一个投影，反之亦然。如果X是直和X=U⊕V，则定义自P(u+v)=u的算子仍是有值域U和核V的投影。明显的也P=P。反过来说，如果P是在X上的投影，就是说P=P，则很容易验证(I−P)=(I−P)。换句话说，(I−P)也是投影。关系I=P+(I−P)蕴涵了X是直和Ran(P)⊕Ran(I−P)。

但是相对于有限维情况，投影一般不必须是 连续的。如果X的子空间U在规范拓扑下不闭合，则到U上的投影是不连续的。换句话说，连续投影P的值域一定是闭合子空间。进一步的，连续投影(事实上，一般的连续线性算子)的核是闭合的。所以连续投影P把X分解成两个互补的闭合子空间:X=Ran(P)⊕Ker(P)=Ran(P)⊕Ran(I−P)。

反命题在有额外假定条件下也成立。假设U是X的闭合子空间。如果存在一个闭合子空间V使得X=U⊕V，则有值域U和核V的投影P是连续的。这是从闭合图定理推出的。假定xn→x而Pxn→y。需要证明Px=y。因为U是闭合的且{Pxn}⊂U,y位于U中，就是说Py=y。还有xn−Pxn=(I−P)xn→x−y。因为V是闭合的且{(I−P)xn}⊂V，我们有了x−y∈V，就是说P(x−y)=Px−Py=Px−y=0，这证明了这个断言。

上述论证利用U和V都是闭合的假定。一般的说，给定一个闭合子空间U,不需要存在一个互补的闭合子空间V，尽管对于 希尔伯特空间总是可以采取正交补得到。对于巴拿赫空间，一维子空间总是有闭合的补子空间。这是哈恩-巴拿赫定理的直接推论。设U是u的线性扩张。通过哈恩-巴拿赫定理，存在一个有界线性泛函φ，使得φ(u)=1。算子P(x)=φ(x)u满足P=P，就是说它是个投影。φ的有界性蕴涵了P的连续性，因此Ker(P)=Ran(I−P)是U的闭合补子空间。