线性代数系列讲解第八篇投影及AX=b（无解情况）求近似解及最小二乘法

最新推荐文章于 2022-07-31 20:49:19 发布

帅气的风

最新推荐文章于 2022-07-31 20:49:19 发布

阅读量3.5k

点赞数 1

分类专栏：线性代数

本文链接：https://blog.csdn.net/bensss20112011/article/details/103402044

版权

一.投影

1.直线投影到直线

我们会将 $\vec b$ 投影到 $\vec p=x\vec a$ 。
![在这里插入图片描述](https://img-blog.csdnimg.cn/20191205114913674.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JlbnNzczIwMTEyMDEx,size_16,color_FFFFFF,t_70
我们可以利用发现 $\vec e$ 和 $\vec p$ 垂直，因此我们可以利用向量正交性写出一下式子，我把向量上标去掉了，你们知道 $x$ 是数即可。
$a^T(b-xa)=0\rightarrow xa^Ta=a^Tb\rightarrow x=\frac{a^Tb}{a^Ta}$
我们就可以知道
$p=ax=a\frac{a^Tb}{a^Ta}=Pb$
其中 $P$ 为投影矩阵
$P=\frac{aa^T}{a^Ta}$
我们可以发现：若 $b$ 翻倍， $p$ 翻倍；若 $a$ 翻倍， $p$ 不变。
首先我们考察一下投影矩阵 $P$ ，我们可以看出 $P$ 是个对称阵，即
$P^T=P$
而且，我们想想我们将 $\vec b$ 进行投影到 $\vec a$ 上变为 $\vec p$ ，然后 $\vec p$ 在投影到 $\vec a$ 的话，我们可以发现还是 $\vec p$ ，则
$P^2=P$
其实证明很简单，你直接这样就行了
$P^2=P*P=\frac{aa^T}{a^Ta}\frac{aa^T}{a^Ta}=\frac{a(a^Ta)a^T}{a^Taa^Ta}=\frac{aa^T}{a^Ta}$
记得 $a^Ta$ 是 $a$ 的内积，是个数，我们可以将它提到前面与分母相约。而且 $C (P)$ ( $P$ 的列空间)是一条过 $a$ 的直线，因为 $P$ 中列的线性组合都在 $a$ 上，这样我们也能得出
$r a n k (P) = 1$

2.直线投影到平面

在这里插入图片描述
假设平面内由 $a_1$

最低0.47元/天解锁文章

帅气的风

关注

1
点赞
踩
10

收藏

觉得还不错? 一键收藏
0
评论
线性代数系列讲解第八篇投影及AX=b（无解情况）求近似解及最小二乘法

投影我们先考虑直线投影到直线的情况，我们会将b⃗\vec bb投影到p⃗=xa⃗\vec p=x\vec ap=xa。我们可以利用发现e⃗\vec ee和p⃗\vec pp垂直，因此我们可以利用向量正交性写出一下式子，我把向量上标去掉了，你们知道xxx是数即可。aT(b−xa)=0→xaTa=aTb→x=aTbaTaa^T(b-xa)=0\rightarrow xa^Ta=a^Tb\r...
复制链接

扫一扫

专栏目录