【机器学习线性代数】07 寻找最近：空间中的向量投影

目录

1.从两个实际问题谈起

1.1.如果线性方程组无解怎么办

1.2.如果直线无法穿过所有点怎么处理

2.从投影的角度来定义“最近”

3.利用矩阵工具来描述投影

3.1.向一维直线投影

3.2.一维直线投影举例

3.3.向二维平面投影

3.4.二维平面投影举例

3.5.向 n n n维子空间投影的一般情况

4.补充讨论： A T A A^TA ATA的可逆性问题

5.回顾前面提出的问题

---

1.从两个实际问题谈起

在近似拟合这一部分内容正式开始之前，我们先抛出两个问题。

1.1.如果线性方程组无解怎么办

第一个问题还是关于线性方程组解的问题。

在上一讲里，我们从空间映射的角度分析了线性方程组的解，阐述了在何种情况下有解，并且如何来描述整个解的空间。那么接下来，我们看看下面这个方程组：

2 x + y = 4 2x+y=4 2x+y=4
x + 2 y = 3 x+2y=3 x+2y=3
x + 4 y = 9 x+4y=9 x+4y=9

很明显，这个方程组没有解。但是我们不能仅仅停留在这里，因为实际工程领域如果出现这种情况，该如何去解决？换句话说，我们如何尽可能的找到一组解 [ x y ] \begin{bmatrix}x\\y\end{bmatrix} [xy​]，使得利用他让方程组左侧得到的结果离右侧 [ 4 3 9 ] \begin{bmatrix}4\\3\\9\end{bm