线性代数的几何意义 pdf_理解线性代数 (1) --- Projection Theorem & Least-Squares

这学期学了线性系统，闲来无事，谈一下自己对Linear Algebra（线性代数）的理解。以前本科时候完全没有搞懂线性代数是个啥玩意儿，一方面因为自己太水，另一方面也因为授课老师整天就知道对着ppt念板书，教得实在是不行，我怀疑她自己都不懂自己在说什么。再者就是大一刚进去就学线代，心理上也没做好准备，来了国外才发现很多学校都是把线代放在大二才开始学的，这样学生经过大一一年的沉淀，会适应很多。不过随着年纪的增长，我愈发意识到线性代数是个强有力的工具，它不仅在量子力学，图像处理，和深度学习中有着广泛的应用，更重要的是，他带来了一种全新的看待问题的角度。我们学习经常强调要知其所以然，尤其是在物理学科，我们经常说要理解物理图像，从问题的本质出发。而线性代数，恰恰是一门需要理解才能领会其中精妙的学科。

首先我们来看一个问题

假设你做完实验得到三组数据，分别是 (0,6)， (1,0)，(2,0)，横坐标对应时间，纵坐标对应测量值。实验模型是最简单的线性方程

，现在需要你找出这个方程。

这道题的理想情况自然是一条线经过了所有的点，然而解方程我们可以发现，这个方程是没有答案的。考虑前两个点，我们可以得到m=-6，c=6；而考虑后两个点，我们又发现m=0，c=0。所以说这3个点并不在一条直线上，所以此刻我们的问题变为：找到一条best-fit的直线。那么什么是best-fit的直线呢？我们可以从几何角度看待这个问题。把我们的方程组变成矩阵形式，本质上我们是要解决

的问题，矩阵

，

，

。现在矩阵