MIT-1806线性代数笔记 01方程组的几何解释

自留，主要是MIT1806课程的学习笔记，其中也包含了吉尔伯特教授所撰写的Introduction to Linear Algebra的阅读笔记，笔记中的一部分内容参考了某乎三少爷的键（搬的图，侵删）。才疏学浅，不当的地方还望指正包涵。而且由于课本跟课程并非一一对应所以可能会串^_^
在这一节中更重要的是理解其中的概念，其中线性组合是贯穿整个课程的重要概念。对于向量$\vec{v}和\vec{w}$，给定数字$c和d$，我们乘以数并相加得到$c\vec{v}+d\vec{w}$,则称其为线性组合，本节重要的理念是从2,3维空间拓展到n维空间。

线性方程组的几何图像

行图像

对于方程组
$$\{\begin{array}{l}2x-y=0\\ -x+2y=3\end{array}$$
我们可以画出两个等式的图像，为两条直线，易得方程组的解是两条线的交点的坐标,即$x=1,y=2$

列图像

我们将系数矩阵写成向量的线性组合$x\left[\begin{array}{c}2\\ -1\end{array}\right]+y\left[\begin{array}{c}-1\\ 2\end{array}\right]=\left[\begin{array}{c}0\\ 3\end{array}\right]$

可以看到当蓝色向量加两倍的红色向量就得到了右侧向量，所以解为$x=1,y=2$
那么将n从2变成3会是怎样呢？
$$\{\begin{array}{l}2x-y+0z=0\\ -x+2y-z=-1\\ 0x-3y+4z=4\end{array}$$
对于这个方程画出行图像，是三个平面相交与一点，图像也比二维难画了，但作为列图像，我们得到
$$x\left[\begin{array}{c}2\\ -1\\ 0\end{array}\right]+y\left[\begin{array}{c}-1\\ 2\\ -3\end{array}\right]+z\left[\begin{array}{c}0\\ -1\\ 4\end{array}\right]=\left[\begin{array}{c}0\\ -1\\ 4\end{array}\right]$$
我们将其看做三个三维向量的线性组合，我们可以轻易的画出图像，此时我们要做的就是要将左侧三个向量进行组合来求得右侧向量，这个例题很容易求解，$x=0,y=0,z=1$,对于更加复杂的求解将在下一节消元法讲到。
列图像的另一个好处就是如果将右侧向量换一下，对于行图像需要更换三个新的平面取交点而对于列图像，只需要将三个向量重新组合。那么现在另一个问题是是否所有的右侧向量b都有解，转换成代数语言就是
$$对于\forall b,是否能求解Ax=b?$$
用线性组合的语言来问这个问题就变成了：列的线性组合是否能覆盖整个三维空间
而对于例中的矩阵，答案是是，$A=\left[\begin{array}{ccc}2& -1& 0\\ -1& 2& -3\\ 0& -3& 4\end{array}\right]$是非奇异矩阵也就是可逆矩阵，那么不是的情况就是三个向量共线或者共面。这个结论可以推广至n维，只要n个n维向量线性无关那么就可以覆盖到整个n维空间，若有线性相关的向量那么这n个向量就相当于只有小于n个向量是真正起作用的。

矩阵乘以向量

对于如何求解$Ax=b$，有两种方法，例如取
$$\left[\begin{array}{cc}2& 5\\ 1& 3\end{array}\right]\left[\begin{array}{c}1\\ 2\end{array}\right]$$

一次一列

$$1\times \left[\begin{array}{c}2\\ 1\end{array}\right]+2\times \left[\begin{array}{c}5\\ 3\end{array}\right]=\left[\begin{array}{c}12\\ 7\end{array}\right]$$

一次一行(点乘）

$$\begin{gathered} \left[\begin{array}{cc}2& 5\end{array}\right]\left[\begin{array}{c}1\\ 2\end{array}\right]=2\times 1+5\times 2=12 \\ \left[\begin{array}{cc}1& 3\end{array}\right]\left[\begin{array}{c}1\\ 2\end{array}\right]=1\times 1+3\times 2=7 \end{gathered}$$
在这里教授更推荐大家用第一种方法即$Ax$是$A$各列的线性组合

要注意的问题：为了节省空间有时将
$$\left[\begin{array}{c}2\\ 5\end{array}\right]$$横着写成$(2,5)$但是$(2,5)$不等于$[2,5]$。

好了，第一节课的内容就结束了，下面是课本中比较有意思的思考题和一些对上课内容的知识补充

---

1、对于 $\vec{v}=(1,0)和\vec{w}=(1,0)$，当$c\ge 0$，描述所有$c\vec{v}+d\vec{w}$组成的几何图形。
solution：所有的 $d\vec{w}$组成了一条直线，$c\vec{v}$组成了，垂直于$d\vec{w}$直线的半条直线。所以可得到一个半平面。
2、四维空间中的立方体有多少个角？有多少个3D面？有多少条边？一个典型的角是 $(0,0,1,0)$，一条典型的边是 $(0,1,0,0)$
3、对于两个向量，我们有Schwarz不等式和三角不等式，即
$$\begin{gathered} |\vec{v}\cdot \vec{w}|\le ||\vec{v}||||\vec{w}|| \\ ||\vec{v}+\vec{w}||\le ||\vec{v}||+||\vec{w}|| \end{gathered}$$
我们可以用这个公式来推导几何平均值小于等于代数平均值。
取 $\vec{v}=(a,b),\vec{w}=(b,a)$ 点乘为 $2ab$ 两个向量的模长都是$\sqrt{a^2+b^2}$，根据Schwarz不等式我们可以得到 $2ab\le a^2+b^2$。而当 $x=a^2,y=b^2$ 时，我们就得到了“几何平均值” $\sqrt{xy}$ 不大于“算术平均值” $\frac{x+y}{2}$。
可以试着证明$\sqrt[3]{xyz}\le \frac{1}{3}(x+y)$。这里使用维基百科提供的方法。
$令G=\sqrt[3]{xyz},A=\frac{1}{3}(x+y)$
首先 $x=y=z$ 时两式相等，我们已知在只有 $xy$ 时几何平均数小于等于代数平均数成立，令 $y$ 为新的式子 $y+z-A$ ,那么代数平均值 $a=\frac{1}{2}(x+y+z-A)=\frac{1}{2}(3A-A)=A$ 又因为已知 $a\ge g$，则 $A^3\ge g^{2}A=x(y+z-A)A$，而 $(y+z-A)A=(y-A)(A-z)+yz>yz$，带入就得到$A^3>xyz=G^3$。

4、取任意$x,y,z$使$x+y+z=0$ ,计算 $\vec{v}=(x,y,z)和\vec{w}=(z,x,y)$的夹角，试着解释为什么 $\vec{v}\cdot \vec{w}/||\vec{v}||||\vec{w}||$ 恒等于$-\frac{1}{2}$
solution:
$\vec{v}\cdot \vec{w}=xz+xy+yz=\frac{1}{2}(x+y+z{)}^2-\frac{1}{2}(x^2+y^2+z^2)=0-\frac{1}{2}||\vec{v}||||\vec{w}||,可得cos\theta =\frac{1}{2}$。

5、在MATLAB中令v=randn（3,1）并创建一个单位向量$u=v/||v||$，用V=randn(3,30)来创建更多的随机单位向量$U_j$。点积$|u\cdot U_j|$的平均值是什么？在微积分中，是${\int }_0^{\pi }|\cos \theta |d\theta /\pi =2/\pi$