【学习笔记】3Blue1Brown 线性代数导引

什么是向量？

合理定义加法和数乘、符合公设的“东西”就是向量；
向量空间对加法及数乘这两种基本运算保持封闭。

如果给向量空间添加点积（长度和角度、欧式距离和余弦距离）的定义，就构成了欧几里得空间。

例如说，

• 颜色可以是“向量”，三原色是“基底”
  

• 多项式函数是“向量”，$x^2+5=\left[\begin{array}{c}5\\ 0\\ 1\\ 0\\ \cdots \end{array}\right]$

• 信号是“向量”，可以合成和分解；

向量$\vec{v}=\left[\begin{array}{c}1\\ 2\end{array}\right]\in {\mathcal{R}}^2$是二维坐标系标准正交基底向量的缩放和（线性组合）：$1\hat{i}+2\hat{j}$的简记；如果基底变换用矩阵的形式表示，$I=\left[\begin{array}{cc}1& 0\\ 0& 1\end{array}\right]$，$x=\left[\begin{array}{c}1\\ 2\end{array}\right]$，这里$I$是“恒等变换”：$Ix=x$。

什么是线性系统（多元一次联立方程组、矩阵）？

系统，也被称作映射、函数、变换、算子，输入一个“东西”，输出一个“东西”，是一个“集合”到另一个“集合”的映射关系；

其中，满足叠加性（$f(\vec{x}+\vec{y})=f(\vec{x})+f(\vec{y})$）和比例性（$f(k\vec{x})=kf(\vec{x})$）的是“线性系统”。

• 线性方程组是“线性系统”，以矩阵的形式简记系数时，我们更关注列向量的缩放和（线性组合），而不是将每行视作一个直线（超平面）约束，关注它们的交点；
• 向量$x$是“输入”，矩阵$A$是“线性系统”，向量$b$是“输出”，如果从函数的语言说，解线性方程组就是求逆映射/反函数，可以从“值域”、“到达域”、“单射”，“满射”，理解方程组的“有解”、“唯一解”、“均有解”；；
• 转置是“线性系统”，前缀和、差分是“线性系统”，微分、积分也是“线性系统”，旋转、投影是“线性系统”：符合叠加性和比例性。

在二维视角下说，考虑线性系统操纵的是基底（空间），要满足输入直线，输出直线，输入零，输出零，网格线保持平行且“均匀”等距分布（旋转、投影也是线性变换，可以写作矩阵乘法的形式）。

矩阵运算和相关概念

• 矩阵乘法：多个变换相继作用，例如$M_2(M_{1}x)=(M_2{M}_1)x$，矩阵乘法最初是用于表示线性方程组的解法（左乘是行视角行变换，右乘是列视角列变换）；

• 行列式：系统对空间的挤压（拉伸）作用的度量，表现为方向（正、负）和大小（面积、体积之比）；如果行列式为零，说明该变换对空间进行了塌陷变换，减小了维度，该变换是不可逆的，变换后的维度被称为“秩”，对应着矩阵“列向量”张成空间的维度（去除摆烂向量得到最大无关组，构成了该张成空间的一组基）；

• 对于某些特定的向量而言，应用线性变换$A$，并没有离开它自身（缩放）张成的直线，$A$相当于一个“标量”$\lambda$（或者说$\lambda I$），这些向量就被称为“特征向量”，这个“标量”度量了缩放方向与大小，被称为“特征值”。尤其对于旋转变换而言，“特征向量”就是“旋转轴”。

例一：差分、前缀和、矩阵的逆

例如说， A x = [ 1 0 0 − 1 1 0 0 − 1 1 ] [ x 1 x 2 x 3 ] = [ x 1 x 2