1.1 向量基本概念

向量及向量空间

线性代数是研究高维空间中向量的数学分支，十分抽象。向量是物理学中的矢量，为了使读者感受到线性代数后面的几何图像，本书简要回顾矢量相关知识。代数是工具，几何是灵魂，一定要重视代数后的几何，只有看到了几何，才能抓住本质，化繁为简，化难为易。

矢量

物理学中的力、速度、加速度和力矩等都是矢量，矢量是即有大小又有方向的量。可随意平行移动的有向线段可作为矢量的几何形象。两个矢量相等只有方向和大小均相等时才相等。矢量向坐标轴投影，获得每个分量，只有每个对应分量相等，两个矢量才相等。矢量大小满足勾股定理，方向为余弦定理。每个分量都乘以相同的实数 $\lambda \ge 0$ 表示矢量大小变为原来的 $\lambda$ 倍，方向不变。矢量每个分量都乘以0 ，变为 $0$ 矢量。每个分量都乘以 $-1$ ，矢量大小不变，方向相反。两个矢量相加，则对应分量相加，满足平行四边形法则。两个大小相等，方向相反矢量相加，变为 $0$ 矢量。在二维平面内大家都能熟练运用这些规则，可以说达到如火纯青程度。

线性代数中向量的运算规则必须遵循这些基本运算规则，因为线性代数是研究矢量的，如果不遵循这些规则，将无法研究矢量。线性代数采用高度抽象的方法来研究矢量，可以不借助几何图形，这样做的好处是，研究方法具有高度的可扩展性，可应用于 $\mathbf{m}$ 维空间。坏处是由于高度抽象，难以借助几何图形建立感性认识，学习难度很大。本书借助二维或三维空间内矢量的合成和分解两个“逆变换”，做到数形结合，描述线性代数后面的几何图像。

向量及运算规则

向量向坐标轴投影，得到每个分量，所有分量刻画向量。二维向量用两个有序数表示，如向量 $(2,3)$ ，表示 $x$轴分量为2， $y$轴分量为3。三维向量用三个有序数表示，如向量 $(2,3,-4)$ ，表示 $x$轴分量为2， $y$轴分量为3， $z$轴分量为－4。这种定义向量的方式，方便推广到高维空间。

定义 向量 $m$ 个有序数 $v_1,v_2,\cdots ,v_m$ 构成的数组称为 $m$ 维向量，这 $m$ 个数称为 $m$ 个分量，第 $i$ 个数 $v_i$ 称为第 $i$ 个分量，向量记为 $\mathbf{v}=(v_1,v_2,\cdots ,v_m)$ 。

分量全为实数的向量称为实向量，分量为复数的向量称为复向量。本书中除特别指明者外，一般只讨论实向量。向量用黑体小写字母 $\mathbf{v},\mathbf{u},\mathbf{w}$ 等表示。

特别的，每个分量都为0的向量是 $0$ 向量，$0=(0,0,\cdots ,0)$ 。

几何中，可随意平行移动的有向线段作为向量的几何形象，因此，当 $m\le 3$ 时，可以把有向线段作为向量的几何形象。但当 $m>3$ 时，就想象不出这种几何形象，但可以沿用几何术语。

根据矢量只有每个对应分量相等，两个矢量才相等，定义向量相等。

定义 向量相等 向量 $\mathbf{v}=(v_1,v_2,\cdots ,v_m)$ 和向量 $\mathbf{w}=(w_1,w_2,\cdots ,w_m)$ 相等，当且仅当
$$\mathbf{v}＝\mathbf{w}⟺(v_1=w_1,v_2=w_2,\cdots ,v_m=w_m)$$
只有维数相同的向量才可能相等，$(2,3,0)$ 和 $(2,3)$ 是不同的向量。分量的顺序很重要，如 $(2,3)$ 和 $(3,2)$ 是不同的向量。

向量加法和数乘

根据矢量相加规则，定义两个向量加法规则，即对应分量相加。

定义 向量加法 向量 $\mathbf{v}=(v_1,v_2,\cdots ,v_m)$ 与向量 $\mathbf{w}=(w_1,w_2,\cdots ,w_m)$ 之和等于
$$\mathbf{v}+\mathbf{w}=(v_1+w_1,v_2+w_2,\cdots ,v_m+w_m)$$
例如： $(0,1)+(1,2)=(0+1,1+2)=(1,3)$ 。

根据定义，向量加法显然满足交换律和结合律，
$$\begin{gathered} \mathbf{v}+\mathbf{w}=\mathbf{w}+\mathbf{v} \\ (\mathbf{v}+\mathbf{u})+\mathbf{w}=\mathbf{v}+(\mathbf{u}+\mathbf{w}) \end{gathered}$$
根据两个大小相等，方向相反矢量相加，等于 $0$ 矢量，定义向量的相反向量。

定义 相反向量 向量 $\mathbf{v}=(v_1,v_2,\cdots ,v_m)$ 的相反向量为 $\mathbf{w}=(-v_1,-v_2,\cdots ,-v_m)$ ，则 $\mathbf{v}+\mathbf{w}=0$ 。

根据相反向量定义向量减法

定义 向量减法 $\mathbf{v}-\mathbf{w}=\mathbf{v}+(-\mathbf{w})$ 。

所以向量减法就是加上相反向量，可以看作加法，故本书除特别指明者外，一般只讨论向量加法。

根据矢量大小满足勾股定理，定义向量大小，向量大小也称向量长度。

定义 向量长度 分量平方和的平方根为向量长度，向量 $\mathbf{v}=(v_1,v_2,\cdots ,v_m)$ 的长度为 $\sqrt{v_1^2+\cdots +v_m^2}$ ，记为 $\Vert \mathbf{v}\Vert$ ，也称向量范数。

例如：向量 $(3,4)$ 的长度为 $\sqrt{3^2+4^2}=\sqrt{25}=5$ 。

重要性质 只有 $0$ 向量的长度为0，其他向量长度均大于0。

根据三角不等式（两边之和大于第三边，之差小于第三边）得
$$\begin{gathered} \Vert \mathbf{v}＋\mathbf{w}\Vert \le \Vert \mathbf{v}\Vert +\Vert \mathbf{w}\Vert \\ |\Vert \mathbf{v}\Vert -\Vert \mathbf{w}\Vert |\le \Vert \mathbf{v}-\mathbf{w}\Vert \end{gathered}$$

根据每个分量都乘以相同的实数 $\lambda$ 表示矢量长度变为原来的 $\lambda$ 倍，当$\lambda \ge 0$，向量方向不变，否则方向相反， 定义向量数乘。

定义 向量数乘 每个分量都乘以相同的实数 $\lambda$， $\lambda \mathbf{v}=(\lambda v_1,\lambda v_2,\cdots ,\lambda v_m)$ 。

向量 $\lambda \mathbf{v}$ 的长度为
$$\Vert \lambda \mathbf{v}\Vert =\sqrt{(\lambda v_1{)}^2+\cdots +(\lambda v_m{)}^2}=|\lambda |\Vert \mathbf{v}\Vert$$
例如：向量 $(3,4)$ 的2倍数乘为 $(2\ast 3,2\ast 4)=(6,8)$ ，长度为10，是原向量长度的2倍，方向不变。该向量的－2倍数乘为 $(-2\ast 3,-2\ast 4)=(-6,-8)$ ，长度为10，是原向量长度的2倍，方向相反。

根据定义，向量数乘显然满足结合律和分配率，
$$\begin{gathered} \alpha (\beta \mathbf{v})=(\alpha \beta )\mathbf{v} \\ (\alpha +\beta )\mathbf{v}=\alpha \mathbf{v}+\beta \mathbf{v} \\ \alpha (\mathbf{v}+\mathbf{w})=\alpha \mathbf{v}+\alpha \mathbf{w} \end{gathered}$$
这些定义和运算规则看似简单，却是整个线性代数的基础，希望大家重视。

定义 单位向量 长度为1的向量为单位向量。

如向量 $(0,1)$ ， $(3,4)/5$ 和 $(\cos \theta ,\sin \theta )$ 均为单位向量。

重要性质 对任意向量可单位化。
$$\mathbf{u}=\mathbf{v}/\Vert \mathbf{v}\Vert 是单位向量，方向和向量\mathbf{v}相同，此时\lambda =1/\Vert \mathbf{v}\Vert$$
比如向量 $\mathbf{v}=(2,3)$ ，长度为 $\mathbf{v}=\sqrt{2^2+3^2}=\sqrt{13}$ ，所以单位向量 $\mathbf{u}=(2,3)/\sqrt{13}$ 。

内积

定义 向量距离 向量 $\mathbf{v},\mathbf{w}$ 之间距离为向量 $\mathbf{v}-\mathbf{w}$ 的长度 $d(\mathbf{v},\mathbf{w})=\Vert \mathbf{v}-\mathbf{w}\Vert$ 。
$$\begin{gathered} d(\mathbf{v},\mathbf{w})=\Vert \mathbf{v}-\mathbf{w}\Vert \\ =\sqrt{(v_1-w_1{)}^2+(v_2-w_2{)}^2+\cdots +(v_m-w_m{)}^2} \\ =\sqrt{(v_1^2+v_2^2+\cdots +v_m^2)+(w_1^2+w_2^2+\cdots +w_m^2)-2(v_1{w}_1+v_2{w}_2+\cdots +v_m{w}_m)} \\ =\sqrt{\Vert \mathbf{v}{\Vert }^2+\Vert \mathbf{w}{\Vert }^2-2(\mathbf{v},\mathbf{w})} \end{gathered}$$

公式最后一项和定义为两个向量内积，内积也称点积，是个数。

定义 内积 两个向量内积 $(\mathbf{v},\mathbf{w})＝v_1{w}_1+v_2{w}_2+\cdots +v_m{w}_m$ 。

显然 $\Vert \mathbf{v}\Vert =\sqrt{(\mathbf{v},\mathbf{v})}$ ，即范数等于内积平方根。

可见内积可以定义范数，范数又可以定义距离，内积是最基本的运算。

向量 $\mathbf{v}=(1,2),\mathbf{w}=(3,-4)$ ，内积 $(\mathbf{v},\mathbf{w})=1\ast 3+2\ast -4=-5$ 。

根据定义，内积满足交换律和结合律，
$$\begin{gathered} (\mathbf{v},\mathbf{w})=(\mathbf{w},\mathbf{v}) \\ (\lambda \mathbf{v},\mathbf{w})=\lambda (\mathbf{v},\mathbf{w}) \\ (\mathbf{v},\mathbf{w}+\mathbf{u})=(\mathbf{v},\mathbf{w})+(\mathbf{v},\mathbf{u}) \end{gathered}$$
什么情况下两个向量的内积为0？显然任一向量为 $0$ 向量时，内积为0。两个向量均不为 $0$ 向量时，内积能为0吗？向量 $\mathbf{v}=(1,0),\mathbf{w}=(0,1)$， $(\mathbf{v},\mathbf{w})=1\ast 0+0\ast 1=0$ ，所以答案是肯定的。内积为0时，两个向量有什么关系呢？

向量 $\mathbf{v}-\mathbf{w}，\mathbf{v}，\mathbf{w}$ 构成三角形，根据余弦定理，有如下关系
$$\Vert \mathbf{v}-\mathbf{w}{\Vert }^2=\Vert \mathbf{v}{\Vert }^2+\Vert \mathbf{w}{\Vert }^2-2\Vert \mathbf{v}\Vert \Vert \mathbf{w}\Vert \cos (\mathbf{v},\mathbf{w})$$
重要性质：
$$\begin{gathered} (\mathbf{v},\mathbf{w})=\Vert \mathbf{v}\Vert \Vert \mathbf{w}\Vert \cos (\mathbf{v},\mathbf{w}) \\ \cos (\mathbf{v},\mathbf{w})是向量\mathbf{v},\mathbf{w}之间夹角的余弦。 \end{gathered}$$
重要性质：两个向量垂直时，内积为0；夹角小于90度时内积为正；大于90度时为负。

物理学中，如何求力做的功？就是力与位移的内积！力垂直于位移时，做功为0。这就是内积的物理意义。

物理学中，如何求力在坐标轴的分量，也称力在坐标轴的投影，就是力乘以力与坐标轴夹角的余弦！

重要性质：向量 $\mathbf{v}$ 为单位向量时，内积为投影， $(\mathbf{v},\mathbf{w})=\Vert \mathbf{v}\Vert \Vert \mathbf{w}\Vert \cos (\mathbf{v},\mathbf{w})=\Vert \mathbf{w}\Vert \cos (\mathbf{v},\mathbf{w})$

重要性质：向量 $\mathbf{v},\mathbf{w}$ 为单位向量时，内积为余弦， $(\mathbf{v},\mathbf{w})=\cos (\mathbf{v},\mathbf{w})$ ，内积越大时，两个向量夹角越小， 向量越相似。所以内积可以作为两个向量相似程度的度量。

余弦绝对值小于等于1，得到重要不等式
$$|(\mathbf{v},\mathbf{w})|\le \Vert \mathbf{v}\Vert \Vert \mathbf{w}\Vert$$