线性代数(11)——线性相关、线性无关和生成空间

线性组合

在标量中存在线性函数，即k个标量和另外$k$个标量的组合 $k_1\cdot x_1+k_2\cdot x_2+\dots \dots +k_p\cdot x_p$，标量的线性组合最终得到的依旧是一个标量。

线性组合是针对向量而言的，可以理解为，给定$p$个维度相同的向量$\overrightarrow{v_1}、\overrightarrow{v_2}、\dots \dots \overrightarrow{v_p}$，同时给定$p$个标量$k_1、k_2、\dots \dots k_p$，将这$p$个标量和$p$个向量进行组合得到的 $k_1\cdot \overrightarrow{v_1}+k_2\cdot \overrightarrow{v_2}+\dots \dots +k_p\cdot \overrightarrow{v_p}$ 就被称为这些向量的一个线性组合。向量的线性组合最终得到的同样还是个向量。

线性相关和线性无关

线性相关和线性无关是建立在线性组合的基础上的。

线性相关

对于给定p个维度相同的向量$\overrightarrow{v_1}、\overrightarrow{v_2}、\dots \dots \overrightarrow{v_p}$而言，若存在一组不全为0的标量$k$使得 $k_1\cdot \overrightarrow{v_1}+k_2\cdot \overrightarrow{v_2}+\dots \dots +k_p\cdot \overrightarrow{v_p}=0$，则称这p和向量线性相关。

线性相关也可以更通俗的理解为，其中任意的一个系数不为0的向量都能够使用其他向量表示。

上面的命题是互为充要的，即
$$如果\overrightarrow{v_1}、\overrightarrow{v_2}、\dots \dots \overrightarrow{v_p}线性相关\iff 其中一个项目可以写为其他向量线性组合$$
具体的证明如下，

1. 给出正向证明，
   $$k_1\cdot \overrightarrow{v_1}+k_2\cdot \overrightarrow{v_2}+\dots \dots +k_p\cdot \overrightarrow{v_p}=0$$
   设$k_i$不为0，则$k_i\cdot \overrightarrow{v_i}=-k_1\cdot \overrightarrow{v_1}-k_2\cdot \overrightarrow{v_2}-\dots \dots -k_p\cdot \overrightarrow{v_p}$
   可得
   $$\overrightarrow{v_i}=-\frac{k_1}{k_i}\cdot \overrightarrow{v_1}-\frac{k_2}{k_i}\cdot \overrightarrow{v_2}-\dots \dots -\frac{k_p}{k_i}\cdot \overrightarrow{v_p}$$
2. 给出反向证明
   $$\overrightarrow{v_i}=k_1\cdot \overrightarrow{v_1}+k_2\cdot \overrightarrow{v_2}+\dots \dots +k_p\cdot \overrightarrow{v_p}$$
   则有，
   $$k_1\cdot \overrightarrow{v_1}+k_2\cdot \overrightarrow{v_2}+\dots +(-1)\cdot \overrightarrow{v_i}+\dots +k_p\cdot \overrightarrow{v_p}=0$$

线性无关

对于给定$p$个维度相同的向量$\overrightarrow{v_1}、\overrightarrow{v_2}、\dots \dots \overrightarrow{v_p}$而言，只有全为0的标量$k$时使得$k_1\cdot \overrightarrow{v_1}+k_2\cdot \overrightarrow{v_2}+\dots +k_p\cdot \overrightarrow{v_p}=0$，则称这$p$个向量线性无关。此时对应的是$k$全为0的情况。

也就是说这p个向量任何一个都不能被其他向量的线性组合表示。最简单的例子就是空间中表示坐标轴方向的标准单位向量，

下面给出的是n个标准单位向量线性无关的证明，
$$证明单位向量\overrightarrow{e_1},\overrightarrow{e_2},\overrightarrow{e_3},...,\overrightarrow{e_n}线性无关$$
使用反证法证明，假设线性相关，则次幂在不全为0的一组$k$，使得$k_1\cdot \overrightarrow{e_1}+k_2\cdot \overrightarrow{e_2}+\dots +k_n\cdot \overrightarrow{v_n}=0$。假设$k_i̸=0$，
$$\overrightarrow{e_i}=-\frac{k_1}{k_i}\cdot \overrightarrow{e_1}-\frac{k_2}{k_i}\cdot \overrightarrow{e_2}-\dots \dots -\frac{k_n}{k_i}\cdot \overrightarrow{e_n}$$
则$\overrightarrow{e_i}=(-\frac{k_1}{k_i},-\frac{k_2}{k_i},...,-\frac{k_{i-1}}{k_i},0,-\frac{k_{i+1}}{k_i},...,-\frac{k_n}{k_i})$。矛盾，即证。

重要性质

1. $m$个$n$维向量$\overrightarrow{v_1}、\overrightarrow{v_2}、\dots \dots \overrightarrow{v_m}$，若$m>n$，则$\overrightarrow{v_1}、\overrightarrow{v_2}、\dots \dots \overrightarrow{v_m}$一定线性相关
   $$\left(\begin{array}{cccc}{v}_{11}& v_{21}& ...& v_{m1}\\ v_{12}& v_{22}& ...& v_{m2}\\ ...& ...& ...& ...\\ v_{1n}& v_{2n}& ...& v_{mn}\end{array}\right)\cdot \left(\begin{array}{c}{k}_1\\ k_2\\ k_3\\ ...\\ k_m\end{array}\right)=0$$
   因为$m>n$，所以系数矩阵化为行最简形式，肯定非零行小于列数。故必然存在无穷解。相当于方程数目小于未知数个数(参见)
2. $m$个$n$维向量$\overrightarrow{v_1}、\overrightarrow{v_2}、\dots \dots \overrightarrow{v_m}$，若$m=n$，且$m$个列向量构成的矩阵可逆时，$\overrightarrow{v_1}、\overrightarrow{v_2}、\dots \dots \overrightarrow{v_m}$一定线性无关
   此时与矩阵可逆的等价命题又增加了一个，
   
3. $m$个$n$维向量$\overrightarrow{v_1}、\overrightarrow{v_2}、\dots \dots \overrightarrow{v_m}$，若存在零向量，则$\overrightarrow{v_1}、\overrightarrow{v_2}、\dots \dots \overrightarrow{v_m}$一定线性相关
   假设$\overrightarrow{v_i}=O$，
   $$\begin{gathered} k_1=0,k_2=0,...,k_{i-1}=0,k_i=666,k_{i+1}=0,...,k_m=0 \\ 满足k_1\cdot \overrightarrow{v_1}+k_2\cdot \overrightarrow{v_2}+...+k_m\cdot \overrightarrow{v_m}=0 \end{gathered}$$
   证毕。

直观理解线性相关和线性无关

线性相关

线性相关在之前的小节中可以很简单的理解为，$m$个向量中其中一个向量可以写成其他向量的线性组合。从另一个层面而言，这$m$个向量中存在冗余的信息。

以二维平面为例进行理解，在二维空间中随意取两个向量 $\vec{u}$和$\vec{v}$，之后再在平面中随意取一个向量$\vec{w}$。依据之前的性质，这三个向量一定是线性相关的，


$\vec{u}$和$\vec{v}$的数乘所对应的标量实际上就是线性相关时的系数。对于比较特殊的情况，即$\vec{u}$和$\vec{v}$共线，

线性无关

线性无关意味着每一个向量都是独立的，所有的向量中不存在冗余的信息。比如在二维空间中，任意两个不共线的向量都是线性无关的；同样的三维空间中，三个不共面的向量都是线性无关的。

生成空间

线性代数中十分重要的概念。

定义

以二维空间为例，任意两个不共线的向量都是线性无关的，此时若添加第三个向量，则这三个向量就会变成线性相关的。上一节中，$\vec{w}$可以被$\vec{u}$和$\vec{v}$的线性组合表示。即任何其他向量都可以使用u和v的线型组合表示，此时可以说$\vec{u}$和$\vec{v}$生成了整个二维空间。

推广到$n$维空间中，如果空间中所有向量都能够被表示为 $\overrightarrow{v_1}、\overrightarrow{v_2}、\dots 、\overrightarrow{v_n}$的线性组合，则称这些向量可以生成这个空间。

实际上$\vec{u}$、$\vec{v}$和$\vec{w}$也可以生成整个二维空间，$\vec{w}$的系数取0即可。此时会引出一个问题，最少需要几个向量生成二维空间？为了解决这个问题可以进行如下推导，

1. 首先肯定不是一个向量，一个向量只能表示与其共线的向量。
2. 不是三个向量，根据线性相关的性质，3个二维向量此时3>2，则一定线性相关。
3. 所以最少需要两个向量生成二维空间。

将这一推论拓展到$n$维空间中，可以得到“对于一个n维空间，至少需要$n$个向量才能够生成。”，利用反证法进行证明，假设$m$个向量可以生成$n$维空间，且 $m<n$，
$$k_1\cdot \left(\begin{array}{c}{v}_{11}\\ v_{12}\\ ...\\ v_{1n}\end{array}\right)+...+k_m\cdot \left(\begin{array}{c}{v}_{m1}\\ v_{m2}\\ ...\\ v_{mn}\end{array}\right)=\left(\begin{array}{c}{u}_1\\ u_2\\ ...\\ u_n\end{array}\right)$$
因为$m<n$，所以想来构成的矩阵的行最简形式一定有零行。不能保证零行对应的$\vec{u}$是0，所以该线性系统是无解的，不存在这样的$m$个向量。

反过来，$n$个$n$维向量是不一定能够生成$n$维空间的。只有$n$个向量组成的矩阵经过Gauss-Jordan消元法处理得到的行最简形式是一个单位矩阵时，此时线性系统具有唯一解，此时这$n$个向量能生成空间。

此时再一次与矩阵的逆的性质联系在了一起，矩阵$A$可逆的等价命题又多了2条，

空间的基

定义

当一组向量能够生成$n$维空间，且这些向量线性无关，则这组向量一定有$n$个。此时称这$n$个向量是该$n$维空间的一组基。

通过上面的定义，
$$\begin{gathered} n个n维向量\overrightarrow{v_1},\overrightarrow{v_2},...,\overrightarrow{v_n}，若他们是这个n维空间的基\iff \\ 1)\overrightarrow{v_1},\overrightarrow{v_2},...,\overrightarrow{v_n}生成整个n维空间 \\ 2)\overrightarrow{v_1},\overrightarrow{v_2},...,\overrightarrow{v_n}线性无关 \end{gathered}$$
在$n$维空间中，如果给定一组基。任何一个向量都可以表示成这组基的线性组合，且表示方法唯一。

空间的基实际上可以理解为一组坐标系，只是与一般的直角坐标系不同，这些组成空间的向量基彼此之间不一定是相互垂直的。

性质

1. $n$维空间中，任意$n$个线性无关的向量，一定是这个$n$维空间的基。

2. $n$维空间中，如果$n$个向量可以生成整个空间，则这$n$个向量是这个$n$维空间的基。

向量个数和空间维度之间的关系，

• 如果$n$维空间的$p$个向量$\overrightarrow{v_1},\overrightarrow{v_2},...,\overrightarrow{v_p}$线性无关，则 $p\le n$
• 如果$n$维空间的$p$个向量$\overrightarrow{v_1},\overrightarrow{v_2},...,\overrightarrow{v_p}$线性相关，则 $p>n$
• 如果$n$维空间的$p$个向量$\overrightarrow{v_1},\overrightarrow{v_2},...,\overrightarrow{v_p}$可以生成$n$维空间，则 $p\le n$
• 如果$n$维空间的$p$个向量$\overrightarrow{v_1},\overrightarrow{v_2},...,\overrightarrow{v_p}$是$n$维空间的基，则 $p=n$

小结