本节是Gilbert Strang的MIT线性代数Linear Algebra公开课中【第七讲 求解 A x = 0 Ax=0 Ax=0:主变量和特解(lecture 7 Solving A x = 0 Ax = 0 Ax=0:Pivot Variables, Special Solutions)】的笔记,参考他在 MIT Linear Algebra课程网站上公开分享的 lecture summary (PDF) & Lecture video transcript (PDF)等文档,整理笔记如下,笔记中的大部分内容是从 MIT Linear Algebra课程网站上的资料中直接粘贴过来的,本人只是将该课程视频中讲述的内容整理为文字形式,前面的章节可在本人的其他博客中找到(此处戳第一讲,第二讲,第三讲,第四讲,第五讲,第六讲),后面的章节会按照视频顺序不断更新~
文章目录
lecture 7 Solving A x = 0 Ax = 0 Ax=0:Pivot Variables, Special Solutions
本节是一个过渡章节,本门课将从定义转换到算法部分;上节课讲了零空间和列空间,本节课主要关注零空间的求解,即求解 A x = 0 Ax=0 Ax=0的算法是怎样的。
一. 求解零空间(Computing the nullspace)
Example 1:
A = [ 1 2 2 2 2 4 6 8 3 6 8 10 ] A=\left[\begin{array}{llll} {1} & {2} & {2} & {2} \\ {2} & {4} & {6} & {8} \\ {3} & {6} & {8} & {10} \end{array}\right] A=⎣⎡1232462682810⎦⎤
分析该矩阵:列二是列一的两倍,行三=行一+行二,即线性相关,消元的时候这些信息都会表现出来。
——求解零空间算法:
——消元。只是消元的对象变成了长方阵(rectangular matrices),此时的消元,即使主元位置是0,仍然要继续(行互换)。利用消元法求解方程组时,在消元的过程中不改变零空间,因为用一个方程减掉另一个方程时,不改变方程组的解,解不变,因此零空间也不变。(实际上,改变的是列空间)。另外,由于在消元的过程中,右侧向量永远是 0 0 0 ,因此可以省略不写,故只需处理方程组左侧。
具体的求解过程如下:(以“Example 1的求解过程”为例讲解“求解零空间的过程”)
1. 消元
- 处理第一列(消掉主元下面的元素)
- 处理第二列,但是第二列中的主元位置(行二列二)是 0 0 0 ,则往下找,看是否有非零元素可以进行行变换,但是下面(行三列二)还是 0 0 0 ,这说明第二列是前面列的线性组合,即相关于前面各列,但是消元不能停止,则继续找下一个主元。
其中, U U U为阶梯形式(echelon form):非零元素以一种阶梯形式出现;
U U U 中最后一行全为 0 0 0 ,这是因为行三是行一和行二的线性组合,消元时,是其他行的线性组合的那一行就会变成 0 0 0 。
方程组由 A x = 0 Ax=0 Ax=0 变为 U x = 0 Ux=0 Ux=0,但解和零空间不变。(该方程组一共有三个方程、四个未知数,故一定有解)
-
我们需要找出下列信息:
- 主列(pivot columns):主元所在的列;
- 自由列(free columns):主列以外的列,自由列表示可以自由的或者任意的给对应的未知数分配数值;
- 主变量(pivot variables):主列对应的变量;
- 自由变量(free variables):自由列对应的变量,自由变量可以任意赋值。
在 U U U中: 主列(列一和列三)和自由列(列二和列四)如下图所示,故列二和列四的乘数是任意的,即未 知数 x 2 , x 4 x_2,x_4 x2,x4(自由变量)可以任取,则只需求解主变量 x 1 , x 3 x_1,x_3 x1,x3 。
2. 求特解(Special solutions)
特解:特定的解,特殊之处在于给自由变量分配特定值 0 0 0、 1 1 1,而不是别的值,进而得到的零空间内的向量。
—— U x = 0 Ux=0 Ux=0代表什么?(即矩阵的含义是什么?)
——代表一些方程,本例中的具体方程如下:
x 1 + 2 x 2 + 2 x 3 + 2 x 4 = 0 2 x 3 + 4 x 4 = 0 x_{1}+2 x_{2}+2 x_{3}+2 x_{4}=0 \\ 2 x_{3}+4 x_{4}=0 x1+2x2+2x3+2x4=02x3+4x4=0
- 由于 x 2 x_2 x2和 x 4 x_4 x4的值可以任取,现假设 x 2 = 1 , x 4 = 0 x_2=1,x_4=0 x2=1,x4=0,即 x = [ − 1 − 0 ] \mathbf{x}=\left[\begin{array}{r}{-} \\ {1} \\ {-} \\ {0}\end{array}\right] x=⎣⎢⎢⎡−1−0⎦⎥⎥⎤,再进行回代,得到 x 3 = 0 x_3=0 x3=0, x 1 = − 2 x_1=-2 x1=−2,故 x = [ − 2 1 0 0 ] \mathbf{x}=\left[\begin{array}{r} {-2} \\ {1} \\ {0} \\ {0}\end{array}\right] x=⎣⎢⎢⎡−2100⎦⎥⎥