机器学习数学基础 ：线代（2）

2.3 线性方程组求解

主要是求线性方程组的解和提供个算法来寻找矩阵的逆。

2.3.1 特殊和一般的解决方案

考虑这个例子

两个方程，4给未知数，所以他有无限个解。这个方程组是很简单的，因为前两列都是一个1 一个0。我们要求四个解可以这样，其中ci 就是每一列[1,0]T 这样的，b就是方程右边的[42,8] 。很简单的就可以看出后面那俩系数为0嘛。。因此这个 [42 ,8 ,0 ,0]T 就是一个特殊解或特别解。我们使用这个来推断一般解。

为了捕获所有其他解决方案，我们需要创造性地使用矩阵的列以非平凡的方式生成0向量：在我们的特殊解决方案中添加0不会改变特殊解决方案。 为此，我们使用前两列（这是非常简单的形式)表示第三列。

后面那个也是一个思路。。就是凑出个0向量。

这就是一般解了。。。（仿佛学过。。。完了线代白学了。。。），，步骤就是：

• 找特殊解 Ax=b
• 找 Ax=0 所有解
• 联合就完了。特殊解和一般解都不唯一

当然上面的例子太特殊了，，对于一般的我们有特别的方法可以转换成这种简单的形式：高斯消除。这个的关键就是对线性方程组的基本转换，然后就可以用上面那三个步骤了。

2.3.2 基本转换

这是解线性方程组的关键，保持解集不变，通过转换将方程化为一个简单的形式。

• 交换两个方程（矩阵的行就代表了方程组的方程）
• 将一个方程（行）乘以一个常数
• 两个方程相加，，，，，其实就是化成阶梯型，，，想念我的线代笔记本，，啥时候开学啊。。。
  

【A/b】 是增强矩阵，反正这个过程就是：最好把开头是1 的放到第一列（交换），然后一层一层减去倍数，化成阶梯型，

行的前导系数（就是从左来时的第一个非零数字）被称为枢纽（应该是叫这个吧），并且下面的要在上面的右侧。

基本变量/自由变量：枢纽点的对应的变量是基本变量例如上例的 x1, x3, x4 其他的就是自由变量了，x2, x5

怎么说呢，，感觉这个方法也不简单。。按我理解：

得到（2.45）方程后，随便带个数就可以得到一个特殊解。我们得到了阶梯型，选取每一行的开头那一列，这个例子就是1，3，4列。然后凑出第二列，第五列在构建个零向量。。[-2,0,0] = -2c1 + 0c3 + 0c4 = c2。所以零向量就是 入1{2，1，0，0，0] 。同理 [1,3,-2] = -2c4 + c3 - 2c1 = c5 ，入2[2,0,-1,2,1] = 0.。。。（总感觉学过但就是想不起来。。。线代老师我对不起你啊。。。）

特殊解：就是用枢纽所在的列表示结果，可以容易的得到对应 入i 的值，2， -1 ，1.再加上其他的就是[2,0,-1,1,0] 了。

简化阶梯式形式：也叫行精简阶梯形式/行规范形式，是阶梯型，每个枢纽都是1，枢纽其列中唯一的非零元素。这种格式可以帮助我们直截了当的发现方程组的一般解。

高斯消除：使用中算法，让线性方程组使用基本转换成简化阶梯式。

一个简化阶梯形式的例子：

求解Ax=0 的关键就是枢纽列。反正思想时一样的，特别解可以是[0,0,0.0.0]，其他的一般解通过将非枢纽列用枢纽列表示出来就行，也不难。。

2.3.3 减-1的技巧

介绍一种实用的技巧来对同类型的行列式方程求解（Ax=0) 。考虑k行 n列的矩阵A：

其中*是任意实数，符合简化阶梯型的格式，我们使用 n-k 行增加到矩阵中扩展成一个 nXn 的方阵，
使增广矩阵的对角线只有 1 or -1。额，，就上面那个矩阵有些列使没有枢纽1的，也就是说对角线的位置除了1 就是0，然后我们将上面那行（不是中间为-1 的意思啊，比如第一行应该加上个[1,0000000…]）加上在排排序，让对角线都是1 or -1。。。。就这个意思吧。。。

然后包含-1 的列作为枢纽就是x 的解。更准确的说，这些列构成了 Ax=0 解空间的基础。我们称之为内核/空 空间。。。以后再说

啊。。。这也行，，，扩展后，对角线上有-1 的就是一般解，这我真没学过。。

计算逆矩阵

计算A的逆矩阵就要找一个矩阵X 满足 AX=In。
就是联立，然后左边化成 In 右边就是逆了。

这就叫高斯消除啊，，我还以为是啥呢。。。

• 两方程互换，解不变；
• 一方程乘以非零数k，解不变；
• 一方程乘以数k加上另一方程，解不变