【SLAM】线性方程组有解判别

齐次方程组 ?? = 0 的情形.

齐次方程组 ?? = 0 是天然有解的, 它至少有一个解: 零解. 所以对齐次方程组 ?? = 0, 我们关心的不是它有没有解,而是它是否有非零解. 下面的结论要非常的清楚:

1) ? 元齐次方程组 ?? = 0 只有零解的充要条件是 ?(?) = ?.
2) ? 元齐次方程组 ?? = 0 有非零解的充要条件是 ?(?) < ?.

注意:

(i) ? 是未知量的个数, 或者说是矩阵 ? 的列数. ?(?) < ? 表明 ? 的行阶梯型矩阵中非零行的行数, 小于 ?, 说明出现了自由未知量, 导致方程组的不唯一, 所以有非零解.
(ii) 这里的矩阵 ? 不一定是方阵. 这个结论较第一章 P.25 的定理 5 就更一般化了, 而且是充要条件.

一般的方程 ?? = ? 的情形.

对 ? 元线性方程组 ?? = ?, 记 ? = (?, ?). 注意到 ?(?) 比 ?(?) 只多 0或1.

1）若 ?(?) = ?(?) + 1, 则说明出现了矛盾方程, 导致方程组无解

2） 若 ?(?) = ?(?), 则没有矛盾方程, 方程组有解. 其中,

a)当 ?(?) = ?(?) < ? 时, 说明出现了自由未知量, 导致方程组有无限多解;

b)而 ?(?) = ?(?) = ? 时, 则没有出现自由未知量, 所以方程组有唯一解.

是否出现矛盾方程是方程组有解与否的关键;是否出现自由未知量又是区分有无限多解和有唯一解的关键.

换成秩的角度去说问题, 就呈现为下面的表达:

a) ? 元线性方程组 ?? = ? 有解 ⇐⇒ ?(?) = ?(?). 且
        ?(?) = ?(?) = ?, 有唯一解;
        ?(?) = ?(?) < ?, 有无限多解.
b) ? 元线性方程组 ?? = ? 无解 ⇐⇒ ?(?) ̸= ?(?).

举例

假设线性方程组AX = B.

1. 设 A = [1,1;0,0], B = [1,1].

    x1 + x2 = 1;
    0*x1 + 0 *x2 = 1;
   

   其中R(A)=1 /= R(B)=2;所以方程无解。而且因为方程组的第二个式子是的0=1，与事实不符。

2. A = [1,1;0,1], B = [1,1].

   x1 + x2 = 1;
   0*x1 + 1*x2 = 1;
   

   其中R(A)=2 = R(B)=2;所以方程有唯一解。解为X=[0,1].

3. A = [1,1;0,0], B = [1,0].

    x1 + x2 = 1;
    0 *x1 + 0 *x2 = 0;
   

   其中R(A)=2 < R(B)=3;所以方程有无穷解。因为第二项消掉了，方程只剩下第一项，一个方程式，两个未知量。

引出最小二乘问题

最小二乘问题就是用来解决第二、三种情况求最优解。

1. 当出现第二种情况下（也就是A满秩下，称为满秩最小二乘问题），为了提高效率通常使用QR分解、LTLD分解、Cholesky分解和SVD分解（奇异分解）等。
2. 当出现第三种情况时（也就是A秩亏，称为亏秩最小二乘问题），只能使用SVD分解方法，其他方法将失效。