线性方程组、齐次线性方程组和非线性方程组的最小二乘解

最近在学习北邮鲁鹏的三维重建课程，看到摄像几何时，后面提到上述三种方程组的求解。突然意识到，这三种问题在工程领域十分常见，尤其对于图像领域。现对三种问题进行总结

线性方程组

 工程问题中，遇到的问题都是第三种问题，即超定方程组。

举一个最近遇到的问题，将三维空间中的一个点集进行空间平面拟合。

空间平面方程可以由ax+by+cz=d表示。点集（x、y、z）为我们已知的空间点集，需要求解出a、b、c、d四个参数；因此，至少需要四组方程求解，当刚好四个点集时，求解的四个参数唯一。

上述这种情况在工程问题十分少见，往往是一群点集进行拟合，因此方程数远远大于参数的个数（四个），因此这个问题就是超定线性方程的求解。

看北邮鲁鹏老师课程，有以下三种解法：

 其中，奇异值分解较为方便简单，之前正是对奇异值拟合平面不解，在这里就明白了。

很多拟合问题都可以采用这种思路，空间线、面和二维空间线面等等，都可以采用这种思路求解，编程也方便。

齐次线性方程组

齐次线性方程组，与上面线性方程组类似，采用奇异值分解进行求解。

 

 非线性方程组

非线性方程组解法单一，只能采用迭代的算法。