雅克比矩阵、海森矩阵与非线性最小二乘间的关系与在SFM和Pose Estimation中的应用

本文链接：https://blog.csdn.net/u011494690/article/details/43274301

近期，在研究SFM和pose estimation时时常接触到这三个词，刚开始不太明白他们间的关系，现将他们整理一下。欢迎吐槽，有什么不对的地方欢迎指正！

首先，介绍一下三个词的数学定义与含义：

雅可比矩阵

假设F:R_n→R_m 是一个从欧式n维空间转换到欧式m维空间的函数。这个函数由m个实函数组成: y1(x1,...,xn), ..., ym(x1,...,xn). 这些函数的偏导数(如果存在)可以组成一个m行n列的矩阵，这就是所谓的雅可比矩阵：

$begin{bmatrix} frac{partial y_1}{partial x_1} & cdots & frac{partial y_1}{partial x_n} vdots & ddots & vdots frac{partial y_m}{partial x_1} & cdots & frac{partial y_m}{partial x_n} end{bmatrix}.$

此矩阵表示为：

$J_F(x_1,ldots,x_n)$ ，或者 $frac{partial(y_1,ldots,y_m)}{partial(x_1,ldots,x_n)}.$

这个矩阵的第i行是由梯度函数的转置y_i(i=1,...,m)表示的

在数学中，海森矩阵（Hessian matrix 或 Hessian）是一个自变量为向量的实值函数的二阶偏导数组成的方块矩阵，此函数如下：

$f(x_1, x_2, dots, x_n),$

如果 f 所有的二阶导数都存在，那么 f 的海森矩阵即：

$H(f)_{ij}(x) = D_i D_j f(x)$

其中 $x = (x_1, x_2, dots, x_n)$ ，即

$H(f) = begin{bmatrix} frac{partial^2 f}{partial x_1^2} & frac{partial^2 f}{partial x_1,partial x_2} & cdots & frac{partial^2 f}{partial x_1,partial x_n} frac{partial^2 f}{partial x_2,partial x_1} & frac{partial^2 f}{partial x_2^2} & cdots & frac{partial^2 f}{partial x_2,partial x_n} vdots & vdots & ddots & vdots frac{partial^2 f}{partial x_n,partial x_1} & frac{partial^2 f}{partial x_n,partial x_2} & cdots & frac{partial^2 f}{partial x_n^2} end{bmatrix}$