这篇文章翻译自官方教程Numeric derivatives并且参考了少年的此间的博客文章Ceres-Solver学习笔记(5)
利用analytic derivatives的另一个极端形式是 numeric derivatives,即数值微分法。数值微分法的关键是,目标函数 f(x) f ( x ) 的微分方程可以被写成一个极限形式:
Df(x)=limh→0f(x+h)−f(x)h D f ( x ) = lim h → 0 f ( x + h ) − f ( x ) h
前向差分
当然,在计算机上 h h 使不可能无限逼近
的,那就是选择一个非常小的 h h 的值并近似导数
上面的公式是最简单的最基本的数值微分。它被称为 “正向差分公式”。
那么,如何在Ceres中实际构建一个数值微分算法过程的呢?主要可以分为两个步骤:
1. 定义Functor
给定参数值,Ceres将通过它对给定的 (x,y) ( x , y ) 的进行残值计算。
2. 用 NumericDiffCostFunction
来构造一个CostFunction
来封装整个实例。
这里我们仍然延用上一节解析微分算法中的例子。
y=b1(1+eb2−b3x)1/b4 y = b 1 ( 1 + e b 2 − b 3 x ) 1 / b 4
E(b1,b2,b3,b4)=∑if2(b1,b2,b3,b4;xi,yi)=∑i(b1(1+eb2−b3xi)1/b4−yi)2(1)(2) (1) E ( b 1 , b 2 , b 3 , b 4 ) = ∑ i f 2 ( b 1 , b 2 , b 3 , b 4 ; x i , y i ) (2) = ∑ i ( b 1 ( 1 + e b 2 − b 3 x i ) 1 / b 4 − y i ) 2
D1f(b1,b2,b3,b4;x,y)=1(1+eb2−b3x)1/b4(3) (3) D 1 f ( b 1 , b 2 , b 3 , b 4 ; x , y ) = 1 ( 1 + e b 2 − b 3 x ) 1 / b 4
具体代码如下:
struct Rat43CostFunctor {
Rat43CostFunctor(const double x, const double y) : x_(x), y_(y) {}
bool operator()(const double* parameters, double* residuals) const {
const double b1 = parameters[0];
const double b2 = parameters[1];
const double b3 = parameters[2];
const double b4 = parameters[3];
residuals[0] = b1 * pow(1.0 + exp(b2 - b3 * x_), -1.0 / b4) - y_;
return true;
}
const double x_;
const double y_;
//Analytic算法中手动求解Jacobians的部分被拿掉了。
}
CostFunction* cost_function =
new NumericDiffCostFunction<Rat43CostFunctor, FORWARD, 1, 4>(
new Rat43CostFunctor(x, y));
这个生成微分的方法对于用户来说工作量最小。用户只需要关注残差计算是否正确和有效。这是第一步。
在进一步深入之前,我们需要先探讨一下前向查分的误差。我们在 x x 点附近对
进行泰勒展开。
f(x+h)Df(x)=f(x)+hDf(x)+h2