Levenberg-Marquardt Algorithm
对于最小二乘问题,我们的优化目标是:
1
上面公式中的1/2是为了求导时看起来更美观这里:
2
r的雅克比矩阵:
3
有了雅克比矩阵,我们可以在计算梯度函数时,非常方便:
4
上面的结尾可以知道:有了雅克比矩阵,就知道了hessian矩阵的一部分,并且不增加计算量(这很重要),并且也正是因为这一点算法可以高效的解决最小二乘问题。要理解这一点,请记住,对于其他所有基于梯度下降的
翻译
2016-09-01 18:01:45 ·
6084 阅读 ·
0 评论