如图所示,在解释为什么需要FEJ(First Estimation Jacobian)时,通常会将这个图拿出来说事。但是,很多时候只是一笔带过,这个图看的云里雾里的,不是非常明白(可能是我理解力的问题),所以,今天想专门写个笔记记录下对这张图的理解。
非线性优化中,取到最优的点就是:,它是从的泰勒展开式的导数推导出来的,即,是的广义逆。从这个式子可以看到,假如把的分布看成正态分布的话,就是该正态分布的,即协方差,它决定了的分布是一条直线还是一个椭圆。
协方差代表了分布在主方向和非主方向上的方差,具体原理可以参考 CodingLabs - PCA的数学原理,如果协方差的通过特征值分解能变成
,a,b是该协方差的特征值,如果ab都不为0,它的分布就是个椭圆。否则有一个为0,它的分布就是直线。
对于,在(0.5, 1.4)处展开,它的
,求它的特征值:
即它的特征值是0和0.7956,那么它的分布是条直线,即图2所示的样子。
同理,对于,在(1.2, 0.5)处展开,它的,
求得它的特征值是:0和0.7956,它的分布是一条直线,即图3所示的样子。
实际上不论在哪个地方进行线性化,分布都是直线。
对于,它的就是对应和的的和,即,它的特征值:
太复杂了,不求了。
总之,它有两个不为0的特征值,分布是一个椭圆,即图4所示的样子