SLAM十四讲学习笔记（二）

一、李群与李代数

1.1 群

群是一种集合加上一种运算的代数结构。我们把集合记作$A$,运算记作$\cdot$ ,那么群就可以记作$G=(A,\cdot )$。群要求这个运算满足以下几个条件：

1. 封闭性: $\forall a_1,a_2\in A,a_1\cdot a_2\in A$
2. 结合律:$\forall a_1,a_2,a_3\in A,(a_1,\cdot a_2)\cdot a_3=a_1\cdot (a_2\cdot a_3)$
3. 幺元:$\exists a_0\in A,s.t.\forall a\in A,a_0\cdot a=a\cdot a_0=a$
4. 逆：$\forall a\in A,\exists a^{-1}\in A,s.t.a\cdot a^{-1}=a_0$
   根据这个条件可以发现旋转矩阵、变换矩阵都可以称为群

• 旋转矩阵——特殊正交群(SO(3)), S O ( 3 ) = { R ∈ R 3 × 3 ∣ R R T = I , d e t ( R ) = 1 } SO(3) = \{ R \in R^{3 \times 3} | RR^T=I, det(R)=1\} SO(3)={R∈R3×3∣RRT=I,det(R)=1}
• 变换矩阵——特殊欧式群(SE(3)),如公式所示

$$SE(3)=\{\begin{array}{l}T=\left[\begin{array}{cc}R& t\\ 0^T& 1\end{array}\right]\in R^{4\times 4}|R\in SO(3),t\in R^3\end{array}$$
tips:李群是指具有连续（光滑）性质的群。
SO(3)和SE(3)都是李群，由于群中只定义了乘法，没有定义加法，所以不能直接求导。

1.2. 李代数

每个李群都有与之对应的李代数。李代数由一个集合V，一个数域F和一个二元运算[,]组成。

注释：

• 每个李群都有与之对应的李代数:表示李群与李代数之间有联系，可以相互转化，但是并不表明是一对一的关系；
• 二元运算[,]: 也称为李括号，李代数的运算在形式已经规定好了，但是具体的李括号怎么算要按照条件定义。

李代数要满足的条件：

1. 封闭性：$\forall X,Y\in A,[X,Y]\in A$
2. 双线性：$\forall X,Y,Z\in A,a,b\in F$有:$[aX+BY,Z]=a[X,Z]+b[Y,Z],[Z,aX+bY]=a[Z,X]+b[Z,Y]$
3. 自反性：$\forall X\in V,[X,X]=0$
4. 雅可比等价：$\forall X,Y,Z\in V,[X,[Y,Z]]+[Z,[Y,X]]+[Y,[Z,x]]=0$

tips:
三维向量中的叉积是一种李括号，所以$g=(R^3,R,\times )$是一种李括号。

1.2.1 李群SO(3)的李代数so(3)

SO(3)对应的李代数为so(3),是定义在$R^3$上的向量，记作$\varphi$。根据前面的推导，可以得出每个$\varphi$都可以生成一个反对称矩阵:
$$\Phi ={\varphi }^{\wedge }\left[\begin{array}{ccc}0& -{\varphi }_3& {\varphi }_2\\ {\varphi }_3& 0& -{\varphi }_1\\ -{\varphi }_2& {\varphi }_1& 0\end{array}\right]$$
给出李括号$[{\varphi }_1,{\varphi }_2]=({\Phi }_1{\Phi }_2-{\Phi }_2{\Phi }_1{)}^{\vee }$
然后就可以说$so(3)=\varphi \in R^3,\Phi ={\varphi }^{\wedge }\in R^{3\times 3}$是SO(3)对应的李代数

1.2.2 李群SE(3)的李代数se(3)

变换矩阵要表示平移和旋转，在李代数中每个元素用$\xi =\left[\begin{array}{c}\rho \\ \varphi \end{array}\right]$ 表示，其中$\rho$表示平移, $\varphi$表示旋转。这里定义$\wedge$表示把四维矩阵升为六维,$\vee$表示把六维降为四维，就有 $x{i}^{\wedge }=\left[\begin{array}{cc}{\varphi }^{\wedge }& \rho \\ 0^T& 0\end{array}\right]$ 。定义李括号$[{\xi }_1,{\xi }_2]=({\xi }_1^{\wedge }{\xi }_2^{\wedge }-{\xi }_2^{\wedge }{\xi }_1^{\wedge })$，然后就可以说se(3)是SE(3)对应的李代数。
$$se(3)=\{\begin{array}{l}\xi =\left[\begin{array}{c}\rho \\ \varphi \end{array}\right]\in R^6,\rho \in R^3,\varphi \in so(3),{\xi }^{\wedge }=\left[\begin{array}{cc}{\varphi }^{\wedge }& \rho \\ 0^T& 0\end{array}\right]\in R^{4\times 4}\end{array}$$

1.3. 李群和李代数的关系

1.3.1 指数关系

李群R和对应的李代数$\varphi$存在指数关系:$R=exp(\varphi )$
推导过程：
已知
$$R{R}^T=I$$
可以将$R$看做时间的函数，所以
$$R(t)R(t{)}^T=I$$
对$R(t)$进行求导，可以得到
$$\dot{R(t)}R(t{)}^T+R(t){\dot{R(t)}}^T=0$$
整理得：
$$\dot{R(t)}R(t{)}^T=-(\dot{R(t)}R(t{)}^T{)}^T$$
可以看出$\dot{R(t)}R(t{)}^T$是一个反对称矩阵。所以一定存在
$$\dot{R(t)}R(t{)}^T=\varphi (t{)}^{\wedge }$$
在等式两边都乘以$R(t)$,可以得到

$$\dot{R(t)}=\varphi (t{)}^{\wedge }R(t)=\left[\begin{array}{ccc}0& -{\varphi }_3& {\varphi }_2\\ {\varphi }_3& 0& -{\varphi }_1\\ -{\varphi }_2& {\varphi }_1& 0\end{array}\right]R(t)$$
可以看到，每对旋转矩阵求一次导数，只需左乘一个 $\varphi (t{)}^{\wedge }$矩阵即可。为方便讨论，我们设$t_0=0$,并设此时旋转矩阵为$R(0)=I$。按照导数定义，可以把 $R(t)$ 在0附近进行一阶泰勒展开：
$$R(t)\approx R(t_0)+\dot{R(t_0)}(t-t_0)=I+\varphi (t_0{)}^{\wedge }$$
可以得到
$$\dot{R(t)}={\varphi }_0(t{)}^{\wedge }R(t)$$
解之得：
$$R(t)=exp({\varphi }_0^{\wedge }(t))$$

1.3.2 指数与对数映射

1.4 李群和李代数的求导

$$ln(exp({\varphi }^1)exp({\varphi }^2){)}_{\approx }\{\begin{array}{l}{J}_l(\varphi 2{)}^{-1}{\varphi }_1+{\varphi }_2,if{\varphi }_{1}issmall\\ J_r(\varphi 1{)}^{-1}{\varphi }_2+{\varphi }_{1}if{\varphi }_{2}issmall\end{array}$$
其中，$J_l$为
$$J_l=J=\frac{sin\theta }{\theta }I+(1-\frac{sin\theta }{\theta })a{a}^T+1-\frac{cos\theta }{\theta }{a}^{\wedge }$$
它的逆为：
$$J_l^{-1}=\frac{\theta }{2}cot\frac{\theta }{2}I+(1-\frac{\theta }{2}cot\frac{\theta }{2})a{a}^T-\frac{\theta }{2}{a}^{\wedge }$$

而右乘雅可比仅需要对自变量取负号即可：
$$J_r(\varphi )=J_l(-\varphi )$$
假定对某个旋转 $R$，对应的李代数为$\varphi$。我们给它左乘一个微小旋转，记作∆R，对应的李代数为 $∆\varphi$。那么，在李群上，得到的结果就是$∆R\cdot R$，而在李代数上，根据 BCH近似，为： $J_l^{-1}(\varphi )∆\varphi +\varphi$。合并起来，可以简单地写成：
$$exp(∆{\varphi }^{\wedge })exp({\varphi }^{\wedge })=exp((\varphi +J_l^{-1}(\varphi )∆\varphi {)}^{\wedge })$$
反之，如果我们在李代数上进行加法，让一个 $\varphi$ 加上 $∆\varphi$，那么可以近似为李群上带左右雅可比的乘法：
$$exp((\varphi +∆\varphi {)}^{\wedge })=exp((J_l∆\varphi {)}^{\wedge })exp({\varphi }^{\wedge })=exp({\varphi }^{\wedge })exp((J_r∆\varphi {)}^{\wedge })$$
这将为之后李代数上的做微积分提供了理论基础。同样的，对于 $SE(3)$，亦有类似的BCH 近似公式：
$$exp(∆{\xi }^{\wedge })exp({\xi }^{\wedge })\approx exp((J_l^{-1}∆\xi +\xi {)}^{\wedge })$$
$$exp({\xi }^{\wedge })exp(∆{\xi }^{\wedge })\approx exp((J_r^{-1}∆\xi +\xi {)}^{\wedge })$$

1.4.1 求导模型

求导模型做的事情是：将旋转矩阵对应的李代数加一个小量，求相对于小量的变化率。

对于SO(3)，要计算的是旋转之后的坐标相对于旋转的导数，记做$\partial \frac{R(t)}{R}$,李群无法求导，转而对李代数so(3)求导，计算$\frac{\partial (exp({\varphi }^{\wedge })p)}{\partial \varphi }$。

1.4.2 扰动模型

扰动模型做的事情是：左乘或者右乘一个小量，求相对于小量的李代数的变化率。
左乘扰动的推导如下：

对于SE(3)，根据扰动模型求导的推导如下：

以上，现在就可以对旋转矩阵进行求导了。

二、相机与图像

2.1 单目相机

2.1.1 小孔成像模型

和以前物理课上讲的一样，朴素又简单的小孔成像模型，一个蜡烛放在P处，经过一个小孔，会在后面的屏幕上呈现一个倒像。

这里，红色的$P{P}^{{}^{\prime }}$线表示光线，f是成像平面到小孔的距离，Z是物体P到小孔（相机）的距离，X是物体的长度，$X^{{}^{\prime }}$是像的长度。

根据相似三角形定理，可以得到
$$\frac{Z}{f}=-\frac{X}{X^{{}^{\prime }}}=-\frac{Y}{Y^{{}^{\prime }}}$$
如果把成像平面对称到相机的前面，如图5-2中间所示，则P’的坐标[X’,Y’,Z’]与P点坐标符号相同，根据相似三角形，可以导出点和像的关系:
![[]]

$$\frac{Z}{f}=\frac{X}{X^{{}^{\prime }}}=\frac{Y}{Y^{{}^{\prime }}}$$
从而得出焦距与成像的关系
$$X^{{}^{\prime }}=f\frac{X}{Z}$$
$$Y^{{}^{\prime }}=f\frac{Y}{Z}$$

像素坐标系通常的定义方式是：原点o′位于图像的左上角，u 轴向右与x轴平，v
轴向下与 y 轴平行。像素坐标系与成像平面之间，相差了一个缩放和一个原点的平移。我们设像素坐标在 u 轴上缩放了 α 倍，在 v 上缩放了 β 倍。同时，原点平移了 $[cx;cy{]}^T$。那么， P′ 的坐标与像素坐标 $[u;v{]}^T$ 的关系为：
$$\{\begin{array}{llc}u& =& \alpha X^{{}^{\prime }}+c_x\\ v& =& \beta Y^{{}^{\prime }}+c_y\end{array}$$
代入式并把 αf 合并成 fx，把 βf 合并成 fy，得
$$\{\begin{array}{llc}u& =& f_x{X}^{{}^{\prime }}+c_x\\ v& =& f_y{Y}^{{}^{\prime }}+c_y\end{array}$$
其中， f 的单位为米， α; β 的单位为像素每米，所以 $f_x$,$f_y$ 的单位为像素。把该式写成矩阵形式，会更加简洁，不过左侧需要用到齐次坐标：
$$\left(\begin{array}{c}u\\ v\\ 1\end{array}\right)=\frac{1}{Z}\left(\begin{array}{ccc}{f}_x& 0& c_x\\ 0& f_y& c_y\\ 0& 0& 1\end{array}\right)=\frac{1}{Z}KP$$
从公式(5.6)中可以看到，对于静止相机来说，K固定且相机坐标系固定；对于静止物体来说P固定。但这个物体的像素坐标系却不能固定，因为有Z的存在，通过Z可以将物体P的像素坐标放大或者缩小一定的倍数。这就是单目相机的缺陷，无法确定景深，只能获得物体的相对大小，不能得到物体的尺寸。

相机是机器人的眼睛，机器人在动，相机也在动，相机坐标系就发生了变化。记物体P的世界坐标为$P_w$，前面讲过可以通过变换矩阵，将世界坐标转换到机器人（相机）坐标，有$P_c=(R{P}_w+t)=T_{cw}{P}_w$,所以像素坐标系和世界坐标系的关系，可以写为： $Z{P}_{uv}=Z\left[\begin{array}{c}u\\ v\\ 1\end{array}\right]=K(R{P}_{cw}+t)=K{T}_{cw}{P}_w$，其中R，t称为相机的外参数。

再通过归一化，把非齐次的相机坐标${\tilde{P}}_c[x,y,z]$，变为齐次坐标$P_c[\frac{x}{z},\frac{y}{z},1]$，称$P_c$为归一化坐标，位于归一化平面上。再和K相乘，得到在像素坐标系中的齐次坐标，忽略非零常数Z，可以简写为$P_{uv}=K{T}_{cw}{P}_w$.

2.2 畸变

相机的前方通常会有一个透镜，会对成像产生影响，称为畸变。

由透镜形状引起的畸变称为径向畸变，包括桶形畸变和枕形畸变。桶形畸变是由于图像放大率随着与光轴之间的距离增加而减小；枕形畸变相反。

桶形畸变是由于图像放大率随着离光轴的距离增加而减小，而枕形畸变却恰好相反。在这两种畸变中，穿过图像中心和光轴有交点的直线还能保持形状不变。
除了透镜的形状会引入径向畸变外，在相机的组装过程中由于不能使得透镜和成像面严格平行也会引入切向畸变。如图 5-4 所示。

对于径向畸变，无论是桶形畸变还是枕形畸变，由于它们都是随着离中心的距离增加而增加。我们可以用一个多项式函数来描述畸变前后的坐标变化：这类畸变可以用和距中心距离有关的二次及高次多项式函数进行纠正：
$$x_{corrected}=x(1+k_1{r}^2+k_2{r}^4+k_3{r}^6)$$
$$y_{corrected}=y(1+k_1{r}^2+k_2{r}^4+k_3{r}^6)$$
且向畸变通过公式(5.12)矫正。
$$x_{corrected}=x+2p_{1}xy+p_2(r^2+2x^2)$$
$$y_{corrected}=y+p_1(r^2+2y^2)+2p_{2}xy$$

2.3 双目相机

普通的双目相机利用视差计算深度，RGB-D相机直接测量深度。

两个相机水平放置，中间的距离称为基线，物体P在两个相机中的位置有差别，利用这个差别计算景深。

图5-6的几何模型中，分别以两个相机为原点，以右边为x轴正方向建立坐标系，点P在左右两个相机的成像分别为$P_l$ ,$P_r$ ，从坐标系的建立中可以知道，两个成像点的横坐标符号不同，其中$P_l$的横坐标为正,$P_r$的横坐标为负。

根据相似三角形定理，可以得到
$$\frac{z-f}{z}=\frac{b-u_L+u_R}{b}$$
稍加整理得到:
$$z=\frac{fb}{d},d=u_L-u_R$$
其中，d称为视差，视差越大，距离越近；视差越小，距离越大。双目的深度z存在一个理论上的最大值，由fb决定。

在计算视差时，需要比较左右相机中物品的位置，耗费大量的计算资源，目前仍需要使用GPU或者FPGA来计算。

RGB-D通过红外结构光或者飞行时间法测量像素距离。红外结构光原理中，相机根据反悔的结构光图案，计算物体自身之间的距离。飞行时间法，向目标发射脉冲光，然后根据发送到返回之间的光束飞行时间，确定物体与自身的距离。

RGB-D不需要大量计算，但是对于测量环境要求高，使用范围有限。

2.4 图像

一个宽度w，高度h的图像，数学上可以用 ��∗� 的矩阵表示。

计算机上，灰度图用0-255表示，宽度为640，高度为480像素的图像，在计算机中表示为：

unsigned char image[480][640];

三、非线性优化

本章讲的是非线性优化求解的基础知识。

3.1 状态估计问题

经典的SLAM模型包括一个运动方程和观测方程，如公式(6.1)所示。其中u是传感器输入，z是观测变量，w和v是噪声。
$$\{\begin{array}{llc}{x}_k& =& f(x_{k-1},u_k)+{\omega }_k\\ z_{k,j}& =& h(y_j,x_k)+v_{k,j}\end{array}$$
也就是说SLAM问题是通过带噪声的数据z和u推断位姿x和地图y的问题，这是一个状态估计问题。
从概率学上讲，如果把所有的待估计量，也就是所有时刻的位姿和地图放到一个状态变量中，有
$$x=x_1,\cdots ,x_N,y_1,\cdots ,y_M$$
那么SLAM问题就是一直输入u和观测数据z的条件下，计算状态x的条件概率分布问题：$P(x|z,u)$。

在不考虑传感器输入u时$P(x|z)$，该问题变成，已知观测如何推断位姿和地图，称为Structure from Motion(SfM)，即如何从许多图像中重建三维空间结构。

根据贝叶斯法则,有
$$P(x|z)=\frac{P(z|x)P(x)}{P(z)}\propto P(z|x)P(x)$$

P(x)称为先验，表示预先知道x的状态；P(z|x)称为似然，表示在当前位姿x下产生观测z的概率；P(x|z)称为后验概率，表示产生观测z时位姿是x的概率。目标是求解使得P(x|z)最大的x，也就是
$$x_{Map}^{\ast }=\mathrm{argmax}P(x|z)=\mathrm{argmax}P(z|x)P(x)$$
在不知道机器人位姿x的情况下，可以近似求解x的最大似然估计$x_{Map}^{\ast }=\mathrm{argmax}P(z|x)$，表示在位姿x下，最可能产生观测z。

对于观测方程公式(6.1)中第二个公式，如果认为 $v_{k}N(0,Q_{k,j})$，则条件概率$P(z_{j,x}|x_k,y_j)=N(h(y_j,x_k),Q_{k,j})$ ，我们的目标变成了求解$x^{\ast }=[x_k,\cdots ,y_j,\cdots ]$,使得$P(z_{j,x}|x_k,y_j)$最大，也就是求解高斯分布 $\mu =h(y_j,x_k)$,$\sum =Q_{k,j}$最大似然。
$$P(x)=\frac{1}{\sqrt{(2\pi {)}^{N}det(\sum )}}exp(-\frac{1}{2}(x-\mu {)}^T{\sum }^{-1}(x-\mu ))$$
对高斯分布的概率密度函数取负对数，有公式(6.9)
$$-\ln (P(x))=\frac{1}{2}\ln ((2\pi {)}^N\det (\sum ))+\frac{1}{2}(x-\mu ){\sum }^{-1}(x-\mu )$$
SLAM问题中需要求解x，公式(6.9)中第一项与x无关，可以忽略。所以求解高斯$\mu =h(y_j,x_k)$,$\sum =Q_{k,j}$分布的最大似然，等价于求解公式(6.10)。
$$x^{\ast }=\mathrm{argmin}\left((z_{k,j}-h(x_k.y_j){)}^T{Q}_{k,j}^{-1}(z_{k,j}-h(x_k.y_j))\right)$$
定义观测误差为$e_{y,j,k}=z_{k,j}-h(x_k,y_j)$，则公式(6.10)等价于计算误差项的平方。定义运动误差为$e_{v,k}=x_k-f(x_{k-1},u_k)$，那么对于所有的运动和观测而言，SLAM问题相当于找到一个最有解，使得所有误差的平方和最小，如公式(6.12)所示。
$$J(x)=\sum _k{e}_{v,k}^T{R}_k^{-1}{e}_{v,k}+\sum _k\sum _j{e}_{y,j,k}^T{Q}_{k,j}^{-1}{e}_{y,j,k}$$

3.2 最小二乘求解

当把问题转化为最小二乘问题之后，需要进行求解。最简单的最小二乘问题
$$\underset{x}{\min }\frac{1}{2}\Vert f(x){\Vert }_2^2$$
可以直接求导，导数为零计算极值。或者进行迭代求解，如图迭代步骤所示。

在SLAM优化问题中，通常很难求解导数，转而使用迭代计算。在迭代计算中$\Delta x$增量有不同的确定方法，对应着不同的求解算法。
$${\Vert f(x+\Delta x)\Vert }_2^2={\Vert f(x)\Vert }_2^2+J(x)\Delta x+\frac{1}{2}\Delta x^{T}H\Delta x$$

3.2.1 一阶或二阶梯度法

对目标函数在x附近进行泰勒展开，得到公式(6.15)
$${\Vert f(x+\Delta x)\Vert }_2^2={\Vert f(x)\Vert }_2^2+J(x)\Delta x+\frac{1}{2}\Delta x^{T}H\Delta x$$
J称为雅可比矩阵，是f(x)的一阶导数，H称为黑塞矩阵，是f(x)的二阶导数。

如果保留一阶展开，则关于增量的目标函数变成
$$\underset{\Delta x}{\min }{\Vert f(x)\Vert }_2^2+J(x)\Delta x$$
对增量$\Delta x$求导，取负梯度方向作为增量方向（梯度表示某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该点处沿着该方向（此梯度的方向）变化最快，想要获得最小值应该沿着梯度的反方向变化可得。在图-迭代步骤中，使用这个增量进行迭代求解的算法称为最速下降法。

如果保留二阶展开，则关于增量的目标函数变成
$$\underset{\Delta x}{\min }{\Vert f(x)\Vert }_2^2+J(x)\Delta x+\frac{1}{2}\Delta x^{T}H\Delta x$$
同样的对增量求导，令导数为零，可得
$$H\Delta x^{\ast }=-J^T$$
在图-迭代步骤中，使用这个增量进行迭代求解的算法称为牛顿法。

最速下降法存在zigzag问题，如图-zigzag问题所示，在求解时直接沿着反向梯度方向，有时会绕路。牛顿法要计算黑塞矩阵，计算量很大。

3.2.2 高斯牛顿法

前面是对平方项进行展开，高斯牛顿法对f(x)做一阶泰勒展开，有
$$f(x+\Delta x)\approx f(x)+J(x)\Delta x$$
对于最小二乘问题，需要进行平方，然后对$\Delta x$求导，将目标函数的平方项展开，得到公式-展开。
先展开目标函数的平方项：

$$\begin{array}{rl}\frac{1}{2}\Vert f(x+J(x)\Delta x){\Vert }^2& =\frac{1}{2}(f(x)+J(x)\Delta x{)}^T(f(x)+J(x)\Delta x)\\ & =\frac{1}{2}\left(\Vert f(x){\Vert }^2+2f(x{)}^{T}J(x)\Delta x+\Delta x^{T}J(x{)}^{T}J(x)\Delta x\right)\end{array}$$

求上式关于∆x的导数，并令其为零
$$2J(x{)}^{T}f(x)+2J(x{)}^{T}J(x)\Delta x=0$$
可以得到如下方程组：
$$J(x{)}^{T}J(x)\Delta x=-J(x{)}^{T}f(x)$$

我们要求解的变量是∆x，因此这是一个线性方程组，我们称它为增量方程，也
可以称为高斯牛顿方程 (Gauss Newton equations) 或者正规方程 (Normal equations)。我们把左边的系数定义为 H，右边定义为 g，那么上式变为：
$$H\Delta x=g$$

3.2.3 列文伯格-马夸尔特方法

列文伯格——马夸尔特方法有称为阻尼牛顿法，收敛速度比高斯牛顿法慢，但是在SLAM中很常用。

一阶或者二阶泰勒展开只是在 Δx附近有效，当范围变大时泰勒近似得到的值会产生比较大的误差。阻尼牛顿法考虑给 Δx添加一个信赖区域，对其进行约束。

$$\rho =\frac{f(x+∆x)-f(x)}{J(x)∆x}$$
该指标用来判断泰勒近似的好坏，分母表示实际的函数变化，分子表示近似模型的变化。如果$\rho$太大，表示当前近似很差，需要缩小范围；如果$rho$太小，表示当前近似非常好，可以适当扩大范围。如此而来的阻尼牛顿法步骤如图-阻尼牛顿所示

其中，第4，5步中涉及到的数值均为经验值。公式(6.24)中的约束条件表示，把增量限定在一个球体中，矩阵D可以对这个球体的形状进行调节。

在求解公式(6.24)使，使用拉格朗日乘子法转化为无约束优化问题，然后求解，可以得到 $(H+\lambda D^{T}D)\Delta x=g$，当D取单位矩阵时，有 $(H+\lambda I)\Delta x=g$ .可以认为在阻尼牛顿法中， $\lambda$比较小的时候，H矩阵主导结果，此时阻尼牛顿法接近于高斯牛顿法；当$\lambda$比较大的时候,$\lambda I$主导结果，此时阻尼牛顿法更接近于最速下降法。
另外，在迭代求解中，一个好的初始值很重要。