【Numerical Optimization】11 Nonlinear Equations

我们把非线性方程组表示成：

                                                                              

问题可转化成：

                                                                                       

很像第10章所讨论的最小二乘问题。不同之处在于，我们此时讨论的方程个数等于变量个数，而不是大于。

---

以下列举一些算法（LOCAL ALGORITHMS）

1   NEWTON’S METHOD

p的选择：

定义残差模型：                                

，得到p的解。

此算法的缺点：

---

2  INEXACT NEWTON METHODS

原始非精确牛顿方法与此应用的比较：

避开求解：

我们考虑：

称作 the forcing sequence。

相当于放宽p的取值范围。

---

3  BROYDEN’S METHOD

用B来近似J

---