牛顿法

  牛顿法是线性化的一个有用的应用，可以用来求 $f(x)=0$的近似解。

1 线性化

  简单说一说线性化。对于一个函数$f(x)$，以及一点$a$，当$x$与$a$点比较接近时，我们可以将$f(x)$的值近似为：
$$f(x)=f(a)+f^{\prime }(a)(x-a)$$
当然前提要$f(x)$在$a$点可导。

2 牛顿法

  那么再来看牛顿法是如何求$f(x)=0$的近似解的。

如上图所示，我们不知道$f(x)=0$的点是哪个，但是我们可以当做$a$点是一个近似，将它看作近似的第一次尝试。牛顿法的基本思想是：通过使用$f(x)$在$x=a$点处的线性化来改善估算（前提$f(x)$在$a$点可导）。

如上图所示，$f(x)$在$a$点的线性化为：
$$L(x)=f(a)+f^{\prime }(a)(x-a)$$
它与$x$轴的截距为点$b$，那么$b$是由$L(x)=0$得来：
$$b=a-\frac{f(a)}{f^{\prime }(a)}$$
这样$b$就是一个比$a$更好的近似，如果将$b$当做第二次近似的尝试，依次类推则近似的次数较多时，我们就能够得到很不错的近似值。
  牛顿法：假设$a$是对方程$f(x)=0$的解的一个近似，如果令：
$$b=a-\frac{f(a)}{f^{\prime }(a)}$$
则在很多情况下，$b$是一个比$a$更好的近似。

3 牛顿法失效的情况

  有时候牛顿法也会不起作用，具体有四种不同的情况。

（1）$f^{\prime }(a)$的值接近于0。如下图所示，在这种情况下应该确保初始猜测值不在$f$的临界点附近。

（2）如果$f(x)=0$有不止一个解，可能得到的不是你想要的那个解。如下图所示。

（3）近似可能变得越来越糟。例如$f(x)=x^{\frac{1}{3}}$，可以自行尝试。
（4）可能陷入一个循环。如下图所示。这种情况的一个具体例子是：$f(x)=(x^2-\frac{4+3\pi }{4-\pi })ta{n}^{-1}(x)$

本文参考及图片来源：《普林斯顿微积分读本》Adrian Banner