（斯坦福机器学习课程笔记）牛顿法算法学习

代码均使用PYTHON3.x

牛顿法算法复杂些，作以下笔记备忘。

下图（来自http://www.myexception.cn/cloud/1987100.html，侵删）

为了找到 $f(x)$取极值的点，即，牛顿法的思路是：
1、牛顿法只是求$f(x)=0$的根！！！！！！！（x可以是向量）
2、初始化一个$x_0$点，在$x=x_0$的条件下做曲线的切线

$$\frac{f(x)-f(x_0)}{x-x_0}=\nabla f(x_0)$$
3、求切线上 $f(x)=0$的点，令f(x)=0，得

x=x0−f(