拟牛顿法面面俱到(一)--牛顿插值法

这次带来的是拟牛顿法系列，本系列的目标是完全理解拟牛顿法，包括其中涉及到的知识，比如泰勒公式、海森矩阵等，泰勒公式大家都很熟悉，不过它是怎么推导出来的呢？想必大家都不是很了解吧，这要从牛顿插值法说起，本节就先来讲解一下牛顿插值法。

本文大都参考自知乎：https://www.zhihu.com/question/22320408

1、什么是插值

什么叫插值？插值是数学领域数值分析中的通过已知的离散数据求未知数据的过程或方法。

相信大家对插值都不陌生，我们在数据挖掘进行缺失值处理时，有时是直接将数据丢弃，有时是用插值法填充一个数进去。

想想我们是怎么做的？有时候直接拿上一个数进行填充，有时候直接拿最后一个数进行填充，还有的时候，我们用前后两个数的平均值进行填充。使用最后一种方法时，我们其实就用到了一种简单的差值方法--线性插值法。

除线性插值法外，还有许多常用的插值方法，我们将在下一节介绍。

2、常见的插值方法

2.1 线性插值法

这是最简单的插值方法，示意图如下：

这种近似太粗糙，我们只需要知道前后两个点的数据就可以进行插值，但实际的过程往往没有这么简单。

2.2 多项式插值

牛顿插值法也算是多项式插值中的一种，但我们将牛顿插值法单独拿出一节进行讲解。这里介绍另一种多项式插值方法，过程如下：