漫步最优化二十八——三次插值法

$\textbf{没有你的世界，}$
$\textbf{我会灵魂失控。}$
$\textbf{没有你的世界，}$
$\textbf{我被乌云拖着走。}$
$\textbf{没有你的世界，}$
$\textbf{我的世界一直狂风暴雨。}$
$\textbf{我不能承受没有你的世界，}$
$\textbf{因为我已经习惯有你的节奏。}$
$\textbf{其实我的愿望很小，}$
$\textbf{那就是每天看到你的微笑。}$
$\quad\textbf{——畅宝宝的傻逼哥哥}$

另一个一维优化方法是三次插值法，它是基于三阶多项式
$$p(x)=a_0+a_1x+a_2x^2+a_3x^3$$

与二次插值法一样，我们需要确定系数$a_i$使得$p(x)$在某些点的值以及(或者)导数与$f(x)$的值以及(或者)导数相等，因为三阶不等式有四个系数，所以我们需要四个等式，选择不等式的方式有许多，因此三次插值的形式也有许多。

$p(x)$的图像可以是图1中的任何一个，显然，$p(x)$有一个极大值，还有一个极小值。令$p(x)$的一阶导等于零，即

$$p^\prime(x)=a_1+2a_2x+3a_3x^2=0$$

然后求解$x$，可以得出$p(x)$的极值点为

$$x=\frac{1}{3a_3}\left(-a_2\pm\sqrt{a_2^2-3a_1a_3}\right)$$

在极小点$\bar{x}$处，$p(x)$的二阶导数为正，所以

$$p^{"}(\bar{x})=2a_2+6a_3\bar{x}>0$$

或者

$$\bar{x}>-\frac{a_2}{3a_3}$$

从而可以选出$p(x)$对应的极小值。

如果选择的四个等式是独立的，那么多项式$p(x)$将是$f(x)$的近似。我们令

$$p(x_i)=a_0+a_1x_i+a_2x_i2+a_3x_i^3=f(x_i)$$

其中$i=1,2,3$且

$$p^\prime(x_1)=a_1+2a_2x_1+3a_3x_1^2=f^\prime(x_1)$$

通过求解上面的等式，可以确定$a_1,a_3$为

$$\begin{align*} a_3&=\frac{\beta-\gamma}{\theta-\varphi}\\ a_2&=\beta-\theta a_3\\ a_1&=f^\prime(x_1)-2a_2x_1-3a_3x_1^2 \end{align*}$$

其中

$$\begin{align*} \beta&=\frac{f(x_2)-f(x_1)+f^\prime(x_1)(x_1-x_2)}{(x_1-x_2)^2}\\ \gamma&=\frac{f(x_3)-f(x_1)+f^\prime(x_1)(x_1-x_3)}{(x_1-x_3)^2}\\ \theta&=\frac{2x_1^2-x_2(x_1+x_2)}{(x_1-x_2)}\\ \varphi&=\frac{2x_1^2-x_3(x_1+x_3)}{(x_1-x_3)} \end{align*}$$

根据这些系数值可以得出最小值$\bar{x}$。

图1