直线搜索/一维搜索

在讲解最速下降法的博客中，讲到了使用直线搜索的方法来求解$x_{k+1}$（也就是求解步长因子$t_k$），但是并没有讲解什么叫做直线搜索，现在对直线搜索进行补充说明。

直线搜索

定义1:对于问题

$$min \phi(t)$$ 其中 $\phi:R^1\rightarrow R^1$。求解该一元函数极小值问题的 迭代方法我们称为 直线搜索或 一维搜索。
直线搜索是求解一元函数极小值问题的迭代方法，这种方法适用于任何函数，与之相对应的是微积分方法。对于能够求解出导数的函数 $\phi (t)$，我们只需要求解出他的导数，然后令 $\phi'(t)=0$即可。对于这种可以求出导数的情况下相应的求解方法会简单一点，但是实际问题中可能更多的使用直线搜索方法。
直线搜索方法求一元函数极小值问题，一般可以分为两类，分别是区间收缩法和函数逼近法。

搜索区间

定义2：(单谷函数)设$\phi :L \subseteq R^1\to R^1$，$t^*$是$\phi(t)$在$L$上的全局极小点。如果对于$L$上的任意两点$t_1$，$t_2$，且$t_1\lt t_2$,都有

$$当t_2\le t^*时，\phi(t_1)\gt\phi(t_2)$$ $$当t_1\ge t^*时,\phi(t_1)\lt\phi(t_2)$$ 那么乘 $\phi(t)$是区间 $L$上的 单谷函数。

定义3：(搜索区间)设$\phi :L\subseteq R^1\to R^1$， $t^*$是 $\phi(t)$在 $L$上的全局极小点。若果能够找到$t_1,t_2\in L$，使得 $t^*\in[t_1,t_2]$，那么闭区间 $[t_1,t_2]$就称为 $\phi(t)$极小点的一个搜索区间，记为 $\{t_1,t_2\}$。

定理1：设$\{a,b\}$是单谷函数$\phi(t)$极小点的一个搜索区间，在$(a,b)$上任取两点$t_1$和 t2