采用成功-失败法进行一维搜索

简介

假设优化问题为$f(x)$在$(-\infty ,+\infty )$的极小值，即$$\underset{x\in \mathbb{R}}{\min }f(x)$$，则可以采用“成功-失败法”来求解，具体步骤如下：

1. 给定初始点$x_0\in \mathbb{R}$，搜索步长$h>0$，精度$\epsilon >0$
2. 判断$h$是否大于$\epsilon$，若是，计算$x_1=x_0+h$和$f(x_1)$；反之，终止程序，输出此时的$x_0$。
3. 若$f(x_1)<f(x_0)$，表示搜索成功，下一次搜索大步前进，用$x_1$替换$x_0$，$2h$代替$h$，继续进行搜索；反之，表示搜索失败，下次搜索小步后退，用$h=-h/4$，返回第二步，继续搜索。

优化问题

优化问题同三次插值法，求$f(x)=x^4-4x^3-6x^2-16x+4$的极小值点。设置初始点$x_0=6$，初始计算步长$h=1$，收敛精度$\epsilon =1e-3$，计算程序如下：

def cal_fun_f(x):
    """
    函数值计算函数
    """
    return x**4-4*x**3-6*x**2-16*x+4

def success_failure_f(x0, h, gap):
    """
    采用成功失败法进行一维搜索
    :param h: 初始搜索步长
    :param x0: 初始点
    :param gap: 收敛精度
    """
    i = 0
    x = x0  # 初始点
    while abs(h) > gap:
        f_x0 = cal_fun_f(x)
        f_x1 = cal_fun_f(x+h)
        if f_x1 < f_x0:
            x = x+h
            h = 2*h
        else:
            h = -h/4
        i += 1
        print(f"第{i}次迭代极小值点", x)


if __name__ == "__main__":
    success_failure_f(6, 1, 1e-3)

计算结果如下：

第1次迭代极小值点 6
第2次迭代极小值点 5.75
第3次迭代极小值点 5.25
第4次迭代极小值点 4.25
第5次迭代极小值点 4.25
第6次迭代极小值点 4.25
第7次迭代极小值点 4.125
第8次迭代极小值点 3.875
第9次迭代极小值点 3.875
第10次迭代极小值点 4.0
第11次迭代极小值点 4.0
第12次迭代极小值点 4.0
第13次迭代极小值点 4.0
第14次迭代极小值点 4.0