梯度下降算法

1.目的：

求函数的其极小值点

2,模拟下山过程：

        

        选取初始点，选取步长，选取结束判断值，计算梯度

3.方法：

        梯度：梯度为在该点处的最陡峭的方向，在函数中即为导数，但要注意在一元函数和多元函数中的导数求取方法不同

        步长：步长的选取要十分注意，不能太长，也不能太短，过长或过短都会对结果的求取产生重要影响。

判断结束值：在接近最小值点的时候，横坐标的值变化会越来越微小，设定一个值，在变化两十分微小时，误差也随之减小，在变化量小于判别值的时候结束运算

4.计算举例计算过程：

5.两种退出方法

 

 6.Python代码

a = 0.9   # 步长值
b = 0.01  # 判别条件
x0 = -4   # 初始位置
c = 1
while c > b:
    y = x0 - 2
    x0 = x0 - a * y
    c = -a * y
    print('当前y是 ：', y)
    print('当前x0是：', x0)
    print('\r')