sklearn笔记23 梯度上升梯度下降

梯度上升是为了找最大值
梯度下降是为了找最小值

import numpy as np

import matplotlib.pyplot as plt
%matplotlib inline

f = lambda x: (x-3)**2 + 2.5*x - 7.5
f

x = np.linspace(-2,5)

y = f(x)

plt.plot(x,y)

# 倒数函数
d = lambda x : 2*(x-3) +2.5

# 学习率，每次改变数值的时候，改变多少
learning_rate = 0.1

min_value = np.random.randint(-3,5,size = 1)[0]

print('------------------',min_value)
# 记录更新了，原本的值，上一步的值，退出条件
min_value_last = min_value + 0.1

# tollerence容忍度，误差，在万分之一，任务结束
tol = 0.0001

count = 0
while True:
    if np.abs(min_value - min_value_last) < tol:
        break
#         梯度下降
    min_value_last = min_value
#     更新值