1.梯度下降法
首先梯度下降法不是一个机器学习算法,而是一种基于搜索的最优化方法。它的作用是最小化一个损失函数。梯度上升法则是最大化一个效用函数。
导数可以代表J 增大的方向,如上图一点导数为负值,说明J增大的方向是沿着X轴负方向。
代表移动的步长,一直移动到导数为0.
模拟梯度下降法:
"""模拟梯度下降法"""
import nump
1.梯度下降法
首先梯度下降法不是一个机器学习算法,而是一种基于搜索的最优化方法。它的作用是最小化一个损失函数。梯度上升法则是最大化一个效用函数。
导数可以代表J 增大的方向,如上图一点导数为负值,说明J增大的方向是沿着X轴负方向。
代表移动的步长,一直移动到导数为0.
模拟梯度下降法:
"""模拟梯度下降法"""
import nump