神经网络的求解:梯度下降
¡这是一个表示参数W与目标函数J(W)的关系图,红色的部分是表示J(W)有着比较高的取值,需要能够让J(W)的值尽量的低。也就是深蓝色的部分。
梯度下降:先确定一个初始点,将w按照梯度下降的方向进行调整,就会使得J(w)往更低的方向进行变化,如图所示,算法的结束将是在w下降到无法继续下降为止。
神经网络的求解:梯度下降
¡这是一个表示参数W与目标函数J(W)的关系图,红色的部分是表示J(W)有着比较高的取值,需要能够让J(W)的值尽量的低。也就是深蓝色的部分。
梯度下降:先确定一个初始点,将w按照梯度下降的方向进行调整,就会使得J(w)往更低的方向进行变化,如图所示,算法的结束将是在w下降到无法继续下降为止。