# Datawhale AI 夏令营
夏令营手册:向李宏毅学深度学习
深度学习临界点
临界点:梯度为零的点
在神经网络训练过程中,当参数对损失微分为零的时候,梯度下降就不能再更新参数了,训练就停下来了,损失不再下降了。
梯度为0时不仅仅有局部极小值,还有鞍点(梯度是零且区别于局部极小值和局部极大值),这些都被成为临界点。
夏令营手册:向李宏毅学深度学习
临界点:梯度为零的点
在神经网络训练过程中,当参数对损失微分为零的时候,梯度下降就不能再更新参数了,训练就停下来了,损失不再下降了。
梯度为0时不仅仅有局部极小值,还有鞍点(梯度是零且区别于局部极小值和局部极大值),这些都被成为临界点。