【深度学习】梯度消失和梯度爆炸

梯度爆炸,梯度呈现指数级增长,导致参数值溢出。解决办法:对梯度进行修剪,例如发现梯度大于某阈值,就将梯度向量按最大值统一缩小。

梯度消失,

没有更多推荐了,返回首页

私密
私密原因:
请选择设置私密原因
  • 广告
  • 抄袭
  • 版权
  • 政治
  • 色情
  • 无意义
  • 其他
其他原因:
120
出错啦
系统繁忙,请稍后再试

关闭