十分钟搞懂梯度消失与梯度爆炸

上帝的筛子

于 2019-07-25 16:35:52 发布

阅读量730

点赞数

分类专栏：深度学习文章标签：深度学习机器学习反向传播

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/weixin_38095921/article/details/97272344

版权

本文介绍了深度学习中常见的梯度消失和梯度爆炸问题，包括计算梯度的方式、引起问题的原因及解决方案。权重初始化大小、激活函数选择以及神经网络结构如RNN都是关键因素。解决方案包括Xavier初始化、使用ReLU激活函数以及采用LSTM等复杂RNN结构。

摘要由CSDN通过智能技术生成

文章目录

怎么计算的梯度？
引起梯度消失与梯度爆炸的原因

怎么计算的梯度？

反向传播
每一层的残差都由后一层的残差乘以两层之间的权重矩阵，再乘以当前层的激活函数的导数得到。
权重梯度由前面的激活值和后面的残差乘积得到的

引起梯度消失与梯度爆炸的原因

1. 权重初始化

因为 $梯度_{i, i+1}$ 是由 $激活值_i$ ✖

最低0.47元/天解锁文章

上帝的筛子

关注

0
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

专栏目录

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。