关于BN层笔记

BN层是批量归一化层,它的作用是对每一层的输入数据进行归一化处理,使其均值为0,方差为1¹²。这样可以加速网络的收敛速度,防止梯度消失或爆炸,简化调参过程³⁴。BN层一般放在卷积层或全连接层后,激活函数前⁵⁶。

(1) BN层详解(含有公式推导过程)-CSDN博客. https://blog.csdn.net/Orange_sparkle/article/details/126929694 访问时间 2023/4/18.
(2) 终于知道为什么要freeze BN层,以及如何freeze(这个trick .... https://blog.csdn.net/weixin_45209433/article/details/123474259 访问时间 2023/4/18.
(3) BN(Batch Normalization)层原理与作用 - CSDN博客. https://blog.csdn.net/chaipp0607/article/details/112853861 访问时间 2023/4/18.
(4) 一文搞懂BN层 - 知乎. https://zhuanlan.zhihu.com/p/440118273 访问时间 2023/4/18.
(5) 神经网络中的 BN(Batch Normalization)层意义何在 - 知乎. https://zhuanlan.zhihu.com/p/379721314 访问时间 2023/4/18.
(6) 理解CNN中的Batch Normalization - 知乎. https://zhuanlan.zhihu.com/p/403073810 访问时间 2023/4/18.

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值