BN层是批量归一化层,它的作用是对每一层的输入数据进行归一化处理,使其均值为0,方差为1¹²。这样可以加速网络的收敛速度,防止梯度消失或爆炸,简化调参过程³⁴。BN层一般放在卷积层或全连接层后,激活函数前⁵⁶。
(1) BN层详解(含有公式推导过程)-CSDN博客. https://blog.csdn.net/Orange_sparkle/article/details/126929694 访问时间 2023/4/18.
(2) 终于知道为什么要freeze BN层,以及如何freeze(这个trick .... https://blog.csdn.net/weixin_45209433/article/details/123474259 访问时间 2023/4/18.
(3) BN(Batch Normalization)层原理与作用 - CSDN博客. https://blog.csdn.net/chaipp0607/article/details/112853861 访问时间 2023/4/18.
(4) 一文搞懂BN层 - 知乎. https://zhuanlan.zhihu.com/p/440118273 访问时间 2023/4/18.
(5) 神经网络中的 BN(Batch Normalization)层意义何在 - 知乎. https://zhuanlan.zhihu.com/p/379721314 访问时间 2023/4/18.
(6) 理解CNN中的Batch Normalization - 知乎. https://zhuanlan.zhihu.com/p/403073810 访问时间 2023/4/18.