Tensorflow2.0入门教程15:CNN网络添加BN层
BN(BatchNormalization)层的作用:1,加速收敛;2,控制过拟合,可以少用Dropout或者不用Dropout;3,降低网络对初始化权重的不敏感;4,允许使用比较大的学习率。解决梯度消失与梯度爆炸的问题1,网络中训练以batch_size为最小单位不断迭代,新的batch_size进入网络,就会产生新的γ与β,在BN层中,有总图片/batch_size组γ与β被保...
原创
2020-03-16 16:15:54 ·
6151 阅读 ·
8 评论