什么是批标准化 (Batch Normalization)
什么是批标准化 (Batch Normalization)每层都做标准化你再也不用去理会过拟合中drop out、L2正则项参数的选择问题,采用BN算法后,你可以移除这两项了参数,或者可以选择更小的L2正则约束参数了,因为BN具有提高网络泛化能力的特性;再也不需要使用使用局部响应归一化层了(局部响应归一化是Alexnet网络用到的方法,搞视觉的估计比较熟悉),因为BN本身就是一个归一化网络层。BN概述就像激活函数层、卷积层、全连接层、池化层一样,BN(Batch Normalization)也属于网
转载
2021-07-17 14:47:51 ·
866 阅读 ·
0 评论