Batch Normalization的防止过拟合效果解释

        在Batch Normalization中，由于我们使用mini-batch的均值与方差作为对整体训练样本均值与方差的估计，尽管每一个batch中的数据都是从总体样本中抽样得到，但不同mini-batch的均值与方差会有所不同，这就为学习过程中的数据增加了随机噪音，与Dropout通过关闭神经元给网络训练带来噪音类似，在一定程度上对模型起到了正则化的效果。

 

       Batch Normalization主要作用是加快训练速度，缓解梯度消失这些作用。