【CNN基础】一文读懂批归一化（Batch Normalization）

如果还不明白，我再举个放羊的例子。

最开始羊群聚在一起吃草，过了一段时间羊群慢慢散开了，这时候羊群的主人把羊群往一块赶一赶，防止个别的羊走散了。羊群就是输入数据，BN就是羊群的主人。

2、批归一化（BN）算法流程

==============

下面给出 BN 算法在训练时的过程

输入：上一层输出结果  X = {x_1, x_2, …, x_m} ，学习参数 ), )

算法流程：

第一步   计算上一层输出数据的均值

)

其中，m 是此次训练样本 batch 的大小。

第二步 计算上一层输出数据的标准差