Batch Normalization 的拆解操作

第一步:创建数据,这里是两个样本,每个样本是两个通道的三乘四矩阵

第二步: 求解所有样本每个通道的均值, 注意维度

第三步: 求解所有样本的每个通道的方差, 注意维度

第四步: 标准化处理

第五步:整合成函数,并做处理

注:这个函数是从 https://zhuanlan.zhihu.com/p/81891467 抄来的

第六步: 试验一把

其实画图更好理解:

先求出每个通道的平均值和方差,然后每个样本的该通道的每个值都需要根据这个均值和方差进行归一化, 可以把每个通道看做一个特征, 然后对特征进行归一化处理