【2022】计算机视觉算法岗面试题目和复习知识点汇总

1、讲一下BN、LN、IN、GN这几种归一化方法

（1）BN：

• BatchNormalization，假设特征在不同输入以及H、W层级上是均匀分布的，所以在NHW上统计每个channel的均值和方差，参数量为2C；
• 缺点是容易受到batch内数据分布影响，如果batch_size小的话，计算的均值和方差不具有代表性。而且不适用于序列模型中，因为序列模型中通常各个样本的长度都是不同的。此外当训练数据和测试数据分布有差别时也并不适用；

（2）LN：

• Layer Normalization，LN是独立于batch size的算法，样本数多少不会影响参与LN计算的数据量，从而解决BN的两个问题；
• 缺点是在BN和LN都能使用的场景中，BN的效果一般优于LN，原因是基于不同数据，同一特征得到的归一化特征更不容易损失信息；

（3）IN：

• Inst