贾路飞的博客

当我使用大神利用pytorch复现的SSD网络进行训练时，loss突然变为NAN，如下图所示： 问题分析及解决方案：由于我的显存只有4G，因此将默认的batch_size由32改为了2。在batch_size减小的情况下，应适当减小学习率，将学习率由默认的1e-3改为1e-5即可解决问题。 参考：https://blog.csdn.net/u012927281/article/details/85129980 ...

L1标准化：每个元素/L1范数 L2标准化：每个元素/L2范数 SSD网络中的L2标准化 VGG16的conv4_3特征图的大小为38*38，网络层靠前，方差比较大，需要加一个L2标准化，以保证和后面的检测层差异不是很大。L2标准化的公式如下： ...