CVPR2019
很简单的一篇文章,不是在网络结构设计或者loss上做改进, 而是提出一种简单的学习策略。它基于curriculum learning
的思想:如果我们先学习简单的任务, 再学习复杂的任务, 我们会取得更好的效果。
以YOLO为例:
在YOLO的网络中加入这样的辅助激发层(AE)。 它根据ground truth的位置, 在原有特征图上激发对应位置(实质也是attention)。EA层具体如下:
其中alpha随着训练的进行,逐渐减小, 最后变成0, 这样EA的输入和输出是相同的。回到原始YOLO的训练模式。
很容易理解:alpha越大, ground truth渗透的信息就越多, 训练难度就越低; 反之越大。 alpha渐次降低, 符合直观的从易到难学习过程。
效果:整个网络架构几乎没有改变, 所以速度不变, 精度有所提升。
小结: 这个从易到难的学习策略可以借鉴。