1、Adam作者大革新, 联合Hinton等人推出全新优化方法Lookahead
https://www.jiqizhixin.com/articles/2019-07-25-14
简介
论文地址:Lookahead Optimizer: k steps forward, 1 step back
Lookahead 算法与已有的方法完全不同,它迭代地更新两组权重。直观来说,Lookahead 算法通过提前观察另一个优化器生成的「fast weights」序列,来选择搜索方向。该研究发现,Lookahead 算法能够提升学习稳定性,不仅降低了调参需要的功夫,同时还能提升收敛速度与效果。
2、阿里巴巴提出DRLoss:解决目标检测的样本不平衡问题
简介
论文地址:DR Loss: Improving Object Detection by Distributional Ranking
https://zhuanlan.zhihu.com/p/75896297
3、CornerNet: Detecting Objects as Paired Keypoints
https://zhuanlan.zhihu.com/p/41825737
https://zhuanlan.zhihu.com/p/53407590
目前的检测算法主要思路还是设置大量anchor+分配正负样本+训练的一个思路。
Anchor有两个缺点:
1)通常需要大量的anchor,在DSSD中需要40k,而在RetinaNet中则需要100k。大量的anchor中只有少部分和gt的重合比较大,可以作为正样本训练,其它都是负样本,这样就带来了正负例anchor的比例不均衡,也降低了网络的训练速度。
2)anchor boxes的引入带来了许多的超参数,并且需要进行细致设计。包括anchor boxes的数量、尺寸、长宽比例。特别是在单一网络在多尺度进行预测的情况下会变得复杂,每个尺度都需要独立设计。
4、超越YOLOv3!普林斯顿大学提出:CornerNet-Lite,基于关键点的目标检测算法,已开源!
https://zhuanlan.zhihu.com/p/63134919
5、CenterNet:将目标视为点 (已开源)
https://zhuanlan.zhihu.com/p/62724053
https://zhuanlan.zhihu.com/p/72373052