深度学习重要结论

label smoothing

作者发现在下列两种情况下标签平滑会失效或者没那么有效：

• 1）数据集呈现长尾分布的时候（long-tailed）
• 2）类别数目变多的时候。

https://mp.weixin.qq.com/s/Gz4r4Qprl7HzG2WRuWMyUw

FPN

• C5包含了充分的用于检测不同尺度目标的上下文信息
• 多尺度特征融合带来的收益要远小于分而治之带来的收益.

https://mp.weixin.qq.com/s/EJqAG1gTVaP2icI6QL742A

cross dataset training

• 跨数据集训练精度小于单数据集精度

关键点定位

• 根据目标之间的差别可以推理出最小输入分辨率
• 分辨率有时模型大小更重要 ，分辨率本身有下界以及上界。小于下界无法学习，高于上界不会有提升。

目标检测

• 小于16像素的目标检测难
• 长尾分布目标检测难
• nms的正样本定义很重要，如atss\yoloF等
• 检测分支指导分类分支可提升
• 冷启动模型可以用网络爬取数据，后续根据模型挖掘数据（千分之一/万分之一不同模型）。数据规模增加时，网络帕取数据可能会起副作用。如scale大小不同。
• 检测的目标可以根据长尾分类（百分之一/千分之一/万分之一），来平衡recall和误报。
• one