模型训练
文章平均质量分 93
深度学习调参等技巧记录
你电吴彦祖
学海无涯苦作舟
展开
-
图像分类训练tricks
图像分类训练tricks1. 优化器2. 学习率及学习率下降策略2. 1 选择合适的学习率3. weight_decay4. label_smoothing5. 通过验证集和测试集的准确度确定调优策略6. 数据增强6.1 图像变换类6.2 图像裁剪类6.3 图像混叠类7. 参考资料 本文简单整理了一些图像分类训练tricks,后续可能会陆续加以补充。1. 优化器 带momentum(=0.9)的SGD优化器的使用最多,收敛精度常常更好,但收敛速度慢,初始学习率设置要靠经验设置(参考值0.1)。原创 2021-02-16 22:05:04 · 610 阅读 · 0 评论 -
Bag of Tricks for Image Classification with Convolutional Neural Networks
CNN网络训练中的tricks总结论文原文Abstract1. Introduction2. Training Procedures2.1 Experiment Results3. Efficient Training3.1 Large-batch training3.2 Low-precision training3.3 Experiment Results4. Model Tweaks4.1 ResNet Architecture4.2 ResNet Tweaks4.3 Experiment Resul原创 2021-02-15 00:23:16 · 251 阅读 · 0 评论