![](https://img-blog.csdnimg.cn/20201014180756930.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习技巧
文章平均质量分 82
热血厨师长
个人学习记录
展开
-
狗都会用的余弦退火(CosineAnnealingLR)学习率调节算法讲解
Loss NaN?分类准确率不高?目标检测Map低?语义分割Miou低?快来试试CosineAnnealingLR吧原创 2022-11-09 11:41:35 · 25815 阅读 · 7 评论 -
DropBlock: 卷积层的正则化方法及复现代码
论文:https://arxiv.org/pdf/1810.12890.pdf1、什么是Dropout?我相信各位一定了解过Dropout,所谓Dropout就是提高神经网络泛化性一种方法,可以有效减轻过拟合。为什么它有效呢?从下图分析:一个标准的神经网络如图(a)所示,由于训练数据(假设为人脸数据)的局限性,使得神经网络很依赖于某一个神经元,而其他神经元相当于没有起作用,网络每次都只通过眼睛来判断是不是个人。如果此时直接拿一个全新的测试数据集让这个网络进行识别,很可能因为图片中眼睛被遮挡而得出错误原创 2021-02-09 12:27:13 · 2919 阅读 · 2 评论