![](https://img-blog.csdnimg.cn/20201014180756923.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
freshZero_
这个作者很懒,什么都没留下…
展开
-
目标检测之RetinaNet
论文地址:https://arxiv.org/pdf/1708.02002.pdf思想主要目的是解决易分类样本和难分类样本之间的均衡问题,不仅仅是解决样本不均衡的问题。也就是说使易分类样本对loss的贡献减小,使难分类样本对loss的贡献增大。论文最主要的贡献针对这个问题提出了一个loss函数:Focal loss。Focal loss 是在交叉熵的基础上进行的改进,在损失函数之前增加...原创 2018-12-19 15:38:57 · 8730 阅读 · 0 评论 -
深度学习网络训练不收敛问题
不收敛描述及可能原因分析不收敛情景1描述从训练开始就一直震荡或者发散可能原因图片质量极差,人眼几乎无法识别其中想要识别的特征,对于网络来说相当于输入的一直都是噪音数据,所以loss一直震荡无法收敛大部分标签都是对应错误的标签leaning rate 设置过大不收敛情景2描述训练开始会有所下降,然后出现发散可能原因数据标签中有错误,甚至所有标签都有一定的错误l...原创 2018-12-10 20:06:39 · 13982 阅读 · 0 评论 -
网络模型复杂度计算方法
文章目录网络模型复杂度分析时间复杂度空间复杂度网络模型复杂度分析MlM_lMl: lll层输出 feature map 大小KlK_lKl: lll层卷积核大小C: 通道数,其中Cl−1C_{l-1}Cl−1为输入通道数,ClC_lCl为输出通道数时间复杂度采用的单位一般使用浮点运算次数表示FLops(FLoating-point OPerations)单层网络的时间复杂...原创 2018-12-28 11:38:30 · 3705 阅读 · 3 评论 -
目标检测之FPN(Feature Pyramid Net)
FPN思想FPN的思想来源是传统图像处理中的图像金字塔(image pyramid),例如sift特征构建中使用的不同尺度的图像金字塔。FPN思想的主要是用来提高模型对不同大小输入图像以及目标检测问题中不同大小物体的鲁棒性。模型结构(a)中的图像金字塔,即将图像resize到不同的大小,然后分别对不同大小的图片使用模型进行训练和检测。这种方法的缺点在于增加了时间成本。有些算法会在测试时候...原创 2018-12-19 11:04:04 · 1222 阅读 · 0 评论 -
半监督学习Mean teachers
1. 相关理论概述Temporal Ensembling方法通过预测的标签的EMA(exponential moving average),并且通过保证ensemle 模型和 trained模型预测标签的连续一致性,从而保证训练得到的ensemle模型尽可能的接近groud truth模型。这里可以理解为,如果如果模型是正确的,那么前后两个模型的预测标签应该是接近的,并且变化较小的,那么使模型向...原创 2019-03-19 17:46:01 · 11032 阅读 · 1 评论