![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 85
00000cj
计算机视觉,论文阅读记录
展开
-
Re-labeling ImageNet(CVPR 2021, Naver)
本文的出发点是解决 ImageNet 数据集中标签噪声的问题,特别是图像中包含多个类别但只有单标签注释的情况。研究人员提出重新标注 ImageNet 训练集,以多标签和定位标签的方式提供更准确的监督信号。原创 2024-07-18 14:20:30 · 729 阅读 · 0 评论 -
空间金字塔池化SPP、SPPF、ASPP、PPM、ASPP等汇总
最原版的SPP(Spatial Pyramid Pooling)是14年在何凯明大神的《》这篇文章中提出的,具体介绍见。它是为了解决网络最后的全连接层的输入需要固定的维度,而输入图片大小是变化的这一问题而提出的。这里多说两句,当时的做法是对输入进行crop或resize得到固定输入的大小,作者提出crop可能会导致输入没有完全包含目标对象,而resize会导致目标的几何失真。原创 2024-04-22 22:04:34 · 1539 阅读 · 0 评论 -
CAM: Class Activation Mapping(CVPR 2016)速读
类激活热力图(class activation map)中响应高或者说值大的区域对该类别的贡献更大,即突出显示图中哪些区域对该类的识别更重要。原创 2024-03-21 11:30:29 · 166 阅读 · 0 评论 -
激活函数Mish
本文提出了一种新的自正则化、非单调的激活函数,Mish,定义为 \(f(x)=xtanh(softplus(x))\)。在大多数情况下,超越了ReLU、Leaky ReLU和Swish。我们还观察到,最先进的数据增强技术,如CutMix和其他已被验证的技术如标签平滑,表现与预期一致。我们探索了Mish与Swish函数族相关的数学公式,并提出了一个关于一阶导数行为如何作为一个正则化器来帮助优化深度神经网络的直观理解。原创 2024-03-14 00:29:21 · 1514 阅读 · 0 评论 -
激活函数Swish(ICLR 2018)
本文提出用自动搜索技术来寻找新的激活函数。结合穷举和基于强化学习的搜索,作者发现了许多新的激活函数。作者还通过对找到的最优激活函数的经验评估来验证搜索的有效性。实验表明,找到的最优激活函数 \(f(x)=x\cdot siogmoid(\beta x)\),作者称之为 \(Swish\),在许多具有挑战性的数据集上,效果都优于ReLU。原创 2024-03-04 23:47:04 · 955 阅读 · 0 评论