算法
文章平均质量分 93
太阳花的小绿豆
这个作者很懒,什么都没留下…
展开
-
Group Normalization详解
论文名称:Group Normalization论文地址:https://arxiv.org/abs/1803.08494在之前的文章中有介绍过BN(Batch Normalization),链接,以及LN(Layer Normalization),链接。今天来简单聊聊GN(Group Normalization)。在视觉领域,其实最常用的还是BN,但BN也有缺点,通常需要比较大的Batch Size。如下图所示,蓝色的线代表BN,当batch size小于16后error明显升高(但大于16后的效果确原创 2021-06-18 14:50:14 · 11702 阅读 · 13 评论 -
EfficientNetV2网络详解
文章目录EfficientNetv1中存在的问题EfficientNetv2中做出的贡献NAS 搜索EfficientNetv2网络框架EfficientNetv1中存在的问题作者系统性的研究了EfficientNet的训练过程,并总结出了三个问题:训练图像的尺寸很大时,训练速度非常慢。 这确实是个槽点,在之前使用EfficientNet时发现当使用到B3(img_size=300x300)- B7(img_size=600)时基本训练不动,而且非常吃显存。通过下表可以看到,在Tesla V100上原创 2021-05-18 13:14:04 · 66189 阅读 · 78 评论 -
双线性插值
线性插值根据百度百科的介绍:线性插值是指插值函数为一次多项式的插值方式。线性插值的几何意义即为利用过A点和B点的直线来近似表示原函数。线性插值可以用来近似代替原函数,也可以用来计算得到查表过程中表中没有的数值。那么如下图所示,假设已知y1=f(x1)y_1=f(x_1)y1=f(x1),y2=f(x2)y_2=f(x_2)y2=f(x2),现在要通过线性插值的方式得到区间[x1,x2][x_1, x_2][x1,x2]内任何一点的f(x)f(x)f(x)值。通过上图我们很容易得到以下公式:原创 2021-01-13 17:57:00 · 9875 阅读 · 29 评论