深度学习
文章平均质量分 69
scety
111
展开
-
深度残差网络(ResNet)浅析
深度残差网络是2015年提出的深度卷积网络,一经出世,便在ImageNet中斩获图像分类、检测、定位三项的冠军。 我们都知道增加网络的宽度和深度可以很好的提高网络的性能,深的网络一般都比浅的的网络效果好,比如说一个深的网络A和一个浅的网络B,那A的性能至少都能跟B一样,为什么呢?因为就算我们把A的网络参数全部迁移到B的前面几层,而B后面的层只是做一个等价的映射,就达到了A网络的一样的效果。一个比原创 2016-10-28 17:08:17 · 39624 阅读 · 4 评论 -
反卷积(转置卷积)
转置卷积其实就相当于正常卷积的反向传播。考虑一个输入为x=4x4,卷积核为w=3x3,步长为stride=1,zero-padding=0将卷积核展开为一个稀疏矩阵C:做卷积可得2x2的输出y,C*x=y。如下图所示: 那么怎么得到转置卷积呢。正如我们上面说的转置卷积其实就相当于正常卷积的反向传播。再对上式求输入x的梯度: 我们可以发现,在反向传播过程中原创 2017-04-08 21:27:53 · 3685 阅读 · 0 评论