卷积层和全连接层的区别_1*1的卷积核和全连接层有什么异同?

简单回答一下:

1、数学本质上一样,都是特征图中的元素乘以权重再求和。全连接是把特征图拆开组成一个一维向量,再乘以一个权重向量,这两个向量中的元素一一对应所以输出结果是一个值。而1*1卷积,我们知道卷积核实质上就是权重,1*1的卷积核那就是表明只由一个权重组成,如果特征图尺寸也是1*1的话,那输出就是一个值,此时与全连接完全一样。但是如果特征图尺寸不是1*1,而是w*h的话,那么1*1的卷积输出就不是一个值而是w*h的一个矩阵。以上是数学本质上的异同。

2、功能上似乎1*1卷积可以减少或增加特征图的层数,这个是全连接做不到的。

3、用1*1卷积代替全连接应该是基于输入尺寸的考虑,全连接的输入是特征图所有元素乘以权重再求和,但是这个权重向量是在设计网络的时候就需要固定的,所以全连接没办法适应输入尺寸的变化只能固定。但是1*1卷积的输出与输入尺寸是一样大的,输出尺寸可以随着输入尺寸的变化而变化,所以1*1卷积无需固定输出尺寸。通俗来说就是卷积是权值共享,所以所学参数只跟卷积核有关,跟特征图无关。至于效果嘛,如果是分类基本上没什么差别,如果是做分割,那还是卷积比较合适,具体参看FCN这篇文章吧。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值