CNN中1×1的卷积核的作用

1×1卷积核最早引起人们的重视是在NIN《Min Lin, Qiang Chen, and Shuicheng Yan. Network in network. CoRR, abs/1312.4400, 2013》结构中,后来在GoogLeNet的Inception结构中用于降维。

1×1卷积核用于升维、降维

如果卷积的输入、输出都仅有一个平面,那么1×1卷积核并没有啥意义。它完全不考虑像素与其周围像素之间的关系!但通常卷积的输入、输出都是立方体(多通道的),此时1×1卷积核实际上是对每个像素点在不同通道(channels)上线性组合(信息整合),且保留了图片的原有平面结构,仅仅是改变channels的数量,进而达到升维和降维的功能!


上左图显示了1×1卷积核用于降维。输入为4×4的平面,共3个通道。用两个1×1的卷积核(卷积层)作用之后,变为4×4的平面,共2通道。同理,上右图展示了升维的操作。

实现跨通道的交互和信息整合

升维和 降维也可以看做是实现了多个Feature Map的线性组合,实现了跨通道的信息整合。具体的理论可以参加NIN论文。

增加模型深度

增加模型深度,一定程度上提升模型的表征能力。













  • 8
    点赞
  • 19
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值