2个3*3卷积核对一个5*5卷积核的替代性分析(或3个3*3卷积核对一个7*7卷积核的替代性分析)

使用更小的卷积核是当前在保证网络精度的情况下,减少参数的趋势之一,在VGG16中,使用了 3 3 3 3 ∗ 3 3*3 33卷积核来代替7*7卷积核,使用了 2 2 2 3 ∗ 3 3*3 33卷积核来代替 5 ∗ 5 5*5 55卷积核,这样做的主要目的是在保证具有相同感知野的条件下,提升了网络的深度,在一定程度上提升了神经网络的效果。

以下简单地说明一下小卷积( 3 ∗ 3 3*3 33)对于 5 × 5 5×5 5×5网络感知野相同的替代性。

如图所示:
在这里插入图片描述
关于 3 3 3 3 × 3 3×3 3×3卷积核对于一个 7 × 7 7× 7 7×7 卷积的替代性思考方式同上。

接下来说明以下减少参数的作用。
对于两个 3 ∗ 3 3*3 33卷积核,所用的参数总量为 2 ∗ ( 3 ∗ 3 ) ∗ c h a n n e l s 2*(3*3)*channels 2(33)channels, 对于 5 ∗ 5 5*5 55卷积核为 5 ∗ 5 ∗ c h a n n e l s 5*5*channels 55channels, 因此可以显著地减少参数的数量。

如果对参数计算这部分不太懂,欢迎阅读我的另一篇博客,我在里面举了一个计算卷积操作参数量的例子。

  • 3
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值