分组卷积和深度可分离卷积

一、常规卷积操作

在图中,输入的特征图大小为 H * W * 4
卷积核个数为 2 个,每个卷积核的大小为 K * K * 4
输出的特征图大小为 H’ * W’ * 2

二、分组卷积

!!!! 常规卷积就是组数为 1 的分组卷积

将输入的特征图分为两组,每组的大小为 H * W * 2
那么每组中就只需要一个卷积核,且这个卷积核的大小为 K * K * 2
但是输出的特征图大小依旧是 H’ * W’ * 2

这样就达到了减少计算量的目的

缺点和解决方案:对于需要考虑所有输入特征图信息的情况,分组卷积会降低模型的性能,对于这个问题,常常在两个分组卷积之间加入Channel_Shuffle模块打乱通道顺序,从而实现不同分组间的信息交换。

总体上来看如下图所示

三、深度可分离卷积

常规的卷积过程

对于一张5×5像素、三通道彩色输入图片(shape为5×5×3)。经过3×3卷积核的卷积层(假设输出通道数为4,则卷积核shape为3×3×3×4),最终输出4个特征图

此时,卷积层共4个卷积核,每个卷积核有3个通道,每个通道的大小为3×3。因此卷积层的参数数量可以用如下公式来计算:
N_std = 4 × 3 × 3 × 3 = 108

深度可分离卷积有两个过程,第一步是逐通道卷积

卷积层的参数数量:N_depthwise = 3 × 3 × 3 = 27

第二步是逐点卷积

其中的卷积核大小为 1 * 1 * 3 * 4

N_pointwise = 1 × 1 × 3 × 4 = 12

那么总参数只有 N_depthwise + N_pointwise = 39

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
分组卷积深度可分离卷积是两种常用的卷积操作方法。 分组卷积(grouped convolution)是将输入的通道分成多个,每个内的通道进行独立的卷积操作,然后将各的结果进行拼接。这种方法可以减少计算量和参数量,同时提高模型的非线性表达能力。例如,如果将输入的通道数分为两,那么每只需要进行一半的卷积操作,从而减少了计算量和参数量。 深度可分离卷积(depthwise separable convolution)是将标准卷积操作拆分成两个步骤:深度卷积和逐点卷积。首先,深度卷积操作对每个输入通道进行独立的卷积,然后使用逐点卷积将深度卷积的结果进行合。深度可分离卷积可以有效地减少参数量和计算量,同时保持模型的表达能力。这种方法在轻量化和移动端模型中被广泛使用。 综上所述,分组卷积深度可分离卷积是两种常用的卷积操作方法,它们可以在神经网络中提高计算效率并减少参数量,同时保持模型的表达能力。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [对深度可分离卷积分组卷积、空洞卷积的通俗理解(上篇)](https://blog.csdn.net/qq_27825451/article/details/102457264)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *3* [各种卷积层的理解(深度可分离卷积分组卷积、扩张卷积、反卷积)](https://blog.csdn.net/gwplovekimi/article/details/89890510)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值