2024年最全普通卷积、分组卷积和深度分离卷积概念以及参数量计算，程序员面试宝典

m0_60667010

于 2024-05-10 16:38:09 发布

阅读量741

点赞数 17

分类专栏：程序员文章标签： python 学习面试

本文链接：https://blog.csdn.net/m0_60667010/article/details/138672056

版权

程序员专栏收录该内容

191 篇文章 1 订阅

订阅专栏

（1）Python所有方向的学习路线（新版）

这是我花了几天的时间去把Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

最近我才对这些路线做了一下新的更新，知识体系更全面了。

在这里插入图片描述

（2）Python学习视频

包含了Python入门、爬虫、数据分析和web开发的学习视频，总共100多个，虽然没有那么全面，但是对于入门来说是没问题的，学完这些之后，你可以按照我上面的学习路线去网上找其他的知识资源进行进阶。

在这里插入图片描述

（3）100多个练手项目

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了，只是里面的项目比较多，水平也是参差不齐，大家可以挑自己能做的项目去练练。

在这里插入图片描述

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

bias=False,即不考虑偏置的情况有-1，有True时没有-1。

举例：

输入的尺寸是227×227×3，卷积核大小是11×11，输出是6，输出维度是55×55，

我们带入公式可以计算出

参数量：

1 1 2 × 3 × 6 11^2 \times 3 \times 6 112×3×6=2178

运算量：

2 × 3 × 1 1 2 × 55 × 55 × 6 2 \times 3 \times11^{2}\times 55\times 55 \times 6 2×3×112×55×55×6=13176900

分组卷积

===============================================================

分组卷积则是对输入feature map进行分组，然后每组分别卷积。

假设输入feature map的尺寸仍为 C 0 × H × W C_{0}\times H \times W C0×H×W，输出feature map的数量为 C 1 C_{1} C1个，如果设定要分成G个groups，则每组的输入feature map数量为 C 0 G \frac{C_{0}}{G} GC0，每组的输出feature map数量为 C 1 G \frac{C{1}}{G} GC1，每个卷积核的尺寸为 C 0 G × K × K \frac{C_{0}}{G}\times K \times K GC0×K×K，卷积核的总数仍为 C 1 C_{1} C1个，每组的卷积核数量为 C 1 G \frac{C{1}}{G} GC1，卷积核只与其同组的输入map进行卷积，卷积核的总参数量为 N × C 0 G × K × K N\times \frac{C_{0}}{G}\times K \times K N×GC0×K×K，总参数量减少为原来的 1 G \frac{1}{G} G1。

计算量公式：

[ ( 2 × K 2 × C 0 / g + 1 ) × H × W × C o / g ] × g \left[\left(2 \times K^{2} \times C_{0} / g +1\right) \times H \times W \times C_{o} / g\right] \times g [(2×K2×C0/g+1)×H×W×Co/g]×g

分组卷积的参数量为：

K ∗ K ∗ C 0 g ∗ C 1 g ∗ g K * K * \frac{C_{0}}{g} * \frac{C_{1}}{g} * g K∗K∗gC0∗gC1∗g

举例：

输入的尺寸是227×227×3，卷积核大小是11×11，输出是6，输出维度是55×55，group为3

我们带入公式可以计算出

参数量：

1 1 2 × 3 3 × 6 3 × 3 11^2 \times \frac{3}{3} \times \frac{6}{3} \times 3 112×33×36×3=726

运算量：

[ ( 2 × 1 1 2 × 3 / 3 + 1 ) × 55 × 55 × 6 / 3 ] × 3 \left[\left(2 \times 11^{2} \times3 / 3 +1\right) \times 55 \times 55 \times 6 / 3\right] \times 3 [(2×112×3/3+1)×55×55×6/3]×3=2205225

深度可分离卷积（Depthwise separable conv）

============================================================================================

设输入特征维度为 D F × D F × M D_{F}\times D_{F}\times M DF×DF×M，M为通道数， D k D_{k} Dk为卷积核大小，M为输入的通道数， N为输出的通道数,G为分组数。

当分组数量等于输入map数量，输出map数量也等于输入map数量，即M=N=G，N个卷积核每个尺寸为$D_{k}\times D_{k}\times 1 $时，Group Convolution就成了Depthwise Convolution。

逐点卷积就是把G组卷积用conv1x1拼接起来。如下图：