2021-06-23 各种经典卷积神经网络总结

1、原始卷积 (Vanilla Convolution)

背景：CNNs中的卷积，也称为滤波器，是由一组具有固定窗口大小且带可学习参数(learnable paramerters)的卷积核所组成，可用于提取特征。
原理：卷积的过程是通过滑动窗口从上到下，从左到右对输入特征图进行遍历，每次遍历的结果为相应位置元素的加权求和；
特性

• 稀疏连接(sparse connectivity)
• 权值共享(shared weights)
• 平移不变性(translation invariant)
• 平移等变性(translation equivalence)

2、分组卷积 (Group convolution)

原理： 原始卷积操作中每一个输出通道都与输入的每一个通道相连接，通道之间是以稠密方式进行连接。而组卷积中输入和输出的通道会被划分为多个组，每个组的输出通道只和对应组内的输入通道相连接，而与其它组的通道无关。这种分组(split)的思想随后被绝大多数的新晋卷积所应用。

2.1 组卷积案例1

2.2 组卷积案例2——Resnext