1.常规的卷积
一般所说的卷积计算是用与输入有相同深度的卷积核对输入进行卷积计算,卷积计算的过程如下图所示:每层卷积核参数与输入的各层参数对应位置相乘后加和得到一个输出,卷积核在输入上进行滑动计算,有多少个卷积核就得到多少个输出。
2.可分离卷积
可分离卷积包括空间可分卷积核和深度可分卷积:
空间可分卷积:
生活中的图片一般为彩色图片,所以有三个维度:高、宽、深度。空间可分离卷积是在图片的高、宽维度上。如下图所示,空间可分离卷积是将原来3x3(x3)xn的卷积核分成了1x3(x3)xn+3x1(x1)xn的卷积核。
深度可分卷积:
如下图所示,深度可分离卷积分为:卷积不扩展深度+(1x1)卷积扩展深度,即第一步的卷积不改变输入的深度,第二步用1x1的卷积核来改变深度。
3.3D卷积
3D卷积的卷积核可以不与输入具有相同的深度,即卷积核可以在宽、高、深度三个方向进行滑动:
4.扩张卷积
扩张卷积是指在卷积核内扩充空格,即参数个数是不变的:
5.分组卷积
在分组卷积中,过滤器被分成不同的组在多核中进行并行计算,然后在深度上直接相连。