空间金字塔池化
其主要目的是对于任意尺寸的输入产生固定大小的输出
思路:对于不同大小的feature map分成不同大小的块(不同大小的等份,根据具体情况进行设定),然后对每一份进行最大池化(一般是进行最大池化),将池化后的feature map拼接到一个固定维度的输出,
参考:空间金字塔池化(Spatial Pyramid Pooling,SPP)_机器不学习我学习的博客-CSDN博客
参考:Spatial Pyramid Pooling(空间金字塔池化)-变尺度CNN训练_沈子恒的博客-CSDN博客
空洞卷积
作用:增加感受野、捕获多尺度上下文信息
其进行的卷积操作和常规卷积操作相同,但卷积核会进行变化;卷积核会根据rate,在卷积值两两之间增加rate-1个0,这样来说卷积核的尺度就变大了;
(一般的卷积操作中,进行了点乘操作之后进行相加得到一个特征图的值,在空洞卷积中,因为补了0,所以卷积核大小变化,进行点乘操作时,感受野会相应增加)
参考:卷积神经网络(CNN)之卷积操作、池化操作、激活函数_卷积神经网络激活函数_CV技术指南的博客-CSDN博客
深度可分离卷积
深度可分离卷积将卷积操作分成两步:深度卷积和逐点卷积。
深度卷积在每个输入通道上执行独立的卷积操作,每一个特征图对应一个卷积核进行卷积操作(也就是说一个特征图有一个特定的卷积核)
逐点卷积在输出通道上执行一个全连接操作,将深度卷积的特征图通过1*1的卷积核连接在一起。
这样可以大幅度减少参数数量和计算量,同时保持模型的表现力。
(减少了计算复杂度,主要体现在计算量上,可以通过公式体现出来)
如下图: