1、MobileNetV1
论文地址:https://arxiv.org/pdf/1704.04861.pdf
这篇论文是谷歌在2017年提出了,专注于移动端或者嵌入式设备中的轻量级CNN网络。该论文最大的创新点是,提出了深度可分离卷积(depthwise separable convolution)
设特征图尺寸为W*H,卷积核大小为k*k,输入通道数为c,有n个卷积核
传统的卷积计算量为W*H*k*k*c*(https://www.jianshu.com/p/2a0f3a4a9d1d)
深度可分离卷积(https://zhuanlan.zhihu.com/p/92134485)将传统卷积的两步进行分离开来,分别是depthwise和pointwise。从下面的图可以看出,首先按照通道进行计算按位相乘的计算,此时通道数不改变;然后依然得到将第一步的结果,使用1*1的卷积核进行传统的卷积运算,此时通道数可以进行改变。使用了深度可分离卷积,其计算量为k∗k∗c∗n∗H+1∗1∗c∗n∗W∗H。
使用传统卷积的准确率比深度可分离卷积的准确率高约1%,但计算量却增大了9倍。