mobilenet_v1总结

陆陆续续学习深度学习已经快1年，接下来总结各个模型的优缺点~

1、目的：

1）大多数图像识别模型精度很高，但参数较大，模型较大，不适合在嵌入式设备中使用。

2）小数的小模型还不够小（参数小、运算量少、精度高），而且不关注speed。

 

2、现有方法

1）实现小模型的方法：压缩预训练模型、直接设计小模型结构

2）直接设计小模型结构：Flattened network、Xception network、Squeeze network、transform network(一类)、deep fried network（一类）

3）压缩预训练模型：shrinking、factorizing、compressing（product quantization、hashing、pruning、vector quantization、Huffman coding）、distillation。

 

3、怎么解决（解决方法）

1）深度可分离卷积（depsewise separable convolution） = separable convolution（每个输入通道对应一个卷积核，filter 信息） + pointwise convolution（1×1的卷积核，combine信息）

2）width multiplier：模型更瘦

3）resolution multiplier：减低模型的输入分辨率

 

4、模型结构

5、优点

1）常规矩阵乘法运算（GEMM）要求输入初始数据重排序，以适应相应的矩阵package，而pointwise卷积不需要数据在内存中重排序。

2）mobilenet_v1的大部分运算集中在1×1的pointwise卷积

 

6、缺点

待定~

 

7、效果

在分类、检测、定位各个领域效果都很好~

 

更多学习笔记可以关注我的微信公众号「kelly学挖掘」，欢迎交流。

-- ove--