模型加速-小网络论文跟踪

（一）SqueezeNet

2016年2月,《AlexNet-level accuracy with 50x fewer parameters and <0.5MB model size》
论文地址：https://arxiv.org/abs/1602.07360
模型地址：https://github.com/DeepScale/SqueezeNet
核心思想：

• 大量使用1x1卷机代替3x3卷积。减少参数和计算量。
• 使用squeeze层减少输入通道数。
• 将欠采样操作延后，可以给卷积层提供更大的激活图：更大的激活图保留了更多的信息，可以提供更高的分类准确率 。

（二）MobileNet

2017年4月, 《MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications》
论文地址：https://arxiv.org/abs/1704.04861
模型地址：
https://github.com/tensorflow/models/blob/master/research/slim/nets/mobilenet_v1.md
核心思想：
- 采用depth-wise separable convolution来减少运算量以及参数量
- 使用宽度参数，深度参数调节网络的宽，瘦。一般来说网络加深的效果要好于加宽的效果。建议保留深度。

继续