【DeepCV】轻量化模型 Lightweight model

Backto DeepCV

---

CNN 在CV领域大放异彩，但是网络层数不断增加，模型体积越来越大，引出了实用中的效率问题。效率问题主要是模型的存储问题和模型进行预测的速度问题（以下简称速度问题）

• 第一，存储问题。数百层网络有着大量的权值参数，保存大量权值参数对设备的内存要求很高；
• 第二，速度问题。在实际应用中，往往是毫秒级别，为了达到实际应用标准，要么提高处理器性能（看英特尔的提高速度就知道了，这点暂时不指望），要么就减少计算量。

对于效率问题，通常的方法是进行模型压缩（Model Compression），即在已经训练好的模型上进行压缩，使得网络携带更少的网络参数，从而解决内存问题，同时可以解决速度问题。

相比于在已经训练好的模型上进行处理，轻量化模型模型设计则是另辟蹊径。轻量化模型设计主要思想在于设计更高效的「网络计算方式」（主要针对卷积方式），从而使网络参数减少的同时，不损失网络性能。

当前主流的轻量化模型有 SqueezeNet, MobileNet, ShuffleNet 和 Xception。

---

Ref

• 纵览轻量化卷积神经网络：SqueezeNet、MobileNet、ShuffleNet、Xception: 好文，细致流畅