前言:
{
此文为论文《Quantization Mimic: Towards Very Tiny CNN for Object Detection》的阅读总结。
此论文的主题是速度和结构的优化,而不是提高准确率;综合了两种方式:Quantization(量化)和Mimic(模仿)。
论文地址:https://arxiv.org/pdf/1805.02152.pdf
}
正文:
{
首先在第一节,论文介绍了目前4种优化方法:quantization,channel-wise(暂且叫它“逐通道”,MobileNet就用了这种方法),pruning(修剪或剪枝)和mimic。
quantization和mimic有各自的缺点:quantization是面向像FPGA这种专门的设备(没有某些运算器或某些运算特别慢);mimic对网络结构也有要求——结构过于精简会导致表示能力(representation capacity