卷积中计算代价

本文介绍深度学习卷积操作中计算代价(the problem of computational cost)的衡量方法

 在模型压缩以及嵌入式开发中，由于硬件条件的限制，导致网络的计算代价与参数量受到约束。那么计算代价如何衡量？

举例：如下图，输入为28*28*192，卷积核大小为5*5*192，卷积核个数为32个，输出为28*28*32的特征。

我们可以这样理解，对于output共计28*28*32个特征，每个特征需要经过卷积中乘法操作：5*5*192次（即卷积核大小），加法操作同乘法操作数目相同。故经过卷积后（仅考虑乘法时）计算代价为（5*5*192）*（28*28*32）。