Date: 2020/07/27
Coder: CW
Foreword:
相信诸位炼丹者在看paper时会注意到出现有 'FLOPs' 这个词,那么 FLOPs 究竟是什么意思呢?它是如何计算的?有哪些开源工具可供使用?
Outline
I. 什么是FLOPs?
II. 如何计算FLOPs?
III. 相关开源工具
1、torchstat
2、torchscan
3、其它
什么是FLOPs?
FLOPs(Floating Point Operations)即 浮点运算次数,常用于评估模型/算法的计算量(复杂度)。注意,此处s必须小写!因为大写S对应的是另一个概念——FLOPS(Floating Point Operations per Second),意为每秒浮点运算次数,代表的是一种运算速率,通常用于衡量硬件的性能指标。
如何计算FLOPs?
对于卷积层(不考虑激活函数的运算),令:
:表示卷积核大小;
:输入通道数;
:输出通道数;
:输出特征图的高和宽
那么生成输出特征图的一个单元(单通道)则需要:
-