一、机器学习模型复杂度
二、深度学习模型复杂度
通常,一个神经网络模型的复杂度用2个指标来描述:
- 模型的参数(Parameters)数量,
- Params:模型的参数量。
- 模型的计算量:
- FLOPs:FLoating point OPerations,前向推理的计算量。
- MAC:Memory Access Cost。
- MACC(MADD):multiply-accumulate operations:先乘起来再加起来的运算次数。
1、时间复杂度(计算量)
时间复杂度(计算量):计算量指的需要进行的加乘操作的次数,可用 FLOPS衡量,也就是浮点运算次数(FLoating-point OPerations)。