模型参数量/flops/吞吐量的计算

模型参数量/flops/吞吐量的计算

参数量

def computation_paras(kernel_size, in_channels, out_channels, out_size, groups = 1):
    return kernel_size ** 2 * in_channels * out_channels / (groups * 2 ** 20) # M为单位

flops

def computation_flops(kernel_size, in_channels, out_channels, out_size, groups = 1):
    return out_size ** 2 * kernel_size ** 2 * in_channels * out_channels / (groups * 2 ** 20) # M为单位

PS: groups是分组卷积的组数

吞吐量
吞吐量是指系统在单位时间内处理请求的数量，用于衡量网络性能或软件性能,TPS、QPS都是吞吐量的常用量化指标。一个系统的吞吐量（承压能力）与request（请求）对cpu的消耗，外部接口，IO等等紧密关联。单个request 对cpu消耗越高，外部系统接口，IO影响速度越慢，系统吞吐能力越低，反之越高。