模型运行速度FPS测试以及参数Parameter计算代码

Summer_crown

已于 2022-03-10 09:01:16 修改

阅读量6.1k

点赞数 5

分类专栏：车道线检测文章标签： pytorch 深度学习 python

于 2021-12-30 11:13:27 首次发布

本文链接：https://blog.csdn.net/Summer_crown/article/details/122231834

版权

车道线检测专栏收录该内容

2 篇文章

订阅专栏

该博客介绍了如何计算深度学习模型的运行速度（FPS）以及模型参数的大小。使用Python的time模块记录模型推理时间，计算平均、最快和最慢的推理速度。同时，通过两种不同的方法（直接计算和使用thop库）来估算模型参数数量，为模型优化和资源管理提供依据。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

模型FPS速度计算

import time
import torch
import numpy as np

net = build_your_net
net.eval()

# x是输入图片的大小
x = torch.zeros((1,3,H,W)).cuda()
t_all = []

for i in range(100):
    t1 = time.time()
    y = net(x)
    t2 = time.time()
    t_all.append(t2 - t1)

print('average time:', np.mean(t_all) / 1)
print('average fps:',1 / np.mean(t_all))

print('fastest time:', min(t_all) / 1)
print('fastest fps:',1 / min(t_all))

print('slowest time:', max(t_all) / 1)
print('slowest fps:',1 / max(t_all))

模型参数计算1

import numpy as np

def modelsize(model,type_size=4):
    para = sum([np.prod(list(p.size())) for p in model.parameters()])
    print('Model {} : params: {:4f}M'.format(model._get_name(), para * type_size / 1000 / 1000))

net = build_your_model
modelsize(net)

模型参数计算2

采用thop库，通过
pip install thop

from thop import profile
total_ops,total_params = profile(your_net, (data,), verbose = False)
print("| %.2f | %.2f " % (total_params/(1000*2),total_ops / (1000*3)))