【问题】——Tesla P4 docker 部署pytorch模型时，推理速度慢

农夫山泉2号

于 2020-10-22 16:48:36 发布

阅读量1k

点赞数

分类专栏： docker

本文链接：https://blog.csdn.net/u011622208/article/details/109225481

版权

23 篇文章

订阅专栏

本文分析了在Docker环境下使用GPU进行PyTorch推理时，不同输入尺寸对性能的影响。结果显示，输入尺寸从224*224到1920*1080，平均耗时分别为0.223、0.436、0.633和0.827秒。torch.cuda.is_available()检查确认了CUDA支持。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在这里插入图片描述用docker部署GPU pytorch 推理，mobilenetv2模型，224*244的输入，时间需要：

size:224*224 | 平均耗时为:0.223
size:640*480 | 平均耗时为:0.436
size:1080*720 | 平均耗时为:0.633
size:1920*1080 | 平均耗时为:0.827

torch.cuda.is_available() 检查=True

解决方案
无