GPU测试单张图片时间过长

最新推荐文章于 2021-11-16 13:55:55 发布
最新推荐文章于 2021-11-16 13:55:55 发布
阅读量1.4k 收藏 3
点赞数 1
分类专栏： 人工智能 文章标签： 人工智能 GPU Pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sweetyJia/article/details/96889936
版权

为什么在测试GPU和CPU的速度的时候会出现GPU反而比CPU慢的
我之前为了测试resnext101网络在CPU和GPU上的单张图片测试程序
在这里插入图片描述
测试结果
很显然不对啊，后来我发现，GPU在刚启动测试第一张图片，确实比较费时一些
在这里插入图片描述
第一行是测试第一张图片的时间，后面是单纯的循环测试。
也算是找到了原因吧

jiaqi1222
关注
  • 1
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 5
    评论
专栏目录
YOLOv8改进 | 利用训练好权重文件计算YOLOv8的FPS、推理每张图片的平均时间
走向CTO的路上...
06-15 1073
YOLOv8是目前最流行的目标检测算法之一，其推理速度快、精度高，被广泛应用于各种实时目标检测场景。为了评估YOLOv8模型的性能，可以计算其FPS（Frames Per Second）和推理每张图片的平均时间。FPS是指模型每秒能够处理的帧数，推理每张图片的平均时间是模型处理单张图片所花费的时间。
caffe图像分类时，训练的模型准确率很高，而单张图片测试时准确率很低
w_q_q2017的博客
04-30 3545
做了好长的时间的图像分类，用caffe训练的模型正确率很高，但是用单张图片进行测试识别时，效果特别差，检测的出来的几乎都是同一类，查了一些资料，终于找到了解决办法。 原因1：如果训练用了GPU，那么测试的时候也要注意用GPU 原因2：注意测试图片的读取格式。 我就是错在了这里，参考的博客https://blog.csdn.net/u013841196/article/details/7279...
OpenCV CUDA编程Issue: GpuMat::upload()第一次调用速度很慢问题
DU_YULIN的博客
11-16 3818
文章目录Issue描述Issue分析实验结果总结 Issue描述 之前一直在学习OpenCV CUDA编程，遇到一问题：第一次调用GpuMat::upload()函数时，速度出奇的慢，大约要2-4分钟才能继续运行，后面调用GpuMat::upload()函数则没有这个问题。 Issue分析 在网上查找原因，说的最多的就是第一次调用upload()函数需要初始化CUDA,所以第一次花费比较长时间也是合理的。还有另外的说法，即CMake Opencv CUDA库时，没有配置正确GPU设备的计算能力值，即配置
opencv笔记（三十五）——测试一帧图像的处理时间
qq_37764129的博客
12-10 2139
timeGetTime()函数 函数以 毫秒 计的系统时间。该时间为从系统开启算起所经过的时间。 在SDK中，可以用 DWORD timeGetTime(VOID)函数获取系统时间，其返回值是毫秒单位的。可以用其实现延时功能的函数。 void Delay(DWORD delayTime) { DWORD delayTimeBegin; DWORD d...
pytorch 一两张数据GPU测试，dataload速度慢的原因
confusingbird的博客
10-15 2263
pytorch 的dataload开辟线程需要消耗时间，但是是我们的数据量太少(每次只有一到两张图片)，开辟线程反而会降低整个流程的性能。解决方案：适当的开辟线程或者不开辟线程，如方法1。或者直接不用dataload方法，如方法2. #方法1： inputs = torch.utils.data.DataLoader( DataLoader('', img_paths, asset...
GPU测时
he626shidizai的博客
02-21 273
写cuda程序的时候，不能使用cpu的方法来测gpu程序的时间，运行代码记录如下： #define START_GPU { \ cudaEvent_t start, stop;\ float elapsedTime;\ checkCudaErrors(cudaEventCreate(&start));\ checkCudaErrors(cudaEventCreate(&stop));\ checkCudaErrors(cudaEventRecord(start, 0));\ #define
检测CPU和GPU处理图片的时间对比.rar_C++_CPU和GPU检测_cuda_gpu 图片 时间
09-14
检测CPU和GPU处理图片的时间对比,需要拥有支持CUDA的硬件设备
深度学习测试，直观感受GPU并行计算带来的速度提升
05-30
MNIST数据集包含了60,000个训练样本和10,000个测试样本，每张图片都是28x28像素的灰度图像，代表0-9的手写数字。 CPU（中央处理器）在执行计算时遵循串行处理，一次只能处理一条指令，虽然现代CPU具有多核心，但...
单张图片预测时间代码
05-27
以下是使用PyTorch实现的一个示例代码，用于计算单张图片在预训练的ResNet50模型上的预测时间： ```python import torch import torchvision import time # 加载预训练的ResNet50模型 model = torchvision.models....
Tensorflow模型实现预测或识别单张图片
09-19
主要为大家详细介绍了Tensorflow模型实现预测或识别单张图片，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
Android之GPU过度绘制与图形渲染优化——Hierarchyviewer时间不显示
u010255127的专栏
08-18 2449
凡是开始接触或接触过Android图形渲染优化的童鞋肯定对 hierarchyviewer 这个工具不陌生。Hierarchy Viewer工具用来显示UI布局的层级关系。如下图： Hierarchy Viewer除了层级显示，更实用的地方可能就是它对View绘制时间的显示了，这对我们优化UI绘制效率很关键，但是有的童鞋就有些抓狂了，明明我第一次打开的时候是有时间显示的，怎么后来就没有了呢？变成这
resnet系列，caffe 1080上GPU时间
m0_37192554的博客
12-24 380
resnet18 nvcaffe 3ms ,caffe 5ms
测试画面帧率及帧延时一种方法
热门推荐
Mo小泽的技术博客
03-04 3万+
帧数高并不等于流畅度好 随着显卡性能的不断发展，当今的渲染性能已经不是困扰用户的问题了，但是帧数的提高并没有彻底解决画面的流畅度问题，这里面依然大有玄机。之前认为的画面帧数高了就流畅的看法是片面的，真正影响画面流畅度的是帧延迟，这是一个影响显示体验却又不为人知的真相。 电影工业使用24帧速度，人眼看起来并没有不流畅，而PC画面的24帧就不容易接受，因为它不是动态模糊的。 PC渲染跟电影原理不...
CPU和GPU训练耗时比较
temp_X的博客
05-07 2955
网络训练耗时 为什么要用GPU训练网络 CPU 训练是在载入图片并进行处理后再开始训练网络，而利用GPU 训练是在CPU 载入图片处理后利用GPU 进行网络训练，GPU 训练速度更快且后面的图片加载不受音响 为什么要用tf.data方法训练 不适用多线程方法，读取图片较慢，大多数情况下GPU 都在空闲状态，使用多线程方法可以提图片读取处理速度，使得CPU和GPU更好搭配，缩短训练时间，利用缓存也可以提升CPU读取和处理图片的速率。（提前读取图片放在内存中，内存得足，但效果没有使用多线程明显。） ..
关于GPU推理速度的两个问题
qq_40231159的博客
10-22 8038
关于GPU推理速度的两个问题 1、为什么GPU的第一次推理速度会慢很多？ 答：GPU在使用过程的开始，需要进行CUDA初始化（CUDA initialization），CUDA 初始化过程是一个"懒惰"的初始化，这意味着需要完成足够的初始化进程，才能支持所要的操作执行。在首次CUDA初始化时，有些初始化间接花费（cost）并没有进行，这些花费（cost）可以理解为设备和主机内存映射的协调，即内存的调度，这也是cpu和gpu都会有一定的内存（gpu为显存）变化的原因。表现出来的是虽然gpu的核心性能不如cpu
GPU 加速下的图像处理 Opengl es shader
Ericlin'blog QQ:547154610
04-08 8479
Instagram，Snapchat，Photoshop。 所有这些应用都是用来做图像处理的。图像处理可以简单到把一张照片转换为灰度图，也可以复杂到是分析一个视频，并在人群中找到某个特定的人。尽管这些应用非常的不同，但这些例子遵从同样的流程，都是从创造到渲染。 在电脑或者手机上做图像处理有很多方式，但是目前为止最高效的方法是有效地使用图形处理单元，或者叫 GPU。你的手机包含两个不同的
合并贴图减少带宽及gpu运算时间
llsansun的博客
06-18 624
项目中因为需要更换模型的各种贴图（比如眉毛，胡子，睫毛等），需要用到多个贴图，然后在gpu把颜色混合到角色肤色上，来得到我们显示的效果 每个位置之前都是一个贴图混合而成， 这样会有几个问题： 1.每个位置为一个贴图，那么每个贴图都会占用一个TEXCOORD语义，寄存器使用非常多。 2.每张图都只是用到一小部分，浪费非常大的内存空间 3.gpu做了大量的...
pytorch 测试单张图片
最新发布
08-07
使用PyTorch测试单张图片的步骤如下： 1. 导入必要的库和模型 首先需要导入PyTorch的相关库，例如torch和torchvision。同时，还需要导入需要使用的模型。 2. 加载模型参数 使用torch.load()函数加载预训练模型的...
评论 5
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值