为什么GPU训练网络还不如CPU快

最新推荐文章于 2022-08-25 17:03:41 发布
最新推荐文章于 2022-08-25 17:03:41 发布
阅读量2.1k 收藏 3
点赞数 4
分类专栏： pytorch深度学习 文章标签： 深度学习 人工智能 机器学习 神经网络 计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/DREAMGEEKLEE/article/details/105545648
版权

为什么GPU训练网络还不如CPU快

当网络规模较小的时候，GPU是无法体现出计算上的优势的，可能不光没有加速效果，反而还不如CPU训练的快。

只要加大网络规模，当网络足够大的时候，GPU才能显示出它的加速效果

Pytorch官网的这篇tutorial也提到相关的内容
如下
在这里插入图片描述
将下图红框参数都改为200
在这里插入图片描述
在我笔记本上的加速效果如下,有三倍多的速度提升

CPU训练用时20m0s
在这里插入图片描述
GPU训练用时5m59s
在这里插入图片描述

DMGK
关注
  • 4
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
CPU比GPU训练神经网络快十几倍，英特尔：别用矩阵运算了
3D视觉工坊
04-10 1038
来源丨机器之心神经网络训练通常是 GPU 大显身手的领域，然而莱斯大学和英特尔等机构对 GPU 的地位发起了挑战。在深度学习与神经网络领域，研究人员通常离不开 GPU。得益于 GPU 极高...
（深度学习）为什么GPU比CPU慢？
赵凯月的博客
07-15 3838
GPU由于擅长矩阵运算，在深度学习尤其是计算机视觉方面得到了广泛的应用。 前几天在我废了好大劲在我的的电脑上安装了Tensorflow 2.0 - GPU，然后就迫不及待地去体验一下GPU的速度。 我去Tensorflow官网上直接复制了一段代码，就是最简单的神经网络识别MNIST手写数字数据集。然后分别用GPU和CPU跑了以下，结果让我大吃一惊。之前听别人说用GPU通常会比CPU快好几倍，而我经过尝试发现GPU竟然比CPU还要慢了好多！ 经过请教别人和上网查资料得出结论：是因为模型规模过小，没有体现出GP
CPU和GPU训练耗时比较
temp_X的博客
05-07 2930
网络训练耗时 为什么要用GPU训练网络 CPU 训练是在载入图片并进行处理后再开始训练网络，而利用GPU 训练是在CPU 载入图片处理后利用GPU 进行网络训练，GPU 训练速度更快且后面的图片加载不受音响 为什么要用tf.data方法训练 不适用多线程方法，读取图片较慢，大多数情况下GPU 都在空闲状态，使用多线程方法可以提图片读取处理速度，使得CPU和GPU更好搭配，缩短训练时间，利用缓存也可以提升CPU读取和处理图片的速率。（提前读取图片放在内存中，内存得足，但效果没有使用多线程明显。） ..
YDOOK： pytorch 为什么使用 GPU 加速后的计算速度没有感觉明显提升
YDOOK
09-01 1755
pytorch 为什么使用 GPU 加速后的计算速度没有感觉明显提升 原因： 使用 GPU 加速计算只有在进行 大规模数据计算 的时候才能体现并行计算的快速优势。
机器学习 任务管理器中显示cpu占用很高，gpu很低，但是设置了Gpu运算
weixin_44154094的博客
04-02 4298
暂时没有得到官方的解释 问题 这是我的情况， 我的 cuda已经正常安装了，并且 但是依然提示cpu占用很高， 程序中设置了使用Gpu 查看是否机器学习使用了Gpu 在程序运行过程中， nvidia-smi 我特意验证了一下 在没有进行深度学习的时候： 进行深度学习的时候： 但任务管理器中关于Gpu没有啥提示 现在，深度学习确实使用的是Gpu ...
使用Tensorflow-GPU禁用GPU设置(CPU与GPU速度对比)
09-16
通常，GPU（图形处理单元）设计用于并行处理大量数据，这对于执行深度学习模型中的矩阵运算非常有效，因此在训练大规模神经网络时，GPU通常比CPU快得多。以GTX 1066为例，一个常见的中高端游戏显卡，其并行计算能力...
解决pytorch多GPU训练保存的模型,在单GPU环境下加载出错问题
09-16
#### 补充知识：PyTorch中多GPU与单GPU训练网络的区别 - **多GPU训练网络**： 在PyTorch中，多GPU训练通常使用`nn.DataParallel`实现。具体步骤如下： ```python gpu_ids = [0, 1, 2, 3] device = t.device...
cpu_gpu_test
03-25
对比相同运算在GPU和CPU上的时间差异是评估硬件加速效果的关键指标，通常GPU由于其并行计算能力，在处理大量计算密集型任务时比CPU更快。 TensorFlow是由Google开发的一个开源库，它允许用户构建和训练复杂的机器...
支持OpenCL的GPU加速人工神经网络训练.pdf
09-25
此外，本文还讨论了GPU加速人工神经网络训练的优点和挑战。GPU加速可以提高训练速度，但也存在一些挑战，如数据传输和同步问题等。 本文提出了一种使用OpenCL实现的GPU加速人工神经网络训练方法，以提高训练速度。...
并行运算与神经网络-基于CPU/GPU的并行神经网络运算
最新发布
09-05
基于CPU和GPU的并行神经网络运算，是实现高效、快速计算的关键技术，它们极大地提升了模型训练的速度，降低了计算资源的消耗。 **并行运算** 并行运算是一种同时处理多个数据或任务的计算方式，它通过将大规模问题...
PyTorch使用cpu调用gpu训练的模型
热门推荐
观自在的博客
08-09 3万+
最近遇到一个问题，发下gpu训练的模型在cpu下不能跑，很难受。 结果发现原来是自己使用了DataParallel的问题，我保存的是整个模型。 model=DataParalle(model) torch.save('xx.pkl',model) 然后把模型copy到自己电脑上用cpu跑 model=torch.load('xx.pkl') #此处报错了。。。。 原因是cp...
GPU和CPU计算速度
GRF-Sunomikp31
08-25 3342
GPU和CPU计算速度
为什么调用了gpu却没起作用_有问有答：什么是硬件加速GPU计划？它有多大的用处？...
weixin_39783771的博客
11-20 1510
在Windows 10 Version 2004中，开发团队给系统新增了一个名为“硬件加速GPU计划”的选项，它隐藏在“显示设置-图形设置”中，作为一个实验性的选项提供。对于这个选项，微软官方在之前并没有做太多的解释，我们也就是道听途说认为它可以减低显示延迟什么什么的。在上个月末，终于有官方人员对这个选项进行了完整的解释，本文就根据官方的这篇博文，讲讲这个全新的硬件加速GPU计划选项的具体工作原理...
（深度学习）GPU比CPU慢？快看这里
qq_43673118的博客
05-18 2万+
GPU由于擅长矩阵运算，在深度学习尤其是计算机视觉方面得到了广泛的应用。 前几天在我废了好大劲在我的的电脑上安装了Tensorflow 2.0 - GPU，然后就迫不及待地去体验一下GPU的速度。 我去Tensorflow官网上直接复制了一段代码，就是最简单的神经网络识别MNIST手写数字数据集。然后分别用GPU和CPU跑了以下，结果让我大吃一惊。之前听别人说用GPU通常会比CPU快好几倍，而我经...
cpu消耗 pytorch_Pytorch用GPU到底能比CPU快多少？
weixin_33879932的博客
12-24 1254
给踌躇于要不要买GPU的朋友们做一点微小的贡献：同一段脚本，同样的数据量，同样的神经网络配置，用cpu和gpu分别计算，看看分别用了多长时间。嫌麻烦的同学可以提前看结论：同样的钱，买GPU得到的计算能力，是CPU的15倍。15倍。神经网络配置：5层hidden layer，每层500个nodes，一共500个epochs，做一次实验;5层hidden layer，每层1000个nodes，一共10...
TensorFlow（5）：使用tensorflow-gpu版本测试下学习速度，cpu（3分钟） vs gpu（4秒），还是gpu快
freewebsys的专栏
07-30 2万+
使用gpu进行优化还是不错的。 速度超级快，4 秒就行，要是cpu的还要跑个3 分钟。 现在看来在windows 上面开发个 tensorlfow的代码还可以。 除了编译，要用还行，同样的安装cuda，cudnn 在 linux上面也是类似的。 优化还是很方便的。以后学习起来就方便多了。
在数据科学领域，为什么GPU计算速度比CPU快许多的一个最简单解释
TangTianYi111的博客
06-26 5688
为了回答这个问题，我们需要知道几个知识： 1、一个CPU通常只有 几个核 2、一个GPU通常有 几千个核 (为了容易理解，暂且可以把CPU的核和GPU的核看成是同一个东西) 3、通常，CPU的核 性能比GPU的核 性能要强得多 4、标题说到是在数据科学领域，其实主要就是指的矩阵计算。 5、我们可以将计算时间，不管是CPU还是GPU的计算时间，大概抽象成这样一个计算公式： 总的计算时间=指令的数量...
cpu和gpu训练的区别
04-23
CPU和GPU都可以用于机器学习的训练，但是它们的主要区别在于其处理方式。CPU（中央处理器）具有多个核心，这些核心可以在较少的线程上运行，但是每个核心都是非常强大和灵活的。GPU（图形处理器）具有大量的小型核心，每个核心都可以并行地处理多个线程，这使得GPU在执行大量计算时比CPU更快。因此，GPU通常用于对大规模数据集进行并行计算的任务，例如深度学习的神经网络训练。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值