用GPU加速神经网络训练

最新推荐文章于 2024-01-30 08:50:22 发布
最新推荐文章于 2024-01-30 08:50:22 发布
阅读量2.1k 收藏 4
点赞数
文章标签： 神经网络 tensorflow 人工智能 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/DesertGuest/article/details/124631028
版权
本文记录了使用Dell灵越7580电脑，通过Tensorflow-GPU 2.3.0在CUDA 10.1和cuDNN 7.6环境下加速神经网络训练的过程。在升级配置后，ResNet架构的训练时间从40分钟缩短到4分钟以内。详细步骤包括包版本匹配、CMD安装及GPU版本的检测。
摘要由CSDN通过智能技术生成

前言

本文记录了做毕设过程中，为了加速神经网络的训练，如何让tf能识别到GPU并加速，加速前resnet架构一个epoch需要跑40分钟，使用mx150（一个laptop的极普通显卡，cuda核心仅有384个）可以加速到4分钟以内，极大的缩短了训练时间，感谢悉心指导我的刘学姐。

电脑配置：dell 灵越7580

cpu的任务管理器截图

GPU的任务管理器截图

解决过程：

工具：anaconda3 pycharm2021.3.3

1、 包版本

Python：3.7
tensorflow：2.1.0
cudatoolkit：10.1
cudnn：7.6
Tensorflow-gpu：2.3.0
以上对应关系见表（学姐发我的，出处不详）——
在这里插入图片描述

最低0.47元/天 解锁文章
奥本海猴子
关注
  • 0
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
tensorflow使用gpu加速
Wicher_D的博客
04-24 2905
所以，这里需要根据我们前面的python版本确定对应的CUDA和cuDNN，这里我们使用了python3.9，所以确定对应的CUDA为11.2、cuDNN为8.1。这里需要注意的是，tensorflow是我自定义的环境名，可定义为你喜欢的不带空格和中文的其它名字，python版本要安装tensorflow对应的，可参考下面的网址来确定，这里我以python3.9为例。这里需要注意的是，tensorflow库在2.12及以上的版本中，都取消了对Windows平台的GPU支持（，根据你显卡的版本来下载。
利用GPU训练
红凯的博客
05-24 1198
torch.cuda： 该包增加了对CUDA张量类型的支持，实现了与CPU张量相同的功能，但使用GPU进行计算。 它是延迟的初始化，所以你可以随时导入它，并使用is_available()来确定系统是否支持CUDA。 使用GPU训练： import torch import torchvision from torch.utils.tensorboard import SummaryWriter from torch import nn from torch.utils.data import DataLo
深度学习之五：使用GPU加速神经网络的训练
luchi007的专栏
03-30 3215
多的是关于矩阵的运算，这个时候就正好用到了GPU，GPU本来是用来处理图形的，但是因为其处理矩阵计算的高效性就运用到了深度学习之中。Theano支持GPU编程，但是只是对英伟达的显卡支持，而且对于Python编程而言，修改一些代码就可以使用GPU来实现加速了。   一，首先需要安装GPU环境（说明：我开始按照官网步骤发生了错误，下面是我综合网上一些资料最后安装成功之后的环境配置，本人机器能用）   安装Cuda，Cuda是英伟达公司提供的GPU开发环境，可以直接在官网上下载，我安装的是window
深度学习(8)--如何在tensorflow中用GPU来训练神经网络
GodFishhh的博客
01-30 1902
如何在tensorflow中用GPU来训练神经网络
教你用TensorFlow实现神经网络（附代码）
sweetfire的博客
11-28 1497
果你一直关注数据科学/机器学习，你就不能错过深度学习和神经网络的热潮。互联网公司正在寻找这方面的人，而且从竞赛到开源项目，都有巨额奖金。 如果你对深度学习所提供的前景感到兴奋，但是还没有开始，在这里或许是你开始的第一步。 在这篇文章中，我将介绍TensorFlow。阅读本文后，你将能够理解神经网络的应用，并使用TensorFlow解决现实生活中的问题，本文中的代码是用Python编写的
深度神经网络移动终端GPU加速实践
02-25
本文来自于网络，介绍了如何选择并训练模型，处理数据，以及在终端移动设备上工程化落地深度神经网络并做GPU加速，。AI无疑是近几年的超级风口，“AllinAI“等押宝AI的口号层出不穷，AI的风头一时无两。实现AI有很多...
支持OpenCL的GPU加速人工神经网络训练.pdf
09-25
本文主要讨论了使用OpenCL实现的GPU加速人工神经网络训练技术。人工神经网络训练是机器学习和深度学习的核心组件之一，但随着神经元数量的增加，训练时间也随之增加。这篇论文提出了一种使用OpenCL实现的GPU加速人工...
GPU加速的神经网络BP算法.pdf
09-25
总的来说，GPU加速神经网络BP算法是一种创新的技术，它结合了GPU的优势，解决了大规模神经网络训练的效率瓶颈。这一方法不仅对计算机科学和人工智能领域的研究者提供了有价值的参考，也对那些需要快速处理大规模数据...
基于虚拟化的多GPU深度神经网络训练框架.pdf
09-25
本文主要讨论基于虚拟化的多GPU深度神经网络训练框架，旨在解决深度神经网络在分布式多机多GPU上的加速训练问题。作者提出了基于虚拟化的远程多GPU调用方法，利用分布式环境中的远程GPU资源实现深度神经网络的加速...
深度学习——安装CUDA以及CUDNN实现tensorflow的GPU运行
尘心平的博客
08-03 2607
本篇博客记录了我安装CUDA与CUDNN实现tensorflow GPU运行的过程以及安装过程中出现的一些问题的解决方法
Win10下Tensorflow-gpu使用cpu训练而不是gpu加速
weixin_43716328的博客
04-02 4377
Win10下Tensorflow-gpu使用cpu训练而不是gpu加速
利用gpu加速神经网络算法
clayanddev的博客
12-31 8414
“我这破笔记本的显卡竟然支持cuda，可以，很强！” 前言跳过废话，直接看正文继续神经网络的学习，这次按照speeding-up-your-neural-network-with-theano-and-the-gpu教程完成了theano版的神经网络，并用gpu进行加速。因为比较忙也比较懒的原因，这里就简单列一下代码，环境的配置改天有空再写吧，没空就算了，比较关键的几个就是Anaconda2 、CU
如何使用GPU加速深度学习
热门推荐
yunxinan的专栏
07-11 1万+
提高5倍的训练速度通常使用GPU完成深度学习 why need GPU？caffe speed with GPU，主要为了cuda库来完成线程和进程之间协调分配。调参数后的网络使用建议，计算速度快的主要原因是alexnet在2012年，多节点和多GPU的使用共同训练，做推理时design choices，采用分布式算法带来节点计算提升。 怎样用深度学习使用做Web应用： caffe工具做的w
如何轻松利用GPU加速机器学习？
cipinza7524的博客
12-13 1689
　　 【IT168评论】发布于今年10月份的英伟达RAPIDS开源软件，在GTC China 2018大会上再次被黄仁勋提及——作为英伟达AI软件生态中的重要一员。这是一款针对数据科学和机器学习的GPU加速平台，能...
神经网络——利用GPU训练
qq_42806080的博客
01-27 1938
有两种方式可以实现 目录方式1(.cuda)方式2（.to(device)） 方式1(.cuda) 将网络模型、数据（输入、标注）和损失函数引入cuda() 网络模型： if torch.cuda.is_available(): test = test.cuda() # 使用GPU 损失函数： if torch.cuda.is_available(): loss_fn = loss_fn.cuda() 数据：（训练数据和测试数据） imgs, targets = data if to
Pytorch卷积神经网络GPU加速
weixin_48298208的博客
06-14 907
Pytorch卷积神经网络GPU加速 首先要配置好pytorch，通常我们直接pip install pytorch的话会缺少关于cude的内容，可以通过torch.cuda.is_available()来判断是否需要重新安装pytorch 如果返回False 我们需要到官方重新下载pytorch（https://pytorch.org/），在此之前我们可以pip uninstall 来卸载已有的torch包。 1.官方找到对应自己电脑版本的包 首先查看自己电脑cude版本，打开英伟达控制面板—帮助—系统
使用GPU训练大神经网络之 显存控制策略与提升
silent56_th的博客
05-21 7309
本文是“[PPoPP18] SuperNeurons:Dynamic GPU Memory Management for Training Deep Neural Networks”的论文阅读笔记，论文、talk视频PPT等详见作者主页：https://linnanwang.github.io/ 参考资料： https://linnanwang.github.io/ How to Optim...
CNNdroid：在Android上利用GPU加速执行CNN(卷积神经网络)
walle的博客
03-22 2938
原文 CNNdroid Github
使用GPU和Theano加速深度学习
zdy0_2004的专栏
11-22 2190
http://dataunion.org/20365.html GPU因其浮点计算和矩阵运算能力有助于加速深度学习是业界的共识，Theano是主流的深度学习Python库之一，亦支持GPU，然而Theano入门较难，Domino的这篇博文介绍了如何使用GPU和Theano加速深度学习，使用更简单的基于Theano的 Nolearn库。教程由多层感知器及卷积神经网络，由浅入深，是不错的入门资料
python 0神经网络gpu加速
最新发布
06-04
而CuDNN是由NVIDIA公司开发的加速深度神经网络训练和推理的库，提供了高效的卷积神经网络、循环神经网络和其他常用操作的实现。通过使用CuDNN，可以大幅度提高神经网络的训练和推理速度。 TensorFlow是谷歌公司开发...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值