使用GPU跑代码，设置使用哪块GPU

已于 2023-02-21 19:44:02 修改
阅读量2.5k 收藏 17
点赞数
分类专栏： 暑期深度学习入门 文章标签： 深度学习
于 2022-11-11 15:48:41 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/WKX_5/article/details/127807265
版权

服务器多张GPU同时跑代码
1、 查看电脑的显卡有几块(在控制台输入)

nvidia-smi

在这里插入图片描述
发现服务器有两个显卡，0号和1号

2、 在代码中指定GPU
使用0号显卡：

device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
net.to(device)

nvidia-smi

在这里插入图片描述

使用1号显卡：

device = torch.device("cuda:1" if torch.cuda.is_available() else "cpu")
net.to(device)
miulatata
关注
  • 0
    点赞
  • 踩
  • 17
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
[配置好cuda9.0+cudnn7.0+tensorflow-gpu1.5.0+windows10]在使用GPU跑代码时出现的问题.docx
04-05
此篇文章主要是：自己在配置tensorflow-gpu环境后，在进行实验时发现的问题（想测试下是否可用gpu跑代码），此次配置相关信息：windows10+cuda9.0+cudnn7.0+tensorflow-gpu1.5.0 希望我们能够共同学习
使用gpu跑代码
白雪
08-27 6810
配置tensorflow-gpu环境 代码里选择指定gpu【可选】 import os os.environ['CUDA_VISIBLE_DEVICES'] = '0' # 使用 GPU 0 os.environ['CUDA_VISIBLE_DEVICES'] = '0,1' # 使用 GPU 0，1 终端设置可见gpu【可选】 CUDA_VISIBLE_DEVICES=1 python your_file.py # 可用的形式如下： # CUDA_VISIBLE_DEVIC
代码调用GPU的步骤
weixin_44943389的博客
06-24 1514
请注意，这些代码片段只是一个示例，你需要将其与你的代码相结合并根据需要进行修改。确保在每个需要进行计算的地方将数据移动到GPU上，并在需要时将其移回CPU进行后续处理。另外，确保在计算时避免频繁的数据移动操作，尽量在GPU上进行更多的计算操作，以充分利用GPU的并行计算能力。
如何正确配置Python环境，并且顺利在Windows11上调用GPU使用Tensorflow2进行模型训练
最新发布
AutisticKid的博客
03-28 894
安装合适的python版本 配置python环境 配置CUDA cuDNN 配置TensorFlow-DirectML-Plugin插件 让Tensorflow顺利调用显卡！
tensorflow-gpu测试代码
11-12
列出所有GPU设备，并进行GPU测试
在 PyTorch 中，怎么指定程序使用的 GPU。
weixin_51659315的博客
01-19 652
在你的代码中，你已经使用了 args.cuda = torch.cuda.is_available() 来设置这个变量，确保 CUDA 可用性。请注意，使用这种方法只是在运行脚本时指定程序能够看到哪些 GPU，而不是在代码中直接指定使用某一张 GPU。这将在代码中明确指定程序使用的 GPU 设备。根据你的需求，你可以在 set_device 中传递不同的 GPU 索引。在你的命令行中运行脚本之前，你可以设置该环境变量。在这个例子中，程序将只能看到索引为 0 和 1 的两张 GPU，并使用它们进行计算。
深度学习之python使用指定gpu运行代码
zero_ling
06-11 7339
运行python文件时，在前面加上 CUDA_VISIBLE_DEVICES=xxx，xxx是你要指定的gpu序号。如`CUDA_VISIBLE_DEVICES=0,2 python extract_masks.py`表示指定了0、2号两个gpu。注意，序号是从0开始排的，所以如果你只有一个gpu，那么就是`CUDA_VISIBLE_DEVICES=0 python extract_masks.py`
【python】pytorch包（第三章）GPU上运行代码
高斯的博客
05-23 2973
结果为True即可行，否则不可行。
一文详解如何用GPU来运行Python代码/基于Python自制一个文件解压缩小工具
ai520wangzha的博客
06-26 3778
前几天捣鼓了一下Ubuntu，正是想用一下我旧电脑上的N卡，可以用GPU来跑代码，体验一下多核的快乐。还好我这破电脑也是支持Cuda的：12345678910111213sudo*-displayphysicalid: 0。
【多GPU训练】选择服务器中部分指定GPU进行使用
qq_45193872的博客
01-26 7607
使用背景： 主机多GPU情况下选择指定部分GPU使用 很多服务器在进行配备时会装配多块GPU，那么我们在使用服务器时，有时可能会多个终端对服务器进行操控，因此有时需要对特定的GPU进行指定操作，才不会使用户之间使用GPU时相互影响；或者需要指定特定数量的GPU才能达到训练效果。
解决通过CUDA调用GPU运行机器学习代码
有朋自远方来，不亦乐乎。
05-11 1万+
前言： 有一群志同道合的伙伴真是人生中的一大幸事。 一、准备环境 1、下载anaconda Anaconda | The World's Most Popular Data Science Platformhttps://www.anaconda.com/ Ananconda安装教程： (1条消息) 史上最全最详细的Anaconda安装教程_OSurer的博客-CSDN博客_anaconda 安装https://blog.csdn.net/wq_o...
GPU在docker和kubernetes中的使用
02-24
伴随着人工智能、机器学习、深度学习等技术的火热，GPU近年来也得到了快速的发展。GPU可以大大加快深度学习任务的...docker本身并不原生支持GPU，但是使用docker的现有功能可以对GPU的使用进行支持。 如上所述，通过--
cuda环境搭建及测试GPU使用.pdf
10-27
cuda安装和GPU使用
tensorflow-gpu测试代码.py
01-27
tensorflow-gpu测试代码
笔记本用gpu运行tensorflow-gpu，keras写的老程序，结果与原来不一样，一脸懵逼。
babytiger的专栏
12-07 427
否则最后跑程序会报错。再说现象，突发奇想想在笔记本上运行一个以前在1080ti+tensorflow-gpu1.5.2,keras2.2.4上面写的一个图像分类模型，先用cpu模式 运行一下一切正常。所以以前的代码要升级了，要把cuda升级到11.1 ,对应的tensorflow-gpu2.X ，keras都要升级，或者只用cpu运行。换成了gpu，配好了cuda10.0,tensorflow-gpu1.5.2,keras2.2.4，再运行，明明是武器却识别成正常了。
在服务器上指定GPU跑代码
云隐雾匿的博客
02-25 5276
在服务器上指定GPU跑代码， 指定GPU无法生效解决方法
python运行程序设置指定GPU(查看GPU使用情况)
热门推荐
LJC的博客
07-17 3万+
常见的两种使用方式如下： 一、python文件里设置指定GPU 一般情况： import os os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID" （保证程序cuda序号与实际cuda序号对应） os.environ['CUDA_VISIBLE_DEVICES'] = "0,1" （代表仅使用第0，1号GPU） 单GPU： os.environ["CUDA_VISIBLE_DEVICES"] = "2"###代表只使用第3个gpu 而没设置的时候一般会只用第
【深度学习】使用GPU（CUDA）跑通YOLOv5源码，包含搭建环境+训练数据集+预测（整套流程）
努力敲代码的小盆友
11-20 3079
浅浅记录从0安装环境、安装软件、搭建环境、训练数据集、预测的一整套流程，也记录了整套流程下来遇到的一些bug。
【深度学习】Python使用指定gpu运行代码
TwcatL_tree
10-29 4586
注意，序号是从0开始排的，所以如果你只有一个gpu，那么就是CUDA_VISIBLE_DEVICES=0 python extract_masks.py。在大型机构分配的服务器集群中，需要使用GPU的程序默认都会在第一张卡上进行，如果第一张卡倍别人占用或者显存不够的情况下，程序就会报错说没有显存容量，所以能够合理地利用GPU资源能帮助你更快更好地跑出实验效果。说明：程序会根据卡的容量分配成两个程序，不一定在两张卡，有时候一张卡的容量够则会在该张卡上开启新的进程。
使用gpu运行代码情况
04-30
使用GPU运行代码可以加速深度学习模型的训练和推理。通常情况下，GPU比CPU更适合进行大规模矩阵计算和并行计算。在训练深度学习模型时，可以使用GPU来加速模型的参数更新和误差反向传播过程。在进行推理时，使用GPU可以加速模型的预测速度。 如果你使用的是基于Python的深度学习框架（如PyTorch或TensorFlow），则可以通过在代码中使用GPU加速来利用GPU资源。在PyTorch中，可以使用`.cuda()`方法将模型和数据移动到GPU上，而在TensorFlow中，则可以使用`tf.device()`和`tf.config.set_visible_devices()`等方法指定GPU设备。 需要注意的是，使用GPU进行深度学习训练和推理需要一定的硬件和软件配置，如显卡驱动程序、CUDA和cuDNN等组件的安装与配置。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值