关于使用pytorch在30系列显卡（高级别显卡）算力不够问题

最新推荐文章于 2024-05-25 15:15:46 发布
最新推荐文章于 2024-05-25 15:15:46 发布
阅读量1.4k 收藏 3
点赞数 1
分类专栏： CUDA 算力 文章标签： pytorch 深度学习 python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44883371/article/details/127904165
版权

问题

在后台搭建docker镜像环境时，在10、20系列卡上兼容常见版本的pytorch。搭建环境时在dockerhub、nvidia官网随便拉取镜像基本都能使用。但把镜像迁移到30系列卡时就会有算力不够的情况，主要原因就是30系列卡的算力升级了。。。详情见这个博客

具体日志

/opt/conda/lib/python3.7/site-packages/torch/cuda/init.py:125:
UserWarning:
NVIDIA GeForce RTX 3080 Ti with CUDA capability sm_86 is not compatible with the current PyTorch installation.
The current PyTorch install supports CUDA capabilities sm_37 sm_50 sm_60 sm_61 sm_70 sm_75 compute_37.
If you want to use the NVIDIA GeForce RTX 3080 Ti GPU with PyTorch, please check the instructions at https://pytorch.org/get-started/locally/

意思是：NVIDIA GeForce RTX 3080 Ti与CUDA能力sm_86不兼容目前的PyTorch安装。
当前的PyTorch安装支持CUDA能力sm_37 sm_50 sm_60 sm_61 sm_70 sm_75 compute_37。
也就是安装的cuda版本低了，但pytorch安装是要和cuda对应的，所以也能说是pytoch安装版本不对。。。

解决方法

  • 升级torch版本
  • 升级torch对应cuda版本

在这里插入图片描述
在这里插入图片描述

门前大橋下丶
关注
  • 1
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
pytorch 支持amd显卡吗_深度学习搞起来！对标英伟达Tensor Core，AMD推出Matrix Core
weixin_40006965的博客
12-08 1121
AMD 发布 Instinct MI100 加速器，它使用最新 Matrix Core 技术，是面向 HPC 和 AI 的新型加速系统。AMD 表示这是全球最快的 HPC GPU，也是首个超越 10 teraflops (FP64) 性能障碍的 x86 服务器 GPU。机器之心报道，编辑：魔王、小舟。当前，GPU 已经成为深度学习训练的标配，而针对深度学习中的 Tensor 操作，各大厂商在设计软...
在pytorch中指定显卡
Meiling_up
04-29 251
https://zhuanlan.zhihu.com/p/166161217
笔记本4060显卡配置一个项目的深度学习环境
最新发布
qq_64502451的博客
05-25 377
已经将cuda版本升级到最高了，还是不对请问该怎么办？
Pytorch显卡设置
思念殇千寻的博客
03-01 1825
　　参考资料： 　　https://zhuanlan.zhihu.com/p/166161217 　　本人最常使用到显卡和CUDA的东西莫过于Pytorch了。这篇文章着重说明两个问题：1. 如何import torch并使之输出比较完备的CUDA信息 2. 在服务器上有多张卡的环境下，如何使任务在特定的卡或特定的几张卡上跑。 　　第一个问题： 　　任务目标是输出信息，那么不妨借助Pytorch...
Windows系统安装PyTorch框架支持AMD Radeon显卡/Intel显卡
CUFEECR的博客
03-25 2960
PyTorch对NVIDIA显卡的支持最好，但是通过额外配置，也可以支持其他常见显卡，例如通过安装DirectML即可实现使用AMD和Intel显卡，但是性能上可能存在一定的区别，需要根据需要和表现进行灵活选择。
|pytorch安装| 根据自己显卡安装pytorch并配置python环境全过程
qq_58202678的博客
03-21 1271
pytorch安装| 根据自己显卡安装pytorch并配置python环境全过程|pytorch安装| 根据自己显卡安装pytorch并配置python环境全过程。
Win11系统/RTX30系列显卡——安装gpu版pytorch完整教程
05-15
本教程旨在指导用户在 Win11 系统和 RTX30 系列显卡上安装 GPU 版本的 PyTorch。PyTorch 是一个流行的机器学习框架，广泛应用于自然语言处理、计算机视觉、语音识别等领域。安装 GPU 版本的 PyTorch 可以充分发挥 ...
200306-Pytorch旧版本及非系统显卡驱动安装
01-20
在LInux/ubuntu上安装特定版本的 Pytorch ，例如 0.3.1版本 Pytorch historical version 使用conda/pip安装pytorch 0.3.1教程(mac/windos/linux) Anaconda | Pytorch Step1: 从跳板机gpu01切换到开发机gpu02或mu01...
机器学习，pytorch英伟达显卡驱动，cndann，适用于cuda12.1以上
04-29
以上就是关于"机器学习，pytorch英伟达显卡驱动，cndann，适用于cuda12.1以上"的相关知识点，包括PyTorch、CUDA、CUDNN的作用、安装步骤以及验证过程。确保这些组件正确配置，可以让你在机器学习项目中充分利用GPU的...
pytorch 限制GPU使用效率详解(计算效率)
12-17
在PyTorch中，与TensorFlow不同，官方API并没有直接提供一种方法来限制GPU的使用效率。然而，根据描述中的思路，我们可以采用一种巧妙的方法来间接控制GPU的使用率，即通过让GPU在执行完计算任务后休息一段时间，...
关于如何在少占用C盘空间的前提下安装ANACONDA和PyTorch，并在jupyter notebook中使用的综述
01-24
本文旨在提供一个详尽的指南，帮助用户在不占用过多C盘空间的情况下完成这两个工具的安装，并能在Jupyter Notebook中使用PyTorch。 首先，安装ANACONDA时，关键在于设置安装路径和环境变量。不要选择默认的C盘安装...
低算力SM_30使用最新pytorch-1.13
axyes的博客
04-21 790
低算力SM_30使用最新pytorch-1.13 SM_30，如，Quadro K4000。 Centos8.4，内核4.18.0-348.7.1.el8_5.x86_64。
pytorch深度学习环境配置（GPU3070）
ljx12305的博客
04-07 4527
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 pytorch深度学习环境配置（GPU3070）前言一、Anaconda的安装二、CUDA安装1.查看显卡2.安装并配置CUDA3.配置CUDA环境变量4.验证一下CUDA是否成功，按win+R 输入cmd三、cuDNN安装四、pytorch安装五、测试pytorch CUDA是否可用总结 前言 拯救者R9000P，NVIDIA3070显卡 一、Anaconda的安装 官网：https://www.anaconda.com/produ.
3080Ti Ubuntu 20 支持的Pytorch
weixin_43701733的博客
10-28 244
pip install torch==1.8.0+cu111 torchvision==0.9.0+cu111 torchaudio==0.8.0 -f https://download.pytorch.org/whl/torch_stable.html
pytorch gpu设置
热门推荐
fly
07-28 1万+
1. 显示当前GPU使用情况 nvidia-smi 2. 指定gpu使用 2.1 终端指定 CUDA_VISIBLE_DEVICES=2 python xxx.py 2.2 代码中指定 import os os.environ["CUDA_VISIBLE_DEVICES"] = "2"
【pytorch】深度学习所需算力估算：flops及模型参数量
种一棵树最好的时间是十年前，其次是现在
03-22 7881
因为8GB显卡的实际可用显存约为7500MB左右，可以满足模型在最大推理batchsize下的显存需求，同时还有一定的余量，可以保证模型能够正常运行。在部署时，需要考虑芯片的显存，是因为显存的大小限制了模型的最大批次大小。如果模型的批次大小超过了显存的大小，那么就无法将整个批次的数据同时加载到显存中，需要分批处理，这会增加模型推理的时间。这是因为模型的参数需要存储在显存中，而在计算过程中，也会涉及到一些中间结果的存储和计算，所以需要足够的显存来支持模型的运行。一般来说，批量大小越大，需要的计算能力就越大。
PyTorch特定版本安装及显卡驱动版本选择
weixin_44508918的博客
07-11 5241
PyTorch特定版本安装及显卡驱动版本选择 文章目录PyTorch特定版本安装及显卡驱动版本选择一、PyTorch安装加速1.选择好特定的版本2.依靠浏览器下载PyTorch安装包3.查看安装命令4.进行本地安装二、安装与PyTorch版本对应版本的CUDA和CUDNN1.查看版本信息2.下载及安装总结 一、PyTorch安装加速 1.选择好特定的版本 本文以1.5.0Gpu版本为例 2.依靠浏览器下载PyTorch安装包 安装pytorch过程中，如果直接在线安装，用时最长可能就是安装包下载了
RTX3080ti Pytorch踩坑指南
aixuexidelele的博客
11-10 6443
RTX3080ti Pytorch踩坑指南 写在前面的罗里吧嗦 都说3080不支持cuda10, 可是复现前两年的代码，对应低版本的pytorch，可怎么跑呢？ 经过亲身试验，安装cuda10，跑代码各种cuda相关报错。最终找到了一条玄学之法。（仅个人经验） 如果在cuda110的上直接使用下面的命令装pytorch1.4.0，行不通。（来自pytorch官网） （达咩）conda install pytorch==1.4.0 torchvision==0.5.0 cudatoolkit=10.1 -
pytorch框架：使用gpu进行训练
m0_55282920的博客
02-28 461
RuntimeError（运行时错误）： 预期所有张量都在同一设备上，但发现至少有两个设备，即 cpu 和 cuda:0！借助它，您可以在 GPU 加速的嵌入式系统、桌面工作站、企业数据中心、基于云的平台和超级计算机上开发、优化和部署您的应用程序。解决：debug一下，检查是否所有的数据都在gpu上，如果不是，就改到gpu上去。该工具包包括 GPU 加速库、调试和优化工具、C/C++ 编译器和运行时库。可以通过一些工具进行升级，或者进入驱动程序的下载界面，选择相应显卡的系列。三、查看GPU的硬件信息。
pytorch使用多张显卡
07-27
在PyTorch中使用多张显卡可以通过数据并行的方式实现模型的训练和推理加速。下面是使用多张显卡的一般步骤： 1. 导入必要的库： ```python import torch import torch.nn as nn import torch.optim as optim import torch.nn.functional as F from torch.utils.data import DataLoader ``` 2. 定义模型： ```python class MyModel(nn.Module): def __init__(self): super(MyModel, self).__init__() # 定义你的模型结构 def forward(self, x): # 定义前向传播过程 return x ``` 3. 初始化多个GPU设备： ```python device = torch.device("cuda" if torch.cuda.is_available() else "cpu") device_ids = [0, 1, 2] # 假设有3个可用的GPU设备 ``` 4. 将模型放到多个GPU上： ```python model = MyModel() model = nn.DataParallel(model, device_ids=device_ids) model.to(device) ``` 5. 定义损失函数和优化器： ```python criterion = nn.CrossEntropyLoss() optimizer = optim.Adam(model.parameters(), lr=0.001) ``` 6. 加载数据并创建数据加载器： ```python train_dataset = ... train_loader = DataLoader(train_dataset, batch_size=64, shuffle=True) ``` 7. 训练模型： ```python model.train() for epoch in range(num_epochs): for data, labels in train_loader: data = data.to(device) labels = labels.to(device) optimizer.zero_grad() outputs = model(data) loss = criterion(outputs, labels) loss.backward() optimizer.step() ``` 8. 在推理阶段，将输入数据也放到GPU上： ```python model.eval() with torch.no_grad(): inputs = inputs.to(device) outputs = model(inputs) ``` 这样就可以在多张显卡上并行地训练和推理模型了。注意，当使用`nn.DataParallel`时，模型的`forward`函数会自动在多个GPU上运行，而不需要我们手动指定。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值