【问题记录】如何查找服务器的 cuda 环境变量 TORCH_CUDA_ARCH_LIST

已于 2023-11-15 16:30:50 修改
阅读量4.1k 收藏 7
点赞数 6
分类专栏： 问题记录 文章标签： python cuda
于 2023-11-10 17:46:55 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/jiaoyangwm/article/details/134338386
版权
本文介绍了设置TORCH_CUDA_ARCH_LIST环境变量在PyTorch编译中的优势，包括减少编译时间、节省磁盘空间和提升特定GPU架构的运行性能。通过指定特定CUDA版本，安装过程会加速并针对性地优化代码。
摘要由CSDN通过智能技术生成

设置 TORCH_CUDA_ARCH_LIST 环境变量主要有以下几个好处：

  • 编译时间：当你从源代码编译PyTorch或其他依赖CUDA的库时，指定特定的CUDA架构可以减少编译时间。默认情况下，库可能会为所有支持的CUDA架构生成二进制代码，这可能需要相当长的时间。如果你只指定自己实际使用的那些架构，就可以节省大量时间。

  • 磁盘空间：预编译的二进制文件可能会占用大量磁盘空间。通过限制要支持的CUDA架构数量，可以减少这些文件所需的存储空间。

  • 运行性能：在某些情况下（尤其是在使用老旧GPU时），为特定架构优化过的代码可能比通用代码运行得更快。

python -c "import torch; print(torch.cuda.get_device_capability())"
>>> (8, 0) # 对应的就是 8.0

在安装环境的时候可以使用 TORCH_CUDA_ARCH_LIST=“8.0” python setup.py install 来安装，能加速

呆呆的猫
关注
专栏目录
Pytorch 使用不同版本的cuda的方法步骤
09-17
主要介绍了Pytorch 使用不同版本的cuda的方法步骤，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
DeepSpeed实现分布式训练与分布式推理
heyiqiunet的博客
09-19 1505
DeepSpeed是一个由微软开发的分布式训练工具，它通过ZeRO技术优化内存占用，支持更大规模的模型训练。ZeRO通过分片模型参数、优化器状态和梯度来减少显存需求，分为多个阶段，如Stage1、2和3，每个阶段逐步增加内存优化程度。混合精度训练结合FP16和FP32，降低显存使用。DeepSpeed的核心在于，GPU显存不够，CPU内存来凑。
Pytorch基础：环境变量CUDA_VISIBLE_DEVICES
前进，才知道自己的渺小
05-13 2371
CUDA_VISIBLE_DEVICES这个环境变量可以影响CUDA能识别到的GPU，并影响它映射到的cuda设备编号。
unbuntn 系统 cuda查看与添加环境变量
weixin_47532300的博客
04-13 1472
sudo rm -rf /usr/local/cuda #删除之前创建的软链接 (最后一定不要有斜杠） sudo ln -s /usr/local/cuda-11.0 /usr/local/cuda #创建链接到cuda9.0的软链接 nvcc --version #查看当前cuda版本 查看cuda 版本 sudo find / -name cuda ...
cuda 环境变量配置
雪剑封心
01-18 9289
cuda 环境变量 vim ~/.bashrc 键盘大写“G”，在最末端输入 使其生效：source ~/.bashrc 验证 nvcc -V export PATH="/usr/local/cuda-11.3/bin:$PATH" export LD_LIBRARY_PATH="/usr/local/cuda-11.3/lib64:$LD_LIBRARY_PATH"
cuda 环境变量
weixin_43281571的博客
05-23 3120
下载完成cuda 添加环境变量 sudo gedit ~/.bashrc source .bashrc
ubuntu14.04+cuda7.0环境变量配置
qq632544991p的专栏
08-04 4496
ubuntu14.04+cuda7.0 集成开发环境
windows 查看cuda版本_最详细不过的CUDA的下载安装使用、环境变量配置，有这一篇就够了...
weixin_33284411的博客
02-03 1583
在上一期中，我们介绍了为什么使用GPU可以加速计算和处理图像，以及查看自己的电脑能否使用GPU加速，不知道的可以去看上一期文章，这期我们正式的来下载与安装GPU加速工具CUDA，并检查是否安装成功。​前言：安装CUDA之前，我们需要做一些准备工作，一起来看一下NVIDA的官方的CUDA下载安装文档，地址：https://docs.nvidia.com/cuda/cuda-installation-...
windows服务器调出环境变量窗口
a787188834的专栏
06-29 1693
win+R 输入 ：sysdm.cpl
Linux系统查看环境变量（env命令）
热门推荐
weixin_42031299的博客
03-15 1万+
env命令 linux系统中的环境变量是很多的，就算是一些常用的环境变量我们也不一定能记得全名。env命令可以显示当前操作系统所有的环境变量，下面的示例代码是Ubuntu系统的。 示例 dai@ubuntu:~$ env USER=dai XDG_SESSION_PATH=/org/freedesktop/DisplayManager/Session0 XDG_SEAT_PATH=/org/freedesktop/DisplayManager/Seat0 SSH_AUTH_SOCK=/run/user/
pycharm中如何使用export TORCH_CUDA_ARCH_LIST="7.5"
03-12
你可以在Pycharm的Terminal中输入以下命令来设置环境变量： export TORCH_CUDA_ARCH_LIST="7.5" 然后你就可以在Pycharm中使用CUDA 7.5来编译你的代码了。
AttributeError: module 'torch.cuda' has no attribute 'get_arch_list'
04-25
AttributeError: module 'torch.cuda' has no attribute 'get_arch_list'是一个错误提示，意味着在torch.cuda模块中没有名为get_arch_list的属性。这个错误通常发生在使用PyTorch时，尝试访问不存在的属性或方法时会...
RuntimeError: CUDA error: device-side assert triggered Compile with `TORCH_USE_CUDA_DSA` to enable device-side assertions. 怎么改
最新发布
09-20
export TORCH_CUDA_ARCH_LIST="6.0;7.0;8.0" && \ CC=`which gcc` CXX=`which g++` CUDA_HOME=$CUDA_PATH python configure.py --enable-cuda --with-cuda-dsa ``` 2. **重新编译并安装**：配置完成后，执行`...
UserWarning:NVIDIA GeForce RTX 3060 Laptop GPU with CUDA capability sm_86 is not compatible with th
tp_0moyi0的博客
10-13 1万+
今天打算学习一下简单的深度学习模型，然后在网上找了一段简单的代码 找的代码网站如下：Pytorch实战1：LeNet手写数字识别 (MNIST数据集)_sunqiande88的博客-CSDN博客 复制拷贝之后在 VSCode 上面运行发现出了下面这个错误 PS D:\vscode\code> python day1013.py D:\Anaconda3\File\lib\site-packages\torchvision\datasets\mnist.py:498: UserWarni.
Cuda __CUDA_ARCH__宏
Kelvin_Yan的专栏
12-14 1885
__CUDA_ARCH__宏
PyTorch查看CUDA支持情况
sinat_38059712的博客
06-23 3962
import torch import torchvision print(torch.cuda.is_available()) 上面的命令只是检测CUDA是否安装正确并能被Pytorch检测到，并没有说明是否能正常使用，要想看Pytorch能不能调用cuda加速，还需要简单的测试一下： a = torch.Tensor(5,3) a = a.cuda() print(a) Cuda runtime error (48) : no kernel image is available for execu
在服务器上安装pytorch并配置CUDA环境变量
weixin_51571338的博客
10-10 1740
这将显示有关安装的NVIDIA驱动程序的详细信息，包括版本号。本服务器上NVIDIA驱动程序版本：460.56；CUDA版本：11.2。
关于我想安装cuda11.8版本的torch
qq_43900762的博客
06-28 9178
重新去搜了个命令：pip install torch==1.8.0+cu111 torchvision==0.9.0+cu111 torchaudio==0.8.0 -f https://download.pytorch.org/whl/torch_stable.html。用这个官网的命令下，一直会把cpu版本的一起下下来，导致运行的时候一直cpu版本而不是gpu版本，torch.cuda.is_available()这个是false，问题很大。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

呆呆的猫

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值