DL环境配置

下面的开发环境为ubuntu操作系统

windows配置DL环境(GPU)

安装驱动:一般Nvidia显卡,会自动下好驱动,cmd中执行nvidia-smi即可查看当前驱动版本,及对应的cuda版本(cuda driver version),有了该驱动,操作系统才能够调用GPU。

nvidia-smi
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 537.34                 Driver Version: 537.34       CUDA Version: 12.2     |
|-----------------------------------------+----------------------+----------------------+
| GPU  Name                     TCC/WDDM  | Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |         Memory-Usage | GPU-Util  Compute M. |
|                                         |                      |               MIG M. |
|=========================================+======================+======================|
|   0  NVIDIA GeForce RTX 3090      WDDM  | 00000000:01:00.0  On |                  N/A |
|  0%   53C    P8              34W / 350W |    984MiB / 24576MiB |      3%      Default |
|                                         |                      |                  N/A |
+-----------------------------------------+----------------------+----------------------+

安装CUDA Toolkit:CUDA Toolkit包含用于开发CUDA应用程序的编译器、库和调试工具。Toolkit的版本决定了开发者可以使用的CUDA功能和API的版本,它允许软件利用GPU的计算能力。这里我们下载12.1版本,CUDA Toolkit 下载链接,该链接下载的CUDA Toolkit包含的组件通过CUDA Toolkit组件详情查看,注意版本小于等于cuda driver version,下载完之后直接安装即可,或者参考Windows 安装 CUDA/cuDNN - 知乎 (zhihu.com)进行安装,注意如果你电脑上已经安装好了显卡驱动,选择自定义安装,将显卡驱动去掉,这样不会重新安装显卡驱动。

安装好之后,我们用nvcc -V查看是否安装成功

nvcc -V # 安装成功,并且版本时12.1<=cuda driver的12.2
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2023 NVIDIA Corporation
Built on Wed_Feb__8_05:53:42_Coordinated_Universal_Time_2023
Cuda compilation tools, release 12.1, V12.1.66
Build cuda_12.1.r12.1/compiler.32415258_0

另外需要注意的是conda安装pytorch时,会安装cuda的部分功能,让pytorch能够在不安装cuda toolkit和cudnn时,也可正常利用GPU加速计算,如果你只用pytorch不用其它需要cuda的应用时,可以直接用conda安装pytorch的命令即可,比如12.1版本:conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia,由于没有安装CUDA Toolkit,因此这里版本小于等于CUDA Driver版本即可。这里更推荐安装完整版本的CUDA Toolkit,因为能够支持更多深度学习项目。

对于Pytorch之类的深度学习框架而言,其在大多数需要使用GPU的情况中只需要使用CUDA的动态链接库支持程序的运行( Pytorch本身与CUDA相关的部分是提前编译好的),就像常见的可执行程序一样,不需要重新进行编译过程,只需要其所依赖的动态链接库存在即可正常运行,Anaconda在安装Pytorch等会使用到CUDA的框架时,会自动为用户安装cudatoolkit部分功能,其主要包含应用程序在使用CUDA相关的功能时所依赖的动态链接库。

下面是关于CUDA和CUDA Toolkit的介绍,主要是用于开发借助GPU加速计算的应用的。

CUDA is a parallel computing platform and programming model developed by NVIDIA for general computing on graphical processing units (GPUs). With CUDA, developers can dramatically speed up computing applications by harnessing the power of GPUs.

The CUDA Toolkit from NVIDIA provides everything you need to develop GPU-accelerated applications. This CUDA Toolkit includes GPU-accelerated libraries, and the CUDA runtime for the Conda ecosystem. For the full CUDA Toolkit with a compiler and development tools visit https://developer.nvidia.com/cuda-downloads

安装cudnn:需要注册一个nvidia账户,cudnn下载地址,选择对应的版本即可,这里我们下载的是v8.97 for CUDA12.x,然后解压,参考Windows安装CUDA及cuDNN进行安装,里面提到的系统环境变量中的Path环境变量,我没有设置也能通过他说的检验(我的默认是有CUDA\v12.1\bin,和CUDA\v12.1\libnvvp这两个的)。

安装pytorch:进入PyTorch官网,选择合适的命令进行安装,这里我用的是conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia,注意版本与你下载的CUDA Toolkit版本一定要一致。

至此已经全部配置完毕,可以用下面代码验证一下,确保cuda driver>=cuda runtime=torch.cuda.is_available()

nvidia-smi  # 获取cuda driver版本
nvcc -V  # 获取cuda runtime版本
# 查看torch对应的cuda版本
torch.version.cuda
# 查看cuda是否可用
torch.cuda.is_available()

# 查看pytorch版本
torch.__version__
# 查看可用gpu数量
torch.cuda.device_count()

如果我们不安装cudnn和cuda toolkit,只用conda安装pytorch的话(conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia),torch.cuda.is_available()返回的也是True(保证torch.version.cuda的版本小于等于cuda driver即可),我们也可以正常跑一些项目,比如yolov5等,但是不支持mmdetection或者其他需要完整的cuda的项目。

Linux下配置DL环境(GPU)

…未完待续

参考链接

Windows安装CUDA及cuDNN_windows安装cudnn-CSDN博客

一张图了解GPU、CUDA、CUDA toolkit和pytorch的关系_cuda和pytorch的关系-CSDN博客

  • 7
    点赞
  • 24
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值