NVIDIA的CUDA是指什么?
NVIDIA的CUDA(Compute Unified Device Architecture)是一种并行计算平台和编程模型,旨在利用NVIDIA图形处理器(GPU)的强大并行计算能力。CUDA使开发人员能够使用C语言、C++、Fortran等编程语言来编写能够在GPU上并行执行的程序。
CUDA的主要目标是充分发挥GPU的大规模并行性能,使其不仅用于图形处理,还用于一般的科学计算和其他高性能计算应用。通过CUDA,开发人员可以将计算任务分解成许多小的并行任务,然后在GPU上同时执行这些任务,从而加速整体计算过程。
CUDA包括一个编程模型、一套用于管理GPU资源的API(应用程序接口),以及一种在GPU上执行的并行计算指令集。它已成为广泛用于科学计算、深度学习、图形学等领域的标准工具之一。
CUDA 环境安装(Win10 64位)参考笔记:
1.前提条件:
设备上安装了NVIDIA显卡设备
2.查看显卡版本号:
NVIDIA控制面板->系统信息(左下角)->组件->显卡CUDA驱动的版本号
3.下载安装CUDA :
https://developer.nvidia.com/cuda-toolkit-archive
注:CUDA开发包版本要与显卡CUDA驱动的版本号对应
4.下载安装cuDNN (要与CUDA开发包的版本对应)
https://developer.nvidia.com/cudnn
注:需要注册账号(提交相关问题, 可随意填写)
5. 安装CUDA:
向导默认安装
6.安装cuDNN:
I.打开cuda安装文件夹,默认的强制安装路径为:
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\版本号:
II.将解压的cuDNN压缩包内的三个文件夹复制到CUDA安装目录下:
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\版本号 \bin,include,lib
III.验证cuDNN是否安装完成:
cd C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\demo_suite
执行: bandwidthTest.exe
控制台显示: Result=pass 表示GPU环境安装成功
注:安装CUDA的图文帮助文档可参考(亲测成功):
https://blog.csdn.net/qq_38140292/article/details/114157146
CUDA C编程接口官方文档:
https://docs.nvidia.com/cuda/cuda-c-programming-guide/index.html#compute-capabilities
查看显卡算力:
https://developer.nvidia.com/cuda-gpus#compute
如本人机器:GeForce GTX 1650 Ti > GeForce GTX 1650 有 7.5 的计算性能
Pytorch使用CUDA
安装时torchVision与torch版本要对应上,版本对应关系可参考:
https://www.zhihu.com/question/566477739
注意:如果版本没对应上,Pytorch使用CUDA不会起作用,还是会使用CPU的算力