CUDA介绍与安装

CUDA介绍：

GPU包含许多计算内核，能以高度并行的方式运行一些计算。最初，它们被设计用来加速计算机图形计算，现在越来越多地被用于加速机器学习计算。

CUDA是NVIDIA针对GPU加速计算而开发的编程框架。通过 PyTorch可以很方便地使用CUDA，无须过多地改变代码。

在简单的基准测试中，如矩阵乘法，GPU的速度超过CPU150倍。

在单个计算上，GPU可能比CPU慢。这是因为在CPU之间和在GPU之间的数据传送同样耗时。如果数据量不足以分配给多个内核，GPU的优势便无法得到发挥。

CUDA安装步骤

第一步，确保电脑拥有英伟达显卡，并查询显卡算力https://developer.nvidia.cn/zh-cn/cuda-gpus

第二步，安装Visual Studio，因为安装CUDA过程中需要。

第三步，去英伟达官网下载对应CUDA，CUDA Toolkit Archive | NVIDIA Developer

第四步，下载CUDnn，因为我的CUDA要用在python上。cuDNN Archive | NVIDIA Developer

第五步，确认电脑驱动版本，一般大于450。（一般都是满足的）

第六步，自定义安装，可以更改安装文件夹，文件夹名字最好取的和默认的一样，只是移动到其他盘。

第七步，解压cudnn，复制文件到cuda安装文件夹。

安装成功

 测试CUDA是否可用

已经安装了对应版本的pytorch，在python中写入如下测试代码。

if torch.cuda.is_available():
torch.set_default_tensor_type(torch.cuda.FloatTensor) 
print("using cuda:", torch.cuda.get_device_name(0)) 
pass 

device = torch.device("cuda" if torch.cuda.is_available() 
else "cpu") 

device

检查的语句是 torch.cuda.is_available() 。如果设备可用，我们将默认的数据类型设为torch.cuda.FloatTensor 。然后，我们打印出 CUDA 找到的设备名。