【AI基础】第二步：安装AI运行环境

旭日跑马踏云飞

已于 2024-06-14 14:44:19 修改

阅读量951

点赞数 31

分类专栏： AI 文章标签：人工智能

于 2024-06-03 15:24:24 首次发布

本文链接：https://blog.csdn.net/tirestay/article/details/139330882

版权

AI 专栏收录该内容

15 篇文章 1 订阅

订阅专栏

开局一张图：

接下来按照从下往上的顺序来安装部署。

规则1 注意每个层级的安装版本，上层的版本由下层版本决定

比如CUDA的版本，需要看显卡安装了什么版本的驱动，然后CUDA的版本不能高于这个驱动的版本。

这个比较好理解，CUDA、PyTorch都有向下兼容性。比如显卡支持版本12，你只要不超过版本12，那么显卡都能支持你去使用，所以CUDA的版本可以小于等于12。PyTorch同理。

此系列文章列表：

【AI基础】概览

【AI基础】第一步：安装python开发环境-windows篇_下载安装ai环境python

【AI基础】第一步：安装python开发环境-conda篇_minicode怎么换虚拟环境

【AI基础】第二步：安装AI运行环境

【AI基础】第三步：纯天然保姆喂饭级-安装并运行chatglm2-6b

【AI基础】第四步：保姆喂饭级-langchain+chatglm2-6b

【AI基础】第五步：纯天然保姆喂饭级-安装并运行chatglm3-6b

【AI基础】第六步：纯天然保姆喂饭级-安装并运行qwen2-7b

一、安装CUDA

1.1 确定版本

根据 规则1，我们查看自己显卡支持的版本，然后来决定下载哪个版本的CUDA。

打开显卡控制面板：

查看安装的驱动：

可以看到安装的CUDA驱动版本为12.2.68，那我们安装的 CUDA Toolkit 版本需要小于等于此版本。

1.2 下载安装

下载地址：CUDA Toolkit Downloads

老版本地址：CUDA Toolkit Archive

进入页面后选择操作系统相关信息后，下载cuda的最新安装包：

也可以下载历史版本：

按照上面1.1版本确认，版本需要小于等于12.2.68，这里选择12.2.0。

下载后双击安装，一路下一步后，到安装位置，可以看到默认安装在 c:\Program Files\NVIDIA GPU Computing Toolkit 路径下：

1.3 安装检验

在命令行运行 nvcc -V查看：

> nvcc -V

二、安装cuDNN

2.1 确认版本

根据 规则1，cuDNN的版本要适配CUDA的版本12.2.0。

2.2 下载安装

下载地址：cuDNN最新版下载

老版本下载地址：cuDNN Archive | NVIDIA Developer

进入页面后选择操作系统相关信息后，下载cuDNN的最新安装包：

也可以下载历史版本：

根据版本规则，我们需要选择上图中 for CUDA 12.x的版本。

解压后，把cuDNN的文件夹合并到CUDA的安装路径下的同名文件夹：

比如bin文件夹合并后如图：

红框内的为cuDNN的扩展文件。

三、安装pyTorch

3.1 确认版本

根据 规则1，pyTorch支持的CUDA的版本需要小于等于12.2.0。

3.2 下载安装

获取命令地址：Start Locally | PyTorch

获取老版本命令地址：Previous PyTorch Versions | PyTorch

如图选择CUDA 11.8，小于 CUDA Toolkit 12.2.0，是可以直接安装的。

获取到的安装命令：

> conda install pytorch torchvision torchaudio pytorch-cuda=11.8 -c pytorch -c nvidia

也可以安装历史版本：

获取到的安装命令：

> conda install pytorch==2.2.2 torchvision==0.17.2 torchaudio==2.2.2 pytorch-cuda=12.1 -c pytorch -c nvidia

3.3 安装检验

进入python环境：

> python

导入pyTorch库及相关命令：

>>> import torch
>>> print(torch.cuda.is_available())       # 查看GPU是否可用     
>>> print(torch.cuda.device_count())       # 查看GPU数量    
>>> print(torch.cuda.get_device_name(0))   # 根据索引号得到GPU名称
>>> print(torch.cuda.current_device())     # 查看GPU索引号
>>> print(torch.version.cuda)              # torch方法查看CUDA版本
>>> print(torch.backends.cudnn.version())  # torch方法查看CUDA版本