02-ChatGLM4实践—CUDA环境配置

1、CUDA和驱动的对应版本

查看地址：https://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index.html
由于ChatGLM 采用的深度学习框架是Pytorch2.3，本次安装是GPU版本，对应的CUD为12.1

2、显卡信息

1 打开“任务管理器“”，性能下面查看显卡的硬件信息

2 查看驱动版本，如果版本不符合请更新显驱动
方式1: 显卡控制面板

方式2：快捷指令
终端中输入：nvidia-smi

3、安装显卡驱动

如果显卡版本达到要求可以略过本条
下载地址：https://www.nvidia.cn/Download/index.aspx?lang=cn&ptid=1&psid=52&pid=0

按照默认提示安装即可

4、CUDA安装

1 CUDA(ComputeUnified Device Architecture)，是显卡厂商NVIDIA推出的运算平台。 CUDA是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。
下载地址：https://developer.nvidia.com/cuda-toolkit-archive


2 安装过程


3 如果安装有报错，安装visual Studio 2022

5、安装CUDNN

说明：NVIDIA cuDNN是用于深度神经网络的GPU加速库
1 下载地址：https://developer.nvidia.com/rdp/cudnn-archive（需要注册账号，可能由于网络原因失败）

2解压

3 复制到cuda的安装目录，替换即可

6、测试安装

试试CUDA环境是否成功
nvcc -V

需要下载链接：

链接：https://pan.baidu.com/s/1-NmXmYuJ6kSSMZEp9MIbGQ?pwd=w6km
提取码：w6km