安装之前:请确保apt使用了国内源,推荐使用清华源
一、安装显卡驱动
1. 打开软件与更新, 选择附加驱动.
2. 选择较高版本的驱动安装, 建议选择server版安装, 即服务器版更加稳定.
3. 安装完成后重启, 并检查是否安装成功.
# 重启
reboot
# 检查驱动
nvidia-smi
二、安装CUDA
1. 从链接中选择合适版本下载.
https://developer.nvidia.com/cuda-toolkit-archive
2. 选择runfile的方式, 并根据提示下载好所需文件.
3. 运行脚本, 安装cuda
- 运行脚本时, 在开始或中间可能会遇到等待时间较长, 都是正常状态.
- 运行时, 选择continue后, 不要乱按任何键, 直接输入accept并回车, 同意协议.
- 按空格选择需要安装的内容, 此处只保留cuda toolkit.
- 完成选择后确认并等待即可.
4. 安装成功
安装完成后建议根据提示
- 将/usr/local/cuda-xxx/bin 添加至PATH(添加后可以直接在终端运行例如nvcc这种命令, 也有助于某些c++程序找到cuda)
- 将/usr/local/cuda-xxx/lib64 添加至LD_LIBRARY_PATH(c++程序链接cuda依赖包需要)
- 同2中,或将/usr/local/cuda-xxx/lib64 写入/etc/ld.so.conf 后在终端运行sudo ldconfig
三、安装cuDNN
1. 从链接中选择合适版本下载.
https://developer.nvidia.com/rdp/cudnn-archive
2. 安装
sudo dpkg -i cudnn-local-repo-XXX.deb
sudo cp /var/.../*.gpg /usr/share/keyrings/
sudo apt update
sudo apt install libcudnn8 libcudnn8-dev
3. 查看是否安装成功
sudo dpkg -l |grep cudnn
四、安装TensorRT(可选择)
1. 从链接中选择合适版本下载.
https://developer.nvidia.com/nvidia-tensorrt-download
此处EA和GA的含义如下:
- EA 版本代表抢先体验(在正式发布之前)。
- GA 代表通用性。 表示稳定版,经过全面测试。
2. 安装
sudo dpkg -i nv-tensorrt-local-repo-XXX.deb
# 根据安装提示复制粘贴即可
sudo cp /var/nv-tensorrt-local-repo-XXX/nv-tensorrt-local-XXX-keyring.gpg /usr/share/keyrings/
sudo apt update
sudo apt install tensorrt
3. 查看是否安装成功
sudo dpkg -l |grep tensorrt