Ubuntu 安装配置GPU驱动、CUDA、cuDNN

已于 2024-03-22 10:57:07 修改
阅读量1.3k 收藏 13
点赞数 17
文章标签： ubuntu linux 运维
于 2024-03-22 10:52:45 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/shybiubiuccy/article/details/136932714
版权

背景：原本在公司电脑上使用Windows系统下的Ubuntu20.04进行大模型微调和运行。前两天公司弄了个GPU云服务器，让我把大模型相关环境在云服务器上搭建起来。在要安装CUDA和cuDNN工具时，使用nvidia-smi指令想要查看显卡支持的版本时显示没有对应指令，打了我个措手不及。经过上网查询才知道，云服务上的NVIDIA驱动需要自己手动安装。

注意： 如果下述操作安装完成后，输入指令显示无对应指令或是有问题，可以重启下一（reboot）然后再输入对应测试指令试试，有的时候驱动安装完后系统并不会运行需要重启后才可以。

确认显卡

首先得确认下电脑上是否安装了NVIDIA显卡

lspci | grep -i nvidia

在这里插入图片描述

安装显卡驱动

在安装显卡驱动之前，有个事情需要确定。如果以后为了下载一些软件时想快点下载，建议更换一下源。如果在下载完驱动后再因为要下载什么感到网速慢而更换了下载源，在更换完源后会更新已经安装的软件包，其中有可能会更新Ubuntu内核导致原本已经安装并可以运行的显卡驱动出现问题。

如果需要更换源，可以使用一下指令来更换成清华源

wget https://gitee.com/lin-xi-269/tools/raw/master/os/QHubuntu20.04 && bash QHubuntu20.04

ok，开始正式安装显卡驱动

1. 安装驱动前先更新软件列表和安装必要的软件和依赖

sudo apt-get update   #更新软件列表
 
sudo apt-get install g++
 
sudo apt-get install gcc
 
sudo apt-get install make
  1. 禁用nouveau
sudo vim /etc/modprobe.d/blacklist.conf 或者(blacklist-nouveau.conf)

在打开的blacklist.conf末尾添加如下，保存文本关闭

blacklist nouveau
 
options nouveau modeset=0
  1. 在终端输入更新指令，更新结束后重启电脑
sudo update-initramfs –u
  1. 重启电脑后再终端输入下方指令，如果没有任何输出表示屏蔽成功
lsmod | grep nouveau
  1. 安装用于显示硬件驱动程序的工具
sudo apt install ubuntu-drivers-common
  1. 输入如下指令，查看显卡行行好以及推荐的驱动版本。
ubuntu-drivers devices

如下图， 这里我已经安装完了，显示的有点差异，但是大体是差不多的。这里推荐我们安装nvidia-driver-535 - distro。
在这里插入图片描述

  1. 如果我们能接受这个版本的驱动的话，就直接输入自动安装指令即可。
sudo ubuntu-drivers autoinstall

整个安装过程根据提示操作即可。安装完成后重启系统，NVIDIA显卡就可以正常工作了。

  1. 查看是否安装成功

重启后再输入

nvidia-smi

这次就可以看到GPU信息了。出现如下界面就代表显卡驱动安装成功了。
在这里插入图片描述
注意，上图中的 CUDA Version 后面写了一个版本号。该版本号并不是你已经安装了该版本的 CUDA 的意思，而是说此显卡最大支持的CUDA版本号。因此我们仍然需要手动从官网下载CUDA，且版本号不能高于这个。

安装CUDA

这一步要谨慎，这个CUDA版本有个坑，我们要去Pytorch官网查看都支持那些版本，要根据torch官网中支持的CUDA版本和自己显卡最大支持CUDA版本来下载。

Pytorch官网

在这里插入图片描述

可以看到最高支持12.1，那我们最高就安装12.1版本即可，如果安装高了有可能出现torch调用不了的情况，到时候卸载什么的就会很麻烦。

CUDA下载地址

选择电脑显卡支持的版本。我这里选择12.1了就。
在这里插入图片描述

选择好版本信息后，这里就可以看到下方给出了对应的安装指令。直接将指令复制粘贴进终端执行即可

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-ubuntu2004.pin
sudo mv cuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/12.1.1/local_installers/cuda-repo-ubuntu2004-12-1-local_12.1.1-530.30.02-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu2004-12-1-local_12.1.1-530.30.02-1_amd64.deb
sudo cp /var/cuda-repo-ubuntu2004-12-1-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cuda

安装完成后要配置一下环境变量

sudo vim ~/.bashrc

文末追加

export PATH=/usr/local/cuda-12.2/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.2/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

注意： 记得修改自己的CUDA安装路径
配置生效

source ~/.bashrc

测试下CUDA安装是否成功

nvcc -V

在这里插入图片描述
显示出版本信息即代表安装成了。

安装cuDNN

cuDNN下载地址
在这里插入图片描述

选择好自己的版本信息，然后根据给出的指令安装就完了。

wget https://developer.download.nvidia.com/compute/cudnn/9.0.0/local_installers/cudnn-local-repo-ubuntu2004-9.0.0_1.0-1_amd64.deb
sudo dpkg -i cudnn-local-repo-ubuntu2004-9.0.0_1.0-1_amd64.deb
sudo cp /var/cudnn-local-repo-ubuntu2004-9.0.0/cudnn-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cudnn

检查torch是否能调用CUDA和cuDNN

进入python执行终端中，然后依次输入下面指令：

import torch

然后

print(torch.version.cuda)

在这里插入图片描述
如上图所示，可以正确返回cuda版本号，说明cuda没有问题。

print(torch.backends.cudnn.version())

在这里插入图片描述
如上图所示，可以正确返回cuDNN版本号，说明cuDNN安装成功

最后输入下方指令，来验证下是否torch是否可以调用显卡了。

torch.cuda.is_available()

在这里插入图片描述
如果返回True，那就说明CUDA和GPU驱动的搭配是正确的。

好了！大功告成！！

阿洋迷迷糊糊
关注
  • 17
    点赞
  • 踩
  • 13
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
在 Ubuntu 中设置 GPU (NVIDIA)（Intel 和 AMD）
iCloudEnd的博客
07-03 1406
NVIDIA-SMI 失败，因为它无法与 NVIDIA 驱动程序通信。确保已安装并运行最新的 NVIDIA 驱动程序。
Ubuntu-GPU
秀呀秀的博客
02-27 281
查看CUDA的版本： nvcc -V 显示GPU的信息： nvidia-smi 查看GPU的运行：（每 0.1s 显示一次显存的情况） watch -n 0.1 nvidia-smi
017、Python+fastapi，第一个Python项目走向第17步：ubuntu24.04 无界面服务器版下安装nvidia显卡驱动
最新发布
浪淘沙jkp的专栏
04-30 2531
新的ubuntu24.04正式版发布了，前段时间玩了下桌面版，感觉还行，先安装一个服务器无界面版本吧安装时有一个openssh选择安装，要不然就不能ssh远程，我就是没选，后来重新安装ssh。另外一个就是安装过程中静态ip设置下在etc/netplan 文件夹下，有一个yaml文件，我的是50-cloud-init.yaml，先用ip a看看network:ethernets:enp3s0:routes:version: 2。
ubuntu安装gpu驱动
sqlora的专栏
11-28 1299
ubuntu安装gpu驱动
Ubuntu下Tensorflow的GPU配置：ubuntu16.04+cuda8.0+cudnn5+tensorflow
Carina_Cao的博客
12-22 6840
Tensorflow的GPU配置：ubuntu16.04+375.26驱动+cuda8.0+cudnn5
【Linux】Ubuntu 20.04 深度学习 GPU 环境配置（CUDA Toolkit 11.7 + cuDNN v8.4.1）
XavierJ的博客
07-29 7170
上述配置了三个深度学习GPU环境，分别是PyTorch，TensorFlow2和TensorFlow1。方便起见，我们这里直接跳过NVIDIA显卡驱动的安装，因为安装CUDA的时候会自动安装。例如，普通用户要使用PyTorch环境，但他同时还需要安装requests包，直接在名为。开始安装之前，需要修改apt-get的镜像源，不然国内下载速度很慢。PyTorch是目前比较主流的深度学习框架之一，深受学术界的青睐。这样既节省了服务器的存储空间，又避免了重复安装环境的烦恼。...................
Ubuntu Server 20.04 系统安装（四）：深度学习 GPU 环境配置（CUDA12.2驱动+CUDA Toolkit 12.2+cuDNN v8.9.7）
u013250861的博客
12-29 3548
本文以 Ubuntu 20.04 操作系统为例，演示如何配置深度学习 GPU 环境。方便起见，我们这里可以直接跳过 NVIDIA 显卡驱动的安装，因为安装 CUDA 的时候会自动安装。
Ubuntu安装和卸载CUDA和CUDNN的实现
09-14
在Ubuntu系统中，安装和卸载CUDA以及CUDNN是深度学习和GPU计算的重要环节。CUDA是NVIDIA提供的用于加速计算的应用程序编程接口(API)，而CUDNN是CUDA的深度神经网络库，优化了卷积神经网络等计算密集型任务。以下是...
Ubuntu 20.04 CUDA&cuDNN安装方法(图文教程)
09-14
在Ubuntu 20.04操作系统中安装CUDA和cuDNN是进行深度学习和高性能计算的重要步骤。CUDA是NVIDIA公司提供的一个并行计算平台，它允许开发者利用GPU的计算能力来加速应用程序。cuDNN（CUDA Deep Neural Network）则是...
Ubuntu Linux下配置GPU版CUDA和cuDNN
03-10
本文将指导读者在Ubuntu Linux环境下配置GPU版CUDA和cuDNN，涵盖了硬件检查、C++程序设计环境建立、CUDA工具包安装、GPU查询、TensorFlow和PyTorch安装等多个方面。 重要的硬件配置 在开始配置GPU版CUDA和cuDNN...
详解Ubuntu16.04安装nvidia驱动+CUDA+cuDNN的教程
09-14
在本教程中，我们将深入探讨如何在Ubuntu 16.04系统上安装NVIDIA显卡驱动、CUDA工具包以及cuDNN库。这个过程对于那些想要利用GPU进行深度学习和高性能计算的用户来说至关重要。 首先，我们需要确保你的GPU支持CUDA...
Ubuntu上配置GPU环境
人工智能视觉分析算法学习实践和经验分享。
07-29 8061
Linux系统安装Anaconda3； Ubuntu上配置GPU显卡驱动，安装显卡toolkit; 创建虚拟环境，安装深度学习框架； 掌握Linux系统下应用Anaconda3 命令； 一些典型命令。
Ubuntu 16.04 安装深度学习环境 GPU 加速版
penmily的博客
06-16 1306
深度学习环境搭建起来比较麻烦，特别是 GPU 加速版。既要安装 Nvidia 的驱动，又要安装 cuda 和 cuDNN 。本文通过 docker 容器技术搭建基于keras (tensorflow) 的深度学习环境。 Docker 是一种容器技术，将你要运行的任何环境只通过几行命令就可以搭建完成。而 Docker 中除了用普通的 docker pull 方式直接拉去现成的深度学习镜像来搭建
Ubuntu20.04-查看GPU的使用情况及输出详解
aaaccc444的博客
12-25 6116
查看GPU的使用情况及输出详解 1. 查看GPU的使用情况 1.1nvidia-smi 1.2nvidia-smi -l 1.3watch -n 1 nvidia-smi 2. 输出详解 2.1 标题部分 2.2 GPU 信息部分 2.3 性能和功耗部分 2.4 内存和利用率部分 2.5 进程部分
超精简ubuntu的GPU配置（实测好用）
shouhan6396的博客
07-20 817
一、安装英伟达 GPU 驱动 #安装ubuntu后运行以下命令来升级内核版本 sudo apt-get update sudo apt-get upgrade #以下命令会将与你系统相兼容的驱动版本显示出来 sudo add-apt-repository ppa:graphics-drivers/ppa #安装所需版本的NVIDIA驱动 sudo apt-get update su...
Ubuntu18.04系统下最新版GPU环境配置详细教程
热门推荐
思绪无限的博客
10-24 2万+
摘要：本文详细介绍了在Ubuntu 18.04下如何配置深度学习GPU（显卡）环境，包括了显卡驱动下载安装，环境配置等。按照本教程的步骤在多台服务器上安装都取得了成功，是在多种方法的比较之下个人整理的认为最新的简洁有效的做法，其要点如下：安装显卡驱动、安装Cuda 10.0、安装cuDNN
ubuntu20.04下配置深度学习环境GPU
arno1988的专栏
02-14 895
ubuntu20.04下配置深度学习环境GPU
ubuntu gpu tf 环境配置
Eric_LH的博客专栏
01-10 257
1.下载Anaconda wget https://repo.continuum.io/archive/Anaconda2-4.4.0-Linux-x86_64.sh 2安装Anaconda 3.显示GPU信息 lspci | grep -i nvidia 4.显示gcc信息 gcc --version 5.查看 cuda版本 cat /usr/local/cuda/version.txt ...
搭建Ubuntu GPU服务器(宿主机篇)
weixin_42937217的博客
11-20 2969
搭建Ubuntu GPU服务器(宿主机篇) 1、安装Ubuntu 20.04 注意，安装千万不要选择最小安装，就选正常安装就行 2、换源 阿里源网站 注意千万别换成其他版本的源，一定要对应ubuntu 20.04 cd /etc/apt sudo cp source.list source.list.bak sudo vi source.list 将以下内容替换进去 deb http://mirrors.aliyun.com/ubuntu/ focal main restricted universe m
iris-distro
08-15
Iris-distro 是一个开源的 Linux 发行版，它基于 Debian 和 Ubuntu。它的目标是提供一个简洁、高效、易用和美观的操作系统。Iris-distro 的开发者致力于将最新的软件和技术集成到这个发行版中，以提供给用户一个功能丰富的环境。 Iris-distro 的特点之一是它的用户界面设计。它采用了一个现代化的桌面环境，使用了一些最流行的图形库和工具。这使得用户可以轻松地定制和美化自己的桌面，满足个人化需求。 此外，Iris-distro 还提供了广泛的软件库，包括办公套件、媒体播放器、图像编辑工具、开发软件等等。这些软件的版本都经过充分测试和选择，以确保它们的稳定性和安全性。用户可以通过软件中心轻松地浏览和安装所需的应用程序。 安全性也是 Iris-distro 的重点之一。它内置了一些强大的安全功能，如强化的防火墙、安全更新机制和强密码策略。这些功能有助于用户保护自己的计算机免受恶意软件和网络攻击的威胁。 总的来说，Iris-distro 是一个功能齐全、易用且兼具美观的 Linux 发行版。它致力于为用户提供一个高效、稳定且安全的操作系统环境。无论是日常办公、娱乐还是开发，Iris-distro 都能满足用户的需求，并提供一个愉快的使用体验。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值