Linux GPU加速训练环境搭建（NVIADIA、CUDA、CUDNN）

最新推荐文章于 2024-04-27 01:17:16 发布
最新推荐文章于 2024-04-27 01:17:16 发布
阅读量2k 收藏 3
点赞数 1
分类专栏： 解决问题 文章标签： linux cuda tensorflow cudnn gpu
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u013487601/article/details/115324116
版权

安装人工智能GPU加速训练环境主要分为3部分：NVIDIA显卡驱动、CUDA TooIKit和CUDNN。

基础环境安装

基础环境安装是基于Centos系统的，但是整体大同小异。

安装对应版本内核源码包、gcc编译器
sudo yum install -y gcc
sudo yum install -y gcc-c++
sudo yum install -y kernel
sudo yum install -y kernel-devel
sudo yum install -y kernel-header

检查安装版本，这里可能遇到的情况有kernel存在两个版本，此时要卸载一个，确保存在kernel与kernel-devel和kernel-header包的版本号一致：

rpm -qa | grep gcc
rpm -qa | grep kernel

卸载多余的kernel

rpm -e --nodeps kernel-3.10.0-514.el.x86_64  # 不检查依赖关系直接删除
查看nouveau有没有禁用

系统默认安装的nouveau kernel driver与NVIDIA驱动冲突，所以要先检查是否被禁用，执行命令：

lsmod | grep nouveau

有输出信息就说明没有被禁用，禁用方法如下：

su
echo -e "blacklist nouveau\noptions nouveau modeset=0" > /etc/modprobe.d/blacklist.conf
shutdown -r now

重启后再次执行上面的检查命令观察是否禁用成功，若禁用失败使用如下方法：

vi /usr/lib/modprobe.d/dist-blacklist.conf

# 添加两行内容
blacklist nouveau
options nouveau modeset=0

下一步给当前镜像备份，建立新镜像（不知道什么意思）

# 备份
mv /boot/initramfs-$(uname -r).img /boot/initramfs-$(uname -r).img.bak
# 新建
dracut /boot/initramfs-$(uname -r).img $(uname -r)
# 再次重启
shutdown -r now

重启后检查是否禁用成功。

NVIDIA显卡驱动安装

当我们使用一台个人电脑的时候默认已经安装了NVIDIA显卡驱动，因为没有显卡驱动根本用不了显卡；但是如果是服务器或安装了外置的显卡硬件，则需要到英伟达官网选择显卡和系统版本进行驱动下载：
https://www.nvidia.cn/Download/index.aspx?lang=cn
在这里插入图片描述

注意：CUDA TooIKit的版本需要与Tensorflow的版本对应，具体对应版本见后面的笔记。
下载安装文件后，执行以下命令进行安装：

# 进入纯命令模式，有图形化界面时不可以进行安装
init 3
# 为安装文件增加可执行权限
sudo chmod +x NVIDIA-Linux-x86_64-384.59.run
# 运行安装文件
sudo ./NVIDIA-Linux-x86_64-384.59.run -no-x-check -no-nouveau-check -no-opengl-files

一路选择OK或者YES进行安装
在这里插入图片描述
提示：如果安装遇到问题，可以根据提示查看日志位置，日志中有时会提示错误解决方案，比如运行安装文件时多家一些命令。
验证是否安装成功，如果有下方图片的输出则表示安装成功

nvidia-smi

在这里插入图片描述

提示：右上角的CUDA Version是当前显卡驱动支持的最高版本。

CUDA TooIKit安装

  • CUDA本质上是一个工具包而已，所以我们可以在同一个设备上安装很多个不同版本的CUDA工具包。
CUDA与显卡驱动的关系
  • CUDA TooIKit本地安装包内含特定版本的Nvidia显卡驱动，所以只需要选择下载CUDA TooIkit就足够了，但想安装其他版本的显卡驱动就要自行下载相应的版本，步骤如上面所写。
  • 所以NVIDIA显卡驱动和CUDA工具包本身是没有捆绑关系的，也不是一一对应的关系，只不过是安装CUDA工具包会默认携带与之匹配的最新的驱动程序。
  • 一般情况下，我们只需要安装最新版本的显卡驱动，然后根据自己的需求选择不同的CUDA工具包就可以了。

注意：使用离线的CUDA总是会捆绑CUDA和驱动程序，所以使用多个CUDA的时候就不要选择离线安装CUDA了，否则每次都会安装不同的显卡驱动（虽然安装时可以忽略但还是会占很多空间），我们直接安装一个最新版的显卡驱动，然后在线安装不同版本的CUDA即可。

TensorFlow各版本CUDA及CUDANN对应关系表
  • 如何确定自己应该安装什么版本的CUDA呢，这就需要根据自己使用的Tensorflow版本来确定CUDA的版本。
版本Python 版本编译器编译工具cuDNNCUDA
tensorflow_gpu-2.0.0-alpha02.7、3.3-3.6GCC 4.8Bazel 0.19.27.4.1以及更高版本CUDA 10.0 (需要 410.x 或更高版本)
tensorflow_gpu-1.13.02.7、3.3-3.6GCC 4.8Bazel 0.19.27.410.0
tensorflow_gpu-1.12.02.7、3.3-3.6GCC 4.8Bazel 0.15.079
tensorflow_gpu-1.11.02.7、3.3-3.6GCC 4.8Bazel 0.15.079
tensorflow_gpu-1.10.02.7、3.3-3.6GCC 4.8Bazel 0.15.079
tensorflow_gpu-1.9.02.7、3.3-3.6GCC 4.8Bazel 0.11.079
tensorflow_gpu-1.8.02.7、3.3-3.6GCC 4.8Bazel 0.10.079
tensorflow_gpu-1.7.02.7、3.3-3.6GCC 4.8Bazel 0.9.079
tensorflow_gpu-1.6.02.7、3.3-3.6GCC 4.8Bazel 0.9.079
tensorflow_gpu-1.5.02.7、3.3-3.6GCC 4.8Bazel 0.8.079
tensorflow_gpu-1.4.02.7、3.3-3.6GCC 4.8Bazel 0.5.468
tensorflow_gpu-1.3.02.7、3.3-3.6GCC 4.8Bazel 0.4.568
tensorflow_gpu-1.2.02.7、3.3-3.6GCC 4.8Bazel 0.4.55.18
tensorflow_gpu-1.1.02.7、3.3-3.6GCC 4.8Bazel 0.4.25.18
tensorflow_gpu-1.0.02.7、3.3-3.6GCC 4.8Bazel 0.4.25.18
安装CUDA
  • 在安装CUDA ToolKit前要确保系统安装了gcc和make。如果系统使用C++进行CUDA编程，需要安装g++，如果要运行CUDA程序，需要安装相应的依赖库。
sudo apt update # 更新 apt
sudo apt install gcc g++ make # 安装 gcc g++ make
sudo apt install libglu1-mesa libxi-dev libxmu-dev libglu1-mesa-dev freeglut3-dev # 安装依赖库

在CUDA ToolKit的下载页面选择系统版本和安装方式，下载并运行runfile：
https://developer.nvidia.com/cuda-toolkit-archive
在这里插入图片描述

sudo sh cuda_10.1.243_418.87.00_linux.run

上面已经写道，虽然·CUDA ToolKit·系统将自动安装与其匹配的NVIDIA Driver，这里我们分开安装NVIDIA Driver和CUDA ToolKit。
第一步会提示，是否安装NVIDIA驱动，我们选择跳过；
其他步骤我们就根据提示输入同意或输入安装路径即可。
安装成功后，屏幕上将输出以下内容：

Driver:   Installed  # 这里我们是忽略
Toolkit:  Installed in /usr/local/cuda-10.1/
Samples:  Installed in /home/abneryepku/

Please make sure that
 -   PATH includes /usr/local/cuda-10.1/
 -   LD_LIBRARY_PATH includes /usr/local/cuda-10.1/lib64, or, add /usr/local/cuda-10.1/lib64 to /etc/ld.so.conf and run ldconfig as root

从输出信息可以看出，还需要我们配置环境变量PATH和LD_LIBRARY_PATH到~/.bashrc文件中。
注意：环境变量的路径根据提示信息进行设置，否则不管用。

# add nvcc compiler to path
export PATH=$PATH:/usr/local/cuda-10.1/bin
# add cuBLAS, cuSPARSE, cuRAND, cuSOLVER, cuFFT to path
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-10.1/lib64:/usr/lib/x86_64-linux-gnu

输入以下命令验证cuda安装是否成功，有版本信息描述表示成功，输出其他则表示安装出现问题：

nvcc -V

在这里插入图片描述

CUDNN安装

  • cuDNN是一个SDK，是一个专本用于神经网络的加速包，每一个版本的CUDA可能又好几个版本的cuDNN与之对应，所以cuDNN和CUDA没有一一对应的关系，只能说有一个最新版本的cuDNN版本与CUDA对应的最好。
    去官网下载cuDNN加速包（需要登录NVIDIA）：
    https://developer.nvidia.com/rdp/cudnn-download
    切换到cudnn压缩文件所在的目录，解压文件，然后替换CUDA工具包中的库：
sudo cp cuda/include/cudnn.h /usr/local/cuda/include/
sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64/
sudo chmod a+r /usr/local/cuda/include/cudnn.h
sudo chmod a+r /usr/local/cuda/lib64/libcudnn*

通过下面的命令查看安装情况，如果结果如下图逐行显示版本号，则安装成功：

cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2

在这里插入图片描述

鬼义II虎神
关注
  • 1
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
专栏目录
proviz-encode-decode-video-codec-2145681-r2
10-31
2. **硬件平台**：基准测试所使用的硬件配置包括双Intel Xeon E5-2660 v3处理器，配备A10、Tesla T4和Tesla P4 GPU。FFmpeg版本为4.2，NVIDIA驱动为495.294，操作系统为Ubuntu 18.04。 3. **预设设置**：为了在使用...
CUDA简介, 配置和运行第一个CUDA程序（Windows和Linux）
qq_74083422的博客
12-02 1万+
CUDA保姆级配置教程和运行测试
Linux查看GPU显卡/CPU内存/硬盘信息
weixin_44986037的博客
08-12 9228
GPU
Linux查看GPU性能_linux查看gpu信息，2024年最新成功入职头条月薪35K
2401_83945851的博客
04-17 909
本书第﹖版以最新的Ubuntu 12.04为版本，循序渐进地向读者介绍了Linux 的基础应用、系统管理、网络应用、娱乐和办公、程序开发、服务器配置、系统安全等。需要《Linux入门到精通》、《linux系统移植》、《Linux驱动开发入门实战》、《Linux开源网络全栈》电子书籍及教程的工程师朋友们劳烦您转发+评论。● Fan：显示风扇转速，数值在0到100%之间，是计算机的期望转速，如果计算机不是通过风扇冷却或者风扇坏了，显示出来就是N/A；● Temp：显卡内部的温度，单位是摄氏度；
linux服务器查看gpu
weixin_45819759的博客
06-15 2901
表格中会显示显卡的一些信息，第一行是版本信息，第二行是标题栏，第三行就是具体的显卡信息了，如果有多个显卡，会有多行，每一行的信息值对应标题栏对应位置的信息。需要注意的一点是显存占用率和GPU占用率是两个不一样的东西，类似于内存和CPU，两个指标的占用率不一定是互相对应的。* Persistence-M：持续模式的状态开关，该模式耗能大，但是启动新GPU应用时比较快，这里是off。* GPU-Util：GPU利用率，第一个是74%，第二个未用。* Fan：风扇转速，在0到100%之间变动，第一个是29%
在Linux系统上检测GPU显存和使用情况
彩旗工作室的博客
11-17 2913
确保你的系统上已经安装了相应的GPU驱动程序，并根据需要安装额外的工具。如果你使用的是NVIDIA的显卡，你可以使用`nvidia-smi`命令来获取显卡信息，包括显存使用情况。这将显示所有VGA兼容的设备，包括你的GPU。在Linux系统上，你可以使用一些命令行工具来检测GPU显存和使用情况。glxinfo命令提供了有关OpenGL的信息，包括GPU显存。你可以使用lspci命令来列出系统中的PCI设备，包括GPU。这将显示实时的GPU使用情况，包括显存的使用。这将显示有关GPU显存的信息。
Linux 安装Nvidia GPU显卡驱动
热门推荐
西京刀客
06-08 2万+
安装Nvidia GPU驱动 Centos7.7安装Nvidia GPU驱动 Centos7.7安装Nvidia GPU驱动及CUDA以及tensorflow-GPU 原文链接：https://blog.csdn.net/gy87900311/article/details/105074940 Ubuntu 18.04安装Nvidia GPU驱动 准备工作 查看自己的机器的GPU lspci | grep -i nvidia 2. 验证系统是否是受支持的Linux版本 uname -m &&am
linux查看gpu使用情况
QT-Smile
03-03 2202
linux查看gpu使用情况
（二）Linux系统安装显卡驱动（GPU-Pytorch）
su_xiao_wei的专栏
10-22 4676
nvidia-smi: 如果你使用的是NVIDIA显卡，这个命令可人显示显卡的状态和驱动程序的版本总之，Linux系统中查看显卡驱动的方法有很多种，可以根据自己的需求选择适合自己的方法相关问题。（8）使用空格键，取消红色方框的内容，并选择“Change Toolkit Install Path”，按回车。提示：尽可能安装新版本，可能后续torch更新的时候不再兼容老版本，新版本还能用的稍微久一些。2.输入 pip install “文件路径” 或pip install “网络路径”
windows使用nvidia-smi查看gpu信息
lsh呵呵
03-26 2万+
需要在path添加 如下 路径才可以使用nvidia-smi命令等。 C:\Program Files\NVIDIA Corporation\NVSMI
手把手带你在Linux上安装带GPU加速的opencv库（C++版本）
yzfzzz的博客
02-19 2743
本文旨在详细指导Linux用户在系统上安装带有GPU加速功能的OpenCV库，专注于C++版本。我们将从下载OpenCV安装包开始，逐步进行环境依赖的安装，并最终完成OpenCV库的安装和配置。通过本文，读者将能够充分利用GPU加速功能，提升OpenCV图像处理的速度和效率。
Linux查看CPU、GPU、内存等信息
juluwangriyue的博客
07-27 4600
【代码】Linux查看CPU、GPU、内存等信息。
如何在Linux中使用命令调用GPU
weixin_47766713的博客
10-26 1035
通常可以同时使用同一个账号在一个服务器上的多个窗口中启动不同的进程，每个进程可以利用服务器上的不同GPU卡来运行代码。这里，CUDA_VISIBLE_DEVICES环境变量允许你指定哪个GPU卡用于特定的进程。通过这种方式，你可以并行运行多个进程，每个进程都在不同的GPU卡上执行任务。请注意，具体的命令和方式可能会根据你的服务器和操作系统而有所不同，你可以根据服务器的配置和需要进行适当的调整。# 在第一张GPU卡上启动进程1。# 在第二张GPU卡上启动进程2。# 在第三张GPU卡上启动进程3。
【深度学习】Linux GPU服务器常用命令语句
Bluebro的博客
03-09 685
11.查看当前进程的详细信息，包含使用者等，-f表示详细信息，-a表示全部进程。12.查看当前建立的所有虚拟环境。5.解压一个tar.gz文件。2.实时更新服务器使用情况。1.查看服务器使用情况。3.文件夹所占内存容量。6.解压一个tar文件。7.解压一个zip文件。
linux下调节显卡GPU的功率功耗限制最大值
子燕若水的博客
01-16 8063
持久模式是用户可设置的驱动程序属性的术语，即使没有客户端连接到目标 GPU，它也能使目标 GPU 保持初始化状态。此解决方案已接近生命周期结束，最终将被弃用，取而代之的是。您可以通过在应用程序运行时使用 nvidia-smi 监控 GPU 来确认是否正在发生这种情况。可以使用 nvidia-smi 或通过 NVML API 以编程方式设置持久性模式。如下增加所有 GPU 的 SW Power Cap 限制，其中。您必须在每次启动服务器时增加功率限制并设置持久性。确保正在使用持久性模式。
查看Linux服务器配置|是否有GPU以及GPU信息
DanielSmith
03-27 1万+
查看Linux服务器是否有GPU以及GPU信息 查看操作系统信息： cat /etc/redhat-release 操作系统详细发行信息： lsb_release -a CPU信息： lscpu CPU 具体型号 cat /proc/cpuinfo | grep name | cut -f2 -d: | uniq -c CPU 个数： cat /proc/cpuinfo| grep "physical id"| sort| uniq| wc -l CPU 每个里面的具体内核
linux gpu优先级,如何查看Linux中 GPU 的占用情况
weixin_39884323的博客
05-16 671
鉴于自己经常不知道一些基本的硬件信息，所以今天下午决定好好学习一下如何查看GPU信息的命令：Linux查看显卡信息：问题1，什么是显卡？显卡(Video card，Graphics card)全称显示接口卡，又称显示适配器，是计算机最基本配置、最重要的配件之一。显卡作为电脑主机里的一个重要组成部分，是电脑进行数模信号转换的设备，承担输出显示图形的任务。显卡接在电脑主板上，它将电脑的数字信号转换成模...
Linux查看GPU性能_linux查看gpu信息
最新发布
2301_77033340的博客
04-27 428
● Fan：显示风扇转速，数值在0到100%之间，是计算机的期望转速，如果计算机不是通过风扇冷却或者风扇坏了，显示出来就是N/A；● Perf：表征性能状态，从P0到P12，P0表示最大性能，P12表示状态最小性能；● Disp.A：是Display Active的意思，表示GPU的显示是否初始化；2、在工作中，运维人员经常需要跟运营人员打交道，请问运营人员是做什么工作的?6、Squid、Varinsh和Nginx有什么区别，工作中你怎么选择?如果要周期性的输出显卡的使用情况，可以用watch指令实现。
Linux下查看和监控GPU 信息的工具汇总
eric_dma的博客
09-23 6391
GPU信息查看 要获取显卡信息，只有两种可能，一种是通过系统的API访问，或者直接读取/dev/下相关文件的状态，另一种方式是通过BIOS读取。 1. 通过PCI查看 通用的方法，通过lspci查看： lspci | grep -i vga 前边的序号 "00:0f.0"是显卡的代号，然后 lspci -v -s 00:0f.0 其他方法： 监控程序glances与其GPU monitoring plug-in一起使用： 开源 安装：sudo apt-get install -y python-pi
Linux 监控服务器GPU状态
今晚看星星的博客
01-03 1786
Linux 服务器查看GPU状态

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

鬼义II虎神

打赏5C币，作者可获得4C币

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值