GPU分析服务部署环境搭建

于 2023-07-14 23:09:25 发布
阅读量1k 收藏 2
点赞数 2
文章标签： docker gpu算力 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/jackiejane/article/details/131732600
版权

 

关键词：

GPU分析、容器化、Docker

摘  要：

介绍在Linux环境下搭建GPU分析容器化部署所需要的环境。

目录

一、配置环境要求

二、Linux系统安装

        1、分区

        2、独立数据分区挂载

三、服务配置及显卡驱动安装

        1、关闭防火墙

        2、关闭selinux

        3、禁用nouveau

四、Docker安装

        1、卸载旧版本docker

        2、安装docker

        3、docker目录修改      

一、配置环境要求

        本文仅以Linux环境为例，相关软硬件基本要求如下表：

硬件环境

CPU

Intel(R) Core(TM) i7-6700 CPU @ 3.40GHz

内存

32GB

GPU

GeForce RTX 2070 Super * 2

硬盘

SSD 240GB

软件环境

宿主机系统

CentOS 7.8.2003

显卡驱动

NVIDIA-Linux-x86_64-440.82 或者

NVIDIA-Linux-x86_64-450.80.02

二、Linux系统安装

        本文对于系统的安装不作详细介绍，只重点说明几个配置。

        1、分区

分区步骤

挂载点

说明

分区类型

说明

第一步

/boot/efi

200M

默认

或biosboot分区，2M

第二步

/boot

2GB

默认

第三步

/

剩下全部空间

ext4

        2、独立数据分区挂载

        如果安装系统sda足够大，不需要挂载，直接在根目录“/”下，通过“mkdir /data”命令创建“/data”目录。

         如果是数据盘和系统盘分离，需要挂载数据盘。

fdisk /dev/sdb      # sdb是第二块盘，现场根据实际选择。

g：GPT分区，分区前必选！GPT支持2T以上磁盘。

n：创建新分区

p：查看分区

w：保存分区信息

m：帮助

通过 mkfs.ext4格式化成ext4格式。

修改挂载文件：vi /etc/fstab，增加一行（vi中，按“o”增加一行）：

/dev/sdb1  /data  ext4  defaults  0 0

按esc，输入：wq，保存退出vi。

“mkdir /data”创建/data文件夹，mount -a完成挂载，df -h查看是否成功。

三、服务配置及显卡驱动安装

        1、关闭防火墙

# systemctl stop firewalld.service
# systemctl disable firewalld.service
# systemctl status firewalld.service

        2、关闭selinux

# vi /etc/selinux/config

  将SELINUX=enforcing改为SELINUX=disabled 重启生效。

   查看状态：

# getenforce

        3、禁用nouveau

查看该目录/etc/modprobe.d有无blacklist.conf文件，没有则创建一个，添加如下内容

blacklist nouveau

options nouveau modeset=0

保存之后，运行如下命令

# mv /boot/initramfs-$(uname -r).img /boot/initramfs-$(uname -r).img.bak

# dracut -v /boot/initramfs-$(uname -r).img

然后reboot，输入命令lsmod | grep nouveau查看禁用是否成功了，如下图即表示禁用成功

         4、驱动安装

注意宿主机上面需要安装gcc环境，同时保证uname -r和rpm -q kernel-devel的版本一致。

本文以NVIDIA-Linux-x86_64-440.64.run版本为例，直接运行NVIDIA-Linux-x86_64-440.64.run，命令如下：

# chmod 777 NVIDIA-Linux-x86_64-440.64.run

# ./NVIDIA-Linux-x86_64-440.64.run

输入accept接受协议，安装选项中，仅选安装驱动即可，安装完成后reboot重启 nvidia-smi查看gpu相关信息，如下图：

四、Docker安装

        1、卸载旧版本docker

                如果之前没有安装过，可跳过这一步。

$ sudo yum remove docker \
					  docker-client \
					  docker-client-latest \
					  docker-common \
					  docker-latest \
					  docker-latest-logrotate \
					  docker-logrotate \
					  docker-selinux \
					  docker-engine-selinux \
					  docker-engine

# rm -rf /etc/systemd/system/docker.service.d
# rm -rf /var/lib/docker
# rm -rf /var/run/docker

        2、安装docker

        准备好以下docker rpm包：

      以及下面的nvidia rpm包

        里面的rpm一次批量安装即可，cd到该目录，执行rpm -Uvh *.rpm --nodeps --force即可，如果是GPU服务器，还需要安装nvidia的rpm包，安装方法一样。

启动docker：

# systemctl start docker

        3、docker目录修改      

  1. 查看docker当前目录 
    # docker info

  2. 停止docker 
    # systemctl stop docker
  3. 修改数据目录配置 
    # vi /usr/lib/systemd/system/docker.service
# 增加数据目录配置：--graph=/data/docker

    # systemctl daemon-reload 		  # 重新加载配置
# systemctl restart docker         # 重启docker
# systemctl enable docker         # 设置开机自启动
简宏伟
关注
  • 2
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
Docker部署GPU模型服务
reno_yuan的博客
08-23 747
Docker部署GPU模型服务
GPU服务器Ubuntu环境配置教程及各种踩坑
pengxiang1998的博客
02-02 3777
使用果然出了问题：执行nvidia-smi时报错输出以下信息说明显卡驱动是存在的然后查看已安装驱动的版本信息显卡驱动是可以找到的，没有问题。随后依次输入以下命令但在执行第二句代码时出了问题根本原因是重启后，内核版本与驱动版本不兼容导致的显卡驱动出错。所以我们恢复之前的内核版本就可以解决这个问题。首先查看目前的内核版本uname - r然后查看内核版本有哪些修改开机系统启动项按i进入编辑状态，修改其中第一行GRUB_DEFAULT=0 , 修改为GRUB_DEFAULT=“1> 3”
Linux 安装Nvidia GPU显卡驱动
热门推荐
西京刀客
06-08 2万+
安装Nvidia GPU驱动 Centos7.7安装Nvidia GPU驱动 Centos7.7安装Nvidia GPU驱动及CUDA以及tensorflow-GPU 原文链接：https://blog.csdn.net/gy87900311/article/details/105074940 Ubuntu 18.04安装Nvidia GPU驱动 准备工作 查看自己的机器的GPU lspci | grep -i nvidia 2. 验证系统是否是受支持的Linux版本 uname -m &&am
NVIDIA Docker：让 GPU 服务器应用程序部署变得容易
pythonyzh2019的博客
03-02 595
  在过去的几年里，使用容器来大规模部署数据中心应用程序的数量急剧增加。原因很简单：容器封装了应用程序的依赖项，以提供可重复和可靠的应用程序和服务执行，而无需整个虚拟机的开销。如果您曾经花了一天的时间为一个科学或 深度学习 应用程序提供一个包含大量软件包的服务器，或者已经花费数周的时间来确保您的应用程序可以在多个 linux 环境中构建和部署，那么 Docker 容器非常值得您花费时间。 图 1 : Docker 容器封装了应用程序的依赖项，以提供可重复和可靠的执行。 NVIDIA Docke.
GPU 个人电脑运行环境配置指引指引.pdf
01-11
win10环境，linux环境安装，包括cudn,cudnn的安装，深度学习环境配置，资料非常详细，
Tensorflow-gpu环境搭建
zhen_zhen_的博客
05-16 1637
写在前面的话 为什么写tensorflow环境搭建 我的深度学习是使用tensorflow开始的，这个框架可以说很优秀，搭配python来完成CNN更是事半功倍，然而最难的一步却是环境搭建，不仅有些难以完成，还经常因为莫名其妙的原因崩掉，于是又要再次重装，结合之前写的Ubuntu重装那个简直就是我的一部血泪史。不同的机器经常会出现不同的奇葩的问题，我也写出来仅供参考 我的环境 电...
[TensorFlow笔记] GPU环境搭建
藏知阁
04-06 556
系统：Ubuntu 16.04 安装 首先要下载NVIDIA公司提供的两个文件：CUDA（下载地址）和cuDNN（下载地址），下载需要注册账号，有点坑爹。 CUDA建议下载runfile(local)文件类型，cuDNN要同时下载Runtime和Development两个deb包。 注意一定要下载匹配TensorFlow的版本，如下： TensorFlow版本 CUDA...
搭建tensorflow-gpu环境
d2_April的博客
08-28 260
1.硬件 Windows10, 1050Ti 2.软件 NIVID Display Driver431.70 CUDA 9.0 cuDNN 7.0.4 Anaconda 中自带python3.7 3.步骤 3.1 驱动 下载网站：https://www.geforce.cn/drivers 可以根据自己电脑的配置安装合适的驱动 3.2 CUDA 下载网站：https://developer.nv...
手把手教你搭建属于自己的GPU深度学习环境
华少的博客
06-25 1万+
想要学习人工智能，那么使用GPU加速自己的深度学习训练是必不可少的，但很多初学者都被环境搭建这一步困扰！安装并配置这些东西真的是比编程还难，过程中遇到各种问题，然后去搜解决方法，但都五花八门，可能因为每个人遇到的问题的具体情况不同，所以即使按照别人的方法也还是会出现问题。这里，我将自己在整个过程中遇到的问题以及注意事项记录下来，也算是进行一个整理，也希望可以帮助到一些人，来教大家从头搭建属于自己的深度学习环境。
tensorflow CPU版本和GPU版本完整搭建过程
03-16
TensorFlow 是世界上最受欢迎的开源机器学习框架，它具有快速、灵活并适合产品级大规模应用等特点，让每个开发者和研究者都能方便地使用人工智能来解决多样化的挑战。文档为CPU版本和GPU版本搭建过程
deepops:用于构建GPU集群的工具
04-20
DeepOps项目封装了部署GPU服务器群集和共享单个功能强大的节点（例如 ）的最佳实践。 DeepOps也可以进行调整或以模块化方式使用，以匹配特定于站点的集群需求。 例如： NVIDIA DGX服务器的本地数据中心，DeepOps在...
Tensorflow 模型 C++部署实战2-高级部分
06-20
本课程是《Tensorflow 模型 C++部署实战》部分的续集，高级部分，主要讲述，如何进行新版本移植，加载Frozen pb,? 虚拟GPU， TF-TRT优化专题，对部署框架增加更多功能和性能优化。
CentOS7下部署paddlepaddle深度学习框架
01-06
三、安装anaconda四、安装NVIDIA驱动重点是安装驱动时必须退出图形界面具体操作步骤如下：五、安装CUDA六、安装cuDNN七、安装paddlepaddle-gpu八、安装paddlehub九、安装Jupyter notebook参考文献 安装 Centos7 这里...
搭建GPU服务器（容器篇）
weixin_42937217的博客
11-20 2126
搭建GPU服务器（容器篇） VNC服务器 首先更新源 sudo apt update 然后安装Xfce sudo apt install xfce4 xfce4-goodies xorg dbus-x11 x11-xserver-utils 然后安装VNC服务器，这里我们选择了tightvnc sudo apt-get install tightvncserver 启动vnc，设定密码 vncserver 备份xstart文件 cp ~/.vnc/xstartup ~/.vnc/xstartup.b
GPU服务器应用搭建
water的博客
10-21 255
高配云服务器，GPU欢迎大家前往滴滴云机器学习平台。使用大师码7749更可以享受9折优惠哦。谢谢大家支持 滴滴云账号注册地址：https://app.didiyun.com/#/dc2/add?srvType=ebs.gpu.p4
实验室GPU服务器的搭建
weixin_43935612的博客
09-09 4056
实验室GPU服务器的搭建 背景：以此记录在实验室两台GPU服务器安装Ubuntu系统遇到的问题 服务器1：主板：技嘉TRX40 AORUS XTREME； GPU：RTX 2080TI 服务器2：主板：技嘉TRX40 AORUS XTREME； GPU：TITAN RTX 1、系统的安装 1.1 服务器2系统的安装 服务器2的安装很顺利 安装流程： 下载18.04 系统，直接copy到U盘； 然后按照网上教程按照挂载系统的硬盘进行分区，包括主分区、逻辑分区（分区是按照网上说的比例进行的）； 然后可正常安装
搭建Ubuntu GPU服务器(宿主机篇)
weixin_42937217的博客
11-20 2952
搭建Ubuntu GPU服务器(宿主机篇) 1、安装Ubuntu 20.04 注意，安装千万不要选择最小安装，就选正常安装就行 2、换源 阿里源网站 注意千万别换成其他版本的源，一定要对应ubuntu 20.04 cd /etc/apt sudo cp source.list source.list.bak sudo vi source.list 将以下内容替换进去 deb http://mirrors.aliyun.com/ubuntu/ focal main restricted universe m
深度学习环境搭建gpu
最新发布
07-28
深度学习环境搭建需要配置GPU，以下是一些基本步骤： 1. 安装Anaconda：Anaconda是一个开源的Python发行版本，可以方便地管理Python环境和包。可以从Anaconda官网下载并安装Anaconda。 2. 安装CUDA和CUDNN：CUDA是NVIDIA提供的用于GPU计算的并行计算平台，CUDNN是用于深度神经网络加速的库。首先需要安装NVIDIA显卡驱动程序，然后安装CUDA和CUDNN。具体的安装步骤可以参考相关文档或教程。 3. 安装PyTorch：PyTorch是一个开源的Python深度学习库，可以用于构建和训练神经网络模型。可以使用conda或pip命令安装PyTorch。 4. 安装PyCharm：PyCharm是一个集成开发环境（IDE），可以用于编写和运行Python代码。可以从PyCharm官网下载并安装PyCharm。 5. 创建虚拟环境：可以使用Anaconda创建虚拟环境，以便在不同的项目中使用不同的Python环境和包。可以使用conda命令创建和激活虚拟环境。 在搭建好深度学习环境后，你可以使用PyTorch进行深度学习任务。PyTorch是一种深度学习网络的框架，可以用于构建、训练和部署神经网络模型。深度学习框架提供了一套积木，你可以根据自己的需求选择和组装这些积木，以构建适合你的数据集的模型。使用深度学习框架可以降低入门门槛，因为你可以使用已有的模型和组件，而不需要从头开始编写复杂的神经网络代码。然而，不同的框架适用于不同的领域，所以你需要根据自己的需求选择合适的框架。 #### 引用[.reference_title] - *1* [完整教程：深度学习环境配置（GPU条件&pytorch）](https://blog.csdn.net/meiyoushui_/article/details/126843719)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* *3* [从0开始搭建深度学习环境-Pytorch-GPU](https://blog.csdn.net/weixin_44097477/article/details/123411320)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值