ubuntu系统GPU从0开始构建大模型训练环境

于 2024-08-28 14:28:44 发布
阅读量445 收藏 9
点赞数 15
分类专栏： 大模型知识点 文章标签： ubuntu linux 人工智能 语言模型 自然语言处理 nlp pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43127132/article/details/141639070
版权

一、环境搭建

1. 安装系统

参考百度，以ubuntu22.04系统为例

2. 基础配置

2.1 配置管理IP
a) 使用系统安装中创建的用户与密码登录Ubuntu操作系统。
在这里插入图片描述

b) 执行如下命令设置root用户密码。

sudo passwd root

c) 输入密码确认密码，切换root用户登录。
在这里插入图片描述

d) 执行如下命令编辑配置文件，配置文件一般以.yaml结尾。

sudo vi /etc/netplan/00-installer-config.yaml

e) 配置管理IP。参考下图配置。

在这里插入图片描述

f) 执行如下命令使配置生效。

netplan apply

2.2 配置DNS

vim /etc/systemd/resolved.conf

在这里插入图片描述

执行命令重启服务

systemctl restart systemd-resolved

2.3 更换清华源

cp /etc/apt/sources.list /etc/apt/sources.list.bak
sed -i “s|http://archive.ubuntu.com/ubuntu| https://mirrors.tuna.tsinghua.edu.cn/ubuntu/|g” /etc/apt/sources.list

##更新apt源
sudo apt update
sudo apt upgrade -y

3. 安装gcc、make编译器

sudo apt install gcc  make -y

4. 下载并安装nvidia显卡驱动
4.1 禁用nouveau驱动。
a. 将nouveau驱动加入黑名单。
执行以下命令，编辑配置文件。

vi /etc/modprobe.d/blacklist.conf

将如下内容加入到文件中。

blacklist vga16fb
blacklist nouveau
blacklist rivafb
blacklist rivatv
blacklist nvidiaf

b. 执行sudo update-initramfs -u命令更新现有initramfs映像文件。
c. 执行reboot重启服务器。
d. 执行以下命令，如果没有输出则证明禁用成功。

sudo lsmod | grep nouveau

在这里插入图片描述

4.2 安装GPU驱动
a. 执行以下命令，查看服务器显卡信息，获取后4位PCI ID，示例为27b8。

sudo lspci | grep -i nvidia

在这里插入图片描述

b. 在http://pci-ids.ucw.cz/mods/PC/10de/1eb8上输入PCIID后，单击“Jump”，获取显卡型号，示例显卡型号为L4。
在这里插入图片描述

c. 在NVIDIA官方网站下载对应版本的显卡驱动。

在这里插入图片描述

显卡驱动版本选择建议大于等于460，小于等于525。
在这里插入图片描述

d. 以NVIDIA-Linux-x86_64-525.105.17.run为例，执行以下命令进行安装。

sudo chmod a+x NVIDIA-Linux-x86_64-525.105.17.run
sudo ./NVIDIA-Linux-x86_64-525.105.17.run -no-x-check -no-nouveau-check -no-opengl-files

o 在安装前需要先安装完成gcc、make。
o 若安装过程中出现如下提示，请安装kernel-devel和kernel-headers，再次执行安装即可。
在这里插入图片描述

o 若安装过程中出现如下提示，请执行apt-get install build-essential命令安装build-essential。
在这里插入图片描述

o 若安装过程中出现“The distribution-provided pre-install script failed！ Are you sure you want to continue?”提示，请选择Continue installation，继续安装。

f. 系统出现如下提示，表明安装完成。

在这里插入图片描述

g. 执行nvidia-smi，如果出现GPU相关信息则表明安装驱动成功。
在这里插入图片描述

h. 执行以下命令，开启GPU的Persistence Mode。

nvidia-smi -pm 1

在这里插入图片描述

5. 下载并安装cuda toolkit(从此步骤开始，后续所有操作可以选择在容器内进行；本次操作以物理机为例)
5.1 获取软件包
登录CUDA Toolkit网站（https://developer.nvidia.com/cuda-downloads），

在这里插入图片描述

点击“Archive of Previous CUDA Releases”进入cuda历史版本的页面，寻找合适的cuda版本。如11.8

在这里插入图片描述

选择cuda 11.8版本（与我们上述的Nvidia显卡驱动版本兼容，因为我们的Nvidia显卡驱动支持最高到12.2的cuda版本）。点击“CUDA Toolkit 11.8.0”， 进入如下图Fig. 5所示的网页，
在这里插入图片描述

5.2 安装cuda
a) 执行安装

./ cuda_11.8.0_520.61.05_linux.run

如下图，Driver选项不要勾选了，前面已经安装GPU驱动了。
在这里插入图片描述

b) 添加环境变量

vim ~/.bashrc
export CUDA_HOME=/usr/local/cuda
export PATH=$PATH:$CUDA_HOME/bin
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

c) 创建软连接

sudo ln -s /usr/local/cuda/bin/nvcc /usr/bin/nvcc

d) 查看cuda版本

nvcc –V

6. 下载并安装cudnn深度学习加速库
6.1 下载安装包
登录https://developer.nvidia.com/cudnn-downloads?target_os=Linux
在这里插入图片描述

6.2 安装cudnn
a) 上传cudnn软件包
b) 执行命令解压

tar -xvf cudnn-linux-x86_64-8.9.0.131_cuda12-archive.tar.xz

c) 将cuDNN解压出来的文件拷贝到之前安装的cuda文件加中，然后给cudnn和cudnnlib等文件读取权限。

cp cudnn-*-archive/include/cudnn*.h /usr/local/cuda/include #cuda实际安装目录
cp -P cudnn-*-archive/lib/libcudnn* /usr/local/cuda/lib64
chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*

d) 验证

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

在这里插入图片描述

7. 下载并安装miniconda3
7.1 下载软件包并安装
a) 首先，从 Miniconda 的官方网站下载安装脚本。你可以使用 wget 命令直接下载最新的 Miniconda 安装包：

wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh

b) 运行安装脚本：
下载并验证完安装脚本后，运行以下命令来启动 Miniconda 的安装过程：

bash Miniconda3-latest-Linux-x86_64.sh

安装脚本将引导你完成 Miniconda 的安装，界面如下：
在这里插入图片描述

执行安装脚本后，会提示你阅读许可协议。按 Enter 键滚动到协议末尾，然后输入 yes 同意许可协议。
在这里插入图片描述

接着，确认安装的路径。默认安装路径是你的主目录下的 ~/miniconda3。你可以直接按 Enter 接受默认路径，或者输入自定义路径。
在这里插入图片描述

初始化 Miniconda：
安装过程结束后，系统会询问是否将 Miniconda 初始化为默认 shell 环境。建议你选择 yes，以便 Miniconda 自动配置你的环境。
在这里插入图片描述

安装和初始化完成后，你可以通过以下命令激活 Miniconda 环境：

source ~/.bashrc
conda --version

在这里插入图片描述

8. 创建并进入conda环境

conda create -n test  python=3.10

在这里插入图片描述

9. 安装pytorch深度学习框架
访问 PyTorch 官网 下滑，点击历史版本；
在这里插入图片描述

选取所需版本，如torch==2.1.0.获取下载链接

在这里插入图片描述

根据获取的命令进行安装
在这里插入图片描述
在这里插入图片描述

测试可用性：

Python
Import torch
Torch.cuda.is_availabe()

在这里插入图片描述

二、 模型训练（以ChatGLM-6B为例）

1. 克隆开源代码仓
##pip修改为清华源

pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
pip config list

##克隆代码仓

git clone https://github.com/THUDM/ChatGLM-6B.git
cd ChatGLM-6B
vim requirements.txt
pip install -r requirements.txt
pip install deepspeed
pip install rouge_chinese nltk jieba datasets

2. 下载数据集
ADGEN 数据集数据集格式：
在这里插入图片描述

从 Google Drive 或者 Tsinghua Cloud 下载处理好的 ADGEN 数据集，将解压后的 AdvertiseGen 目录放到本目录下
在这里插入图片描述

3. 下载模型权重（通过modelScope下载）

##安装lfs
apt install git-lfs
##克隆权重
git clone git clone https://www.modelscope.cn/zhipuai/chatglm-6b.git
##如果由于网络原因下载不下来，先通过windows下载至本地，然后上传至服务器

4. 模型训练
编写训练启动脚本：

vim train.sh

在这里插入图片描述

拉起训练

bash train.sh

在这里插入图片描述

  1. 编写推理demo（使用pretrain模型）
vim infencendemo.py

from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("chatglm-6B", trust_remote_code=True)
model = AutoModel.from_pretrained("chatglm-6B", trust_remote_code=True).half().cuda()
model = model.eval()
response, history = model.chat(tokenizer, "你好", history=[])
print(response)
response, history = model.chat(tokenizer, "晚上睡不着应该怎么办", history=history)
print(response)

执行推理脚本：

python infencedemo.py

在这里插入图片描述

----结束

保持成长
关注
  • 15
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
从零开始大模型开发与微调：拼音汉字模型的训练
禅与计算机程序设计艺术
07-10 623
从零开始大模型开发与微调：拼音汉字模型的训练 1. 背景介绍 1.1 问题的由来 随着自然语言处理（NLP）领域的快速发展，多模态学习成为了热门话题之一。在多模态学习中，结合语音、文本、图像等多种模态信息进行联合建模，能够提升模型的
从零开始大模型开发与微调：Nvidia 10_20_30_40系列显卡选择的GPU版本
禅与计算机程序设计艺术
07-10 846
从零开始大模型开发与微调：Nvidia GPU选择指南 作者：禅与计算机程序设计艺术 / Zen and the Art of Computer Programming 关键词：大模型开发，GPU选择，Nvidia显卡，高性能计算，深度学习加速 1. 背景
Ubuntu22.04安装深度学习的GPU环境详细教程（小白图文，显卡驱动、CUDA、cuDNN、PyTorch一步到位）
热门推荐
思绪无限的博客
08-23 1万+
本博客详细介绍了如何在 Ubuntu 22.04 系统上安装和配置深度学习环境，包括 NVIDIA 驱动、CUDA Toolkit、cuDNN、Miniconda 及 PyTorch 等关键组件。从安装前的注意事项开始，逐步讲解了如何切换国内软件源以提升下载速度，接着讲述了系统更新和基本依赖项的安装。随后，重点介绍了 NVIDIA 驱动 的自动与手动安装方法，并通过详细的步骤指导读者完成 CUDA Toolkit 和 cuDNN 的下载、安装及验证。最后，通过 Miniconda 创建 Pytorch测试。
大模型预训练中的数据处理及思考
2201_75499313的博客
06-12 1617
节前，我们星球组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、参加社招和校招面试的同学.针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。大模型预训练需要从海量的文本数据中学习到充分的知识存储在其模型参数中。预训练所用的数据可以分为两类。一类是网页数据（web data），这类数据的获取最为方便，各个数据相关的公司比如百度、谷歌等每天都会爬取大量的网页存储起来。
Amazon SageMaker HyperPod 实践：掌握分布式，构建大模型训练环境！
亚马逊云科技专栏
08-16 26
前言Amazon SageMaker 是亚马逊云科技提供的一个全面的机器学习平台。它支持从构建、训练和部署机器学习模型到监控和自动模型调优的整个机器学习工作流程。利用 Amazon SageMaker HyperPod，用户可以像使用 Amazon EC2 实例一样快速启动、登录各种 GPU 资源 （如 G5 A10、P4 A100、P5 H100…...） 并进行 LLM 或 SD 等模型的分布...
caffe.zip（ubuntu系统编译好的gpu版本的caffe包）
12-04
"ubuntu系统编译好的gpu版本"意味着这个版本的Caffe已经过优化，能够利用NVIDIA GPU的计算能力，为进行深度学习模型训练和推理提供加速。 描述中提到，这个编译好的Caffe包是在Ubuntu 18.04环境下构建的，这意味着...
Ubuntu22.04下安装LDAP
dl_11的博客
08-23 1025
在Ubuntu22.04的时候可以使用apt的方式来安装，在安装LDAP的web 服务器的时候可以考虑选择 LDAP 帐户管理器 (LAM)。因为 PHPLDAPadmin 安装时需要 php 的环境依赖，相对来说安装麻烦。此外在 PHPLDAPadmin 中创建组织和用户时与平常的语法有很大不同，对新手来说不友好。
如何在 Ubuntu 系统中安装PyCharm集成开发环境？
Stayhungry,Stayfoolish.
08-24 684
在Ubuntu系统安装PyCharm还是比较简单的。 如果你在安装过程中遇到任何问题，可以查看PyCharm的官方文档或留言给我寻求帮助。 开始享受PyCharm带给你的高效开发体验吧！
ubuntu-几种挂载磁盘的方式
flypig has a dream！
08-27 470
ubuntu下我们一般可以直接编辑/etc/fstab文件来添加磁盘自动挂载，但是存在一定的风险，特别是在格式错误的情况下可能导致系统无法正常启动。使用systemd自动挂载使用图形界面工具使用udisks2命令行工具编写udev规则接下来，我将详细介绍每种方法的步骤和注意事项。systemd适合需要稳定可靠挂载的场景，具有良好的错误处理和依赖管理。适合喜欢图形界面的用户，操作简单直观。udisks2适合需要在脚本中集成挂载操作的场景，灵活性高。udev。
Ubuntu 16.04下Firefox版本更新
m0_66995023的博客
08-27 285
Ubuntu 16.04 的官方支持已于 2021 年结束，因此使用这个版本的用户可能无法获得最新的 Firefox 版本。如果你想要手动下载某个特定版本的 Firefox，可以访问 Firefox 的官方网站下载页面，下载适合 Ubuntu 的 .deb 包，然后安装。如果你希望安装 Firefox 的最新稳定版，可以使用 Mozilla 提供的 PPA（Personal Package Archive）。请确保在更新前备份重要的数据和配置文件。3、打开终端，切换到下载目录，然后安装 .deb 包。
Ubuntu上搭建Nginx环境
最新发布
shgg2917的博客
08-27 241
创建软链接之前执行nginx命令是需要进入nginx的sbin目录下的，该步骤执行完毕后可不进入安装目录就仅靠启动和停止命令就实现对nginx的控制。需要注意的是，前文中提到有的机器需要加 ./ 才可以在安装目录下正常执行nginx命令，在设置过软连接之后执行命令时不需要加 ./ 的。下载linux版本的nginx，如图圈示。sudo表示以管理员权限执行命令行。
记录ubuntu20.04安装mujoco和mujoco_py
m0_70694811的博客
08-24 192
这部分教程相对成熟，一遍成功的详细教程也有很多，本人就不再重复赘述了：Ubuntu20.04安装mujocoubuntu20.04安装mujoco和mujoco_py[已解决] Cython.Compiler.Errors.CompileError: /root/anaconda3/envs/mujoco_env/lib/python3.8/site-packag参照以上文章即可配置成功！
Ubuntu20.04下解决ROS与Anaconda冲突，取消终端默认base虚拟环境
coco的专栏
08-27 237
安装 anaconda 后，开启终端默认会激活 anaconda 的 base 环境，命令行前会显示 (base)user@computer:，运行命令默认的 Python 版本就会是 Anaconda 相应的 Python 版本；在最近的ROS-noetic中，需要用python3,但无法用anaconda内的python3，因此，这里需要选python3.8，别名是python3。在Terminal里，编译 ROS 的时候，可能会遇到Python版本问题。
【ubuntu24.04】AX210/MT9621/USB网络共享访问无线网络
突围
08-27 73
usb网络共享
Ubuntu下部署Hadoop集群+Hive（一）
darrenzzz的博客
08-22 339
准备环境：3台Ubuntu服务器（版本20.04），自建的虚拟机也可以；推荐内存：8GB以上；部署也支持Ubuntu20.04以上版本，或是Centos也可以。
Ubuntu 22.04上稳定安装与配置搜狗输入法详细教程
思绪无限的博客
08-23 6311
本教程详细介绍了如何在Ubuntu 22.04上安装和配置搜狗输入法，每个步骤详细配图。由于在Ubuntu 24.04上存在兼容性问题，建议用户继续使用稳定的22.04版本。教程涵盖了从更新系统源、安装fcitx输入法框架，到下载和配置搜狗输入法的全部步骤。
Ubuntu 22.04中解决Could not load the Qt platform plugin “xcb“问题解决方法
思绪无限的博客
08-24 5422
在Ubuntu 22.04中安装OpenCV后，遇到“load the Qt platform plugin "xcb" in site-packages/cv2/qt/plugins" even though it was found. 的问题。本文详细探讨了该问题的成因，并介绍了几种常见但无效的解决方法，包括设置环境变量、重装OpenCV或PySide6、以及降低OpenCV或Qt版本等。最终，本文通过命令`sudo apt install libxcb-*`来安装所有与XCB相关的库，解决问题。
20240824给飞凌OK3588-C的核心板刷Ubuntu22.04后适配SONY索尼的HDMI OUT的机芯8530
南岭笑笑生之家
08-24 559
（format根据HDMI当前格式有关，v4l2-ctl -V -d /dev/video58查看，分辨率设置当前屏幕的分辨率）（format根据HDMI当前格式有关，v4l2-ctl -V -d /dev/video58查看，分辨率设置当前屏幕的分辨率）后来更换也不亮，按照飞凌发过来的文档《ubuntu20.04 使用gstreamer.pdf》最开始以为是因为格式的问题，现在是NV16的输出格式，使用BGR3的指令肯定不亮。【720p30的异常/偏色画面】【720p30的异常/偏色画面】
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

保持成长

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值