unbuntu下安装chatglm2-6b记(一)

ChatGLM2-6B是智谱AI及清华KEG实验室发布的中英双语对话模型。

由于本人最近在研究大模型 ，所以这篇文章会写出在安装中遇到的详细步骤及相关问题，不说了上干货。

先按这个文章安装 conda

Ubuntu 安装 conda_ubuntu安装conda-CSDN博客

然后显卡驱动安装不对参考这两篇文章 服务器上我发现显卡驱动不对用第二篇文章解决

Ubuntu下安装nvidia显卡驱动_安装nvidia-modprobe-CSDN博客

NVIDIA驱动失效简单解决方案：NVIDIA-SMI has failed because it couldn‘t communicate with the NVIDIA driver._nvidia-smi has failed because it couldn't communic-CSDN博客

安装成功后输入nvidia-smi会提示这个界面

我的显卡驱动是4090ti 12g 理论上应该跑的起来，后面我会在后续的微调文章里详细解答。

如果安装中遇到下图这个问题 基本就是版本的太低的问题了重装个新的版本。

安装conda完成后 开始安装大模型

这里呢大家可以参考这篇文章

linux环境部署清华大学大模型最新版 chatglm2-6b 图文教程_python_脚本之家

conda create -n ChatGLM2 python=3.10.6

初始化虚拟环境完成后

conda env list 可以看到虚拟环境

激活目标环境

conda activate ChatGLM2

安装git 安装成功后 然后下载代码 代码可以通过码云下载或本地下载上传到服务器虚拟环境本地磁盘目录