VisualGLM-6B部署

部署VisualGLM-6B，主要是以下步骤进行操作：

应用环境

显卡号为 NVIDIA RTX A6000
操作系统型号为 centos 7.X
CUDA 型号cuda11.1
cuDNN 版本为 cudnn v8.0.4
Python 版本为 3.9.12

步骤

1.创建新的虚拟环境：使用命令

conda create -n visualglm python==3.10.6

来创建一个名为visualglm的虚拟环境，并指定Python版本为3.10.6。

2.激活虚拟环境：使用命令

conda activate visualglm

来激活刚刚创建的虚拟环境。

查看查看已有的虚拟环境列表，以下三个命令均可。

conda info --envs
con