labamm的博客

本地模型启动,需要把从Hugging Face Hub加载改为本地路径加载,在/root/ChatGLM-6B/下的cli_demo.py和web_demo.py文件中进行修改。虚拟环境中，运行nvcc -V返回的是系统cuda版本(/usr/local/cuda)，想要查看虚拟环境的cuda版本，使用print(torch.version.cuda)cuda和pytorch版本关系如下要求 https://pytorch.org/get-started/previous-versions/

https://e7b6d156-c1cd-487c.gradio.live/ 打开页面如下图所示。//开了FT的只开github的加速，不开http/https代理。

/注意：火山引擎FT的只开github的加速，不开http/https代理。因为设置http/https代理， 执行conda env create -f environment.yaml会报错。

1、下载安装#1、下载安装wget https://repo.anaconda.com/archive/Anaconda3-2022.05-Linux-x86_64.shbash Anaconda3-2022.05-Linux-x86_64.sh#持续按“ENTER”键继续安装、输入“yes”确认信息、按一次“ENTER”键、输入“yes”确定初始化Anaconda#执行source ~/.bashrc命令使配置文件生效source ~/.bashrc#终端会在前面显示（base）表示安