算力环境配置参考:
步骤一:下载ChatGLM2模型
cd /workspace/
git clone https://github.moeyy.xyz/https://github.com/THUDM/ChatGLM2-6B.git
步骤二:下载依赖
cd /workspace/ChatGLM2-6B/
pip install -r requirements.txt
步骤三:下载模型库
地址:魔搭社区
执行如下命令
mkdir /workspace/ChatGLM2-6B/THUDM
git lfs install
git clone https://www.modelscope.cn/ZhipuAI/chatglm2-6b.git
步骤四:启动并应用大模型-命令行
cd /workspace/ChatGLM2-6B/
python cli_demo.py
步骤五:启动并应用大模型-web网页
可以通过网页访问使用
streamlit run web_demo2.py
参考地址