1.安装python环境
1.1 下载并安装Anaconda
下载地址:https://www.anaconda.com/download
1.2 配置python3.8环境
1.3 打开命令行控制台
1.4 安装pytorch环境,这一步非常重要
- 先查询cuda支持的版本
nvidia-smi
- 去pytorch官网查询pytorch支持的cuda版本
https://pytorch.org/get-started/locally/
- 运行命令
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
1.5安装gradio用于启动图形化web界面
pip install gradio==3.40.0
2.下载ChatGLM2-6B运行程序及模型
- 下载程序并解压到磁盘
下载地址: https://github.com/THUDM/ChatGLM-6B
加速地址: https://gitcode.com/THUDM/ChatGLM-6B
- 下载模型到指定路径下
模型下载链接
https://cloud.tsinghua.edu.cn/d/674208019e314311ab5c/
=模型以外的配置文件下载链接=
https://huggingface.co/THUDM/chatglm2-6b/tree/main
3.运行
- 打开Anaconda的命令行控制台,切换路径到 D:\ChatGLM2-6B-main
cd D:\ChatGLM2-6B-main
D:
- 启动
python web_demo.py