ChatGLM3本机部署

环境配置

参照官方说明，创建虚拟python环境，并安装所需部署包。说明

https://github.com/THUDM/ChatGLM3/blob/main/composite_demo/README.md

本地模型加载

1、先按照官方指引，将模型下载在本地。

2、修改模型加载地址。MODEL_PATH和TOKENIZER_PATH，都修改

注意：通过修改client.py加载本地模型

Jupyter 内核安装

Jupyter 内核在 Jupyter Notebook 或 JupyterLab 等交互式开发环境中扮演着至关重要的角色。

本步骤需要执行。否则代码编写功能不能完全使用，即可以写代码但是无法执行画圆瞪交互式操作。

注：一开始我没有执行官方文档说明的这一步脚本，code interpreter是可以打印代码的。但是无法执行画图，安装之后，画图功能正常。

ipython kernel install --name chatglm3-demo --user

注意：如果修改--name后的命名，需要到demo_ci.py修改IPYKERNEL对应的第二个参数为新的命名。

检查是否jupyter已经安装

如果不是很确定，就是想检查下，可以执行以下命令：

jupyter kernelspec list
python -m pip list | findstr ipython
python -m pip show ipython

命令显示有结果，代表已经安装。

结果展示

Gradio部署

安装gradio

pip install gradio

注意：一般这步不需要，因为在执行requestment时已经安装过。

执行web浏览器加载脚本

python web_demo.py