lachesis617的博客

原创 本地化部署Fastgpt+One-API+ChatGLM3-6b知识库

ChatGLM3-6b代码2.FastGPT3.向量模型m3e先安装Anaconda3先创建名字是chatglm3-demo的环境chatglm3-6b需要Python 3.10以上。换到demo下测试模型，先安装requirements.txt，可以先把torch删除单独安装。Code Interpreter 还需要安装 Jupyter 内核。新建系统变量名=IPYKERNEL。值=chatglm3-demo安装pytorch和torchvision的对应版本在下载包的位置安装。