本地化部署Fastgpt+One-API+ChatGLM3-6b知识库
ChatGLM3-6b代码2.FastGPT3.向量模型m3e先安装Anaconda3先创建名字是chatglm3-demo的环境chatglm3-6b需要Python 3.10以上。换到demo下测试模型,先安装requirements.txt,可以先把torch删除单独安装。Code Interpreter 还需要安装 Jupyter 内核。新建系统变量名=IPYKERNEL。值=chatglm3-demo安装pytorch和torchvision的对应版本在下载包的位置安装。
原创
2024-02-24 22:06:50 ·
4823 阅读 ·
4 评论