一:电脑配置
设备参数:
CPU处理器:13th Gen Intel® Core™ i5-13600KF × 20
操作系统: windows10
显存: NVIDIA GeForce RTX 4060 Ti
内存: 32.0 GiB
Cuda 12.1
二:步骤流程
2.1拉取仓库
$ git clone https://github.com/chatchat-space/Langchain-Chatchat.git
2.2 Conda 创建环境
$ conda create -n langchain python=3.10
$ conda activate langchain
pip config set global.index-url https://pypi.org/simple/
2.3 执行命令
$ cd Langchain-Chatchat
1 打开 requirements.txt 文件,注释掉第48行
2打开 requirements_api.txt 文件,注释掉第46行
3 执行命令安装
$ pip install -r requirements.txt
$ pip install -r requirements_api.txt
$ pip install -r requirements_webui.txt
4 执行命令
$ conda install jq
$ pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
$ python copy_config_example.py
$ python init_database.py --recreate-vs
5 修改配置文件Config/model_config.py
先下载chatglm3-6b 以及 bge-large-zh 两个模型解压到本地
5.1 embeding模型路径修改
修改为本地模型路径
5.2 model模型路径修改
6 运行web界面
python startup.py --all-webui
自动打开界面
部署完成
视频教程:b站链接
https://www.bilibili.com/video/BV1cT4y1H7kZ/?vd_source=d1de2dbbe72d3f544ec6460680aa194a