langchain-chatchat试用小记

试用langchain-chatchat小记

1. 安装miniconda

3. 创建一个虚拟环境
   conda create -n chatchat
   

4. 激活环境
   conda activate chatchat

5. 安装pytorch
   conda install pytorch torchvision torchaudio pytorch-cuda=11.8 -c pytorch -c nvidia
   

6. 安装pip依赖
   pip install -r requirements.txt
   

7. 创建model_config.py
   cp configs/model_config.example configs/model_config.py

8. 修改configs/model_config.py内容
   
   注意 这两个模型是我提前下载好了的

9. 启动llm_api
   python server/llm_api.py
   

10. 启动api

• 新打开一个终端
• conda activate chatchat
• python serer/api.py
  

10. 启动webui

• 新打开一个终端
• conda activate chatchat
• streamlit run webui.py
  

11. 浏览器打开， 开始测试

添加文档

回答问题