首先需要下载conda等软件,可自行百度,或者等我哪天电脑坏了要重新下载的话就再补充
"""
等待补充
"""
以linux为例,:langchain-chatchat为例:GitHub - chatchat-space/Langchain-Chatchat: Langchain-Chatchat(原Langchain-ChatGLM)基于 Langchain 与 ChatGLM 等语言模型的本地知识库问答 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM) QA app with langchain
首先在终端,cd到你喜欢的文件夹,准备下载文件
git clone https://github.com/chatchat-space/Langchain-Chatchat.git
cd Langchain-Chatchat
然后根据github上的要求:确保你的机器安装了 Python 3.8 - 3.11,结合语言模型qwen的通义千问-7B-Chat · 模型库 (modelscope.cn)要求
- python 3.8及以上版本
- pytorch 1.12及以上版本,推荐2.0及以上版本
- 建议使用CUDA 11.4及以上(GPU用户、flash-attention用户等需考虑此选项)
因此开始在终端打命令
# create一个python版本为3.8(随便),名字(随便)lxf的环境
conda create -n lxf python=3.8
# 激活
conda activate lxf
随后打开官网PyTorch(但是有时候进不去,一般进得去才方便)
进入previous versions of pytorch中,选择对应的cuda版本和torch版本直接复制下载
后面直接pip 对应github的环境文件就行了