配置语言模型环境心得(langchain-chatchat)

首先需要下载conda等软件,可自行百度,或者等我哪天电脑坏了要重新下载的话就再补充

"""

等待补充

"""

以linux为例,:langchain-chatchat为例:GitHub - chatchat-space/Langchain-Chatchat: Langchain-Chatchat(原Langchain-ChatGLM)基于 Langchain 与 ChatGLM 等语言模型的本地知识库问答 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM) QA app with langchain

首先在终端,cd到你喜欢的文件夹,准备下载文件

git clone https://github.com/chatchat-space/Langchain-Chatchat.git
cd Langchain-Chatchat

然后根据github上的要求:确保你的机器安装了 Python 3.8 - 3.11,结合语言模型qwen的通义千问-7B-Chat · 模型库 (modelscope.cn)要求

  • python 3.8及以上版本
  • pytorch 1.12及以上版本,推荐2.0及以上版本
  • 建议使用CUDA 11.4及以上(GPU用户、flash-attention用户等需考虑此选项)

因此开始在终端打命令

# create一个python版本为3.8(随便),名字(随便)lxf的环境
conda create -n lxf python=3.8

# 激活
conda activate lxf

随后打开官网PyTorch(但是有时候进不去,一般进得去才方便)

进入previous versions of pytorch中,选择对应的cuda版本和torch版本直接复制下载

后面直接pip 对应github的环境文件就行了

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值