m0_62852701的博客

原创 本地部署Chinese-llama-2-7b模型（Windows）

所以我们需要去下载一个大模型添加到里面，我用的是Chinese-llama-2-7b的模型，还有一个1.3b的模型，稍显笨拙一点，所以我的建议是。部署大模型有着多种方式，但是我用的是一键安装的方式，在网上可以找到很多一键安装包，方便简洁。1.在下载一键安装包的时候，建议新建文件夹，并且为全英文的路径，不然容易报错。3.7b的模型可能语料库还是不够多，在聊天的时候可能有些问题，自己多试试。模型下载好以后，需要。