通义千问-1_8B-Chat本地安装

在GitHub下载千问的代码GitHub - QwenLM/Qwen: The official repo of Qwen (通义千问) chat & pretrained large language model proposed by Alibaba Cloud.The official repo of Qwen (通义千问) chat & pretrained large language model proposed by Alibaba Cloud. - QwenLM/Qwenhttps://github.com/QwenLM/Qwen

新建一个文件夹放千问的模型文件，我是在Qwen文件夹下新建的models文件夹，下载的模型文件放在这里。

下载模型文件可以在魔搭社区下载，也可以在huggingface下载。模型文件比较大，下载需要安装Git LFS（全称为Git Large File Storage，Git大文件存储）。

魔搭社区汇聚各领域最先进的机器学习模型，提供模型探索体验、推理、训练、部署和应用的一站式服务。https://www.modelscope.cn/models/qwen/Qwen-1_8B-Chat/files

打开Qwen的demo文件cli_demo.py，修改里面的默认路径为下载模型的路径。

在cmd里使用命令运行Qwen的demo。

在运行demo之前需要确保python环境已经安装了所需要的三方库，在Qwen文件夹下有两个txt文件，是运行demo所需要的三方库。

这里我使用conda安装的python环境。conda配置了清华镜像下载三方库。或者在后面加

-i https://pypi.tuna.tsinghua.edu.cn/simple