阿里通义千问：本地部署Qwen1.5开源大模型

一、Qwen1.5介绍

        通义千问为阿里云研发的大语言系列模型。千问模型基于Transformer架构，在超大规模的预训练数据上进行训练得到。预训练数据类型多样，覆盖广泛，包括大量网络文本、专业书籍、代码等。同时，在预训练模型的基础之上，使用对齐机制打造了模型的chat版本。

开源模型序列

模型	介绍	模型下载
qwen1.5-110b-chat	通义千问1.5对外开源的110B规模参数量的经过人类指令对齐的chat模型。	魔搭社区
qwen1.5-72b-chat	通义千问1.5对外开源的72B规模参数量的经过人类指令对齐的chat模型。	魔搭社区
qwen1.5-32b-chat	通义千问1.5对外开源的32B规模参数量的经过人类指令对齐的chat模型	魔搭社区
qwen1.5-14b-chat	通义千问1.5对外开源的14B规模参数量的经过人类指令对齐的chat模型。	魔搭社区
qwen1.5-7b-chat	通义千问1.5对外开源的7B规模参数量是经过人类指令对齐的chat模型。	魔搭社区
qwen1.5-4b-chat	通义千问1.5对外开源的4B规模参数量是经过人类指令对齐的chat模型。	魔搭社区
qwen1.5-0.5b-chat	通义千问1.5对外开源的0.5B规模参数量的经过人类指令对齐的chat模型。	魔搭社区

二、本地部署Qwen1.5

        由于资源问题，本机只能使用cpu运行qwen1.5_4b_chat，所以本次操作基于上述条件执行。