1 硬件环境
处理器: Intel(R) Core(TM) i5-10600K CPU @ 4.10GHz 4.10 GHz
机器内存: RAM 32.0 GB (31.9 GB 可用)
显卡 显存>14 G(可运行标准版QWen2-7B)
2 软件环境准备
具体安装方法参照本人上一篇文章:【全网最简单】5分钟 基于Win10 搭建本地ChatGLM-6B对话大模型
【全网最简单】5分钟 基于Win10 搭建本地ChatGLM-6B对话大模型_1060本地部署大模型chatglm-CSDN博客
两者环境基本相同,唯一区别是QWen2要求Transformers的版本更新一些,因此若你已经完成ChatGLM-6B模型的本地搭建,可以在此基础上升级Transformers即可运行千问2。
3 下载QWen2-7B预训练模型数据
下载地址:
4 下载QWen2-7B模型使用样例代码
5 修改样例代码:
未完待续,敬请关注 :。。。
上一篇:【全网最简单】5分钟 基于Win10 搭建本地ChatGLM-6B对话大模型_1060本地部署大模型chatglm-CSDN博客