因为大模型动辄十几GB的大小,因为对于开发人员来说,环境搭好了,模型还要好几个小时。
模型下载的四种方式:
1、Hugging http://face.cn上手动下载模型及其文件,需挂vpn下载
- 因为外网下载,所以速度依赖于你的外网网速
- https://huggingface.co/baichuan-inc/Baichuan2-13B-Chat-4bits/tree/main
2、阿里的modelscope上下载,无需vpn,如果你的网速还行,建议这种方式
- 首先需要安装modelscope
pip install modelscope
# 从modelscope上下载模型
from modelscope.hub.snapshot_download import snapshot_download
model_dir = snapshot_download('baichuan-inc/baichuan-7B', cache_dir='./model', revision='master')