手把手教你大模型快速下载!无需魔法

模型下载

作者:Datawhale 不要葱姜蒜
项目地址:https://github.com/KMnO4-zx/self_llm.git
如果大家有其他模型想要部署教程,可以来仓库提交issue哦~ 也可以自己提交PR!

hugging face

使用huggingface官方提供的huggingface-cli命令行工具。安装依赖:

pip install -U huggingface_hub

然后新建python文件,填入以下代码,运行即可。

  • resume-download:断点续下
  • local-dir:本地存储路径。(linux环境下需要填写绝对路径)
import os

# 下载模型
os.system('huggingface-cli download --resume-download internlm/internlm-chat-7b --local-dir your_path')
hugging face 镜像下载

与使用hugginge face下载相同,只需要填入镜像地址即可。使用huggingface官方提供的huggingface-cli命令行工具。安装依赖:

pip install -U huggingface_hub

然后新建python文件,填入以下代码,运行即可。

  • resume-download:断点续下
  • local-dir:本地存储路径。(linux环境下需要填写绝对路径)
import os

# 设置环境变量
os.environ['HF_ENDPOINT'] = 'https://hf-mirror.com'

# 下载模型
os.system('huggingface-cli download --resume-download internlm/internlm-chat-7b --local-dir your_path')

更多关于镜像使用可以移步至 HF Mirror 查看。

modelscope

使用modelscope中的snapshot_download函数下载模型,第一个参数为模型名称,参数cache_dir为模型的下载路径。

注意:cache_dir最好为决定路径。

安装依赖:

pip install modelscope
pip install transformers

在当前目录下新建python文件,填入以下代码,运行即可。

import torch
from modelscope import snapshot_download, AutoModel, AutoTokenizer
import os
model_dir = snapshot_download('Shanghai_AI_Laboratory/internlm-chat-7b', cache_dir='your path', revision='master')
git-lfs

来到git-lfs网站下载安装包,然后安装git-lfs。安装好之后在终端输入git lfs install,然后就可以使用git-lfs下载模型了。当然这种方法需要你有一点点 Magic

git clone https://huggingface.co/internlm/internlm-7b
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
DejaHu是一个用于训练模型的开源工具包,可以帮助用户快速构建和训练深度学习模型。以下是一个简要的手把手程,帮助你开始使用DejaHu训练模型。 1. 安装DejaHu:首先,你需要在你的机器上安装DejaHu。你可以在DejaHu的官方网站上找到安装说明和下载链接。根据你的操作系统和需求选择合适的版本进行安装。 2. 数据准备:在开始训练模型之前,你需要准备好训练数据。这包括标记好的训练样本和验证集。确保数据集的质量和数量足够用于模型训练。 3. 构建模型:使用DejaHu提供的API构建你的模型。选取合适的神经网络架构和层,并根据你的任务进行自定义。你可以通过库中的文档或示例代码来了解如何构建模型。 4. 配置训练参数:在训练模型之前,你需要配置一些训练的超参数,例如学习率、批大小等。这些参数将直接影响模型的训练效果。 5. 模型训练:使用DejaHu提供的训练函数来训练你的模型。根据指定的训练数据和参数,DejaHu将会自动完成模型的训练过程。训练的时间取决于你的数据集的大小和计算资源的性能。 6. 模型评估和调优:在训练结束后,通过使用验证集来评估模型的性能。根据评估结果,你可以调整模型的结构和超参数来进一步提高性能,或者选择其他训练方法。 7. 模型保存和使用:当你对模型的性能满意后,你可以将训练好的模型保存起来,以备将来使用。你可以使用DejaHu提供的API加载模型,并用于预测任务或特征提取等。 这只是DejaHu的一个简单程,帮助你入门训练模型。根据你的具体需求和任务,你可能需要学习更多关于DejaHu的功能和使用方法。你可以参考官方文档、在线程或其他资源来进一步深入学习和使用DejaHu。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值