完全移动huggingface模型仓库(不是简单mv)

Linux中移动huggingface模型仓库

参考链接

先在bashrc中配置:

export HF_DATASETS_CACHE="/your/path/dataset"
export HF_HOME="/your/path/"
export HUGGINGFACE_HUB_CACHE="/your/path/hub"
export TRANSFORMERS_CACHE="/your/path/transformers"

路径一定要绝对路径,不要出现 ~/这种,然后source ~/.bashrc更新

在你下载的模型目录中,输入ll显示详细信息

在这里插入图片描述

可以看到粉色的条目就是映射路径

原先的数据存储在~/.cache/huggingface/hub/models--THUDM--glm-4-9b-chat

现在我希望将glm4-9b-chat存储在~/ssd2/huggingface/hub

mv ~/.cache/huggingface/hub/models--THUDM--glm-4-9b-chat ~/ssd2/huggingface/hub/models--THUDM--glm-4-9b-chat

由于转移了文件,因此需要修改映射

先将原先的映射删除

rm model-00001-of-00010.safetensors

然后加入新的映射路径

ln -s [新的目标文件路径] model-00001-of-00010.safetensors

以上述model-00001-of00010.safetensors举例

ln -s ~/ssd2/huggingface/hub/models--THUDM--glm-4-9b-chat/blobs/d0040c9cf0d4d0553c4156dbd890437788ba43237037e1f9c4a3c1a3ddfad1f6 model-00001-of-00010.safetensors

我重新创建了新的映射文件到新的模型目录中,然后以此类推操作,将所有模型的权重都重新映射,则可以完全转移模型。

  • 2
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

EEE1even

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值