利用hf-mirror镜像+linux命令行下载数据集

        之前都是从那里手动点击——这次任务量大——>参考了hugging-face_cli的下载方法

(1)先通过df -h命令,查看各个位置的磁盘空间大小

(2)然后,参考这个文章:国内快速下载huggingface(镜像)上的模型和数据 - 知乎 (zhihu.com)

依次输入以下命令:

pip install -U huggingface_hub

 

export HF_ENDPOINT=https://hf-mirror.com

 这里以这个数据集elsaEU/ELSA_D3 · Datasets at HF Mirror (hf-mirror.com)为例子,同时,下载的本地地址为 ./data/

速度很快,接近40多MB/s

huggingface-cli download --repo-type dataset --resume-download elsaEU/ELSA_D3 --local-dir /data/elsaEU/ELSA_D3

(3)还有其他下载方法,自己搜文章即可,或者我列出一些参考:

  1. 参考文章:国内快速下载huggingface(镜像)上的模型和数据 - 知乎 (zhihu.com)
  2. 镜像数据集网站:elsaEU/ELSA_D3 at main (hf-mirror.com)

  1. 参考文章2:如何快速下载huggingface模型——全方法总结 - 知乎 (zhihu.com)

这一篇估计就是最好的文章了

估计这些文章够用了-相信大家都会遇到huggingface的问题,你以后也一定躲不开,不妨多学习一些

国内快速下载huggingface(镜像)上的模型和数据 - 知乎 (zhihu.com)

使用Huggingface镜像站hf-mirror.com下载资源_huggingface mirror-CSDN博客

简便快捷获取Hugging Face模型(使用镜像站点) - 知乎 (zhihu.com)

  • 3
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值