加载（load_dataset）Huggingface/datasets下的数据集遇到网络连接问题解决办法

欧拉雅卡

已于 2023-12-27 20:13:47 修改

阅读量1k

点赞数 8

文章标签： python nlp

于 2023-12-27 20:02:41 首次发布

本文链接：https://blog.csdn.net/weixin_44709340/article/details/135254511

版权

问题：
Huggingface网站提供了许多数据集，数据集格式比较标准，使用非常方便。但是在国内用服务器datasets.load_dataset()下载经常会遇到cannot connect的问题，即使在联网的状态下。

解决办法：
解决“无法下载”一种比较可靠的方式，用个人联网电脑本地下载，比如下面super_glue里的cb数据集：

from datasets import load_dataset
dataset = load_dataset('super_glue', 'cb', cache_dir='./raw_datasets')
dataset.save_to_disk('super_glue_cb')

不出意外的话，这样就可以顺利下载。并保存至super_glue_cb, 会包含train、validation、test等文件。

将数据集上传到服务器上就可以在服务器中加载数据集了，避免在线下载网络不稳定或无法连接的问题。

服务器上加载本地数据集使用方式：

from datasets import load_from_disk
raw_dataset = load_from_disk("./super_glue/super_glue_cb")

关注