大模型时代,数据为王,在哪里寻找开源数据集?

大模型时代,数据为王,在哪里寻找开源数据集?是一个比较头疼的问题。经过调研整理,下面列出目前可以寻找开源大模型数据集网站清单,一网打尽,请您按需使用。如果对您有帮助,希望可以点赞,在看。

开源数据集网站:

1、huggingface.co开源数据集

链接:https://huggingface.co/datasets

镜像:https://hf-mirror.com/datasets

图片

图片

2、opendatalab开源数据集

链接:https://opendatalab.com/

图片

图片

3、aws亚马逊开源数据集

链接:https://registry.opendata.aws/

图片

图片

4、微软开源数据集

链接:https://www.microsoft.com/en-us/research/tools/‍

图片

图片

5、谷歌开源数据集

链接:https://datasetsearch.research.google.com/

没有FQ工具,暂时打不开。

6、github开源数据集

链接:https://github.com/awesomedata/awesome-public-datasets

图片

图片

7、modelscope开源数据集

链接:https://modelscope.cn/datasets

图片

图片

8、luge千言开源数据集

链接:https://www.luge.ai/

图片

图片

9、tianchi天池开源数据集

链接:https://tianchi.aliyun.com/dataset/

图片

图片

10、kaggle开源数据集

链接:https://www.kaggle.com/datasets

图片

图片

11、uci开源数据集

链接:https://archive.ics.uci.edu/datasets

图片

图片

12、计算机视觉开源数据集

链接:https://visualdata.io/discovery

图片

图片

13、dataju聚数力开源数据集

链接:http://dataju.cn/Dataju/web/home

图片

图片

14、hyper超神经开源数据集

链接:https://hyper.ai/datasets

图片

图片

15、baai开源数据集

链接:https://data.baai.ac.cn/data

图片

图片

16、百度飞桨开源数据集

链接:https://aistudio.baidu.com/datasetoverview

图片

图片

17、payititi帕衣提提开源数据集

链接:https://www.payititi.com/opendatasets/

图片

图片

18、启智开源数据集

链接:https://openi.pcl.ac.cn/explore/datasets

图片

图片

19、和鲸开源数据集

链接:https://www.heywhale.com/home/dataset

图片

图片

希望以上开源数据集网站清单,能对您训练大模型有所帮助,持续关注开源数据集,为持续大模型输送语料。

  • 0
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
开源模型数据集对接通常涉及到训练这些模型所用的预训练数据和特定任务的数据集。这些模型的训练过程通常需要大量的文本或图像数据,以便它们能够学习到丰富的语言或视觉模式。以下是一些常见的开源模型及其数据集对接: 1. **GPT系列(如GPT-3)**:这些基于Transformer架构的模型(如OpenAI的InstructGPT)需要大规模的文本数据,如维基百科、CommonCrawl等,来进行无监督学习。用户可能需要找到适合生成式任务的数据集,比如故事、文章续写等。 2. **BERT(及变种)**:如BERT, RoBERTa, ALBERT等,主要依赖于英文的BookCorpus和WikiText-103等文本数据集,以及中文的CCNet等。 3. **M6(DALL-E)**:这是一款基于视觉和文本的模型,其训练数据可能包括互联网上的大量图片和与其相关的文本描述。 4. **CLIP**:这款图像-文本模型使用了来自互联网的大量图片和相应的标签对作为训练数据。 5. **Yandex的LaBSE**:这是一款跨语言的预训练模型,其训练数据包含多种语言的文本数据。 6. **GANs(生成对抗网络)**:像BigGAN、StyleGAN这类模型通常使用大量的图像数据进行训练,例如ImageNet、CelebA等。 为了与这些模型对接数据,用户通常需要准备结构化的文本或标记好的图像数据,并根据模型的要求调整数据格式,如Tokenization、预处理等。模型开发者通常会提供官方文档或示例代码指导如何将数据喂入模型进行训练或微调。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值