给我推荐20个比较流行的nlp预训练模型

最新推荐文章于 2023-04-21 22:34:52 发布
最新推荐文章于 2023-04-21 22:34:52 发布
阅读量193 收藏
点赞数
文章标签： 自然语言处理 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42601134/article/details/129587378
版权
  1. BERT (谷歌)
  2. GPT-2 (OpenAI)
  3. RoBERTa (Facebook)
  4. ALBERT (谷歌)
  5. ELECTRA (谷歌)
  6. XLNet (谷歌/纽约大学)
  7. T5 (OpenAI)
  8. Transformer-XL (谷歌/香港中文大学)
  9. XLM (Facebook)
  10. CTRL (OpenAI)
  11. GPT (OpenAI)
  12. MT-DNN (百度/微软)
  13. ULMFiT (英伟达/卡耐基梅隆大学)
  14. OpenAI GPT-3 (OpenAI)
  15. FlauBERT (哈佛大学/法国国家计算机科学与
或困
关注
【回答问题】ChatGPT上线了！给我推荐20个比较流行的nlp预训练模型
源代码杀手的博客
01-03 1934
这些是目前比较流行的 NLP 预训练模型，它们在处理自然语言任务方面都表现出色。FlauBERT (哈佛大学/法国国家计算机科学与自动化研究院)Transformer-XL (谷歌/香港中文大学)ULMFiT (英伟达/卡耐基梅隆大学)DeBERTa (清华大学/谷歌)XLNet (谷歌/纽约大学)DistilBERT (谷歌)MT-DNN (百度/微软)SpanBERT (谷歌)ELECTRA (谷歌)AdaBERT (谷歌)ALBERT (谷歌)希望这些源码能帮到你！ERNIE (百度)
NLP国内外大模型汇总列表[文心一言、智谱、百川、星火、通义千问、盘古等等]
最新发布
2301_82275412的博客
05-06 2166
中国大模型列表大全，全面收集有明确来源的大模型情况，包括机构、来源信息和分类等，随时更新。大模型相关的Awesome系列包括：大模型评测数据集： https://github.com/wgwang/awesome-LLM-benchmarks中国大模型列表： https://github.com/wgwang/awesome-LLMs-In-China开源开放基础大模型列表： https://github.com/wgwang/awesome-open-foundation-models。
吊打BERT、GPT、DALL·E，跨模态榜单新霸主诞生！
夕小瑶科技说
05-26 2550
文 | 赵一静最近，三个重量级榜单，视觉推理VCR、文本推理ANLI、视觉问答VQA同时被统一模态模型UNIMO霸榜。一个模型统一了视觉和文本两大主阵地，重塑了小编的认知和期望。如此全能，...
超越快手腾讯！度小满NLP模型登顶CLUE榜首
zandaoguang的博客
12-17 213
视学算法报道编辑：桃子好困【新智元导读】要说自然语言处理最厉害的兵器，非「轩辕」剑莫属。近日，度小满金融AI-Lab研发的轩辕 (XuanYuan) 预训练模型刷榜CLUE，距离...
NLP预训练模型综述
wshzd的博客
07-29 2146
现在深度学习越来越火了，在NLP领域主要使用CNNs、RNNs、GNNs以及attention机制。尽管这些模型取得了一些成绩，但是和CV相比，还是有些差距的，主要原因是大部分NLP任务的监督学习数据很少，而深度学习模型的参数有很多，需要大量的数据才可以学习好，否则就会发生过拟合现象，这就导致NLP模型一般都是1-3层的浅层神经网络。 近几年，预训练模型的出现在NLP领域起到里程牌的作用，NLP任务不需要从零开始训练模型了，直接在预训练模型上进行fine-tuning就可以取得...
浅谈自然语言处理（NLP）学习路线（二）：N-Gram模型，一文带你理解N-Gram语言模型
尚拙的博客
03-25 2329
你现在在看我的文章，这是一些文字，但是这些文字实质上是以像素点的形式呈现给你的，所以不要以为这些文字是计算机理解的元素，它不过是一些像素点组合出的可视化图像而已。可是我们现在有很多时候不仅仅是想让文字呈现在我们计算机屏幕上这么简单，更多的是想让计算机接收到一些文字信息后能够在它“心里”对这些文字信息进行理解、分析和处理，怎么办呢？这个时候，语言模型就派上用场了。我们知道，计算机接收到的所有类型的信息，本质上都是转化成“0、1”这两个数进行存储或者处理的，语言文字也不例外。
面向自然语言处理任务的预训练模型综述.pdf
04-21
在自然语言处理任务中，预训练模型已经成为一个非常流行的技术，能够有效地提高模型在下游任务中的性能。 四、预训练模型的分类 预训练模型可以根据其架构和应用场景进行分类。常见的预训练模型有BERT、RoBERTa、...
给我推荐20个比较流行的nlp预训练模型源码
02-06
这是 20 个比较流行的 NLP 预训练模型的源码： 1. BERT: https://github.com/google-research/bert 2. GPT-2: https://github.com/openai/gpt-2 3. RoBERTa: ...
NLP自然语言处理实例——实现机器自动生成商品的推荐标题和推荐语
qq_46317308的博客
10-12 4499
本案例主要介绍自然语言处理方面的核心技术，其中主要是文本处理相关技术，例如分词、词性标记、情感分析、语言模型、语义角色标记等。最终实现机器自动生成商品的推荐标题和推荐语。其中用到jieba工具进行文本分词、Textrank算法、LDA模型、TF-IDF算法三种方法进行主题词提取，得出最终的结论。
NLP不断突破界限，2023 十篇必读的顶级NLP论文！
yinizhilianlove的博客
04-07 2900
来源:（每日干货分享！！编辑: ShuYini校稿: ShuYini时间: 2022-10-23。
谷歌本周发布全新线性时间序列预测模型，再次反超Transformer
AI蜗牛车
04-21 2920
继之前针对Transformer在时间序列预测中真的有效吗、使用MLP打败复杂模型等研究后，谷歌在昨天发表了一篇最新的时间序列预测工作，提出了TiDE模型，整个模型没有任何注意力机制、RNN或CNN，完全由全连接组成。下面为大家介绍这篇工作的主要内容。论文标题：Long-term Forecasting with TiDE: Time-series Dense Encoder下载地址：https:...
ICLR 2023 | PatchTST: 基于Transformer的长时间序列预测
Paper weekly
02-10 1万+
©作者 |杜大钊单位 |中科院软件所研究方向 |时序建模本文中了 2023 ICLR。作为 Transformer-based 预测模型，它是和计算机视觉中的 ViT 最相似的一篇论文（文章标题也很像）。它成功超过了 DLinear，也证明了 DLinear 中 Transformer可能不适合于序列预测任务的声明是值得商榷的。论文标题：A Time Series is Worth 64 W...
比较出名的人工智能模型有哪些
weixin_35757191的博客
12-30 2158
一些比较出名的人工智能模型包括： GPT(Generative Pre-training Transformer)：一种自然语言生成模型，能够自动生成文本内容。 BERT(Bidirectional Encoder Representations from Transformers)：一种自然语言理解模型，能够理解文本的语义。 AlphaGo：一种围棋人工智能程序，能够打败世界冠军级别的人类...
NLP常见语言模型总结
热门推荐
Asia-Lee
01-19 2万+
目录 一、词的离散表示 1、One-hot编码（独热编码） 2、Bag of Words（BOW，词袋模型） 3、N-gram语言模型 二、词的分布式表示（Distributed Representation） 1、共现矩阵（Co-currence Matrix） 2、神经网络语言模型（Neural Network Language Model，NNLM） 3、Word2Vec，G...
2020最优秀的NLP模型
woshiliulei0的专栏
04-21 2222
一直在关注nlp的语言模型，一般看目前最新效果最好的NLP模型，可以看榜单：https://gluebenchmark.com/leaderboard 但是这里面有个问题就是，有的模型并没有放出来，或者放出来了，并没有中文预训练模型，导致无法应用到实际的项目中，目前总结一下最新可用的中文语言模型。 一、ERNIE2.0 目前最好的中文模型算是百度的艾尼2.0，可用在github上找到官网，但是有个...
机器学习入门书单
yansmile1的专栏
11-18 1647
继NLP之后，我又开了ML这个大坑。这是因为NLP涉及到太多的ML模型，仅仅拿过来用的话，我实现的HanLP已经快到个人极限了。而模型背后的原理、如何优化、如何并行化等问题，都需要寻根求源才能解决。 所以我找了个书单自学，电子书为主，顺便分享出来。 ML书单│  李航.统计学习方法.pdf│  机器学习及其应用.pdf│  All of Statistics - A Concise Cou
大语言模型-NLP模型汇总
yuetan的博客
10-04 2094
NLP
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值