作者:CHEONG
公众号:AI机器学习与知识图谱
研究方向:自然语言处理与知识图谱
本文主要分享自然语言处理中有关预训练模型原理和实践的学习资料,18篇原论文原稿获取请关注公众号后回复:预训练论文,ppt原稿获取请回复:Embedding,其中包括:
- 一篇预训练模型原理综述
- 一篇预训练模型代码实践综述
- 一篇Fasttext的原理和实践综述
- 一篇预训练相关的PPT汇报
一、预训练模型原理
二、预训练模型实践
具体见:Word2vec, Fasttext, Glove, Elmo, Bert, Flair训练词向量教程+数据+源码
三、Fasttext模型预训练+实践
四、论文原稿
18篇论文原稿,获取请关注公众号后回复:预训练论文
五、汇报PPT
下面汇报ppt主要从Word Embedding和Sentence Embedding两个角度介绍NLP预训练相关模型,ppt原稿获取请回复:Embedding
六、往期精彩
【知识图谱系列】探索DeepGNN中Over-Smoothing问题
【知识图谱系列】知识图谱表示学习综述 | 近30篇优秀论文串讲
【知识图谱系列】动态知识图谱表示学习综述 | 十篇优秀论文导读
Transformer模型细节理解及Tensorflow实现
GPT,GPT2,Bert,Transformer-XL,XLNet论文阅读速递
Word2vec, Fasttext, Glove, Elmo, Bert, Flair训练词向量教程+数据+源码
18篇原论文原稿获取请关注公众号后回复:预训练论文,ppt原稿获取请回复:Embedding,感谢zhouzhou对相关资料的提供!原创不易,有用就点个赞呀!