NLP
cqu_shuai
实事求是,不自以为是
展开
-
NLP——基本任务及研究方向
参考链接https://time.geekbang.org/course/detail/100046401-202901NLP基本任务及研究方向原创 2021-03-09 15:23:23 · 408 阅读 · 0 评论 -
NLP——AI项目流程
参考链接https://time.geekbang.org/course/detail/100046401-202899AI项目流程拿到一个AI项目,首先要做的是判断是否要接受,能否完成。然后才是前期调研和方案确定、数据标注、算法开发、效果调优和代码部署。...原创 2021-03-09 14:21:48 · 314 阅读 · 0 评论 -
总结GPT1和GPT2
参考链接:https://blog.csdn.net/hyzhyzhyz12345/article/details/104181606https://www.jianshu.com/p/a68288613a0fhttps://blog.csdn.net/u012526436/article/details/87882985https://www.jianshu.com/p/6c2bfa1848f2https://zhuanlan.zhihu.com/p/57251615https://www.原创 2020-10-26 01:04:17 · 4070 阅读 · 1 评论 -
总结ELMo
参考链接:https://www.bilibili.com/video/BV1JE411g7XF?p=25https://blog.csdn.net/linchuhai/article/details/97170541预训练模型静态词向量静态词向量就是一个词对应一个向量,这类模型相当于一张存储所有词向量的大表,使用时查询即可。常见的有Word2vec、GloVe、FastText。如下图所示,“养只狗”和“单身狗”中的“狗”对应的向量是一样的(如上图中狗老大所言),但实际上语义上是有差别的原创 2020-10-10 22:42:25 · 363 阅读 · 0 评论 -
总结textRNN
参考链接:https://www.cnblogs.com/mantch/p/11416104.htmlhttps://blog.csdn.net/Torero_lch/article/details/82588732什么是textRNNtextRNN指的是利用RNN循环神经网络解决文本分类问题,文本分类是自然语言处理的一个基本任务,试图推断出给定文本(句子、文档等)的标签或标签集合。比如情感分析、新闻主题分类、虚假新闻检测等。textRNN的结构基于RNN的文本分类模型非常灵活,有多种多样的原创 2020-10-10 22:33:58 · 8309 阅读 · 2 评论 -
简易使用GloVe模型--避坑指南
参考链接:https://github.com/maciejkula/glove-pythonhttps://blog.csdn.net/sinat_26917383/article/details/83029140https://blog.csdn.net/beilizhang/article/details/108175380说明本教程需调用glove_python这个包,而不采用Stanford的GloVe,因为前者是python的比较亲民。天坑glove_python只支持到Pyt原创 2020-09-26 20:37:24 · 2542 阅读 · 5 评论 -
总结glove
参考链接:1.https://tangshusen.me/Dive-into-DL-PyTorch/#/chapter10_natural-language-processing/10.5_glove2.https://blog.csdn.net/u014665013/article/details/79642083#_1703.http://www.fanyeong.com/2018/02/19/glove-in-detail/统计共现矩阵设共现矩阵为X,xij则表示词wi作为中心词和词wj出现原创 2020-09-26 01:19:46 · 253 阅读 · 0 评论 -
总结word2vec
主要参考:https://www.zybuluo.com/Dounm/note/591752词的表征方式词的表征方式有两种:一是one-hot representation(独热表示);二是distributed representation(分布式表示)。独热表示(one-hot representation)亦称独热编码,设词典的大小为N,首先将每个不同的词与0~N-1连续整数一一对应,即整数作为该词的索引,然后将每个词表示为长度为N的向量,在向量中,除词对应的索引i处为1,其余都为0。该方法原创 2020-09-24 19:33:34 · 433 阅读 · 1 评论