![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
自然语言处理
Vico_Men
这个作者很懒,什么都没留下…
展开
-
NLP底层技术之句法分析
句法分析是自然语言处理(natural language processing, NLP)中的关键底层技术之一,其基本任务是确定句子的句法结构或者句子中词汇之间的依存关系。 句法分析分为句法结构分析(syntactic structure parsing)和依存关系分析(dependency parsing)。以获取整个句子的句法结构或者完全短语结构为目的的句法分析,被称为成分结构分析(co原创 2018-01-28 16:54:18 · 39134 阅读 · 3 评论 -
深度学习相关总结
博客来源于本人在深度学习中的知识点总结,基于本人学习进度不定期更新。1、为什么相比于RNN,LSTM在梯度消失上表现更好?Reference: 1. http://blog.csdn.net/a635661820/article/details/45390671 2. http://blog.csdn.net/dark_scope/article/details/4705636原创 2018-01-14 12:17:12 · 1704 阅读 · 0 评论 -
NLP底层技术之语言模型
本文结合cs224n:Natural Language Processing with Deep Learning的Lecture 8、Lecture 9内容,从语言模型(Language Model)讲到N-Gram LM(N-Gram Language Model)再到RNN-LM(RNN-Language Model)。Language Model N-Gram Lang...原创 2018-03-01 20:46:04 · 1954 阅读 · 0 评论 -
理解RNN、LSTM、GRU和Gradient Vanishing
最近在学习cs224n: Natural Language Processing with Deep Learning课程时,对RNN、LSTM和GRU的原理有了更深一层的理解,对LSTM和GRU如何解决RNN中梯度消失(Gradient Vanishing)的问题也有了新的认识,于是写下本文。RNNGradient Vanishing减缓梯度消失防止梯度爆炸GRUL...原创 2018-03-02 15:02:04 · 11637 阅读 · 0 评论 -
浅析文本相似度
在自然语言处理(Natural Language Processing, NLP)中,经常会涉及到如何度量两个文本的相似度问题。在诸如对话系统(Dialog system)和信息检索(Information retrieval)等的问题中,如何度量句子或者短语之间的相似度尤为重要。为方便对知识的梳理,写下这篇博客对部分传统方法、词向量、深度学习方法进行总结,遗漏之处还请大家补充。 度量文...原创 2018-03-17 22:12:29 · 39994 阅读 · 4 评论 -
从Machine Translation 到Sequence to Sequence(Seq2seq)、Attention、Pointer Network(prt network)
本文基于cs224n课程的Machine Translation部分和Michael Collins NLP的Machine Translation部分。从Tranditional MT介绍到SMT(statistical Machine Translation),再到Sequence to Sequence 、Attention,并结合其中的几篇经典论文阐释,同时考虑到15年Google B...原创 2018-03-05 12:52:56 · 2102 阅读 · 0 评论 -
人机对话系统调研
随着人工智能的发展,人机对话系统在智能家居、智能助理等领域得到长足的发展。从前年开始,大量的智能音箱(天猫精灵,小米智能音箱等)开始出现在To C端,很多互联网公司将其视作新的入口不断布局,而在To B端,阿里小蜜、网易七鱼、微软的AI Solution等系统也在不断迭代完善。特别是近年来随着深度学习技术、自然语言处理技术和人工构造的知识库规模的提升,对话系统涌现出大量的研究成果和方法,本篇博...原创 2018-04-08 17:24:03 · 7062 阅读 · 0 评论 -
NLP最新进展之ELMo
文章目录词向量发展NNLMWord2vecGloveELMoELMo原理ELMo模型word embedding 和 word_char_embeddinghighway NetworkELMo源码ELMo应用 说是NLP最新进展,其实已经是2018年的论文了。提出ELMo的论文《Deep contextualized word representations》获得NAACL 2018的bes...原创 2019-04-18 11:49:33 · 1758 阅读 · 0 评论