DL&NLP
深度学习和自然语言处理
fkyyly
这个作者很懒,什么都没留下…
展开
-
1 语言模型和词向量
----------------------------大纲--------------------------1 原理1.1 语言模型1.2ngram1.3 神经网络语言模型 当前词wt 依赖于其前面的词w1:(t−1) ,估计P(Wt|W1:(t−1)) 转化为分类问题,降低语言模型困惑度1.4 word2vec 不通过优化语言模型而直接学习词嵌入 ...原创 2018-01-09 13:11:57 · 2017 阅读 · 0 评论 -
2 语言模型和词向量 tensorflow词向量
----------------------------大纲--------------------------1 随着模型不断更新2 直接使用预先训练好的词向量如word2vec, glove3 测试文件向量化--------------------------------------------------------------省去数据读取以及预处理模原创 2018-01-10 00:52:24 · 1873 阅读 · 1 评论 -
CNN
-------------------------------大纲---------------------------------------------1 一些常见关键字含义2 推导3 一般使用过程4 tensorflow中具体使用 ---------------------------------------------------------------------...原创 2018-01-12 11:58:11 · 432 阅读 · 0 评论 -
为什么用CNN做NLP
一、引例我们首先来看这么一个问题,假设我们需要对句子做情感上的分类。传统的词袋模型或者连续词袋模型都可以通过构建一个全连接的神经网络对句子进行情感标签的分类,但是这样存在一个问题,我们通过激活函数可以让某些结点激活(例如一个句子里”not”,”hate”这样的较强的特征词),但是由于在这样网络构建里,句子中词语的顺序被忽略,也许同样两个句子都出现了not和hate但是一个句子(I do not h...转载 2018-02-26 20:22:03 · 2166 阅读 · 0 评论 -
CNN句子建模
本文将大概总结一下最近CNN在NLP中的句子建模(或者句子表示)方面的应用情况,主要阅读了以下的文献:Kim Y. Convolutional neural networks for sentence classification[J]. arXiv preprint arXiv:1408.5882, 2014.Kalchbrenner N, Grefenstette E, Bluns转载 2018-01-12 14:44:48 · 2207 阅读 · 0 评论