NLP
文章平均质量分 83
黄小猿
数学系的孩子,对人工智能有着极大的热情,让机器像人一样,学习提升,是挑战人类对大脑的认知底限,愿尽自己的绵薄之力,让这个世界更美好。
展开
-
词嵌入(word2vec)-NNLM(Neural Network Language Model)
基本概念 词编码 向量空间子结构 One-Hot Bag of words(词袋模型) TF-IDF 语言模型 分布式表示 共现矩阵NNLM(Neural Network Language Model)神经网络语言模型 NNLM的基本思想 NNLM原理 projection layer SoftMax层 hidden layer 1.基本概念传统的机器翻译,自然语言处原创 2017-11-28 19:20:50 · 9620 阅读 · 0 评论 -
神奇的贝叶斯思想
1. 贝叶斯公式 2. 朴素贝叶斯 3. 贝叶斯公式体现的思想**3.1 逆概思维****3.2 结果推条件的隐含信息** 4. 应用**4.1 分词****4.2 文本分类**原创 2017-10-29 23:06:43 · 5411 阅读 · 0 评论 -
循环神经网络(RNN)之LSTM(Long Short Term Memory networks)
目录RNN为何能记忆以及它面临的问题LSTM的网络结构LSTM的思想LSTM的详细网络结构 步骤1:存什么,丢什么(forget gate layer:忘记门) 步骤2:更新什么信息(输入门) 步骤3:开始更新信息 步骤4:当前时刻的输出你可能会问关于LSTM的问题LSTM的变种(GRU)总结 1.RNN为何能记忆以及它面临的问题当你在看一部电影的时候,你使用传统的神经网络原创 2017-12-01 07:53:20 · 2731 阅读 · 1 评论 -
词嵌入(word2vec)-CBOW原理通俗解释
目录CBOW原理解析CBOW:层次SoftmaxCBOW:负例采样word2vec + CNN做文本分类 1.CBOW原理解析如果之前没有了解NNLM的话,可以戳这篇文章先简单了解下。词嵌入-NNLM原理NNLM的基本原理是利用前N−1N-1个词预测第N个词,但CBOW是希望用前后N个词来预测中间这个词,这是他们的本质区别。在上一篇文章中,我谈到了NNLM,其中的C=(W1,W2,…,W原创 2017-11-28 22:03:00 · 8230 阅读 · 2 评论 -
循环神经网络(RNN)原理通俗解释
1.RNN怎么来的?2.RNN的网络结构及原理3.RNN的改进1:双向RNN4.RNN的改进2:深层双向RNN4.1 Pyramidal RNN5.RNN的训练-BPTT6.RNN与CNN的结合应用:看图说话7.RNN项目练手1.RNN怎么来的?循环神经网络的应用场景比较多,比如暂时能写论文,写程序,写诗,但是,(总是会有但是的),但是他们现在还不能正常使...原创 2017-11-30 15:15:37 · 205241 阅读 · 30 评论 -
主题模型(LDA)(二)-公式推导
上一篇文章讲解了LDA的通俗理解,基本没有用任何公式,还给了用gensim做邮件分类的案例,详情请戳:主题模型(LDA)(一)这篇文章看一下公式式怎么推导出来的。正经的LDA,主要有以下几个方面:一个函数:gamma函数四个分布:二项分布,多项分布,beta分布,狄利克雷分布一个概念一个理念:共轭先验与贝叶斯框架pLSA,LDA一个采样:Gibbs采样我们来看一下它是怎么推导出来的。原创 2017-12-06 21:30:59 · 6633 阅读 · 0 评论 -
注意力模型
RNN原理理解注意力模型初见注意力模型的思考 1.RNN原理理解前两篇文章,我们详细讲解了RNN的原理:循环神经网络(RNN)原理通俗解释,以及它的高级版本LSTM:循环神经网络(RNN)之LSTM 这是它的原理图,你会发现,t−1,t,t+1t-1,t,t+1,其实是一个连接着的序列,比如时间,或者语言。也就是说,RNN对于序列到序列的学习比较擅长。所以本篇文章会详细介绍RNN在NL原创 2017-12-17 22:16:08 · 2121 阅读 · 0 评论 -
主题模型(LDA)(一)--通俗理解与简单应用
这篇文章主要给一些不太喜欢数学的朋友们的,其中基本没有用什么数学公式。 目录直观理解主题模型LDA的通俗定义LDA分类原理LDA的精髓主题模型的简单应用-希拉里邮件门 1.直观理解主题模型 听名字应该就知道他讲的是什么?假如有一篇文章text,通过里面的词,来确定他是什么类型的文章,如果文章中出现很多体育类的词,比如,篮球,足球之类的,那么主题模型就会把它划分为体育类的文章。因为主原创 2017-12-06 14:50:13 · 85565 阅读 · 10 评论