![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
NLP
文章平均质量分 54
喂小喽喽
人生就是一场旅行,创造属于自己的精彩!
展开
-
图解RNN
循环神经网络(recurrent neural network)或RNN是一类用于处理序列数据的神经网络。就像卷积网络是专门用于处理网格化数据(如一个图像)的神经网络,循环神经网络是专门用于处理序列x1,... xt 的神经网络。本文将通过语言模型中RNN的应用来浅谈自己对RNN的理解。图1 RNN展开图上图表示一个RNN的展开图,其中,X为输入,隐层是S,输出是O。RNN输入到隐藏的连接由权重矩...原创 2018-03-04 16:14:29 · 1547 阅读 · 0 评论 -
Beam Search
测试原创 2018-05-19 17:49:45 · 3519 阅读 · 1 评论 -
Long Short Term Memory networks(LSTMs)
背景:在我之前的一篇博客中说了一下对RNN的理解,RNN对于长句子表示的不是很好,超过六七层的网络之后就很难获得之前内容的信息了,目前的框架是基于梯度的,多层网络很容易出现梯度弥散的情况。但是对于NLP任务中,输入序列长度会很长,基本的RNN网络就不太适合处理这些任务了。于是大牛们Hochreiter & Schmidhuber [1]就提出了LSTM网络,让处理长序列也变得可能。原理:L...原创 2018-05-20 21:34:39 · 584 阅读 · 0 评论