NLP
qq_38573437
这个作者很懒,什么都没留下…
展开
-
难以置信!LSTM和GRU的解析从未如此清晰(动图+视频)
<p style="text-align:justify;margin-left:8px;line-height:1.75em;"><img src="https://ss.csdn.net/p?https://mmbiz.qpic.cn/mmbiz_gif/BnSNEaficFAb1h6NCo05atBXvdu7Q8PibpiaAFkcRBEn...转载 2019-12-26 11:46:51 · 507 阅读 · 0 评论 -
RNN梯度消失和爆炸的原因
经典的RNN结构如下图所示:假设我们的时间序列只有三段, 为给定值,神经元没有激活函数,则RNN最简单的前向传播过程如下:假设在t=3时刻,损失函数为 。则对于一次训练任务的损失函数为 ,即每一时刻损失值的累加。使用随机梯度下降法训练RNN其实就是对 、 、 以及 求偏导,并不断调整它们以使L尽可能达到最小的过程。现在假设我们我们的时间序列只有三段,t1,t2,t3。我们只对t3时刻...转载 2019-12-26 11:19:28 · 357 阅读 · 0 评论 -
详解从 Seq2Seq模型、RNN结构、Encoder-Decoder模型 到 Attention模型
欢迎点击参观我的 ——> 个人学习网站 注:本文的所有模型只涉及自然语言处理领域,同时本文不涉及太多复杂公式推导。...转载 2019-12-15 17:42:32 · 386 阅读 · 0 评论 -
深度学习之RNN(循环神经网络)
一 RNN概述 前面我们叙述了BP算法, CNN算法, 那么为什么还会有RNN呢?? 什么是RNN, 它到底有什么不同之处? RNN的主要应用领域有哪些呢?这些都是要讨论的问题. 1) BP算法,CNN之后, 为什么还有RNN?  ...转载 2019-12-15 17:15:23 · 589 阅读 · 0 评论 -
神经机器翻译(seq2seq RNN)实现详解
seq2seq 是一类特殊的 RNN,在机器翻译、文本自动摘要和语音识别中有着成功的应用。本节中,我们将讨论如何实现神经机器翻译,得到类似于谷歌神经机器翻译系统得到的结果(https://research.googleblog.com/2016/09/a-neural-network-for-machine.html)。关键是输入一个完整的文本序列,理解整个语义,然后输出翻译结果作为另一个序列。...转载 2019-12-15 16:52:21 · 1024 阅读 · 0 评论 -
中文分词整理
中文分词整理转载 2019-11-29 18:01:27 · 51 阅读 · 0 评论 -
国内可用免费语料库
国内可用免费语料库转载 2019-11-29 17:24:15 · 422 阅读 · 0 评论