看正好六个字-CSDN博客

原创 NLP 的 Sequence-to-Sequence(Seq2Seq)模型

Sequence-to-Sequence 模型

2021-01-08 15:09:07 1540

循环神经网络(RNN)循环神经网络是一种用于处理序列数据的神经网络。RNN 的输入输出：用「动图」和「举例子」讲讲 RNN右侧是 RNN 在时间上进行展开的示意图。这个过程由 Encoder完成，目的是从序列输入中依次提取数据并将其编码为向量(表示输入)。对于第时刻，是当前时刻的输入，用于实时更新状态；是上一隐藏层的状态，用于记忆状态(对于文本而言，就是前文留下的对推断后文有用的信息)。基于 Encoder-Decoder 的 RNN 模型可应用于机器翻译，输入是英文句...

2020-12-31 15:09:15 3669

原创 word2vec 的 Negative Sampling(负采样)技巧

Skip-gram 模型的负采样

2020-12-28 15:09:05 2302

原创 word2vec 的 Skip-gram(跳字)模型

Skip-gram 模型基于预测的语言模型(by Mikolov)通过中心词来推断上下文一定窗口内的单词。输入一个词，模型使用含有一个隐藏层的神经网络去正确预测的上下文词。即模型试图在给定中心词的情况下，最大化它的上下文词的概率：神经网络结构输入层...

2020-12-24 15:09:32 1472 2

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

看正好六个字的博客

原创深度学习的 Attention(注意力)机制

原创 NLP 的 Sequence-to-Sequence(Seq2Seq)模型

原创循环神经网络(RNN) 和长短期记忆网络(LSTM)

原创 word2vec 的 Negative Sampling(负采样)技巧

原创 word2vec 的 Skip-gram(跳字)模型

空空如也

空空如也

原创 深度学习的 Attention(注意力)机制

原创 NLP 的 Sequence-to-Sequence(Seq2Seq)模型

原创 循环神经网络(RNN) 和 长短期记忆网络(LSTM)

原创 word2vec 的 Negative Sampling(负采样)技巧

原创 word2vec 的 Skip-gram(跳字)模型

空空如也

空空如也

原创深度学习的 Attention(注意力)机制

原创循环神经网络(RNN) 和长短期记忆网络(LSTM)