- 博客(5)
- 收藏
- 关注
原创 循环神经网络(RNN) 和 长短期记忆网络(LSTM)
循环神经网络(RNN)循环神经网络是一种用于处理序列数据的神经网络。RNN 的输入输出:用「动图」和「举例子」讲讲 RNN右侧是 RNN 在时间上进行展开的示意图。这个过程由 Encoder完成,目的是从序列输入中依次提取数据并将其编码为向量(表示输入)。对于第时刻,是当前时刻的输入,用于实时更新状态;是上一隐藏层的状态,用于记忆状态(对于文本而言,就是前文留下的对推断后文有用的信息)。基于 Encoder-Decoder 的 RNN 模型可应用于机器翻译,输入是英文句...
2020-12-31 15:09:15 3683
原创 word2vec 的 Skip-gram(跳字)模型
Skip-gram 模型基于预测的语言模型(by Mikolov)通过中心词来推断上下文一定窗口内的单词。输入一个词,模型使用含有一个隐藏层的神经网络去正确预测的上下文词。即模型试图在给定中心词的情况下,最大化它的上下文词的概率:神经网络结构输入层...
2020-12-24 15:09:32 1480 2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人