序列模型
文章平均质量分 59
序列模型
浅梦s
浙大计算机硕士,现于阿里巴巴担任算法工程师。公众号:浅梦的学习笔记,Github:https://github.com/shenweichen
展开
-
《序列模型》之自然语言处理和词嵌入
词嵌入简介 Linguistic regularities in continuous spaceword representations A Neural Probabilistic Language ModelWord2vec&GloVeword2vecCBOW&Skip-gram Efficient Estimation ...原创 2018-02-12 21:50:26 · 811 阅读 · 0 评论 -
《序列模型》之循环神经网络基础
RNN model模型架构 BPTT 不同类型的RNN梯度爆炸和梯度消失出现原因 解决梯度爆炸检测梯度裁剪 截断BPTT解决梯度消失很难检测 如何解决LSTM,GRUReLU激活函数循环权重矩阵初始化方法Skip conn...原创 2018-02-12 21:49:52 · 522 阅读 · 0 评论 -
《序列模型》之序列模型和注意力机制
seq2seq基础模型 Sequence to Sequence Learning with Neural Networks Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine TranslationBeam Search and Bleu Score待补...原创 2018-02-12 21:50:42 · 886 阅读 · 0 评论